'서울형 AI 윤리' 제정, 2026년 1월 전면 적용

서울시가 행정 전반에 인공지능(AI) 기술이 빠르게 확산되는 환경 속에서 시민이 안심하고 신뢰할 수 있는 AI 행정을 구현하기 위해 「서울특별시 인공지능 활용 윤리 지침」을 제정하고, 2026년 1월부터 공공행정 전 분야에 본격 적용합니다. 이번 지침은 AI 도입과 운영 전 과정의 기준을 명확히 해 행정 신뢰와 품질을 높이는 데 목적이 있습니다.

지침은 AI를 단순한 효율화 수단이 아닌 공공의 가치를 실현하는 도구로 활용하고, 전 과정에서 공정성과 투명성을 확보하며, 인간의 감독과 책임을 전제하고, 개인정보 보호와 보안을 강화하는 데 방점을 둡니다. 이를 통해 시민 누구나 차별 없이 안전하게 AI 기반 행정서비스를 이용할 수 있는 환경을 조성합니다.

‘서울형 AI 윤리’ 5대 원칙

서울시는 인공지능 활용의 기준으로 공공성, 공정성, 투명성, 책임성, 안전성 등 다섯 가지 원칙을 설정해 ‘서울형 AI 윤리 기준’으로 정립했습니다. 아래 표는 주요 내용을 요약한 것이며, 각 원칙은 지침 전 과정에 일관되게 적용됩니다.

이번 지침은 2025년 9월 제정된 「서울특별시 인공지능윤리 기반 조성에 관한 조례」의 후속 조치로 마련되었으며, 국가 「인공지능기본법」과 행정안전부 공공부문 AI 윤리원칙을 반영하되 서울시 행정 환경에 맞게 구체화했습니다. 2025년 7월부터 서울AI재단과 타당성 분석 연구를 진행하고 전문기관 의견 수렴을 통해 최종안을 확정했습니다.

□ 첫째, 인공지능을 단순히 행정 효율을 높이는 도구가 아니라, 시민 전체의 삶의 질을 높이는 공공의 수단으로 활용해야 한다는 점을 분명히 했다. 서울시는 AI 도입 여부와 활용 방식에 있어, 항상 공공 목적과 시민의 복리 증진에 기여하는지를 우선 기준으로 삼도록 했다.

□ 둘째, 인공지능 기반 행정서비스가 특정 계층이나 집단에 불리하게 작용하지 않도록 알고리즘 편향을 최소화하고, 누구나 차별 없이 접근하고 이용할 수 있도록 공정성과 형평성을 중요한 원칙으로 제시했다.

□ 셋째, AI가 활용되는 과정과 결과에 대해 시민이 이해할 수 있도록 설명 가능성을 확보하는 것도 핵심 원칙으로 명확히 했다. AI가 어떤 역할을 했는지, 판단의 근거는 무엇인지에 대해 가능한 범위 내에서 정보를 제공함으로써 행정의 투명성과 신뢰를 높이겠다는 취지다.

□ 넷째, AI 활용 전 과정에는 항상 인간의 감독과 책임이 전제되어야 한다는 점을 분명히 했다. 인공지능은 의사결정을 보조하는 수단일 뿐, 최종 판단과 책임은 행정을 담당하는 사람이 지도록 해 책임 있는 운영 체계를 유지하도록 했다.

□ 다섯째, 개인정보 보호와 시스템 보안을 강화해 시민이 안심하고 행정서비스를 이용할 수 있는 안전한 AI 이용환경을 조성하는 것도 중요한 원칙으로 담았다.

적용 범위 및 운영

지침 적용 범위는 서울시 본청·자치구는 물론, 투자·출연기관과 위탁·용역 수행기관 등 서울시 행정업무 수행 과정에서 인공지능을 활용하는 모든 주체를 포괄합니다. 또한 서울시 권역 외에서 이루어진 AI 활용이라도 그 결과가 서울시 행정이나 시민 권익에 직접 영향을 미치면 지침을 적용하도록 해 실효성을 높였습니다.

서울시는 2025년 7월부터 서울AI재단과 함께 ‘서울형 AI 윤리 지침 타당성 분석 연구’를 추진하고, 국제인공지능윤리협회 등 전문기관과 협력해 다양한 의견을 수렴해 최종안을 완성했습니다. 향후에도 기술 발전과 정책 환경 변화, 현장 사례를 반영해 지속적으로 보완·개선해 나갈 계획입니다.

스마트 서울뷰 | 서울비전 2030

스마트 서울뷰 서울비전2030의 ‘세계를 선도하는 스마트도시 서울’에서는 스마트폴, 스마트라이프위크 행사, 디지털동행플라자, 서울시 공공와이파이 등 스마트도시 서울의 핵심 정책을 시각화해 시민에게 알기 쉽게 전달하고 있습니다. ‘최초’·‘최고’·‘최대’ 타이틀의 첨단 기술과 도시 혁신 사례를 스마트 서울뷰에서 직접 확인해 보세요.