전국 최초, AI가 성착취영상 잡는다

서울시는 디지털 성범죄 영상물에 대한 대응 속도와 정확성을 획기적으로 높이기 위해 AI 기반 자동 삭제신고 시스템을 전국 최초로 도입했습니다. 기존 수작업 방식에 비해 30배 이상 빠른 평균 6분 처리로, 피해자의 고통을 줄이는 실질적 지원이 가능해졌습니다.

서울시는 디지털 성범죄 영상물을 AI가 자동으로 검출하고 신고 문서와 삭제 요청 이메일까지 처리하는 시스템을 도입해 대응 체계를 혁신했습니다. 7개국어 자동 이메일 기능으로 해외 플랫폼 대응도 가능합니다.

AI 자동 처리로 6분 대응

기존에는 삭제지원관이 수작업으로 영상을 찾고, 삭제 요청 문서를 작성해야 했습니다. 이 과정은 평균 2~3시간이 걸렸고, 야간·주말 대응이 어렵다는 한계가 있었습니다. 서울시는 이러한 절차를 자동화하기 위해 멀티모달 대형언어모델(MLLM)과 웹 자동화 도구(Selenium)를 결합한 AI 기반 시스템을 개발했습니다.

이 시스템은 영상의 URL을 분석하고, 신고 문서를 자동 생성해 이메일로 발송하기까지의 전 과정을 평균 6분 이내에 처리할 수 있습니다. 특히 24시간 자동 감시가 가능해, 상담 인력이 없는 시간대에도 신속한 대응이 이루어집니다.

해외 플랫폼 7개국어 대응

유포된 영상물의 대부분이 해외 서버에 저장되고 있는 현실을 반영해, 시스템은 영어, 중국어, 일본어, 러시아어 등 7개국어로 자동 이메일을 작성하여 글로벌 플랫폼에 삭제를 요청합니다.

특히 최근에는 미국 외에도 중국, 베트남, 러시아 등 다양한 국가의 웹사이트를 통한 유포가 확인되면서, 이 같은 다국어 자동화 기능이 실제 삭제 성공률을 높이는 데 중요한 역할을 하고 있습니다. 채증 자료는 HWP 문서로 변환되어 수사기관에 증거 자료로도 활용할 수 있습니다.

삭제지원 468% 증가 및 피해자 보호

AI 시스템 도입 이후, 삭제지원 건수는 468% 증가했고, 검출 속도는 97.5% 단축되었으며, 정확도도 2배 향상되었습니다. 서울시는 2022년 개관한 서울디지털성범죄안심지원센터를 통해 이 시스템을 피해자 상담 및 지원 서비스와 연계하여 운영하고 있습니다.

센터는 삭제 지원뿐 아니라 심리 치료, 법률 상담, 수사 연계까지 통합적으로 지원합니다. 최근 3년간 3,650명의 피해자를 지원했으며, 아동·청소년 피해는 13배 증가하는 등 기술적 대응과 함께 정책적 보호가 절실한 상황입니다.

서울시는 이번 AI 기반 자동 삭제신고 시스템을 통해 디지털 성범죄로부터 시민을 더욱 신속하고 실질적으로 보호할 수 있을 것으로 기대하고 있습니다. 앞으로도 기술을 적극 활용한 대응 체계를 지속적으로 고도화해 나가며, 피해자 지원과 사회적 인식 개선에 힘쓸 계획입니다.

스마트 서울뷰 | 약자동행지수

스마트 서울뷰에서는 약자동행지수를 통해 안전, 주거, 돌봄, 건강 등 다양한 분야에서 소외된 약자들을 돕기 위해 추진하고 있는 복지 사업과 그 사업에 대한 다양한 수치를 확인할 수 있습니다. 범죄피해자 원스톱 솔루션 센터 관련하여 범죄 등 피해자 서비스 지원 규모에서 피해자 지원 규모를 확인할 수 있는 유용한 데이터가 있으니 확인하시길 바랍니다.

약자동행지수 - 안전

약자동행지수 바로가기