‘자동 삭제 신고 시스템’ 국내 첫 시행
영어 등 7개 언어로 이메일 작성·발송

컴퓨터 모니터 화면에 미성년자 성착취 영상으로 의심되는 영상물 리스트가 자동으로 뜬다. 인공지능(AI)이 피해자의 얼굴, 음성 등을 분석해 방대한 온라인 공간에서 찾아낸 결과다. AI는 이 영상이 어느 사이트들에 올라가 있는지도 단숨에 파악한다. 그리고 이 증거 자료를 채증해 해당 사이트 관리자에게 삭제를 요구하는 이메일까지 작성한다. 이 모든 과정이 단 6분 만에 끝난다. 인간이 할 일은 이메일 내용을 보고 ‘발송 확인’ 버튼을 누르는 것 뿐이다.

온라인에 퍼진 성범죄 영상을 AI가 24시간 모니터링해 찾아내고 삭제 신고까지 원스톱으로 처리하는 ‘AI 자동 삭제 신고 시스템’을 서울시가 국내 최초로 개발해 시행한다고 21일 밝혔다.

지금까지는 삭제지원관이 직접 문제의 영상을 채증하고 보고서, 이메일을 작성했다. 이 과정에 통상 3시간 정도가 걸렸다. 그러나 AI로 자동화하면서 속도가 30배 정도 빨라졌다.

AI는 한국어는 물론 영어, 중국어, 일본어, 러시아어 등 7개 언어로 이메일을 작성한다. 해외에 서버를 둔 사이트에 영상물이 올라오는 사례가 증가해서다.

시는 또 서울 디지털 성범죄 안심지원센터를 통해 삭제 지원을 비롯해 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다. 2022년 3월부터 올해 3월까지 3650명의 피해자를 지원했다. 지원 건수는 6만 4677건이다. 피해자 연령대는 10~20대가 가장 많다.

아동·청소년을 대상으로 한 디지털 성범죄도 적지 않다. 아동·청소년 피해자는 2022년 50명에서 2024년 624명으로 급증했다. 전체 피해자 가운데 아동·청소년이 차지하는 비율도 같은 기간 16.2%에서 22.1%로 올랐다. 특히 아동·청소년을 대상으로 한 온라인 그루밍(길들이기) 피해가 19건에서 370건으로 급증했다.

김선순 서울시 여성가족실장은 “디지털 성범죄 기술이 갈수록 고도화되고 범죄 피해도 심각하다. 디지털 성범죄로부터 안전한 서울을 만들기 위해 최선을 다하겠다”고 밝혔다.

강신 기자