처리시간 3시간→6분·속도 30배↑기관당 약 1.8억 예산절감 기대



서울시가 지난 2023년 전국 최초로, 독자적으로 개발한 '디지털 성범죄 AI 삭제지원' 기술의 전국화에 나선다. /서울시



[더팩트ㅣ정소양 기자] 서울시가 자체 개발한 디지털성범죄 AI 삭제지원 기술을 전국으로 확산한다.

서울시는 오는 3일 첫 번째 무상 기술이전 계약을 시작으로, 기술 전수를 원하는 전국의 정부기관, 지자체, 기업 등에 바다이야기꽁머니 '디지털 성범죄 AI 삭제지원' 기술을 무상으로 보급한다고 2일 밝혔다.
서울시가 개발한 '디지털 성범죄 AI 삭제지원' 기술은 인공지능(AI)이 24시간 온라인 불법사이트와 SNS를 실시간 모니터링해 성착취물을 자동 검출하고 삭제 요청까지 지원하는 시스템이다. 기존에는 상담 인력이 수작업으로 영상물을 찾아 신고·삭제를 요청했지만, AI 바다이야기오락실 도입 이후 처리 시간은 평균 3시간에서 6분으로 줄어 약 30배 빨라졌다. 정확도 역시 2~3배 향상됐다는 게 서울시 설명이다. 시는 기관당 약 1억8000만 원의 예산 절감 효과도 기대하고 있다.
해당 기술은 2023년 서울시와 서울연구원이 공동 개발했으며, ‘서울 디지털성범죄 안심지원센터’를 통해 운영 중이다. 정부혁신 우수사례 대통령 릴게임몰 상과 UN공공행정상 대상을 수상했고, 특허 등록도 마쳤다.
시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또한, 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.
바다이야기릴게임연타실제 성과로도 이어지고 있다. 시는 AI 기술 도입 이후 '서울 디지털 성범죄 안심지원센터'의 삭제지원 건수가 2022년 2509건에서 지난해 1만5777건으로 4년 만에 6배 이상 증가했다고 밝혔다.
AI 도입으로 딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 갖고 있어야 동일한 영상을 찾을 수 있었으나 AI는 손오공릴게임예시 원본이 없어도 비디오·오디오·텍스트 3종 분석으로 복제본까지 식별해 탐지한다. 또한 편집되거나 모자이크 처리된 변형본 영상도 신체？언어？움직임 패턴을 학습해 피해 영상을 식별해 탐지 사각지대를 크게 줄였다.
또한, 기존에는 '화장실에서 찍힌 불법촬영' 사진 1개의 동일한 사진만 찾아낼 수 있었다면, AI는 안면·객체 인식으로 같은 얼굴, 옷을 입은 동일한 피해자의 다수 촬영물을 자동으로 묶어서 다량으로 탐지한다. 이를 통해 그동안 찾지 못했던 영상물을 신속하게 발견해서 빠른 삭제지원이 가능해졌다.
삭제 이후 재유포된 영상도 자동 재탐지할 수 있어, 주말 등 단기간 게시 후 삭제하는 지능형 범죄 대응에도 효과적이라는 평가다.
아울러 AI가 불법 촬영물을 블러 처리해 담당자에게 전달하고 반복 탐색 업무를 대체하면서, 현장 인력의 심리적 부담을 줄이는 효과도 거두고 있다.
오균 서울연구원장은 "이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례"라며 "연구기관이 개발한 기술이 전국의 피해자 보호 현장에서 실질적 변화를 만들어낼 수 있어 매우 뜻깊다"라고 밝혔다.
마채숙 서울시 여성가족실장은 "이번 서울시의 AI 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단으로서, 서울시가 개발한 '피해자 보호 기술'을 서울시의 것만이 아닌, 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다"며 "디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다"고 말했다.
jsy@tf.co.kr
발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.▶카카오톡: '더팩트제보' 검색▶이메일: jebo@tf.co.kr▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write