 |
| ▲ 삭제지원시스템 연계 기능 |
[뉴스서울] 성평등가족부는 인공지능(AI) 기반의 아동·청소년 온라인 성착취 탐지·신고 시스템을 도입한 결과, 종사자 1인당 하루 평균 아동·청소년 성착취물 삭제 요청 처리 건수가 기존보다 약 9.7배 증가했다고 밝혔다.
지난 4월부터 본격 운영한 AI 시스템을 통해 6개월간 아동·청소년 성착취물 9만 6천여 건의 삭제를 지원했으며, 불법촬영물 등 삭제 요청 및 이력관리를 자동화해 처리 속도 역시 크게 향상됐다.
성평등가족부와 한국여성인권진흥원(원장 박광수)은 이러한 성과를 바탕으로 AI 탐지체계를 고도화하고, 중앙디지털성범죄피해자지원센터의 기술을 지역 현장까지 확대하여 디지털성범죄 피해자 지원을 강화한다는 방침이다.
‘AI 시스템’은 온라인상의 성착취물과 유인정보를 24시간 자동으로 탐지·분석하는 체계로 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집하여 분석하고, 이후 담당자의 검토를 토대로 유포 현황 모니터링과 삭제 요청 등이 진행된다.
2025년 한 해 동안 종사자의 수작업에 기반한 모니터링·분석으로 아동·청소년 성착취물 4만 5천여 건에 대해 삭제를 지원했으나, 시스템 도입 이후 6개월간 삭제를 지원한 건수는 9만 6천여 건에 달했다.
이는 종사자 1명이 하루에 평균 202건의 아동청소년 성착취물에 대한 삭제 요청을 처리한 것으로, AI 시스템 도입 전 일 평균 처리건수(20.8건) 대비 약 9.7배 증가한 수치이다.
특히 AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물 등에 직접 노출되는 빈도가 감소하는 등 종사자의 심리적 부담을 완화하여 피해자 지원 업무에 더욱 집중할 수 있는 환경 조성이 가능해졌다.
성평등가족부는 과학기술정보통신부와 협업해 ’27년까지 AI 시스템 고도화를 추진하여 탐지 대상 플랫폼을 대폭 확대하는 한편, 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도를 높일 계획이다.
아울러 지난 8월 피해자 지원기관을 대상으로 AI 시스템의 구축 배경과 주요 기능을 소개하는 설명회를 개최하는 등 향후 지역디지털성범죄피해자지원센터를 중심으로 AI 기술을 공동 활용할 수 있도록 준비하고 있다.
한편, 불법촬영물 등 유포에 신속히 대응하기 위하여 삭제지원시스템에 자동화 기술을 도입하고, 해외 주요 기관과의 API 연계로 삭제 지원 효과성을 제고했다.
자동화 기술 도입으로 약 2만 개의 사이트에 대한 불법촬영물 등 삭제 요청 및 처리 이력이 자동으로 관리되며, 건당 삭제요청 처리 시간이 1분 이내로 단축되는 등 지난 6개월간 총 58,309건의 URL에 대한 삭제 요청 및 삭제 여부 확인이 자동으로 진행됐다.
또한 美 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와의 API 연계로 우회 접속 URL에 대한 대량 자동 삭제 요청이 가능해져, 삭제 지원 효과성이 제고되고 종사자의 반복적인 문서 작성 부담도 크게 감소했다.
API 연계 이후, 美 국립실종학대아동방지센터 신고시스템(Cybertipline)을 통해 미국 서버 기반의 삭제 불응 사이트(2개)에 게시된 아동·청소년 성착취물 95건, 클라우드플레어를 통해 25,156건의 삭제를 진행했다.
아울러 ’27년에는 DNA 기반 동일·유사 영상 자동 탐지 등 중앙디성센터 시스템의 핵심 기능을 탑재한 설치형 삭제 지원 소프트웨어(SW)를 보급하여, 중앙디성센터의 대응 역량을 지역 현장까지 확장할 계획이다.
설치형 SW를 활용하면 피해자 민감정보의 외부 전송 없이 영상물 분석 및 정보 추출, 유포 모니터링, 삭제 요청 등의 업무 수행이 가능하며, 촬영물 속 얼굴 식별, 문자 판독 등의 AI 기반 기능도 포함된다.
또한 지역디성센터의 기존 운영체제에 바로 적용이 가능한 구조로 개발되어 지역 현장에서도 피해 촬영물 분석부터 사례 관리까지 AI 기반의 신속하고 정확한 디지털성범죄 대응이 가능해질 전망이다.
원민경 성평등가족부 장관은 “기술환경 변화에 따라 빠르게 진화하는 디지털 성범죄에 강력하고 신속하게 대응하기 위해서는 정부 차원의 기술적 대응이 필수적이다”라며 “앞으로도 AI 등의 최신 기술을 현장에 적극 도입하여 대응 속도와 정확도를 높이고 보다 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 최선을 다하겠다”라고 밝혔다.
박광수 한국여성인권진흥원장은 “AI 시스템 도입 이후 삭제 지원 처리 건수가 약 10배 가까이 늘어난 것은, 기술 고도화가 피해자 지원의 ‘속도’와 ‘범위’를 동시에 바꿔놓을 수 있다는 것을 보여준 사례”라며 “한국여성인권진흥원은 앞으로도 관계부처와의 협업을 통해 AI 기술의 판별 정확도와 탐지 범위를 지속적으로 고도화하고, 중앙센터의 노하우가 지역 디성센터까지 원활히 전달될 수 있도록 지원해 나가겠다”고 밝혔다.
[ⓒ 뉴스서울. 무단전재-재배포 금지]
