서울시, AI 안면인식 기술로 아동·청소년 성착취물 검출·삭제

서울시는 인공지능(AI) 안면인식 기술을 개발해 아동·청소년 성착취물을 선제적으로 검출·삭제한다고 22일 밝혔다.

시는 아동·청소년의 경우 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않아 피해 영상물이나 사진이 유포되는 사례가 많아 이 같은 기술을 도입하기로 했다고 설명했다.

시가 이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 인공지능 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다. 주목할 만한 점은 영상물에 얼굴이 나오지 않더라도 아동·청소년 피해 영상물 여부를 파악할 수 있다는 것이다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년들이 주로 사용하는 언어를 함께 인식해 피해 영상물인지 판별한다.

키워드 입력부터 영상물 검출까지 소요 시간은 기존 120분에서 90초로 80분의 1 줄었고, 정확도도 300% 이상 높아졌다. 신기술 적용으로 전년의 2배인 30만건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도가 더욱 향상될 것으로 시는 기대했다.

현재 시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사·법률 지원, 영상물 삭제, 심리치료·의료 지원 등의 도움을 제공하고 있다.

디지털 성범죄 피해를 당한 아동·청소년, 시민 등은 센터 상담 전용 직통번호(815-0382)나 홈페이지(www.8150382.or.kr)로 문의하면 된다.