AI 안면인식으로 '아동·청소년 성착취물' 검출→삭제까지

서울시 기술 개발…소요시간 2시간→90초

서울시가 아동·청소년 성착취물을 특정할 수 있는 AI 안면인식 감시 기술을 전국 최초로 개발해 24시간 자동 추적·감시에 나선다. /서울시

[더팩트 | 김해인 기자] 서울시가 아동·청소년 성착취물을 특정할 수 있는 AI 안면인식 감시 기술을 전국 최초로 개발해 24시간 자동 추적·감시에 나선다.

22일 서울시에 따르면 지난해 3월부터 서울연구원이 핵심기술 연구개발에 착수, 서울 디지털성범죄 안심지원센터와 함께 다수의 아동·청소년 피해 영상물을 분석해 이달 아동·청소년 디지털 성범죄 AI 감시 시스템 개발을 완료했다.

아동·청소년들은 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않고, 영상물·사진이 유포·재유포되는 경우가 많다. 이에 시는 AI를 통해 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응한다는 방침이다.

AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다.

특히 영상물에 얼굴이 나오지 않더라도 피해 영상물 여부를 찾아낼 수 있다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물은 물론 이미지 속 텍스트, 청소년이 자주 사용하는 언어까지 함께 인식해 최종 판별한다.

키워드 입력부터 영상물 검출까지 소요시간은 90초로, 기존에는 삭제지원관이 관련 키워드로 영상물을 검색해 수작업으로 찾아내면 2시간이 걸렸다. 정확도는 300% 이상 향상된다.

SNS 빅데이터 분석을 통해 성범죄물 관련 신조어를 자동으로 생성, 영상물 검출에 사용되는 키워드도 다양해진다. 또 국가 기반을 넓혀 검색 영역을 확장, 국내와 미국뿐만 아니라 중국, 러시아 등에 유포된 피해 영상물 검색도 가능해진다.

김선순 서울시 여성가족정책실장은 "우리 사회를 충격에 빠뜨린 'n번방 사건' 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않았고 그 피해도 심각하다"며 "아동·청소년이 안전한 서울을 만들겠다"고 말했다.

hi@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write