경찰, 91억원 투입해 ‘딥페이크·가짜뉴스 판별 시스템’ 만든다

서울 서대문구 경찰청. 권도현 기자

경찰이 딥페이크(허위 영상물) 등 인공지능(AI) 기술을 활용한 허위 조작 콘텐츠를 판별하기 위한 시스템 개발에 착수했다.

2일 경찰에 따르면 경찰청은 딥페이크·딥보이스·가짜뉴스 등을 탐지하기 위한 기술개발에 연구비 91억원을 지원하는 ‘허위조작 콘텐츠 진위 여부 판별 시스템 개발’ 신규 과제 선정 계획을 최근 공고했다. 연구 기간은 올해 4월부터 2027년 12월까지 약 3년이다.

경찰은 AI에 기반한 허위조작 콘텐츠를 생성하는 기술이 대중에 공개돼 있어 높은 수준의 전문지식이 필요하지 않고, 누구나 손쉽게 다양한 콘텐츠를 만들어낼 수 있어 범죄의 위험성이 높아지고 있다고 지적했다. 현재 일선 수사관들이 허위 콘텐츠를 일일이 보는 식으로 조사하면서 허위 조작 콘텐츠의 진위를 빠르게 판별하는 데 어려움을 겪고 있다며 시스템 개발의 필요성을 강조했다.

경찰은 지난해 1~10월 딥페이크 성범죄 사건 1094건을 접수·수사해 피의자 573명을 검거했다. 집중단속에 나선 시점(지난해 8월28일)을 기준으로 단속 후 하루 평균 신고 건수는 6.98건으로 집계됐다. 이는 집중단속 전의 약 3.7배 규모다.

지난 1월에는 ‘자경단’이라는 이름으로 텔레그램에서 미성년자 159명을 포함해 남녀 234명을 성착취한 일당이 경찰에 덜미를 잡히기도 했다.

경찰은 딥페이크 외에도 목소리 합성 기술인 딥보이스와 AI를 활용한 가짜뉴스 탐지 기술도 개발해 이를 활용한 범죄를 조기에 차단하겠다고 했다.

경찰청 관계자는 “이번 사업은 AI 기술의 급격한 발전으로 악용 범죄가 증가하면서 콘텐츠 판별에 오랜 시간이 투입되는 문제를 해결하기 위한 것”이라고 했다.

전현진 기자 jjin23@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 계엄, 시작과 끝은? 윤석열 ‘내란 사건’ 일지 완벽 정리

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지