AI로 딥페이크 사진·영상 잡아낸다

행정안전부가 국과수와 함께 ‘인공지능(AI) 딥페이크 분석모델’을 개발해 관련 범죄 증거물 감정 업무 등에 투입할 예정이다. 딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다.

30일 행안부에 따르면 이번 분석모델은 수사기관이 딥페이크 의심 이미지·영상·음성의 진위를 판별할 수 있도록 개발해 지난 4월 검증을 마쳤다.

변준석 국립과학수사연구원 디지털과장이 지난 29일 정부세종청사 민원동 브리핑실에서 열린 행정안전부 제9회 정책 설명회에서 딥페이크 불법콘텐츠 탐지 분석 모델 시연을 하고 있다. 행정안전부 제공

분석모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단한다.

특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석능력을 갖췄다고 행안부는 설명했다. 실제로 이 모델은 경찰청 등 수사기관의 의뢰를 받아 5∼6월 21대 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 범죄 15건에 대한 감정을 수행하는 데 활용됐다. 대통령 선거기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인 공간에 퍼진 불법 딥페이크 선거홍보물 1만여건을 찾아내 삭제하는 데 기여했다.

조성민 기자 josungmin@segye.com

ⓒ 세상을 보는 눈, 세계일보