챗GPT 열풍 속 AI 딥페이크 확산···엠마왓슨 음란광고 등장?

배우 엠마 왓슨의 얼굴인 것처럼 나타나는 AI 기반 딥페이크 광고 스틸 사진. NBC뉴스 캡처.

미국 NBC 뉴스가 영화 <해리포터> 주인공 엠마 왓슨 등 유명 배우들이 딥페이크 기술로 사회관계망서비스(SNS)의 음란 광고에 등장하고 있다고 8일(현지시간) 보도했다.

딥페이크는 동영상에서 다른 사람의 얼굴을 합성시키는 기술이다. 최근 챗GPT로 대변되는 생성형 인공지능(AI) 기술이 접목돼 더 정교해지고 있는 데다, 미성년자 등 어떤 사람의 얼굴도 바꿀 수 있어 우려가 크다.

보도에 따르면 페이스북에 떠도는 딥페이크 관련 앱 광고물에서 왓슨의 얼굴이 자주 등장하고 있다. 그는 처음엔 웃다가 카메라 앞에서 이상한 행동을 했다. 해당 광고는 왓슨이 출연한 것이 아니라, 딥페이크로 영상의 얼굴만 바꾼 것이었다.

NBC에 따르면 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었다. 또 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 나타났다. 이러한 비동의 딥페이크 영상은 유명 인사와 인플루언서를 넘어 평범한 사람의 얼굴도 바꿔치기할 수 있어 문제의 심각성이 크다.

메타 등의 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있다. 하지만 NBC가 검토한 앱들은 규제의 틈을 비집고 활성화됐다. 노골적인 성적 행동은 대부분 걸러지지만, 정해진 범주의 허점을 활용해 아슬하게 옷을 입은 사람의 동영상을 딥페이크 대상물로 삼고 있다.

문제의 앱 광고물은 NBC가 취재에 들어가자 메타 서비스에서 사라졌다고 전했다. 애플 앱스토어에도 똑같은 광고물이 9세 이상 무료로 다운로드가 가능했으나, 취재 후 삭제됐다.

메타는 “우리 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 밝혔다. 애플도 “아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지한다”는 입장을 전했다.

김은성 기자 kes@kyunghyang.com

▶ [여성의 날] 당신의 차별점수는 몇 점일까요?
▶ 나는 뉴스를 얼마나 똑똑하게 볼까? NBTI 테스트

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지