“이게 블랙핑크 제니가 아니라고?”…‘진짜 같은 가짜’ 속았다

블랙핑크 멤버 제니 딥페이크 게시물[틱톡 캡처]

[헤럴드경제=유동현 기자] 틱톡, 유튜브 등 사회관계망서비스(SNS)에 유명인의 얼굴을 복제한 딥페이크(deepfake) 게시물이 쏟아지고 있다. 기술이 정교해져 가짜인지 파악하지 못하고 속는 경우도 빈번하다. 딥페이크가 SNS 흥미 요소로 자리 잡는 가운데 여전히 불법 합성물로 악용되고 있어 우려도 크다.

30일 틱톡에 deepfake를 검색해보면, 가수 블랙핑크 멤버 제니, 지수 등 유명 연예인 얼굴이 합성된 딥페이크 게시물을 쉽게 볼 수 있다. 이용자들은 본인의 얼굴에 유명인을 얼굴을 합성해 춤을 추는 등 콘텐츠를 올린다. 국내 정치인, 할리우드 유명 배우 등 대상은 무궁무진하다. 앞서 톰 크루즈 딥페이크 게시물이 틱톡에 등장해 인기를 끈 바 있다.

한때 유튜브에서는 테슬라 최고경영자(CEO) 일론 머스크 딥페이크 영상이 화제가 됐다. 일론 머스크가 능숙한 한국어로 “테슬라에 투자하라”는 발언을 하며 수십만의 조회수를 기록했다.

틱톡에 deepfake를 검색하면 블랙핑크 멤버 제니, 지수 등이 합성된 영상물이 다수 노출된다.[틱톡 캡처]

[틱톡 캡처]

딥페이크는 인공지능의 한 분야인 딥러닝(Deep learning)을 활용, 사람의 얼굴이나 특정 부위를 합성한 영상물을 만들어 내는 기술이다. 기술의 고도화로 가짜 영상인지 실제인지 구분하기 어려운 영상이 제작된다. 틱톡에 올라온 블랙핑크 딥페이크 게시물에는 “지수님 틱톡하시는구나 팔로우 해야지” 반응이 나오는 등 속는 경우도 발생한다.

SNS 게시물에 딥페이크를 표기하는 등 이용자들에게 명시하면 문제가 되지 않는다. 그러나 이를 표기하지 않고 유명인을 사칭하는 등 악용 사례도 발생한다. 틱톡 측은 이를 커뮤니티 가이드라인 위배로 간주하고 삭제 조치하고 있다.

한편 딥페이크는 상대방 의사와 상관없이 성적 대상화하는 데도 악용되고 있다. 특히 국내 연예인이 주 피해 대상이다. 네덜란드 사이버 보안기업 '딥 트레이스'에 따르면 관련 영상의 20%가량이 K팝 가수였다. 이밖에도 트위터 등 사회관계망서비스(SNS)와 다크웹을 통해 일반인 얼굴을 합성한 불법영상이 공유되고 있다.

딥페이크로 타인을 성적 대상화하는 영상 제작 행위는 처벌 대상이다. 지난해 6월 개정된 ‘성폭력범죄의 처벌 등에 관한 특례법’ 제14조의2에 따르면 5년 이하 징역 또는 5000만원 이하 벌금형에 처해질 수 있다.

그러나 단순 시청 행위에 대해선 처벌 규정이 미비하다. 편집,합성.가공하는 제작자가 아닌 딥페이크,딥보이스를 적용한 영상물을 소지하거나 구매하는 경우 ‘허위영상물’로 분류되기 때문이다. 단 합성을 의뢰하는 경우 사안에 따라 ‘교사’나 ‘공동정범’으로 처벌은 가능하다.

dingdong@heraldcorp.com

- Copyrights ⓒ 헤럴드경제 & heraldbiz.com, 무단 전재 및 재배포 금지 -