“걸그룹 합성 야동 없애 달라” AI‘딥페이크’ 청와대 청원에 뭇매 [IT선빵!]

딥페이크에 활용된 국내·외 유명 연예인[딥페이크 데이터분석 사이트 Sensity AI 캡처]

[헤럴드경제=유동현 기자] 인공지능(AI) 기술이 성적 대상화로 악용된 대표적 사례 ‘딥페이크’를 처벌해달라는 청와대 청원이 큰 호응을 얻고 있다. 딥페이크는 AI를 활용한 영상·사진 합성물을 의미한다. 대다수가 합성 포르노물이며 그중 국내 미성년 연예인들도 대상화 되고 있다.

청와대 국민청원에는 12일 ‘여성 연예인들을 고통 받게 하는 불법 영상 딥페이크를 강력히 처벌해주세요’라는 제목의 글이 올라왔다. 하루 새 20만명이 넘는 인원의 동의를 받았다.

청원인은 “구글,트위터 등 쉽게 검색할 수 있을 뿐만이 아니라 수많은 사이트가 생성 되고 있습니다”며 “딥페이크는 엄연한 성폭력입니다”며 “여성 연예인들이 성적 범죄 행위의 피해자가 되었을 뿐만 아니라 불법으로 해당 딥페이크 영상이 판매 되기도 합니다”고 말했다.

이어 “여성 연예인들의 영상은 각종 SNS에 유포되어 걷잡을 수 없이 커지고 있다”며 “사회 초년생인 미성년 여자 연예인들도 있습니다”고 했다.

딥페이크 처벌 청와대 청원 게시물

딥페이크는 AI를 이용해 특정 인물의 얼굴이나 신체를 합성한 영상이나 사진을 통칭한다. 이때 AI 알고리즘 가운데 하나인 '생성적 적대 신경망'(GAN) 기술이 접목돼 실제와 흡사한 합성물을 만든다. 사람의 얼굴 위에 컴퓨터그래픽(CG)으로 만든 다른 얼굴이나 이미지 등을 덧씌우는 방식으로 사용돼 순기능이 기대됐다.

그러나 현재는 역기능이 더 부각된 상황이다. 네덜란드 사이버 보안기업 '딥 트레이스'가 발표한 보고서에 따르면 2018년 유통된 딥페이크는 1만4678건 중 96%가 유명 할리우드 여배우 등의 얼굴을 정교하게 끼워 넣은 포르노물로 파악됐다. 그중 국내 유명 연예인들도 다수 합성물로 공유되고 있다.

딥페이크는 성장속도가 빨라지면서 점차 더 실제와 흡사한 모사 영상이 가능해지면서 곳곳에서 우려의 목소리가 나오고 있다. 이에 정부도 대응에 나섰다. 지난해 6월 25일부터는 ‘딥페이크 포르노를 제작 및 배포한 자는 5년 이하의 징역 또는 5000만 원 이하의 벌금형’을 선고받는다. 영리 목적인 경우에는 ‘7년 이하의 징역’으로 가중처벌을 받는다.

dingdong@heraldcorp.com

- Copyrights ⓒ 헤럴드경제 & heraldbiz.com, 무단 전재 및 재배포 금지 -