"이 영상, 모두 조작입니다"…대선 앞두고 '딥페이크' 폭증

[앵커]

대선이 가까워지자, 대선 후보들의 얼굴과 음성을 조작한 가짜영상 '딥페이크 영상'이 판을 치고 있습니다. 후보들이 욕설을 하거나 폭행하는 것처럼 조작된 영상들이 빠르게 퍼져서, 선관위와 경찰이 집중 단속에 나섰습니다.

윤샘이나 기자입니다.

[기자]

손이 불쑥 들어와 이재명 더불어민주당 대선 후보의 얼굴을 움켜쥡니다.

'숨 좀 쉬자'는 말풍선과 함께 웃음소리를 덧입혔습니다.

이 후보를 희화화하는 가짜 합성 영상입니다.

단일화를 두고 진통을 겪었던 김문수 국민의힘 대선 후보와 한덕수 전 국무총리가 맞붙는 이 영상도 합성된 가짜입니다.

모두 인공지능 기술로 이미지를 합성해 만든 딥페이크 영상입니다.

선거일이 다가오면서 이런 딥페이크 영상은 빠른 속도로 퍼지고 있습니다.

중앙선관위원회가 최근 한 달여 동안 삭제 요청한 대선 관련 딥페이크 영상만 1100건 이상입니다.

지난해 4월 총선 전 두 달여 동안 적발된 건수의 두 배가 훌쩍 넘은 겁니다.

[김정은/중앙선거관리위원회 사이버조사과장 (변호사) : 이러한 차이는 대통령 선거에 대한 국민적 관심도와 최근 대중화된 AI 활용이 원인이라고 예상됩니다.]

지난해부터 딥페이크 영상을 활용한 선거운동을 엄격히 금지하는 법이 새롭게 시행됐습니다.

하지만 실시간 단속이 어렵고 최초 제작자를 찾는 게 쉽지 않다는 점 때문에 조작된 영상은 계속 늘고 있는 추세입니다.

이 후보가 "계엄을 선포할 거"라고 말하는 가짜 영상, 김 후보가 권성동 국민의힘 원내대표에게 "개가 짖냐"며 막말하는 가짜 영상은 모두 신고를 받고 삭제됐지만 이미 많은 조회수를 올린 뒤였습니다.

정부는 딥페이크 영상을 주요 선거 범죄로 꼽았고,

[이주호/대통령 권한대행 부총리 겸 교육부 장관 (지난 12일) : 유권자의 합리적 선택을 방해하는 위법 행위는 무관용 원칙으로 단호히 대응하겠습니다.]

선관위와 경찰이 전담 모니터링팀을 운영하고 있지만, 지워지는 속도보다 새로운 딥페이크 영상이 더 빠르게 올라오고 있습니다.

[영상편집 지윤정 / 영상디자인 신하경]

윤샘이나 기자

JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

Copyright by JTBC All Rights Reserved.