대선 훼방꾼 '딥페이크' 꼼짝 마... 선관위, AI 감별 '아이기스' 띄운다

딥페이크 걸러낼 3단계 감시망 가동
시각 탐지→감별 프로그램→전문가
위반 시 7년 이하 징역·5000만 원 이하 벌금

본보가 김용빈(오른쪽) 중앙선거관리위원회 사무총장의 사진을 생성형AI '챗GPT'에 입력해, 30세 사진으로 재구현한 딥페이크 이미지(왼쪽). 선관위가 6·3 대선을 앞두고 활용할 '아이기스'는 생성형AI 사진을 '거짓'이라고 판별했다. 고영권 기자·챗GPT

중앙선거관리위원회가 인공지능(AI) 시대 대통령 선거를 앞두고 유권자 판단을 흐릴 수 있는 ‘딥페이크(딥러닝을 활용한 가짜 이미지·영상·음성) 선거운동’에 대한 집중 단속에 나섰다. 특히 딥페이크 영상의 진위를 가리기 위해 한국전자기술연구원(KETI)이 개발한 AI 감별 도구 ‘아이기스'(Aegies)까지 활용해 판별 정확도를 확 높였다.

선관위는 오는 12일부터 22일간 진행되는 6·3 대선 선거운동기간 중 생성형AI를 활용한 딥페이크 영상 등을 함부로 제작·편집해 유포하거나 게시하는 행위를 집중 단속한다고 8일 밝혔다. 적발될 경우 최대 7년 이하 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금형에 처할 수 있다. 이는 선거운동을 위한 딥페이크 영상 등의 제작·편집·유포·상영·게시를 금지하는 내용을 담은 '공직선거법' 제255조 제5항이 2023년 12월 28일 신설된 데 따른 조치다.

실제 선관위는 지난해 4월 실시된 제22대 국회의원선거 당시에도 딥페이크 영상 확산에 대응했다. 주요 정치인이 게임 방송을 하는 것처럼 딥페이크 영상을 제작해 상대 후보를 비난하거나, 토크쇼 등의 방송화면에 특정 입후보 예정자 얼굴을 삽입한 뒤 그의 선거 관련 행보를 조롱‧비난하는 내용의 자막을 표출한 사례 등을 적발해 삭제 조치했다.

우리나라뿐 아니라 지난해 11월 대선을 치른 미국에서도 딥페이크가 선거에 악용돼 혼란이 빚어졌다. 당시 도널드 트럼프 미국 대통령 후보가 흑인 청년 등과 다정하게 찍은 조작 사진이 선거운동 이전부터 온라인 공간에 유포돼 유권자에 혼선을 줬다. 이들과의 ‘연대’에 나선 것 같은 분위기를 가짜로 연출한 것이다.

감쪽같은 가짜 영상·이미지도 판별

지난해 미 대선을 앞두고 온라인상에 유포된 도널드 트럼프 대통령과 흑인 청년들이 함께하는 모습이 담긴 딥페이크 이미지. BBC뉴스 갈무리

선관위는 ‘대선 딥페이크’ 단속팀을 이미 지난달부터 본격적으로 가동했다. 선관위 관계자에 따르면 윤석열 전 대통령 파면 직후인 지난달 9일부터 중앙선관위는 물론 시‧도선관위에 특별대응팀을 마련했다. 선거 준비 기간이 짧은 점 등을 고려해 가용 인력을 최대 규모(총 450여 명)로 구성해 딥페이크 영상 판별을 위한 대비에 나섰다. 선관위는 선거에 쓰인 영상의 AI생성 여부 판별을 위해 ①시각적 탐지기법→②감별 프로그램 활용→③AI 감별 자문위원 활용 등 3단계 감시 체계를 마련했다.

특히 2단계 프로그램 감별엔 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원으로 KETI가 개발한 '아이기스' 프로그램을 적용한다. 딥페이크 의심 영상을 아이기스에 업로드하면 분석을 통해 영상이 진짜인지 가짜인지를 판별할 수 있다. 아이기스는 생성형AI가 이미지를 생성하는 방식인 '적대적 생성 신경망'(GAN)과 '디퓨전'(diffusion) 방식 가운데 더 정교한 이미지를 생성하는 최신 방식인 디퓨전 방식으로 생성된 이미지도 탐지할 수 있다고 선관위는 설명했다.

아이기스는 그리스 신화에 나오는 ‘제우스의 방패’에서 차용됐다. 제우스가 직접 때린 번개도 막아낼 정도로 튼튼한 방패만큼, 딥페이크를 통한 선거 방해도 막아내겠다는 의미를 담았다. 본보가 직접 김용빈 중앙선거관리위원회 사무총장의 사진을 생성형AI '챗GPT'에 입력해 김 총장의 30세 때 사진으로 재구현했고, 이 결과물을 단속팀에 의뢰하자 아이기스는 '거짓'이라고 판별했다. 언뜻 보면 실제와 크게 다르지 않은 생성형AI 사진을 빠르게 구분해 낸 것이다.

지난해 총선 경험 바탕 SNS·포털사와 긴밀한 협업

중앙선거관리위원회 허위사실·비방 AI 딥페이크 특별대응팀. 중앙선거관리위원회 제공

선관위 관계자는 “선거운동과 관련한 게시물 중 후보자 등 등장인물이 근거를 밝혀 직접 신고‧제보한 경우, 권리침해에 따른 ‘통지 및 게시중단’ 원칙을 활용해 사회관계망서비스(SNS) 및 포털사 등에 선제적으로 삭제 요청할 예정”이라면서 “허위사실공표 및 비방행위가 후보자에게 회복하기 어려운 피해를 입힐 수 있고, 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있는 만큼 예방과 확산 방지에 최선의 노력을 다할 예정”이라고 밝혔다.

한국일보·중앙선거관리위원회 공동기획

김형준 기자 mediaboy@hankookilbo.com