선거에 악용되는 AI "민주주의 해킹하다" [Global]

[이혁기 기자]

AI가 선거에 악용되고 있다는 지적이 나온다.[사진 | 게티이미지뱅크]

인공지능(AI)이 민주주의에 나쁜 영향을 미치고 있다는 목소리가 나온다. 뉴욕타임스는 6월 26일(이하 현지시간) "AI로 만든 후보자와 지지자의 가짜사진, 동영상이 대량으로 만들어져 확산하고 있다"면서 "AI가 각국의 선거 결과에 큰 영향을 미치면서 민주주의를 훼손하고 있다"고 보도했다.

뉴욕타임스는 특히 러시아·중국·이란 등 권위주의 국가들이 AI를 악용해 외국 선거에 개입한다고 지적했다. 그러면서 "이들 독재국가는 자국에 유리한 외국 후보자들의 지지를 증폭하거나 민주주의 체제를 열등한 정치 체제로 깎아내리는 것에 AI를 적극 활용했다"고 덧붙였다.

그 사례로 뉴욕타임스는 지난 5월 열린 루마니아 대통령 선거를 꼽았다. 당시 후보로 출마한 친러 성향의 조르제 시미온 후보를 지지하는 AI 영상이 SNS를 타고 빠르게 퍼지면서 논란을 불러일으켰다.

영상엔 AI로 생성된 도널드 트럼프 미국 대통령이 루마니아 정부를 비판하는 내용이 담겨 있었다. 영상 덕분인지 시미온 후보는 1차 선거에서 압도적인 득표율(40.9%)을 차지했다.

전문가들도 AI가 민주주의에 미치는 악영향을 우려하고 있다. 스위스 국제정보환경위원회는 지난 5월 27일 보도자료에서 "지난해 모든 선거의 80% 이상에서 AI를 사용했다"면서 "그중 딥페이크 같은 악용 사례가 전체의 69.0%에 달했다"고 밝혔다. 딥페이크는 AI를 활용해 실제와 구별하기 어려운 가짜 이미지와 영상, 음성 등을 만드는 기술이다.

마달리나 보탄 루마니아 국립정치행정대학 교수도 뉴욕타임스와의 인터뷰에서 "AI의 조작 메커니즘은 매우 정교해 단시간 내 콘텐츠를 확산한다"면서 "AI와 경쟁해 승리하는 것은 사실상 불가능한 일"이라고 지적했다

SNS가 AI 콘텐츠가 확산하는 걸 가속화하고 있는 것도 문제다. AI 모델 개발업체 오픈AI는 올해 2월 치러진 독일 선거에서 러시아가 자사의 서비스 '챗GPT'를 사용해 선거에 영향을 미치려 한 시도를 탐지했다고 지난 6월 25일 발표했다. 자료에 따르면 AI로 생성한 X(옛 트위터) 계정이 극우 성향의 독일대안당(AfD)을 지지하는 콘텐츠를 팔로워 2만7000명에게 노출했다.

미국의 비영리 AI 연구단체인 시브에이아이(CivAI)의 루카스 한센 설립자는 "AI의 피해가 단순히 딥페이크 영상을 유포하는 것을 넘어 공공 담론을 혼란에 빠트리고 있다"면서 "유권자들이 정치에 환멸을 느끼도록 만들고 있다"고 꼬집었다.

이혁기 더스쿠프 기자

lhk@thescoop.co.kr

<저작권자 Copyright ⓒ 더스쿠프 무단전재 및 재배포 금지>