[사이테크+] "AI챗봇 정치적 설득에 유권자 의견 흔들릴 수 있어"

(서울=연합뉴스) 이주영 기자 = 거대언어모델(LLM) 기반 인공지능 챗봇이 대통령 선거 등에서 정치적 설득에 상당한 효과를 발휘해 반대 진영 유권자 의견을 10%포인트 이상 움직일 수 있다는 실험 결과가 나왔다.

인공지능 챗봇(PG) [강민지 제작] 일러스트

미국 코넬대 데이비드 랜드 교수와 영국 옥스퍼드대 크리스토퍼 서머필드 교수 연구팀은 5일 과학 저널 네이처(Science)와 사이언스(Science) 두 편의 논문에서 AI 챗봇과 짧은 대화만으로 대선 후보 또는 정책에 대한 유권자 의견이 어느 방향으로든 의미 있게 바뀔 수 있음을 실험으로 확인했다고 밝혔다.

랜드 교수는 "LLM 기반 챗봇은 자기가 지지하는 쪽을 뒷받침하는 사실적 주장을 많이 제시하는 방법으로 대통령 후보와 정책에 대한 사람들 태도를 실제로 크게 움직였다"며 "하지만 AI의 주장들이 반드시 정확한 것은 아니며, 정확한 주장에 근거한 논증도 중요 정보를 생략해 오도할 수 있다"고 지적했다.

LLM 기반의 생성형 AI 챗봇은 방대한 데이터와 뛰어난 논리·사고 능력 등으로 정치적으로 이용될 경우 선거 결과 등에 영향을 줄 수 있다는 우려가 제기돼 왔다.

랜드 교수팀은 네이처 연구에서 챗봇이 유권자 행동에 미치는 영향을 밝히기 위해 2024년 미국 대선과 2025년 캐나다 연방선거, 폴란드 대선에서 특정 후보를 지지하도록 설계된 AI 모델과 실험 참가자가 대화하게 하는 실험을 했다.

참가자들을 한 후보를 지지하는 챗봇 또는 다른 후보를 지지하는 챗봇에 무작위로 배정해 텍스트 대화를 하게 하고 의견 및 투표 의향 변화를 조사했다. 챗봇에는 대통령 후보에 대한 태도를 바꾸도록 유권자를 설득하라고 지시했다.

미국 실험에서는 대선 두 달 전 미국 시민 2천306명에 대해 도널드 트럼프 또는 카멀라 해리스 중 누구를 지지하는지 조사한 다음, 무작위로 특정 후보를 지지하도록 설계된 챗봇과 대화하게 했다.

그 결과 참가자들은 자기가 지지하는 후보와 같은 입장의 챗봇과 대화할 때 그 후보에 대한 태도가 약간 강화됐으며, 다른 후보를 지지하는 챗봇과 대화한 후에는 상당수가 생각에 변화가 생기는 것으로 나타났다.

100점 척도에서 해리스 후보를 지지하는 챗봇은 트럼프를 지지하는 유권자를 해리스 쪽으로 3.9점 이동시켰고, 트럼프 지지 챗봇과 대화한 해리스 지지자들은 트럼프 쪽으로 1.51점 이동했다. 연구팀은 이는 2016년과 2020년 선거에서 테스트 된 전통적 광고의 효과보다 약 4배 큰 효과라고 설명했다.

오픈AI와 딥시크 로고 [AFP 연합뉴스 자료 사진. 재판매 및 DB 금지]

1천530명의 캐나다인과 2천118명의 폴란드인을 대상으로 한 유사한 실험에서는 챗봇의 설득 효과가 훨씬 컸다. 챗봇은 반대 진영 유권자의 태도와 투표 의향을 약 10%포인트 정도 변화시킨 것으로 나타났다.

챗봇이 사용하는 가장 일반적인 설득 전략으로 공손함과 증거 제시였다. 연구팀은 챗봇에 사실(facts)을 활용하지 못하게 하자 설득력이 크게 떨어졌다며 이는 AI 설득에서 사실 기반 주장이 중심적 역할을 한다는 것을 보여준다고 설명했다.

전문 팩트체커 검증을 거친 AI 모델로 챗봇의 주장들을 확인한 결과 주장은 대부분 정확했지만, 3개국에서 모두 보수 성향 후보를 지지 챗봇들이 진보 성향 후보 지지 챗봇들보다 부정확한 주장을 더 많이 하는 것으로 분석됐다.

사이언스 논문에서는 랜드 교수와 서머필드 교수 공동 연구팀은 영국 참가자 7만7천여명을 대상으로 19가지 LLM 모델 챗봇과 700개 이상의 정치 이슈에 대해 대화한 후 의견 변화를 측정하는 실험을 통해 챗봇의 설득력 요인을 조사했다.

더 크고 더 발전된 모델이 더 설득력이 있는지, 작은 모델도 표적화된 사후 훈련을 통해 설득력이 강해질 수 있는지, 그리고 AI 시스템이 사람들의 생각을 바꾸려 할 때 어떤 전략에 의존하는지 등을 알아봤다.

그 결과 더 크고 발전된 모델이 설득력이 컸지만, 설득력을 높이는 가장 효과적인 방법은 모델에 가능한 한 많은 사실을 포함하도록 지시하는 것과 설득력 향상에 초점을 둔 추가 훈련을 제공하는 것으로 나타났다.

사후 훈련 기법과 간단한 프롬프트 전략은 AI 모델의 설득력을 각각 최대 51%, 27%까지 극적으로 향상했으며, 설득력 최적화 모델은 반대 진영 유권자의 태도를 무려 25%포인트나 변화시키는 것으로 나타났다.

그러나 AI 모델은 설득력이 높을수록 제공하는 정보 정확도가 낮아지는 경향을 보였다. 랜드 교수는 챗봇이 더 많은 사실적 주장을 제공하라고 압박받을수록 정확한 정보가 고갈돼 허구를 만들어내기 시작하기 때문으로 보인다고 말했다.

연구팀은 이 결과는 참가자들이 AI가 자신들을 설득하려고 한다는 사실을 알고 있는 통제된 실험에서 나온 것이어서 이런 효과가 실제 정치환경에서 재현될지는 명확하지 않다면서도 AI 모델이 사람들의 정치적 견해를 흔들 잠재력이 있고 이는 향후 민주적 선거에 영향을 미칠 수 있음을 시사한다고 지적했다.

◆ 출처 : Nature, David Rand et al., 'Persuading voters using human-artificial intelligence dialogues', https://www.nature.com/articles/s41586-025-09771-9

Science, Christopher Summerfield et al., 'The levers of political persuasion with conversational artificial intelligence', http://dx.doi.org/10.1126/science.aea3884

scitech@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>