구글 AI, 할루시네이션 논란…특정 유튜버를 '이스라엘 여행자'로 왜곡

[AI리포터]

구글 AI가 잘못된 정보를 생성해 논란이 되고 있다 [사진: 셔터스톡]

[디지털투데이 AI리포터] 사운드 아티스트이자 유튜버로 활동 중인 벤 조던(Ben Jordan)이 구글 인공지능(AI)에 의해 이스라엘 여행자로 잘못 묘사된 사건이 발생했다.

2일(현지시간) 온라인 매체 기가진이 보도한 바에 의하면, 벤 조던은 이스라엘에 방문한 적이 없지만, 구글 AI는 그가 이스라엘 여행 중 인터뷰를 진행했다고 잘못된 정보를 생성했다. 이는 구글 AI의 부정확한 정보 생성 사례가 증가하고 있음을 시사한다.

구글 AI는 벤 조던이 지난 8월 이스라엘 여행 후 영상을 공개했다고 주장했지만, 이는 완전히 허구였다. 벤 조던은 자신의 이름이 보수 성향 뉴스맥스(Newsmax)의 군사 전문가와 혼동되었을 가능성을 제기하며, AI가 잘못된 데이터를 조합해 잘못된 이야기를 만들어 냈다고 설명했다.

이 같은 AI 오류는 처음이 아니다. 앞서 작가 데이브 배리(Dave Barry)도 구글 AI에 의해 사망자로 잘못 표기됐지만, 수정 요청에도 불구하고 오류는 바로잡히지 않았다.

AI가 잘못된 정보를 생성하면서 법적 문제로 번질 가능성도 있다. 벤 조던은 자신의 정치적 입장이 왜곡된 것에 대해 강력히 반발하며 법적 대응을 검토 중이다. 그는 "AI가 잘못된 정보를 생성해 실제 피해를 초래할 수 있다"고 경고하기도 했다.

AI 기술의 한계를 지적하는 목소리가 커지고 있다. AI의 허구 생성이 심각한 사회적 문제로 확산될 가능성이 제기된다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>