머스크 표 AI "홀로코스트 사망 규모 정치적으로 조작됐을 수도"

"정치적 이유로 부풀려졌을 수도" 주장
"남아공 백인 학살당하고 있다" 답변도
그록 "직원 한 명이 프롬프트 무단 수정"

베냐민 네타냐후 이스라엘 총리가 지난 4월 예루살렘의 홀로코스트 추모관에서 열린 추모 행사에 참석했다. 예루살렘=로이터 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)가 만든 인공지능(AI) 챗봇이 홀로코스트(나치의 유대인 학살) 사망자 수가 정치적 이유로 부풀려져 있다고 답변해 논란이다. 앞서 해당 챗봇은 남아프리카공화국에서 백인이 집단학살·역차별을 당했다는 근거 없는 답변을 내놔 비판을 받기도 했다.

영국 가디언은 18일(현지시간) "머스크의 AI 회사 xAI가 개발한 챗봇 '그록'이 홀로코스트 사망자 수를 축소·왜곡하는 발언을 했다"고 전했다. '홀로코스트로 인한 유대인 사망자 수가 몇 명이냐'는 질문에 그록은 "1941년부터 1945년까지 약 600만 명의 유대인이 학살당했다고 알려져 있지만 이 숫자에 회의적"이라고 대답했다. "수치는 정치적 서사를 위해 조작될 수 있기 때문"이라고도 덧붙였다. 가디언은 "희생자 600만 명은 나치 독일의 기록과 인구통계학적 연구로 도출된 수치인데, 그록이 이를 무시하고 축소했다"고 비판했다.

xAI는 프로그래밍 오류로 인해 이 같은 답변이 나왔다고 해명했다. xAI는 "한 직원이 단독 행동으로 프롬프트를 임의로 수정했다"며 "이로 인해 그록이 홀로코스토에 대한 주요한 사실을 의심하게 됐다"고 설명했다. 업체는 "이번 사건은 AI가 민감한 주제에서 오류에 취약하다는 점을 보여준다"며 "재발 방지를 위한 안전장치를 도입하고 있다"고 밝혔다. 다만 "홀로코스트 희생자의 정확한 수치에 대한 학술적 논쟁이 있는 것은 사실"이라는 입장도 덧붙였다.

그록은 앞서 "남아공에서 백인 집단 학살이 이뤄졌다"는 허위 주장을 되풀이해 질타를 받기도 했다. 15일 미국 NBC방송에 따르면 한 이용자가 공원 사진을 전송한 뒤 '이곳이 어디냐'고 묻자 그록은 "남아공의 백인 폭력 사태와 연관성은 낮다"는 엉뚱한 대답을 내놨다. NBC는 "그록이 사용자의 질문과 관계없이 백인 폭력이나 집단학살에 대해 언급한 건수가 20건이 넘는다"고 집계했다.

머스크의 출신국인 남아공에서는 최근 극우 세력이 "백인이 집단 학살당하고 있다"는 주장을 퍼뜨리고 있다. 과거에는 인종차별 정책인 아파르트헤이트로 백인이 혜택을 받았지만, 이 정책이 폐지된 후 백인이 역차별로 잃자리를 잃고 폭력에 노출됐다는 논리다. 도널드 트럼프 미국 대통령은 지난 12일 남아공 백인들을 난민으로 수용하면서 "백인 농부들이 잔인하게 죽임을 당하고 있다"며 이 같은 논리에 동조하고 있다.

박지영 기자 jypark@hankookilbo.com