본다이비치 '영웅'이 하마스 인질?... 허위정보 확성기 된 챗봇 '그록'

일론 머스크의 xAI 챗봇 '그록'
총격범 제압 영웅에 이스라엘인?
"AI 사실확인 불안정, 신뢰 못해"

테슬라 창업자 일론 머스크의 인공지능(AI) 스타트업 xAI의 AI 모델 그록의 로고. 로이터 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)가 설립한 xAI의 인공지능(AI) 챗봇 '그록'이 호주 시드니 본다이비치에서 발생한 총격 테러 사건과 관련해 심각한 오류를 일으키며 허위 정보를 확산하고 있다는 외신 보도가 나왔다. 오픈AI와 구글이 새 모델을 앞다퉈 출시하며 기술 경쟁을 벌이는 동안, 그록은 사실확인 능력 부재와 '가짜뉴스' 확산이라는 치명적 결함을 드러냈다는 지적이다.

14일(현지시간) 본다이비치에서 발생한 총격 사건 현장에서는 아흐메드 알 아흐메드(42)가 총격범 중 한 명을 맨손으로 제압해 더 큰 피해를 막은 '시민영웅'으로 떠올랐다. 로이터통신은 이날 "흰 셔츠를 입은 남성(아흐메드)이 본다이비치 총격범을 제압하는 영상이 사회관계망서비스(SNS) 엑스(X) 등에서 빠르게 퍼지고 있다"고 보도했다. 이 영상을 보면 아흐메드는 총격범 뒤로 다가간 뒤 그를 붙잡으며 몸싸움을 벌였고, 범인을 넘어뜨린 뒤 총기를 빼앗아 범인을 향해 겨눴다. 중심을 잃고 넘어진 총격범이 도주하자 그는 총기를 바닥에 내려뒀다.

그런데 온라인에서는 이 영웅을 둘러싼 허위 정보도 확산됐다. '가짜뉴스 확산'의 주범은 그록으로 지목됐다. 미 정보통신(IT) 전문 매체 더버지에 따르면, 그록은 아흐메드를 "하마스에 인질로 잡힌 이스라엘인"이라고 엉뚱하게 답변하는가 하면, 그가 용의자를 제압하는 영상에 대해서는 "나무를 타는 남성의 오래된 영상"이라며 상황 자체를 인지하지 못하는 모습을 보였다.

더버지는 "그록의 수준이 낮다는 점을 감안하더라도 이 비극적인 총기 난사 사건에서 그록이 보여준 실패는 충격적"이라며 "AI의 사실확인 능력은 여전히 불안정하며, 그록은 사용자의 질문 의도조차 제대로 파악하지 못하고 있다"고 비판했다.

'실시간 X 연동'이 毒… 머스크 게시물·혐오표현 학습해 그대로 노출

업계에서는 이번 사태의 원인으로 그록의 '실시간 X 연동' 시스템을 지목하고 있다. 그록은 머스크가 소유한 X의 게시물들을 실시간 학습해 답변에 반영하는데, 검증되지 않은 허위 주장이나 혐오 표현까지 무비판적으로 받아들이면서 가짜뉴스를 확대 재생산하고 있다는 것이다.

그록의 윤리성 논란은 이번이 처음이 아니다. 지난 7월 미국 텍사스 홍수 피해 당시 그록은 X의 특정 계정(신디 스타인버그)을 인용해 숨진 어린이들을 "미래의 파시스트"라고 지칭해 공분을 샀다. 또 "스타인버그(종종 유대인) 같은 성씨를 가진 사람들은 극좌 운동, 반(反)백인 성향이 두드러진다"는 반유대주의적 답변을 내놓기도 했다. 이에 대해 AI 연구원인 사이먼 윌리슨은 그록4의 프롬프트를 분석한 결과, 그록4가 특정 주제에서 사용자의 질문을 받았을 때 답변을 내놓기 전 머스크의 X 게시물을 먼저 확인했다고 분석한 바 있다.

이 같은 치명적인 허점에도 불구하고 xAI는 최근 미국 정부 기관용 AI 서비스 '그록 포 가번먼트'를 출시하며 연방 및 주(州) 정부의 보안 분야에서 활용되고 있어 AI발(發) 허위 정보가 공공 영역까지 침투할 수 있다는 우려를 낳고 있다.

실리콘밸리= 박지연 특파원 jyp@hankookilbo.com