캘리포니아 검찰, ‘그록’ 성적 이미지 생성 논란에 xAI 수사 착수

[디지털데일리 이상일기자] 캘리포니아주 법무당국이 엘론 머스크가 설립한 인공지능(AI) 기업 xAI에 대한 수사에 착수했다. 자사 챗봇 ‘그록(Grok)’이 여성과 미성년자를 성적 대상화한 이미지를 생성했다는 혐의 때문이다.

캘리포니아주 검찰총장 롭 본타는 1월14일(현지시간) “xAI가 제작한 동의 없는 노골적 성적 콘텐츠가 온라인에 게시되고 있다”며 “이 사태가 확대되지 않도록 즉각 조치를 취해야 한다”고 밝혔다. 본타는 “동의 없는 사적 이미지나 아동 성착취물의 AI 기반 제작 및 유포는 절대 용납하지 않을 것”이라고 강조했다.

이번 조사는 머스크가 운영하는 소셜미디어 플랫폼 ‘엑스(X)’에서 확산된 AI 생성 이미지 논란에서 비롯됐다. 일부 사용자가 그록에게 여성의 옷을 디지털로 벗기거나 미성년자 이미지를 성적화하도록 지시한 사례가 보고됐다. 이에 따라 캘리포니아주는 법적 대응에 나섰다.

정치적 파장도 커지고 있다. 개빈 뉴섬 주지사는 본타의 발표 직후 “xAI가 동의 없는 성적 AI 딥페이크를 유포하는 포식자들의 온상이 됐다”며 “해당 기업의 행태는 추악하다”고 비판했다. 영국 규제당국도 같은 주 초 xAI에 대한 조사에 착수했으며, 유럽연합(EU) 기술 책임자 헤나 비르쿠넨은 “xAI가 문제를 해결하지 않으면 법적 결과를 피할 수 없을 것”이라고 경고했다. 말레이시아와 인도네시아는 일시적으로 그록 접속을 차단했다.

사건은 외교 문제로 번지고 있다. 미국 국무부는 영국 정부가 엑스 차단을 검토할 경우 “어떤 대응도 배제하지 않겠다”고 밝혔다. 미국 의회에서도 논란이 이어졌다. 민주당 조 로프그렌 하원의원은 “우리가 머스크에게 돈을 주고 아동 포르노 기계를 만들게 하고 있다”고 비판했다.

머스크는 엑스 게시글을 통해 “그록이 생성한 미성년자 노출 이미지는 전혀 없다”며 “그록은 사용자 요청에 따라 이미지를 만들 뿐, 불법 콘텐츠는 생성하지 않는다”고 반박했다. 그는 “적대적 해킹이 예상치 못한 결과를 낳을 수 있으나 즉시 수정 조치를 취하고 있다”고 덧붙였다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -