인니, 머스크의 ‘그록’ 세계 첫 차단…“딥페이크로 성착취물 만들어 유포”

인도네시아 정부가 최근 인공지능(AI)을 이용한 ‘딥페이크’(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 ‘그록’ 서비스를 세계에서 처음으로 차단했다고 AFP통신 등이 11일 보도했다.

무티아 하피드 인도네시아 통신디지털부 장관은 전날 일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다. 하피드 장관은 성명에서 “정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 서비스를 차단한 배경을 설명했다. 그록에 대한 서비스 접근을 차단한 것은 인도네시아가 처음이다.

그록은 인도네시아의 이번 조치와 관련해 소셜미디어 플랫폼 엑스(X)에 “불편을 드려 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 밝혔다.

그록은 최근 성착취물 콘텐츠를 생성한 뒤 엑스를 통해 유포해 논란을 일으켰다. 이 때문에 유럽 주요 국가와 말레이시아는 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다. 유럽연합(EU) 집행위원회는 엑스에 그록과 관련한 모든 내부 문서와 데이터를 올해 말까지 보존할 것을 명령했다.

최영권 기자

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -