머스크의 엑스 “그록, 노출 이미지 생성 차단”… 검찰 조사 직후 기술적 제한

런던 영국 웨스트민스터를 지나는 차량에 기업 책임성 단체 ‘에코(Eko)’가 주최한 광고판이 걸려 있다. 이 광고는 영국 총리에게 일론 머스크에 맞서 엑스(X)와 그록(Grok)을 금지하라고 촉구하는 내용을 담고 있다./연합뉴스

일론 머스크가 소유한 엑스(X·옛 트위터)가 인공지능(AI) 챗봇 ‘그록’을 둘러싼 여성·아동 딥페이크 이미지 생성 논란이 확산하자, 이미지 생성 기능을 제한하는 기술적 조치를 도입했다. 이 같은 조치는 미국 캘리포니아주 검찰이 관련 조사에 착수했다고 밝힌 지 몇 시간 만에 나왔다.

엑스 안전팀은 14일(현지시각) 공식 계정을 통해 아동 성착취물과 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고 있으며, 엑스 규칙을 위반한 계정에는 적절한 조치를 취하고 있다고 밝혔다. 특히 그록이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 제한을 적용했다고 설명했다. 해당 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다.

엑스 측은 “현재 그록 계정을 통한 이미지 생성·편집 기능이 유료 구독자에게만 제공되고 있다”며 “이를 통해 정책이나 법을 위반하려는 행위에 책임을 묻는 추가적인 보호 장치를 마련했다”고 강조했다. 또 “생성형 AI의 급속한 발전이 업계 전반에 도전 과제를 안기고 있다”며 “문제 발생 시 신속한 대응을 위해 사용자와 규제기관, 다른 플랫폼과 협력하고 있다”고 덧붙였다.

이번 조치는 캘리포니아주 검찰이 그록의 성적 이미지 생성 논란과 관련해 법 위반 여부에 대한 조사 착수를 공식 발표한 이후 이뤄졌다. 캘리포니아주 법무장관은 동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작과 유포는 절대 용납할 수 없다며, 그록을 이용해 제작된 노골적인 이미지 확산에 대한 조사를 개시한다고 밝혔다. 이는 미국 내에서 나온 첫 공식 제재 움직임이다.

앞서 그록은 이용자 요구에 따라 여성과 아동의 사진을 성적인 이미지로 편집·생성하는 딥페이크 게시물이 확산하면서 논란의 중심에 섰다. 이에 영국 등 여러 국가의 당국이 조사에 나섰고, 말레이시아와 인도네시아는 그록 접속을 차단하기도 했다.

다만 머스크는 자신이 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 주장했다. 그는 엑스에 올린 글에서 “그러한 이미지에 대해 전혀 알지 못한다”고 밝혔으며, 추가 게시글에서는 NSFW 설정이 활성화된 경우 그록이 실제 인물이 아닌 가상의 성인 상반신 노출만 허용하도록 설계됐다고 설명했다.

이경탁 기자(kt87@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>