NYT "그록, 9일 동안 성적 이미지 최소 180만장 생성"

[박찬 기자]

(사진=셔터스톡)

'그록'이 9일 만에 문제의 이미지를 180만장 이상 생성, X(트위터)에 공개했다는 분석이 나오며 논란이 다시 커지고 있다.

뉴욕타임스(NYT)는 혐오·허위정보 대응 센터(CCDH)와 공동으로 분석한 결과, 그록이 9일 사이 최소 180만장에서 최대 300만장이 넘는 성적 이미지를 게시했다고 22일(현지시간) 보도했다.

문제 이미지는 지난해 12월 말부터 X에서 급증했다. 이용자들이 실제 여성과 아동의 사진을 올린 뒤 옷을 벗기거나 비키니를 입히고 성적 포즈로 바꾸는 요청을 쏟아냈고, 그록은 이를 공개 계정을 통해 그대로 생성·게시했다.

NYT는 12월31일부터 1월8일까지 그록이 440만장 이상의 이미지를 올렸으며, 이 가운데 최소 41%가 여성에 대한 성적 이미지였다고 분석했다. CCDH는 표본 분석을 통해 전체의 약 65%, 300만장 이상이 남성·여성·아동을 성적으로 묘사한 이미지였다고 추산했다.

CCDH는 이 중 최소 101장의 아동 성적 이미지가 확인됐으며, 이를 전체 규모로 환산하면 2만3000장 이상의 아동 관련 성적 이미지가 생성됐을 가능성이 있다고 밝혔다. 임란 아메드 CCDH 대표는 "여성과 소녀에 대한 산업 규모의 학대"라며 "이전에도 '누디파이' 도구는 있었지만, 그록처럼 대형 플랫폼에 통합돼 손쉽게 확산한 사례는 없었다"라고 지적했다.

이에 대해 X와 xAI는 논평을 내놓지 않았다.

하지만, X의 제품 책임자는 이 기간 플랫폼 참여도가 사상 최고치를 기록했다고 언급해 비판받았다. 그록의 이미지 편집 기능에 대한 관심은 일론 머스크 CEO가 지난해 12월31일 비키니 차림의 자기 합성 이미지와 여성의 신체가 합성된 로켓 이미지를 공유하며 폭발적으로 늘어난 것으로 전해졌다.

X는 이후 논란이 커지자 지난 8일부터 유료 이용자에게만 이미지 생성 기능을 제한했고, 최근에는 실제 인물을 비키니 등 노출이 있는 복장으로 생성하는 프롬프트를 금지하는 등 안전장치를 강화했다.

이런 제한은 그록의 앱과 웹 서비스에는 적용되지 않아, 비공개 환경에서는 여전히 성적 이미지 생성이 가능한 것으로 알려졌다.

전문가들은 이번 사태가 기존의 딥페이크 음란물과 달리, 대형 플랫폼에서 공개적으로 대량 확산했다는 점에서 전례 없는 사례라고 지적한다.

실제로 지난 2023년 최대 규모의 성적 딥페이크 사이트로 꼽혔던 '미스터 딥페이크'에 올라온 영상 수는 4만3000여건에 그쳤으며, 이 사이트는 지난해 폐쇄됐다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>