“9일간 성적 이미지 180만건 생성” 유명 가수·배우까지…머스크 AI 챗봇 시끌

일론 머스크 테슬라 최고경영자(CEO). [AP]

[헤럴드경제=이원율 기자]일론 머스크의 인공지능(AI) 챗봇 ‘그록’이 9일 만에 성적 이미지를 200만건 가까이 생성한 것으로 알려졌다.

미국 일간 뉴욕타임스(NYT)는 이달 1~7일 그록이 사회관계망서비스(SNS) 엑스(X)에서 생성한 이미지 52만5000건을 분석해보니 최소 41%가 여성을 성적으로 대상화하는 이미지로 집계됐다고 22일(현지시간) 전했다.

이를 지난해 12월31일부터 이달 8일까지 9일간 그록이 생성한 440만건에 대입하면 성착취 딥페이크(AI 조작 사진)는 180만건에 이른다는 계산도 나온다.

NYT는 이미지에 여성 모습이 담겼는지 식별하는 AI 모델과 이미지가 성적 성격을 띤 것인지 판별하는 모델을 분석에 활용했고, 이후 일부 수작업도 거쳤다고 설명했다.

분석 대상 이미지 중에는 가수나 배우 등 유명인도 있었다. 체액 등과 함께 묘사됐거나 성인용품을 든 사례도 있었다.

디지털혐오대책센터(CCDH)가 그록이 생성한 이미지 중 2만건을 무작위 추출해 벌인 별도 분석에서는 표본 65%가 남성이나 여성, 아동의 성적 이미지인 것으로 나타났다.

특히 아동을 대상으로 한 성 착취물은 101건이었다. 이를 비례 환산하면 2만3000건 이상에 아동이 포함됐을 것으로 추산된다고 CCHD는 밝혔다.

일론 머스크 테슬라 최고경영자(CEO)와 그가 소유한 엑스(X·옛 트위터)에서 인공지능(AI) 챗봇 ‘그록’. [AFP]

앞서 엑스(X)는 그록의 여성·아동 딥페이크 이미지 생성 논란에 대응해 그록의 이미지 생성 기능을 제한하는 자체 안전 조치를 내놓았다.

지난 14일(현지시간) 엑스 안전팀은 자체 계정에 올린 글에서 “우리는 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고 엑스 규칙을 위반한 계정에 대해 적절한 조치를 취하는 중”이라며 “그록 계정이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 조치를 시행했다. 이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다”고 공지했다.

또 “생성형 AI의 급속한 발전은 업계 전반에 걸쳐 도전 과제를 제시한다”며 “우리는 문제가 발생했을 때 더 신속하게 해결하기 위해 사용자와 파트너, 규제기관 및 다른 플랫폼과 적극적으로 협력하고 있다”고 했다.