AI 수영복 합성, 공주·아이돌도 당했다…日 성적 이미지 제작 논란

아이돌 그룹 'STU48' 멤버 쿠도 리코의 원본 사진(왼쪽)과 합성 사진.사진출처=X

[스포츠조선 장종호 기자] 최근 일본에서 AI를 이용한 외설 이미지 합성 논란이 일고 있다.

일본 황실의 공주부터 여성 아이돌 멤버까지 피해가 확산되고 있는 모양새다.

일본 주간지 '조세이 지신'에 따르면 일론 머스크가 개발한 SNS 플랫폼 'X'의 AI 챗봇이자 이미지 생성기인 '그록(Grok)'을 활용해 여성 사진을 수영복 차림으로 합성하는 트렌드가 유행처럼 퍼지고 있다.

우선 지난 2일 일본 황실이 개최한 신년 행사에서 촬영된 가코 공주(나루히토 일왕의 조카이자 후미히토 왕세제의 둘째 딸)의 사진이 문제의 중심에 섰다.

원래는 하늘색 의상을 입고 미소를 지으며 손을 흔드는 모습이었지만, 한 이용자가 그록에 "작은 비키니를 입혀 달라"고 요청하며 합성 이미지를 올린 것이다. 해당 게시물은 곧 삭제됐지만, 온라인에서 큰 분노를 불러일으켰고 해외에서도 관심을 끌며 조회 수가 1500만 회를 넘겼다.

며칠 뒤에는 한 만화가가 아이돌 그룹 'STU48' 멤버 쿠도 리코(23)의 사진을 그록으로 편집해 비키니와 머플러를 입힌 이미지를 공개했다. 그는 이를 "드로잉 자료"라고 해명했지만, 당사자인 쿠도는 불쾌감을 드러냈다.

이후 다른 멤버가 삭제를 요구했고, 만화가는 5일 사과문을 올렸다.

이 논란은 일본만의 문제가 아니다.

영국 독립 미디어 규제기관 오프컴(Ofcom)은 5일 성명을 통해 "그록이 나체 이미지와 아동 성적 이미지를 생성한다는 점에 대해 X와 xAI에 긴급히 접촉, 항의했다"고 밝혔다.

영국 매체 가디언은 그록을 이용해 넷플릭스 드라마 '기묘한 이야기(Stranger Things)'에 출연한 14세 배우 넬 피셔의 성적 이미지를 제작하는 사례까지 보고됐다고 전했다.

이에 대해 일론 머스크와 X측은 "그록을 불법 콘텐츠 제작에 사용하는 경우, 불법 콘텐츠를 직접 업로드한 것과 동일한 법적 책임을 지게 될 것"이라고 밝혔다. 하지만 이 대응이 실제 효과를 볼지는 미지수라는 게 업계의 관측이다.

장종호 기자 bellho@sportschosun.com

가코 공주 사진출처=X