머스크의 '그록', 성 착취 딥페이크 논란 확산...접속 차단 잇따라

일론 머스크가 소유한 엑스의 인공지능(AI) 챗봇 '그록'이 세계적으로 이른바 성 착취 딥페이크 콘텐츠 논란에 휩싸이면서 일본, 필리핀 등 각국이 접속 차단 등 규제에 나섰습니다.

요미우리신문은 일본 정부가 엑스에 대해 딥페이크 등 타인의 부적절한 성적 이미지를 생성하지 않도록 개선을 요구했다고 전했습니다.

일본 정부는 개선되지 않을 경우 AI 법에 따라 첫 행정지도를 하는 방안을 검토하고 있는 것으로 알려졌습니다.

그록에 의한 가짜 영상 피해가 연예인은 물론 미성년자들에게까지 퍼지자, 필리핀 정부는 그록의 접속을 차단하는 조치에 착수했다고 발표했습니다.

앞서 인도네시아와 말레이시아도 그록 접속을 차단했습니다.

롭 본타 캘리포니아주 법무장관도 현지시간 14일 "그록을 이용해 제작된 부적절한 이미지 확산에 대한 조사를 개시한다"고 발표했습니다.

유럽 비영리단체 'AI포렌식스'는 그록으로 생성된 이미지 2만여 개를 분석한 결과 절반 이상이 "최소한의 옷만 입은 사람들"의 이미지였으며, 2%는 미성년자로 보였다고 밝혔습니다.

머스크의 AI 기업 xAI는 최근 엑스에서 그록을 통해 간단한 입력만으로 가짜 영상 딥페이크 이미지를 간편하게 생성하는 서비스를 선보였습니다.

이에 따라 엑스에 올라온 여성·미성년자 등의 이미지를 이용해 노출이 심한 이미지를 만들어 올리는 사례가 속출하면서 각국에서 비난 여론이 높아지고 있습니다.

YTN 김선중 (kimsj@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585
[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

대한민국 24시간 뉴스채널 [YTN LIVE] 보기 〉
[YTN 단독보도] 모아보기 〉