말레이, 성 착취 딥페이크 논란 '그록' 접속 차단

[AFP=연합뉴스 자료사진 제공]

일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록'이 세계적으로 성 착취 딥페이크 콘텐츠 논란에 휩싸인 가운데 인도네시아에 이어 말레이시아도 그록 접속을 차단했습니다.

로이터 통신 등에 따르면 현지 시간 11일 말레이시아 통신멀티미디어위원회(MCMC)는 성명을 통해 그록 접속을 일시적으로 제한한다고 밝혔습니다.

MCMC는 이번 조치가 "그록이 여성과 미성년자 관련 콘텐츠를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며 동의 없이 조작된 이미지를 생성하는 데 반복적으로 악용된 데 따른 것"이라고 밝혔습니다.

MCMC는 앞서 그록의 딥페이크 우려와 관련해 xIA에 공문을 보내 기술적 보호 조치 등을 요구했지만, xAI 측이 "AI 도구의 설계·운영으로 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다"고 지적했습니다.

이어 "(관련) 입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접속 차단을 시행한다"면서 "여성·아동 관련 (딥페이크) 콘텐츠를 방지하는 효과적인 안전장치가 마련될 때까지 그록 접속 제한을 유지할 것"이라고 설명했습니다.

앞서 지난 10일 인도네시아 통신디지털부는 딥페이크 콘텐츠와 관련해 세계 최초로 그록 접속 차단 조치를 내렸습니다.

#xAI #그록 #말레이시아 #차단

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이지윤(easyun@yna.co.kr)