방미통위, 성착취물 논란 '그록'에 '청소년 보호 안전장치' 요청

[허준 편집장]

/사진=디디다 컴퍼니 제공

정부가 인공지능(AI) 챗봇 '그록'을 서비스하는 엑스에 대해 청소년 보호를 위한 안전장치를 마련해 줄 것으로 요청했다. 최근 그록을 중심으로 딥페이크 음란물 문제가 확산됨에 따른 것으로 풀이된다.

방송미디어통신위원회는 14일 최근 성착취물‧비동의 성적 이미지가 소셜미디어를 통해 전파돼 사회적 우려가 커짐에 따라 엑스의 그록 서비스에 대해 청소년 보호 장치 마련을 요구했다고 밝혔다.

그록 서비스를 통해 이용자의 불법 행위가 촉발되지 않도록 엑스 측에서 안전장치를 마련하고, 유해정보로부터 청소년을 보호하기 위해 청소년 접근제한 및 관리조치 등 보호 계획을 수립해 그 결과를 회신해 줄 것을 통보한 것이다.

현재 엑스는 한국의 정보통신망법에 따라 청소년보호책임자를 지정해 방송미디어통신위원회에 통보하고 있으며, 매년 청소년보호책임자 운영실태 관련 자료를 제출하고 있다.

최근 출시된 그록 서비스에 대해서도 이와 관련한 자료를 요청한 것이다. 특히 방미통위는 엑스 측에 한국에서는 당사자 의사에 반해 성적 허위영상물을 제작‧유통‧소지‧시청하는 행위가 형사처벌 대상이라는 점도 전달했다.

김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는데 도움이 되도록 적극 지원하고자 한다"면서 "이에 따른 부작용과 역기능에 대해서는 합리적 규제를 해 나갈 계획이며 인공지능 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무 부과 등 제도 개선을 추진해 나갈 계획"이라고 말했다.

한편 그록은 2023년 11월 처음 공개된 AI 서비스로, 사용자가 엑스 계정에서 요청하면 이미지를 바로 생성해주는 방식이다. 오픈AI의 챗GPT나 구글의 제미나이보다, '표현의 자유'를 강조하는 그록은 성적 이미지·콘텐츠 생성에 대한 제한이 상대적으로 느슨한 편으로 알려졌다. 특히 지난해 말 업데이트 이후 선정적인 이미지 생성이 쉬워지면서 논란이 커졌다.

이와 관련 영국은 '엑스' 차단을 검토하고 있으며 인도네시아도 그록 접속을 일시적으로 차단했다. 호주 역시 문제를 제기하는 등 전세계적으로 그록에 대한 우려가 커지고 있다.

허준 기자 joon@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>