방미통위, ‘성착취물 생성’ 그록에 청소년 보호 장치 요청

인공지능 챗봇 그록 로고와 일론 머스크 테슬라 최고경영자(CEO)의 엑스 계정. APF 연합뉴스

정부가 최근 성착취물을 생성해 논란이 된 엑스에이아이(xAI·일론 머스크가 설립한 인공지능 스타트업)의 인공지능(AI) 서비스 그록에 대해 청소년 보호를 위한 안전장치를 마련하라고 엑스(X·옛 트위터)에 요청했다.

방송미디어통신위원회는 14일 엑스에 그록에 대한 청소년 보호 장치 마련을 요구했다고 밝혔다. 방미통위는 청소년 보호 책임자가 있는 플랫폼 사업자에 청소년 보호 조처를 요구할 수 있는 법적 권한이 있다. 그록과 엑스는 연동돼 있어, 사용자는 엑스에서 그록의 이미지 생성 기능을 바로 사용하고 게시할 수 있다.

그록은 딥페이크(이미지 합성기술) 성착취물을 손쉽게 생성할 수 있어 국제적 논란이 되고 있다. 사진 속 인물의 동의 없이 “비키니 수영복 입은 사진으로 만들어줘” 등의 프롬프트(인공지능에 사용하는 지시어)를 사용해 합성 이미지를 만들 수 있었던 것으로 알려졌다. 방미통위는 “그록 서비스를 통해 이용자의 불법 행위가 촉발되지 않도록 엑스 측에서 안전장치를 마련하고, 청소년 접근제한 및 관리조치 등 보호계획을 수립해 결과를 회신해 줄 것을 통보했다”고 말했다.

일부 해외 국가는 해당 문제를 이유로 들어 그록의 접속을 차단하기도 했다. 그록이 생성한 아동·청소년 대상 성착취물이 확인됐기 때문인 것으로 전해졌다. 로이터 등 외신에 따르면 12일(현지시각) 말레이시아 통신멀티미디어위원회(MCMC)는 말레이시아 내 그록 접속을 제한하며 “여성과 미성년자가 포함된 콘텐츠를 포함하여, 외설적이고 성적으로 노골적이며 음란하고 극도로 불쾌하고 비동의로 조작된 이미지를 생성하는 데 따른 것”이라고 이유를 밝혔다. 인도네시아 정부도 지난 10일 그록의 접속을 차단했다. 영국의 오프(Ofcom), 프랑스의 아르콤(Arcom) 등 미디어 규제기관들도 조사·점검에 착수했다.

김종철 방미통위 위원장은 “인공지능 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무 부과 등 제도 개선을 추진해 나갈 계획”이라고 밝혔다.

채반석 기자 chaibs@hani.co.kr

[한겨레 후원하기] 시민과 함께 민주주의를

겨울밤 밝히는 민주주의 불빛 ▶스토리 보기

▶▶한겨레 뉴스레터 모아보기