영국, 음란이미지 생성 AI '그록' 조사…위법시 매출 10% 벌금 가능

일론 머스크와 그록의 로고. ⓒ AFP=뉴스1

(서울=뉴스1) 강민경 기자 = 영국 규제기관이 사회관계망서비스 엑스(X·옛 트위터)에 내장된 인공지능(AI) 챗봇 '그록'을 조사한다. 위법 사항이 적발될 경우 전 세계 연간 매출의 최대 10%가 벌금으로 부과될 수 있다.

앞서 그록이 여성과 아동의 사진을 동의 없이 성적으로 조작해 나체에 가까운 노출 이미지를 유포하는 데 사용됐다는 보고가 잇따랐다.

로이터통신에 따르면 영국 오프콤은 12일(현지시간) 그록의 온라인안전법 위반 혐의를 조사하기 시작했다고 밝혔다.

그록은 사용자가 특정인 태그 후 명령어를 입력할 경우 사진을 조작해 주는 기능을 가지고 있다.

초기에는 단순히 옷을 비키니로 바꾸는 수준이었다. 그러나 점차 나치 문양을 그려 넣거나 혈흔을 추가하는 등 악의적이고 모욕적인 이미지 생성이 확대됐다.

오프콤은 X가 불법 콘텐츠를 인지하고도 신속하게 삭제하지 않았거나, 영국 사용자들이 콘텐츠에 노출되는 것을 막기 위해 적절한 조처를 하지 않았는지 등을 집중적으로 들여다볼 예정이다.

만약 법 위반 사실이 확인되면 오프콤은 X에 전 세계 연간 매출의 최대 10% 또는 1800만 파운드(약 355억 원) 중 더 큰 금액을 벌금으로 부과할 수 있다.

영국 정부는 이번 사안에 상당히 강경한 입장이다. 리즈 켄달 기술부 장관은 X가 유료 사용자에게 계속 문제의 기능을 제공하는 미온적 대처를 한 것을 두고 오프콤에 신속한 조처를 요구했다.

pasta@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.