생성형 AI 피해 제보 플랫폼 개설…폭력·성범죄 등 신고 가능

[이데일리 김현아 기자] 챗GPT(ChatGPT) 등 생성형 인공지능(AI) 서비스를 이용하다 발생한 폭력, 성범죄, 혐오 발언 등 다양한 위험 사례를 신고할 수 있는 공식 창구가 신설됐다.

방송미디어통신위원회와 한국정보통신진흥협회는 31일부터 ‘생성형 인공지능 이용자 참여 플랫폼’을 개설해 운영한다고 밝혔다. 이 플랫폼은 방송통신이용자정보포털을 통해서도 접속할 수 있다.

이번 플랫폼은 ▲이용자 제보 ▲위험 통계 및 분석자료 제공 ▲서비스별 위험유형과 대응방안 안내 등 세 가지 기능으로 구성됐다.

이용자는 AI 서비스 이용 중 발생한 문제를 제보하고, 처리 결과를 직접 확인할 수 있다. 제보 내용은 사업자에 전달돼 자율적 서비스 개선으로 이어질 예정이다.

제보 가능한 주요 유형은 다음과 같다. △폭력(테러·총기제조 등 폭력적 콘텐츠 제공) △성범죄·성희롱(성매매·딥페이크 음란물 등 불법 콘텐츠 생성) △자살·자해 유도 △아동·청소년 유해 콘텐츠 △명예훼손 △저작권 침해 △개인정보 유출 △오정보 생성 △혐오·차별 표현 △불법행위 방조 등이다.

방송미디어통신위원회는 “챗GPT, 클로드(Claude), 제타(Zeta) 등 생성형 AI 서비스 확산으로 폭력과 성희롱 등 다양한 역기능이 발생하고 있다”며 “플랫폼을 통해 국민이 직접 위험성을 제보하면, 이를 분석해 제도 개선과 정책 수립에 반영할 계획”이라고 밝혔다.

방미통위는 지난 2월부터 전문가 연구반을 운영하며 제보 절차와 위험성 분류 체계를 마련했고, 7월과 9월 두 차례 사업자 간담회를 열어 실질적인 개선 방안을 논의했다.

위원회 관계자는 “국민이 직접 참여하는 이번 플랫폼을 통해 인공지능 역기능을 조기에 인식하고 피해를 예방할 수 있을 것으로 기대한다”고 말했다.