“생성형 AI 불편사항 제보하세요”…방미통위, 이용자 플랫폼 마련

생성형 인공지능 이용자 참여 플랫폼

챗GPT 등 생성형 인공지능(AI) 서비스를 이용하다 경험하는 폭력·성범죄 등 다양한 위험 사례를 제보할 수 있는 전문 창구가 마련됐다.

방송미디어통신위원회와 한국정보통신진흥협회는 '생성형 인공지능 이용자 참여 플랫폼'을 개설·운영하며 방송통신이용자정보포털에서도 접속 가능하다고 31일 밝혔다. 생성형 AI 서비스 이용 과정에서 겪는 위험성과 불편 사항을 제보하고, 관련 정보를 사업자·이용자와 공유할 수 있는 전문 플랫폼이다.

플랫폼은 △이용자가 경험한 위험성·역기능 등 제보 △위험성 관련 통계 등 분석자료 주기적 제공 △유형별 생성형 인공지능 서비스 이용 방법 및 특성 등 안내 기능으로 구성됐다.

이용자는 생성형 인공지능 서비스 이용 중 발견한 폭력이나 성범죄·성희롱 등 다양한 위험 사례를 이용자 참여 플랫폼을 통해 제보하고, 이는 해당 사업자에게 전달돼 사업자의 자율적인 서비스 개선을 유도한다.제보자는 해당 내용의 처리 상황 및 결과를 직접 확인할 수 있고, 제보 내용은 인공지능 위험성 관련 통계와 경향성 분석 자료 등으로 활용되며 이용자 경각심을 제고하기 위한 이용자 주의사항도 주기적으로 제공한다.

향후 방미통위는 플랫폼을 통해 수집된 제보를 통해 AI 서비스 위험성을 분석, 제도 개선 등 정책에 반영할 계획이며, 이번 플랫폼을 통해 새로운 역기능 등을 신속히 인지하고 사전 대응할 수 있을 것으로 기대하고 있다.

권혜미 기자 hyeming@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]