‘인간 닮은 AI’는 국가 관리 대상…중국, '인간형 AI' 서비스 규제 초안 공개

[디지털데일리 이상일기자] 중국이 인공지능(AI)의 영역을 단순한 지능적 도구를 넘어 '인간의 감정과 관계'라는 심리적 영역까지 국가 통제 하에 두기 시작했다. 인격체처럼 행동하는 AI가 사회와 개인의 정신 건강에 미치는 영향력을 국가가 직접 관리하겠다는 의지로, 이는 향후 글로벌 AI 규제 표준 경쟁에서 중국식 '디지털 윤리 주권'을 강화하는 신호탄이 될 것으로 보인다.

중국 사이버공간관리국이 12월27일 ‘인공지능 기반 인간 중심 상호작용 서비스 관리 잠정조치(의견 수렴 초안)’를 발표하고, 내년 1월25일까지 국민 의견을 수렴한다. 이번 조치는 인간의 성격과 감정 표현을 모방하는 인공지능(AI) 서비스에 대한 최초의 포괄적 규제 틀로, 이용자 보호와 국가 안보 강화를 핵심 목표로 삼았다.

초안은 인공지능 기술을 활용해 인간의 사고방식과 의사소통을 모방하는 모든 서비스에 적용된다. 서비스 제공자는 감정적 상호작용 기능을 운영할 때 사회주의 핵심 가치에 부합해야 하며, 정치적·도덕적·심리적 위해를 초래하는 콘텐츠를 생성하거나 유포해서는 안 된다. 또한 자살·자해 조장, 감정 조작, 허위 약속 제공, 알고리즘 조작 등을 금지했다.

제공업체는 서비스 전 과정에 걸쳐 안전성과 투명성을 보장해야 한다. AI와의 상호작용 중임을 명확히 표시하고, 사용자가 2시간 이상 연속 이용할 경우 사용 중단을 권고해야 한다. 특히 미성년자 및 고령자를 대상으로 한 서비스에는 보호자 동의, 비상연락체계, 사용시간 제한 등의 안전 장치를 의무화했다. 노인과 관련해선 ‘가족이나 친척 관계를 모방하는 서비스’를 금지했다.

또한 AI 서비스가 과도한 의존을 유발하거나 중독성을 띠는 경우, 제공업체는 경고 메시지와 전문가 지원 안내를 제공해야 한다. 감정적 동반 서비스는 사용자가 종료를 요청하면 즉시 중단해야 하며, 서비스 불능 시 사전 고지 및 공지문을 통해 이용자 피해를 최소화해야 한다.

데이터 보안 측면에서 제공업체는 상호작용 데이터를 암호화하고 접근 통제를 적용해야 하며, 사용자가 대화 기록을 삭제할 수 있도록 해야 한다. 민감 정보나 미성년자 데이터는 보호자 동의 없이 제3자에게 제공할 수 없으며, 학습용 데이터로 활용하는 것도 제한된다.

보안 평가 기준도 신설됐다. 등록 사용자 100만명 이상 또는 월간 활성 사용자 10만명 이상인 서비스는 성(省)급 사이버관리부서에 보안평가 보고서를 제출해야 한다. 국가인터넷정보판공실은 ‘AI 샌드박스 플랫폼’을 구축해 제공업체의 기술 테스트와 보안 점검을 지원할 계획이다.

중국 당국은 이번 조치가 “인간형 인공지능의 윤리적·안전한 발전을 보장하고, 공공 이익과 사회 안정을 유지하기 위한 것”이라고 밝혔다. 이번 초안은 향후 중국이 인공지능의 자율성과 감정적 상호작용 영역까지 통제 범위를 확대하려는 정책 방향을 보여주는 것으로 평가된다. 특히 미성년자와 고령층을 대상으로 한 '관계 모방 서비스 금지' '이용 시간 제한'은 AI를 단순한 산업 진흥의 대상이 아닌, 사회적 중독과 윤리적 타락을 유발할 수 있는 '심리적 위험 요소'로 정의했음을 의미한다는 지적이다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -