표시 없는 AI가 키운 딥페이크 범람 막는다

더불어민주당 조인철 의원(광주 서구갑·국회 과학기술정보방송통신위원회). 조인철 의원실 제공

표시 없는 AI 생성물이 딥페이크 범람을 키우는 현실에 제동이 걸릴 전망이다.더불어민주당 조인철 의원이 AI 생성물 표시 의무를 유통 단계까지 확대하고, 허위·과장 AI 광고에 대한 신속 차단 근거를 담은 법안을 국회에 내놨다.

더불어민주당 조인철 의원(광주 서구갑·국회 과학기술정보방송통신위원회)은 AI 생성물 표시제 도입과 딥페이크 등 허위 정보 유통에 대한 신속 대응을 골자로 한 2건의 패키지 법안을 대표 발의했다고 21일 밝혔다. '정보통신망 이용촉진 및 정보보호 등에 관한 법률' 개정안과 '방송미디어통신위원회 설치 및 운영에 관한 법률' 개정안이다.

이번 법안은 AI로 생성·조작된 영상과 이미지가 정보통신망을 통해 빠르게 확산되면서, 이용자가 진위를 구분하기 어려운 환경이 조성됐다는 문제의식에서 출발했다. 특히 포털과 플랫폼 등 유통 단계에 대한 규율이 사실상 공백으로 남아 있다는 점을 정면으로 겨냥했다.

최근 AI로 합성된 '가짜 경찰 출동' 영상이 실제 상황처럼 소비되며 사회적 혼란을 빚은 사례가 대표적이다. 기술 고도화로 일반 이용자조차 진위를 가리기 어려운 상황에서, 디지털 정보 판별 능력이 낮은 고령층과 아동 등 취약계층의 피해 우려가 크다는 지적이 이어져 왔다. 과학기술정보통신부의 2023 디지털정보격차 실태조사에 따르면 고령층의 디지털 정보화 수준은 70.7%로 정보취약계층 가운데 가장 낮다.

오는 22일부터 시행되는 'AI 기본법'은 생성형 AI 결과물에 대한 고지·표시 의무를 규정하고 있다. 다만 규율 대상이 AI를 개발하거나 이를 활용해 제품·서비스를 제공하는 AI 사업자에 한정돼, 플랫폼을 통한 유통·확산 단계 관리에는 한계가 있다는 평가를 받아왔다.

조 의원이 발의한 '정보통신망법 개정안'은 이 공백을 메우는 데 초점을 맞췄다. AI 생성물을 직접 제작·편집해 게시하는 경우 게시자에게 표시 의무를 부과하고, 플랫폼 사업자에게는 해당 표시가 유지·관리되도록 할 책임을 명확히 했다. 이용자가 임의로 AI 생성물 표시를 제거하거나 훼손하는 행위도 금지했다.

국민 생명과 재산 피해 우려가 큰 긴급 사안에 대한 대응 절차도 담았다. 식품의약품안전처나 공정거래위원회 등 관계 중앙행정기관이 요청할 경우, 방송미디어통신위원회가 심의 이전이라도 플랫폼에 임시 시정조치를 요청할 수 있도록 했다. 플랫폼은 우선 조치를 이행하고, 이후 방송미디어통신심의위원회 심의 결과에 따라 차단 여부를 확정하거나 원상복구하게 된다.

함께 발의된 '방미통위 설치법 개정안'은 AI를 활용한 허위·과장 광고에 대한 대응 속도를 높이는 내용을 담았다. 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 부당 광고를 서면심의 대상으로 포함시켜 신속한 판단이 가능하도록 했다.

조인철 의원은 "AI 기술이 고도화되면서 국민이 접하는 정보가 진짜인지 AI가 만든 것인지조차 구분하기 어려운 상황"이라며 "AI 기본법이 개발자 책임을 다뤘다면, 이번 법안은 유통 단계에서의 이용자 보호 책임을 명확히 하는 보완 입법"이라고 밝혔다.

이어 "혁신을 위축시키려는 것이 아니라, 신뢰 속에서 AI 발전이 이어지도록 최소한의 기준을 세우자는 것"이라며 "디지털 취약계층을 포함한 국민 모두가 딥페이크 위협에 무방비로 노출되지 않도록 제도 공백을 빠르게 메워야 한다"고 강조했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 : jebo@cbs.co.kr
• 카카오톡 : @노컷뉴스
• 사이트 : https://url.kr/b71afn

진실은 노컷, 거짓은 칼컷

저작권자 © CBS 노컷뉴스 무단전재 및 재배포 금지