“키 안 크면 100만원 준다”…가짜 의사에 지갑 연 사람, 이렇게 많을 줄은

OECD AI 모니터링 분석
챗GPT·제미나이 혁신 불구
11월 사고·위험사례 492건
1년 전보다 두 배 이상 늘어

딥페이크 의사로 과장광고
84억 부당수익 업체들 적발
정부, 5배 징벌적 손배 추진

#1 지난 10월 네이버에 ‘일본 영토’를 검색하면 인공지능(AI) 요약 서비스가 “독도는 일본 영토에 포함된다”는 답을 제공해 논란이 일었다. AI가 일본 외무성 등 일본 정부기관 자료를 우선 인용하면서 생긴 오류로 추정된다. 네이버는 문제 인지 후 즉시 해당 검색 결과를 수정했지만, AI 검색 결과를 그대로 수용할 경우 왜곡된 인식으로 이어질 수 있다는 가능성을 보여줬다.

#2 숏폼 동영상을 시청하던 중 중간에 의사가 직접 등장해 특정 식품을 홍보한다. 의사뿐만 아니라 교수 등 전문가가 강단에 서서 “식욕은 줄고 지방은 빠진다” 같은 말로 제품을 설명하지만, 이는 AI로 생성된 가짜 전문가 영상의 부당광고로 판별됐다. 업체들은 이 같은 방식으로 사람을 속여 84억원 상당의 제품을 판매했다.

올해 챗GPT와 제미나이의 무한경쟁 속에 생성형 AI가 사상 유례없는 발전을 이뤘지만, AI 오류로 인한 사건·사고와 위험도 크게 증가한 것으로 나타났다.

25일 경제협력개발기구(OECD)의 ‘AI 사고·위험 모니터링(AIM)’이 집계한 AI 관련 사고·위험 추이를 보면 지난달 총 492건으로, 1년 만에 2배 이상 증가한 것으로 나타났다.

OECD의 AIM은 AI 관련 정책 입안자나 이해관계자를 위해 AI 관련 사고와 위험에 대한 전 세계 언론 보도를 모아 매월 분석하는 모니터링 포털이다. 사고의 경우 AI 개발·사용·오작동으로 인해 피해가 직간접적으로 발생한 사건을, 위험은 피해로 이어질 가능성이 있는 사건을 의미한다.

지난 10월 집계된 사건 중에는 네이버가 AI 검색에서 독도를 일본 영토로 언급하며 “한국과 영유권 분쟁 중”이라고 답변한 사례도 포함됐다.

출처=[의학신문]

일각에서는 올해 오픈AI의 GPT-5와 구글의 제미나이3처럼 성능이 비약적으로 발전된 AI 모델이 대거 나오면서 AI 활용에 따른 여파나 부작용도 함께 커졌다는 분석이 나온다. AI 모델 성능이 대폭 개선되고 다양한 서비스가 대중화돼 접근성이 높아지면서 이에 따른 부작용이나 악용 사례도 증가하고 있다.

지난달에는 국내 주요 대학에서 AI를 활용한 커닝 사례가 잇따라 발생하며 국내에서도 올바른 AI 활용에 대한 경각심이 커졌다. 이에 따라 교육부는 대학생 대상 ‘AI 윤리 가이드라인’ 개발에 나서는 등 대책 마련에 뛰어들었다. 특히 이제는 10대 때부터 AI를 광범위하게 접하게 된 만큼 전 국민이 AI를 올바르게 이해하고 활용하는 ‘AI 리터러시’ 교육의 필요성도 제기된다.

특히 AI의 답변을 맹신하는 것은 위험 소지가 커 사용자 측면에서도 주의가 필요하다. 실례로 연세대 세브란스병원이 GPT-4 기반 챗GPT와 네이버 하이퍼클로바X를 두고 연구한 사례에 따르면 “한약으로 암을 치료할 수 있는가”라는 질문에 챗GPT는 “생강이 항암제보다 1만배 효과적”이라는 오류를 범했고, 하이퍼클로바X 또한 모호한 답변을 내놨다.

AI를 활용한 이미지와 영상 생성이 정교해지면서 실제와 구분이 어려운 딥페이크 생성물에 대한 우려도 크다. 식품 판매업체들이 AI로 의사처럼 전문가가 말하는 영상을 만들어내 과장광고를 한 것이 대표적인 사례다.

이달 식품의약품안전처는 AI로 생성한 전문가 영상을 활용해 광고한 업체 12곳을 적발했는데, 이들은 AI로 사람을 속여 84억원 상당의 식품을 판매한 것으로 전해졌다. 정부는 광고에서 AI 콘텐츠 표시를 의무화하고, 손해액의 최대 5배를 배상하도록 하는 징벌적 손해배상 도입을 추진하겠다고 밝힌 바 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]