구글, 의료 AI 검색 오류로 기능 일부 중지…잘못된 정보 논란

[AI리포터]

구글 AI가 잘못된 정보를 생성해 논란이 되고 있다 [사진: 셔터스톡]

[디지털투데이 AI리포터] 구글이 자사의 AI 검색 기능에서 잘못된 의료 정보를 제공한 사실이 드러나면서 기능 일부를 중지했다.

11일(현지시간) IT매체 더버지에 따르면, 구글 AI는 췌장암 환자에게 고지방 음식을 피하라고 권고하거나, 간 기능 검사와 관련해 잘못된 정보를 제공하는 등 위험한 의료 조언을 내놓은 사례가 확인됐다. 이러한 오류는 환자의 건강에 직접적인 영향을 줄 수 있어 전문가들로부터 심각한 우려가 제기됐다.

문제가 된 AI 개요 기능은 현재 일부 의료 질문에 대해 완전히 비활성화된 상태다. 구글은 삭제와 관련해 구체적인 입장을 밝히지 않았으며, 이번 조치는 이전에도 AI가 잘못된 정보로 논란을 빚었던 사례와 맞물려 주목받고 있다.

업계 전문가들은 이번 사건이 AI 기반 의료 정보의 신뢰성과 안전성을 강화할 필요성을 보여준다고 평가했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>