“이웃이 나를 독살” 환각까지…안전장치 없는 AI 건강 조언, 믿을만할까

#1

미국의 60대 남성 A씨는 “이웃이 나를 독살하려 한다”는 환각을 느껴 병원에 입원했다. 의사는 A씨가 매일 섭취한 브롬화나트륨을 환각의 원인으로 지목했다. 산업용 세척제로 주로 사용되는 브롬화나트륨은 한때 진정제로 사용되기도 했지만 과다섭취 시 신경 기능 손상, 정신 질환 유발 등의 문제가 확인되며 미국 식품의약청(FDA)에서 1989년부터 사용을 금지한 물질이다. A씨는 소금이 건강에 미치는 영향이 걱정돼 대체재로 사용할 수 있다는 챗GPT의 말만 믿고 브롬화나트륨을 일부러 구해 섭취해온 것으로 드러났다.

#2

아일랜드의 30대 남성 B씨는 삼키기 힘든 목 통증을 느낀 뒤 챗GPT에게 증상에 대한 조언을 구했다. B씨는 “암일 가능성은 매우 낮다”는 챗GPT의 말에 안심하고 몇 달 지나서야 병원에 방문했다. 이후 의료진에게 ‘4기 식도암’이라는 청천벽력같은 진단을 받았다.

챗GPT 생성 이미지

챗GPT와 클로드 등 생성형 인공지능(AI)을 활용한 맞춤형 의료 서비스 시대가 본격적으로 열리고 있다. 그동안 비싼 값을 지불해야 했던 서비스에 누구나 쉽게 접근할 수 있다는 장점이 있지만 자칫 부정확한 정보로 인해 생명에 위협이 되는 결과까지 초래할 수 있다는 지적도 나온다.

◆챗GPT·클로드, 건강 서비스 시작

17일 업계에 따르면 오픈AI는 지난 8일 병원 진료 결과를 이해하거나 의사 검진 전 준비 과정을 돕기 위한 새로운 기능인 ‘챗GPT 헬스’를 출시했다.

챗GPT가 서비스되는 대부분의 지역에서 이용할 수 있다. 국내에서는 대기자 명단에 등록한 이용자를 중심으로 순차적으로 서비스가 도입될 예정이다.

챗GPT 헬스는 이용자가 자신의 기본적인 신체 정보와 건강검진 결과, 다양한 웨어러블 기기로 수집한 자료 등을 바탕으로 건강 상태를 파악하는 데 활용할 수 있다. 식단, 운동, 보험 등 건강 관련 조언도 받을 수 있다.

오픈AI는 2년 동안 60개국, 260명 이상의 의사와 협업해 챗GPT 헬스를 개발했다고 밝혔다.

클로드를 운영하는 앤트로픽도 최근 건강 기록 접근 기능을 추가한 ‘클로드 포 헬스케어’ 기능을 새롭게 공개했다.

앤트로픽은 해당 기능을 통해 사용자가 개인 정보와 의료 기록, 보험 기록을 하나로 통합해 관리할 수 있다고 밝혔다.

앤트로픽 측은 “AI를 활용해 사람들이 복잡한 의료 시스템을 보다 효율적으로 다룰 수 있도록 돕는 전환점이 될 것”이라고 자평했다.

챗GPT 헬스. 오픈AI 제공

◆편리함과 위험, 종이 한 장 차이

이들 생성형 AI는 건강 서비스가 진단이나 치료를 목적으로 하는 것이 아니라고 밝히고 있다. 하지만 전문가들은 생성형 AI가 일반적인 영역에 있는 건강 정보와 전문적인 영역인 의학적 견해의 경계를 아슬아슬하게 타며 규제에 벗어나 있다고 지적한다.

알렉스 로아니 런던 유니버시티 칼리지 연구원은 “챗GPT 헬스의 도전 과제는 일반적인 정보와 의료 조언이 어디서 끝나고 어디서 시작되는지 명확하지 않다는 것”이라며 “특히 챗GPT 헬스의 안전성을 구체적으로 테스트한 연구가 전혀 없다는 점이 우려된다”고 영국 일간지 가디언에 밝혔다.

로아니 연구원은 과거 챗GPT가 부작용, 금기사항, 알레르기 경고 또는 특정 행위와 관련된 위험과 같은 주요 세부사항을 누락한 사례가 매우 많았다는 점도 지적했다. 통상 의료기기나 진단 도구에 적용되는 안전 통제, 위험 보고, 시장 후 감시, 시험 데이터 공개 의무도 없다.

챗GPT 헬스를 사용해본 이용자들 역시 어려운 의학 용어를 쉽게 풀어준 것에 긍정적 평가를 내리면서도 AI를 진단으로 오해할 위험을 지적했다.

미국 온라인 커뮤니티 레딧에는 “친절하고 납득 가능한 답을 내놓으니 의료 정보처럼 착각한다”, “도움은 되는데 결정은 결국 의사가 해야 한다”는 등의 후기가 올라왔다.

엘리자베스 데베니 호주 소비자 건강 포럼 최고경영자는 “본인 부담 의료비가 높아지고 의사 진료 대기 시간이 길어지면서 사람들이 AI로 넘어가고 있다”며 “명확한 안전장치, 투명성, 소비자 교육을 통해 사람들이 건강을 위해 AI를 어떻게 사용할지 정보에 입각한 선택을 할 수 있다”고 지적했다.

백소용 기자 swinia@segye.com

ⓒ 세상을 보는 눈, 세계일보