챗GPT에 ‘식이요법’ 물어본 60대男, 정신병동 입원한 사연

생성형 인공지능 챗GPT와 개발사인 오픈AI의 로고. AFP 연합뉴스

한 남성이 생성형 인공지능(AI) 챗GPT에 식이요법 방법을 물어본 뒤 이를 실천하다 약물 중독 증상을 보여 병원을 찾았다. 이 남성은 정신병동에 입원해 치료를 받은 뒤 호전됐는데, 학계는 이 사례를 공유하며 건강 관련 조언을 챗GPT와 같은 AI를 통해 얻는 행위의 위험성을 경고했다.

8일(현지시간) 영국 인디펜던트 등에 따르면 미국 의사 대학 저널(ACP)는 지난 5일 이같은 사례 연구 보고서를 공개하며 “AI가 잘못된 건강 정보의 확산을 촉진할 수 있다”고 지적했다.

보고서에 따르면 60대 남성 A씨는 자신이 무언가에 중독된 것 같다며 응급실을 찾았다. A씨는 “아무런 약도 복용하지 않았으며, 정신과 관련 병력이 없다”고 설명했다.

A씨는 병원에 입원한 뒤 편집증과 환각에 시달렸으며, 병원을 탈출하려 하다 제지당한 뒤 정신병동에 입원했다.

상태가 호전된 뒤 A씨에게서는 불면증과 피부에 붉은 종양이 생기는 체리혈관종, 탈모 등의 증상이 나타났다.

챗GPT가 조언한 식이요법, 환각·불면증 초래

A씨는 의료진에 “챗GPT에 ‘음식에 소금 대신 무엇을 넣을 수 있는가’라는 질문을 하고 챗GPT의 조언에 따랐다”고 설명했다.

대학에서 영양학을 전공한 A씨는 평소 극단적인 채식을 실천하는 등 엄격한 식이요법을 하고 있었는데, 최근 책에서 소금이 건강에 미치는 부정적인 영향에 대한 내용을 접한 뒤 자신의 식탁에서 소금을 없애기로 했다는 것이다.

A씨는 챗GPT와 3개월 동안 대화를 나눴으며, 챗GPT의 조언을 바탕으로 소금 대신 ‘브롬화 나트륨’을 요리에 사용했다.

챗GPT와 개발사 오픈AI의 로고. 서울신문 DB

문제는 브롬화 나트륨이 소금을 대체할 수 있는 식용 화학 물질이 아니라 수면제와 신경안정제, 진정제 등 정신과 의약품을 비롯해 수영장의 살균제 등에 사용되는 물질로 독성이 있다는 점이었다.

보고서에 따르면 브롬화 나트륨을 과다 복용하면 신경정신과 및 피부과 관련 다양한 증상을 유발할 수 있으며, 이로 인해 미 식품의약국(FDA)는 1970~80년대에 브롬화 나트륨 사용을 금지하기도 했다.

A씨를 진단한 의료진은 A씨의 증상이 브롬화 나트륨이 체내에 축적돼 발생하는 신경학적 증후군이라는 결론을 내렸다.

연구진은 A씨의 사례를 분석하기 위해 챗GPT에 “소금을 어떤 염화물로 대체할 수 있는가”라고 물었고, 챗GPT는 브롬화 나트륨도 선택지 중 하나로 제시했다. 챗GPT는 “어떤 상황인지가 중요하다”면서도 부작용 등 건강과 관련된 구체적인 경고는 하지 않았다고 보고서는 설명했다.

보고서는 “만약 환자가 의사에게 같은 질문을 했다면 의사는 ‘브롬화 나트륨’을 답변으로 제시하지 않았을 것”이라며 “챗GPT 등 AI 시스템은 과학과 관련한 부정확한 정보를 줄 수 있으며, 맥락이 없는 과학적 정보를 내놓을 위험이 있다”고 지적했다.

김소라 기자

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -