올트먼 오픈AI CEO “AI가 사람인 척 사기… 곧 영상통화도 복제할 것”

샘 올트먼 오픈AI CEO.

챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 인공지능(AI)으로 인한 ‘사기 위기’를 경고했다.

22일(현지시각) 미국 방송 CNN에 따르면 올트먼 CEO는 “저를 정말 두렵게 하는 것은 아직도 일부 금융 기관이 음성 인식을 돈을 이체하거나 다른 일을 처리하는 데 인증 수단으로 쓰고 있다는 점”이라며 “예컨대 사용자가 특정 문구를 말하면 그걸로 그렇게 해버리는 것”이라고 말했다. 이어 “지금도 그렇게 되고 있다는 게 말도 안 되는 일”이라며 “AI는 사람들이 현재 사용하는 대부분의 인증 방식을 완전히 무력화시켰다. 비밀번호를 제외하고는”이라고 덧붙였다.

올트먼 CEO는 이날 미국 중앙은행 연방준비제도(Fed·연준)에서 열린 AI의 경제·사회적 영향에 관한 한 행사에서 이같이 언급했다. 앞서 미국 연방수사국(FBI)도 지난해 AI 음성 또는 영상 ‘복제’ 위험에 대한 경고를 내놓은 바 있다. AI 음성 기술을 이용해 자녀가 위험에 처한 것처럼 부모들을 속여 돈을 요구한 사례도 다수 보고됐다. 이달 초 마코 루비오 미국 국무장관을 사칭한 사람이 AI를 활용해 조작한 목소리와 문자 메시지 등을 외국 외무장관들과 미국 주지사, 미국 연방 의원 등 최소 5명에게 보낸 것으로 드러나기도 했다.

올트먼 CEO는 “나는 지금 우리가 중대한, 임박한 사기 위기를 앞두고 있다는 점에서 매우 불안하다”며 “지금은 음성 통화지만 곧 현실과 구분할 수 없는 영상 통화나 페이스타임이 될 것”이라고 말했다. 그러면서 오픈AI가 이런 모방 도구를 개발하고 있진 않지만, AI가 계속 발전함에 따라 세계가 곧 직면하게 될 도전이라고 경고했다. 이로 인해 그는 온라인에서 무엇이 진짜인지, 누가 진짜인지 구분하기 어려운 세상에서 ‘인간임을 증명’(proof of human)할 수 있는 수단을 제공하는 기업들도 있을 정도라고 했다.

한편 올트먼 CEO는 AI가 고용에 미치는 영향에 대해선 “앞으로 어떤 일이 일어날지 아무도 모른다”고 말했다. 그는 “정말 똑똑해 보이는 예측들이 많다”며 “아무도 모른다. 내 생각엔 이 시스템은 너무 복잡하고, 너무 새롭고 영향력이 큰 기술이어서 예측하기가 매우 어렵다”고 말했다.

김수정 기자(revise@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>