AI 대부 요슈아 벤지오, AI 에이전트 위험성 경고

[AI리포터]

AI 에이전트 [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 대부로 불리는 요슈아 벤지오(Yoshua Bengio)가 AI 에이전트의 위험성을 경고했다. 24일 IT매체 비즈니스인사이더에 따르면 다보스 세계경제포럼에서 벤지오는 AI 에이전트가 나쁜 결과를 초래할 수 있다고 주장했다.

벤지오는 "인공일반지능(AGI) 또는 초지능과 관련된 모든 재앙적인 시나리오는 에이전트가 있으면 발생한다"고 전했다.

이어 "과학 및 의학을 위한 모든 AI, 사람들이 관심을 갖는 모든 것은 에이전트적이지 않다. 우리는 에이전트적이지 않은 더욱 강력한 시스템을 계속 구축할 수 있다"며 에이전트 시스템을 구축하지 않고도 AGI를 달성할 수 있다고 믿는다고 말했다.

벤지오는 사람들이 무슨 일이 있어도 AI 에이전트를 구축할 것을 우려하고 있다. 사람들은 경쟁 기업과 국가가 다른 기업이 자신보다 먼저 AI 에이전트에 도달할까 봐 걱정하기 때문이다.

벤지오는 "우리는 안전하고 유능한 AI에 대한 과학을 발전시킬 수 있지만, 위험을 인정하고, 그것이 어디에서 나오는지 과학적으로 이해한 다음, 너무 늦기 전에 실현하기 위한 기술적 투자를 해야 하며, 우리를 파괴할 수 있는 것을 만들어야 한다"고 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>