"AI가 AI 개발하는 시대 1~2년 내 온다"…앤스로픽 CEO 경고

[이데일리 성주원 기자] 미국 인공지능(AI) 기업 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 AI 고도화에 따른 위험에 경종을 울렸다. AI가 인간 개입 없이 스스로 차세대 AI를 개발하는 시점이 1~2년 내 도래할 수 있다는 전망이다.

다리오 아모데이 앤스로픽 최고경영자(CEO) (사진=AFP)

27일 니혼게이자이(닛케이)신문에 따르면 아모데이 CEO는 26일(현지시간) 자신의 블로그에 “현재 AI가 자율적으로 차세대를 개발하는 단계까지 1~2년밖에 남지 않았을 가능성이 있다”고 밝혔다. 그러면서 “AI가 스스로를 개량하기 시작하면 진화 속도가 대폭 빨라질 것”이라고 경고했다.

그는 많은 분야에서 노벨상 수상자를 능가하는 지능을 가진 AI가 이르면 1~2년 후 등장할 것이라고 주장했다. 그 근거로 앤스로픽 내부에서 진행 중인 프로그래밍 자동화를 들었다. AI 개발에 쓰이는 소스코드 대부분을 이미 AI가 생성하고 있다는 설명이다.

아모데이 CEO는 AI 리스크로 인간 통제를 벗어난 폭주, 생물 테러 악용, 권위주의 국가의 악용, 경제 혼란 등을 열거했다. 국가 차원의 규제와 AI 기업의 안전 조치 강화가 필수적이라고 강조했다.

그는 특히 거대 테크기업과 미국 정부의 결탁에 우려를 표했다. 아모데이 CEO는 “테크기업의 경제적 이익과 정부의 정치적 이익이 결합해 왜곡된 동기를 만들고 있다”며 “테크기업이 정부 비판에 소극적이고, 정부가 AI 극단적 규제 완화를 지지하는 것에서 명백하다”고 비판했다.

아모데이 CEO는 AI가 만드는 부가 소수에 집중되면 사회 붕괴를 초래할 수 있다고도 경고했다.

그는 도널드 트럼프 미국 행정부가 지난해 말 승인한 엔비디아의 ‘H200’ 등 AI 반도체의 대중국 수출에도 반대 입장을 재확인했다. 첨단 제품을 중국에 수출하는 것을 “북한에 핵무기를 넘기면서 미사일 케이스가 보잉제라고 자랑하는 것과 같다”고 비유했다. 앞으로 수년이 AI 개발에 중요한 시기인 만큼 중국의 개발을 지연시켜야 한다고 주장했다.

아모데이 CEO는 AI로 인한 고용 충격에 대해서도 언급했다. 그는 “향후 1~5년간 초급 화이트칼라 직종의 절반이 대체될 것”이라며 기술적으로는 인간 대부분의 일을 해내는 AI가 5년보다 훨씬 빨리 실현될 것이라고 내다봤다.

앤스로픽은 대화형 AI ‘챗GPT’를 개발한 오픈AI의 주요 경쟁사다. 아모데이 CEO는 안전성 방침 차이로 오픈AI를 떠나 앤스로픽을 설립했다. 그는 트럼프 행정부 하에서 AI 규제 강화를 요구하는 몇 안 되는 테크업계 수장으로 꼽힌다.

사진=로이터