앤트로픽 CEO "AI 모델, 안정성 테스트 의무화해야"

[AI리포터]

[디지털투데이 AI리포터] 다이로 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)가 인공지능(AI) 모델에 대한 의무적인 안정성 테스트 필요성을 언급했다.

20일(현지시간) 블룸버그에 따르면 아모데이는 미국 상무부와 국무부가 주최한 AI 안전 서밋에서 "AI 기업들이 기술을 출시하기 전에 대중에게 안전한지 확인하기 위해 의무적인 테스트 요건을 적용받아야 한다"며 "테스트를 의무화하는 방식에 대해서도 신중해야 한다"라고 밝혔다.

이 발언은 미국과 영국의 AI 안전 기관이 앤트로픽의 AI 모델에 대한 테스트 결과를 발표한 후 나온 것으로, 아모데이는 기업들이 동의한 자발적이고 자율적인 안전 가이드라인보다 명확한 요구 사항이 필요하다고 강조했다.

그는 AI 기업들이 생물학적 위협과 기타 치명적인 피해를 테스트하고 있지만, 이러한 위험은 매우 빠르게 현실화될 수 있다고 주장했다. 이에 아모데이는 테스트 요건을 유연하게 유지해야 한다고 경고하며, 매우 어려운 사회 정치적 문제를 해결해야 한다고 말했다.

아모데이는 "기업들이 이러한 계획을 진정성 있게 따르고 있는지 실제로 검증하거나 보장할 수 있는 방법이 없다. 그들은 단지 그렇게 하겠다고 말했을 뿐"이라며 "대중과 직원들이 관심을 갖는다는 사실만으로도 어느 정도 압박감을 느낄 수 있지만 궁극적으로는 충분하지 않다고 생각한다"라고 덧붙였다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>