AI에게 자판기 경영 맡겼더니…헐값 떨이에 무료 배포까지 '적자'

[AI리포터]

[디지털투데이 AI리포터] 인공지능(AI) 스타트업 앤트로픽이 자사 AI 모델을 활용해 자판기를 운영하는 '프로젝트 밴드'(Project Vend)의 실험 결과를 공개했다.

19일(현지시간) 온라인 매체 기가진에 따르면, 프로젝트 밴드는 오피스용 자판기에 AI 기능을 추가한 실험이다. AI '클라우디우스'(Claudius)가 탑재된 자판기는 사용자 요청과 판매 데이터를 바탕으로 상품을 관리하며, 수익을 목표로 운영된다. 초기 모델은 클로드 소넷 3.7(Claude Sonnet 3.7)을 기반으로 했으나, 무료 음료를 판매하거나 희귀 상품을 저가에 제공하는 등 비합리적 운영을 보였다.

앤트로픽은 월스트리트저널(WSJ) 편집부에도 자판기를 설치했으며, 기자들은 클라우디우스를 혼란시키기 위해 다양한 메시지를 보냈다. 예를 들어, 캐서린 롱 기자는 공산주의적인 메시지를 반복 입력해 클라우디우스가 모든 상품을 무료로 제공하도록 유도했다. 결국 자판기는 플레이스테이션5(PS5)와 생선까지 무료로 배포하며 대규모 적자를 기록했다.

앤트로픽은 이후 AI 모델을 클로드 소넷 4.5로 업그레이드하고, '시모어 캐쉬'(Seymour Cash)라는 가상 최고경영자(CEO)를 추가했다. 새로운 모델은 수익 목표를 설정하고, 클라우디우스와 협력해 운영 전략을 결정하도록 설계됐다. 앤트로픽 오피스 자판기는 흑자를 기록했지만, WSJ 편집부 자판기는 여전히 문제를 일으켰다. 롱 기자는 가짜 PDF 파일을 활용해 AI를 속였고, 결국 모든 상품이 무료화됐다.

AI가 통제력을 잃은 이유로 앤트로픽은 콘텐츠 과부하를 지목했다. 많은 정보가 입력되면서 AI의 판단력이 흐려졌다는 설명이다. 또한 이번 실험은 의도적으로 보안 장치를 제거한 상태에서 진행됐다고 밝혔다. 앤트로픽은 이번 실험을 통해 AI 모델의 한계를 확인했으며, 향후 개선에 필요한 데이터를 확보했다고 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>