데이터이쿠, 대규모 AI 에이전트 구축·운영 지원하는 통합 플랫폼 출시

통합 AI 플랫폼 업체 데이터이쿠(Dataiku)가 대규모 AI 에이전트의 구축과 운영을 위한 ‘데이터이쿠 AI 에이전트(AI Agents with Dataiku)’를 출시했다고 밝혔다. 데이터이쿠 AI 에이전트는 분석과 예측 모델, AI 에이전트로 구동되는 차세대 AI 애플리케이션으로, 기업이 AI 에이전트를 대규모로 생성하고 제어할 수 있도록 지원한다.

최근 1년 사이 생성형 AI와 AI 에이전트의 활용이 빠르게 확산하고 있다. 실제로 데이터이쿠 고객의 20% 이상이 생성형 AI를 자사 비즈니스와 데이터 워크플로우에 통합했으며, 고객당 1,000건 이상의 활성 활용례를 가진 프로젝트도 다수 있는 것으로 나타났다.

그러나 AI 에이전트를 급하게 도입하면서 에이전트가 IT 통제 없이 운영되거나, 품질이 일관되지 않고 여러 조직에 무분별하게 퍼지는 비효율적인 아키텍처가 생성되는 경우가 많다. 이런 문제를 해결하기 위해 데이터이쿠는 통합 AI 플랫폼 내 에이전트 기능을 엔터프라이즈 환경에 맞게 고도화했다.

데이터이쿠 AI 에이전트는 신뢰할 수 있는 데이터를 기반으로 작동하며, 기존 운영 워크플로우와 통합되고, 다양한 AI 입력과도 유기적으로 연결된다. 또 기업의 핵심 자산 수준으로 안전하게 관리할 수 있도록 설계됐다.

데이터이쿠 CEO 플로리안 두에토는 “AI는 원초적인 기술이며, 이제는 기업이 AI를 주도적으로 통제해야 할 때다. 지난 20년간 스노우플레이크, 워크데이, SAP 같은 시스템을 기반으로 한 엔터프라이즈 애플리케이션을 AI 기반의 애플리케이션으로 전환해야 할 시점이 온 것이다. 이를 위해서는 분석, 모델, 에이전트를 유기적으로 결합하는 것이 필수적이며, 데이터이쿠는 이를 통합적으로 지원한다”라고 밝혔다.

중앙 집중형 기능으로 AI 에이전트 거버넌스 강화

많은 기업이 통제되지 않은 에이전트 이니셔티브 난립에 따른 부작용을 체감하고 있다. 데이터이쿠는 이런 문제를 해결하기 위해 기술 수준에 관계없이 사용자가 중앙에서 효율적으로 AI 에이전트를 생성하고 관리할 수 있도록 지원한다. 비기술적 비즈니스 사용자를 위한 노코드 기반 ‘비주얼 에이전트(Visual Agent)’와 개발자를 위한 풀코드 기반 ‘코드 에이전트(Code Agent)’를 모두 동일한 플랫폼 내에서 제공하며, 생성 방식에 상관없이 통합된 거버넌스를 구현할 수 있다.

거버넌스를 지원하는 주요 기능으로는 ▲에이전트에 사용되는 툴을 중앙에서 검증하는 ‘관리형 에이전트 툴(Managed Agent Tool)’ ▲조직 전체에 에이전트 활용례를 통합 관리하고, 비즈니스 가치와 리스크를 체계적으로 평가할 수 있는 ‘생성형 AI 레지스트리(GenAI Registry)’ ▲운영 환경에 배포하기 전 리스크를 점검할 수 있는 ‘위험 모니터링 승인(Sign-off for risk monitoring)’ 등이 있다.

AI 모델의 급속한 진화와 운영 비용 모니터링의 어려움으로 인해 에이전트 생태계의 보안 및 거버넌스 리스크가 커지고 있다. 이에 따라 IT팀은 자체 보호체계를 구축하거나 특정 보안 솔루션을 도입하거나, 실험을 자유롭게 허용하는 등의 선택을 해야 하며, 각각의 선택지는 확장성과 제어에 따른 위험을 수반한다.

데이터이쿠는 IT팀이 대규모로 에이전트를 오케스트레이션 할 수 있는 다양한 기능을 제공한다. ‘데이터이쿠 LLM 메시(Dataiku LLM Mesh)’는 오픈AI, 앤트로픽, 미스트랄 등 주요 상용 모델은 물론, 베드락, 애저, 제미나이 등의 클라우드 서비스와 라마, 딥시크 등 오픈소스 모델까지 통합적으로 관리하도록 지원한다. 또한 기업 정책에 따라 보호 정책을 유연하게 정의하고 적용할 수 있는 ‘세이프가드(Safe Guard)’, 조직 내 에이전트 접근을 단일 인터페이스에서 통합 관리하는 ‘에이전트 커넥트(Agent Connect)’를 제공한다.

AI 에이전트는 특성상 변화가 잦고 불안정해 예기치 않은 오류가 발생하거나 시간이 지남에 따라 성능이 저하될 수 있다. 기업은 이러한 특성을 고려해 에이전트 성능을 지속적으로 테스트하고 최적화하는 운영 체계를 갖출 필요가 있다. 데이터이쿠는 이를 지원하기 위해 고도화된 관찰 및 성능 모니터링 기능을 제공한다.

▲‘트레이스 익스플로러(Trace Explorer)’는 에이전트의 의사결정 과정, 입출력 흐름, 오류 원인 등을 투명하게 추적하고 디버깅할 수 있도록 지원하며 ▲‘퀄리티 가드(Quality Guard)’는 평가형 LaaJ(LLM-as-a-judge) 방식, 테스트용 평가 세트, 골든 데이터 세트 등을 활용해 성능을 지속적으로 점검하고 검증할 수 있다. ▲‘코스트 가드(Cost Guard)’를 통해서는 실시간 사용량 추적, 예산 관리, 내부 비용 배분 등을 지원해 운영 효율성을 높일 수 있다.

데이터이쿠는 스노우플레이크, 데이터브릭스, 마이크로소프트, AWS, 구글 등 주요 클라우드, AI 모델 제공업체, 데이터 플랫폼과 연동해 기업이 데이터를 보유한 모든 환경에서 AI 에이전트가 원활히 작동하도록 지원한다. AI 에이전트 기능은 통합 AI 플랫폼 내에서 제공되기 때문에 고객은 기존 데이터 파이프라인, MLOps, 모델 거버넌스 프로세스와 쉽게 연계할 수 있다. 데이터이쿠는 이를 통해 중복 작업을 줄여 ROI 향상에 기여할 수 있다고 설명했다.

데이터이쿠 AI 에이전트에 대한 자세한 내용은 데이터이쿠 홈페이지에서 확인할 수 있다.
dl-itworldkorea@foundryco.com

편집부 editor@itworld.co.kr
저작권자 Foundry & ITWorld, 무단 전재 및 재배포 금지