IBM-그록, 차세대 AI 인프라 구축…실시간 인텔리전스 혁신

[AI리포터]

[디지털투데이 AI리포터] IBM과 그록(Groq)이 에이전틱 인공지능(AI)을 가속화하는 전략적 협력을 발표했다.

20일(현지시간) 실리콘앵글에 따르면 이번 협력으로 IBM의 왓슨x 오케스트레이트(watsonx Orchestrate)와 그록의 언어 처리 유닛(LPU)·그록클라우드(GroqCloud) 인프라가 결합돼 기업이 실시간 인텔리전스를 활용할 수 있게 된다.

IBM은 신뢰할 수 있는 에이전틱 워크플로를 오케스트레이션하는 데 중점을 두고 있으며, 이를 통해 비기술자도 인적자원(HR), 고객 서비스, 금융 등에서 다중 에이전트 워크플로를 자동화할 수 있도록 지원한다. 그록은 결정론적 아키텍처를 기반으로 10배 빠른 추론 성능을 제공하며, 기업이 더 단순하고 에너지 효율적인 AI 인프라를 구축할 수 있도록 한다.

이번 협력에 따라 기업 고객들은 왓슨x 오케스트레이트 내에서 직접 그록클라우드 추론을 활용해 즉각적인 분석, 의사 결정 및 자동화를 구현할 수 있다. 또한 레드햇(Red Hat) vLLM과 그록 LPU 스택을 통합해 오픈소스 추론 오케스트레이션과 그록의 초고속 하드웨어 계층을 연결할 수 있다. 이를 통해 개발자들이 기존 AI 애플리케이션을 최소한의 코드 변경으로 그록클라우드로 전환할 수 있도록 지원할 전망이다.

양사는 AI 에이전트와 결정론적 속도, 신뢰성·투명성·규제 준수라는 세 가지 핵심 요소를 동시에 구현함으로써 기업이 AI를 실현 가능한 수준으로 확대할 수 있도록 지원한다는 목표를 밝혔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>