아이티센씨티에스, 고성능 AI 인프라 기반 'AI 이노베이션 데이터센터' 개소

[아이뉴스24 윤소진 기자] 아이티센씨티에스는 고성능 인공지능(AI) 인프라를 갖춘 ‘AI 이노베이션 데이터센터’를 개소했다고 16일 밝혔다.

아이티센씨티에스 AI이노베이션데이터센터 이미지. [사진=아이티센씨티에스]

AI 센터는 엔비디아의 최신 H200 GPU, 시스코의 400G 이상 고성능 네트워크 장비 등에 기반한 초고속·초저지연의 AI 전용 인프라로 구현됐다.

아이티센씨티에스에 따르면 AI 센터는 CPU를 거치지 않고 GPU 간 직접 메모리 접근을 가능하게 하는 RoCE(RDMA over Converged Ethernet) 기술을 도입했다. 이를 통해 AI 워크로드 수행 시 발생하는 네트워크 병목을 최소화하고 대규모 분산 훈련과 실시간 추론 환경에서 최소 40% 이상의 네트워크 성능을 향상했다. GPU 간 통신 효율도 개선돼 AI 모델이 수백 테라바이트(TB) 규모의 데이터셋을 지연 없이 처리할 수 있다.

시스코의 차세대 AI 네트워크 아키텍처인 넥서스 하이퍼패브릭을 함께 적용해 GPU 클러스터와 스토리지, 컴퓨팅 노드 간 데이터 흐름을 최적화함으로써 AI 모델 학습 속도는 최대 60% 향상됐다. 데이터 전송 지연은 2μs 이하로 단축됐다. 수천 개 노드 간 선형 확장이 가능한 네트워크 구조를 구현했다.

AI 센터는 데모 센터 형태로 운영된다. AI 기술 및 인프라를 실증하고 고객 맞춤형 아키텍처를 테스트하는 공간으로 활용된다.

아이티센씨티에스 관계자는 “시스코의 넥서스 하이퍼패브릭 아키텍처는 RoCE 네트워크 기반 AI 인프라가 느리다는 고정관념을 깨뜨렸다”며 “진정한 AI 성능을 실현할 수 있는 인프라로 고객에게 실질적인 가치를 제공하겠다”고 밝혔다.

/윤소진 기자(sojin@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]