[디지털데일리 이안나 기자] 생성형 AI 확산이 기업들의 도입 결정을 빠르게 앞당기고 있지만, 실제 현장에서는 기술 구현보다 복잡한 조직운영이나 인재, 데이터 활용 등이 본격 과제로 떠오르고 있다.
한국IBM이 17일 여의도 국제금융센터에서 개최한 ‘AI 인사이트 포럼’에서는 글로벌 CEO 조사 결과와 함께 국내 기업들의 AI 적용 현황과 실행 과제가 공유됐다. IBM 조사에 따르면 글로벌 CEO 중 61%는 AI 대규모 도입 준비가 됐다고 답했지만, 한국 CEO는 45%에 그쳤다.
김현정 한국IBM컨설팅 대표는 “AI는 단순한 기술 도입을 넘어 경제구조 자체를 뒤흔드는 창조적 파괴의 시대로 접어들었다”고 진단했다. 그러면서 “AI 도입에서 ROI 역시 단순 수익 중심이 아니라 생산성·효율성 관점으로 새롭게 이해돼야 한다”고 강조했다.
이날 발표된 국내 기업 사례들도 AI 도입 과정에서 마주한 현실적 고민과 대응을 보여줬다. 미래에셋증권은 망분리 환경에서 GPU 등 온프레미스 인프라를 먼저 구축한 뒤 어시스턴트 기반 로우코드 플랫폼을 도입했다. 이를 통해 백오피스 업무부터 컴플라이언스·HR, 실시간 마켓데이터 가공 및 종목 리포트 자동 생성까지 확장 중이다.
주세민 미래에셋증권 AI솔루션본부장은 “향후 고객응대, 투자 리서치 등 프런트엔드 업무로도 적용 범위를 넓힐 계획”이라면서 “온프레미스는 한계가 있기 때문에 금융혁신서비스 지정을 계기로 클라우드 전환도 준비 중”이라고 전했다.
서울AI재단은 공공 행정에 AI를 적극 도입 중이다. 주성환 AI혁신사업본부장은 “서울시 공무원 절반 이상이 생성형 AI를 업무에 활용하고 있고, 거의 매일 쓰는 사람도 절반을 넘는다”고 현황을 소개했다.
다만 예산 제약과 보안 규제로 데이터 활용에 한계가 있는 만큼 중앙정부 차원의 공통 플랫폼 제공 등 생태계 지원이 필요하다는 입장을 내놨다. 공공부문의 경우 ROI 역시 수익 지표보다 행정 효율성, 내부 교육 성과 등을 중심으로 평가되고 있는 현실도 공유했다.
제조업에서는 코웨이가 PoC(개념검증)를 동시다발적으로 병행하며 다양한 분야에서 AI 실험을 진행하고 있다. 성공 사례는 빠르게 전사 확산하고 있으며, SAP-빅데이터 통합, 전사적 프롬프트 엔지니어링 교육 확대를 통해 내부 AI 역량 강화에도 나섰다.
김동현 코웨이 DX센터 전무는 “특히 생성형 AI를 가지고 테스트를 진행하면 모든 최고기술책임자(CTO)들은 거의 99%는 실패라고 생각한다”면서도 “만일 성공한다면 그게 가져올 파괴력이 크기 때문에 그 1%에 매달린다”고 현실을 전했다.
특히 기존 SI 기반 개발자들이 AI 심층 개발로 전환하는 데 기술 격차가 존재하는 현실을 지적하면서도, 이를 보완하기 위한 내부 교육체계를 구축 중이라고 설명했다.
AI 도입 초기 기업들은 인재 확보와 데이터 환경 개선에서 공통적 고민을 안고 있다. IBM 조사에서도 CEO의 56%는 핵심 기술 인재 확보 및 유지에 어려움을 겪고 있다고 답했다. 금융권에서는 AI 핵심 인재의 역량 차이가 성과를 좌우하는 만큼 인재 수급이 최대 과제로 꼽히고 있고, 공공부문 역시 장기적 인재 양성을 위해 제도적 지원이 필요하다는 목소리가 나온다.
주세민 본부장은 “AI는 특정 사람이 있으면 다 할 수 있고 그 사람이 없으면 못하는 일들이 있다”며 “한 사람의 생산성이 10배 20배 100배 이상 차이가 나기 때문에 적정한 인력을 소싱하는 것이 가장 큰 리스크”라고 토로했다.
산업 전반을 아우르는 생태계 설계 필요성도 강조됐다. 주 본부장은 “AI 반도체·서버·플랫폼 등 밸류체인 연결 부족으로 인해 수요-공급 간 인센티브 매칭이 미흡하다”며 “생태계 내 서로 주고 받을 수 있는 관계를 구축하고 여기에 인센티브를 주면 도움이 될 것”이라고 전했다.
김동현 전무는 “국내에서도 핵심 모델을 보유한 대형 클라우드 사업자가 등장해야 중소기업들이 저렴한 비용으로 AI를 활용할 수 있을 것”이라며 “AI는 규모가 돼야 품질이 따라오는 특성상, 작은 업체를 많이 만들기보다는 소수라도 대규모이면서 누구든 접근 가능하고 수익성도 확보하는 플랫폼이 필요하다”고 강조했다.
이날 패널들은 AI 도입 초기 단계 기업들을 향해 “완벽을 기다리지 말고 빠르게 실행하며 꾸준히 실험을 반복하는 것이 결국 AI 성과로 이어진다”고 조언했다.
- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -




























































