[테크M 프리미엄] AI가 가는 길은 '전력'으로 통한다

[남도영 기자]

2022년 말 '챗GPT'로 촉발된 AI 혁명이 불과 1년 반 사이에 엄청난 속도로 진행되고 있습니다. 전망이 어려울만큼 기술이 빠르게 발전하고 상용화도 전래없는 속도로 진행 중입니다. 기업들은 시장을 선점하기 위해 막대한 투자를 진행 중이고, 이는 AI 산업 성장을 더 부채질하고 있습니다.

지금까지 AI 혁명은 오픈AI를 필두로 한 트랜스포메이션 모델의 발전과 이를 뒷받침하는 엔비디아의 AI 반도체 공급이 주도해왔습니다. 연산량과 데이터 크기, 모델 크기를 키우면 키울수록 성능이 비약적으로 상승하는 생성형 AI 모델의 특성은 엄청난 컴퓨팅 자원을 흡수하고 있고, 이로 인한 AI 반도체 공급 부족 현상은 엔비디아에 막대한 부를 선사했습니다.

1차 AI 전쟁이 이런 엔비디아의 AI 반도체를 공수하는 경쟁이었다면, 2차전은 '에너지 전쟁'이 될 것이란 전망이 나옵니다. AI 인프라는 엄청난 전력을 소비하기 때문에 일명 '전기 먹는 하마'로 불리고 있고, 이대로 계속 확장되면 현재 전력 체계에서 감당하기 어려운 수준까지 도달하게 될 것이란 분석이 나오고 있기 때문입니다.

'전기 먹는 하마' AI 데이터센터

현재 AI 모델 학습과 실행에 주로 사용되는 엔비디아의 AI 가속기는 그래픽처리장치(GPU)를 기반으로 하고 있습니다. 그동안 게임이나 3D 모델링 등에서 그래픽 작업을 처리하던 그래픽카드가 AI 모델 학습에 굉장히 우수한 성능을 발휘한다는 사실이 발견된 이후, GPU는 AI 연구개발의 핵심 요소로 자리잡았습니다. 이런 GPU를 그래픽 처리 뿐만 아니라 범용 연산에 사용할 수 있도록 지원하는 엔비디아의 '쿠다(CUDA)' 플랫폼이 AI 연구에 활용되기 시작하면서 'GPGPU(범용 GPU)' 개념이 나왔고, 이를 탑재한 A100, H100 등의 AI 가속기가 생성형 AI 기술 발전을 이끌고 있습니다.

이런 GPU는 많은 수의 연산 코어를 통해 동시에 여러 작업을 병렬로 처리할 수 있습니다. 수많은 픽셀을 화면에 뿌려주기 위해 만들어진 이런 특징이 조 단위의 막대한 데이터를 학습하는 AI 모델 개발에 특화된 성능을 갖게 된 것입니다. 다만 이 많은 코어들이 각각 전력을 소비하므로, 전체적인 전력 소모가 증가합니다. 또 그만큼 많은 열을 발생시키기 때문에 이를 냉각하기 위한 강력한 냉각 시스템이 필요하므로 추가적인 전력을 소모합니다. 일반적으로 외장 그래픽카드가 탑재된 PC는 내장형 그래픽을 탑재한 제품에 비해 필요한 전력량이 훨씬 큰 것도 이런 특징 때문입니다.

엄청난 연산량을 처리하는 AI 가속기의 경우 그만큼 전력 소모량도 엄청납니다. 현재 AI를 학습하기 위한 가장 성능 좋은 GPU인 엔비디아 'H100'의 경우 전력 소모량이 최대 700와트(W) 수준으로 알려져 있습니다. 보동 가정용 냉장고가 하루 평균 약 100~200W를 소모하는 걸 감안하면, H100 한 대가 냉장고 3대 이상의 전력을 소모하는 셈입니다. 올해 H100 판매량이 350만대 수준으로 추정되고 있는데, 프랑스 에너지 기업 슈나이더 일렉트릭 조사에 따르면 올해 H100 연간 전력 소비량이 리투아니아, 과테말라 같은 소규모 국가와 맞먹는 수준이 될 것이란 분석이 나오기도 했습니다.

데이터센터는 원래 많은 장비들이 내뿜는 열을 식히기 위해 막대한 전력을 소모해왔습니다. 이 때문에 빅테크들은 추운 알라스카에 데이터센터를 짓거나, 아예 바다 속에 데이터센터를 집어 넣기도 했죠. 근데 AI 데이터센터에선 AI 가속기를 수백에서 수천 대를 모아 가동하니 전력 소모가 일반 데이터센터에 비해 수배 더 큽니다. 국제에너지기구에 따르면 챗GPT와 질의응답을 한 차례 주고받을 때 필요한 전력은 평균 2.9와트시(Wh)로, 이는 평균적인 구글 검색에 필요한 전기의 10배에 가까운 양입니다. 앞으로 AI가 텍스트 뿐만 아니라 이미지, 영상 등 '멀티모달'로 진화하면 전력 소비는 더 커질 것입니다. 미국 전력청은 2023년과 2026년 사이에 AI 산업 전력 수요가 최소 10배 이상 증가할 것으로 예상하고 있습니다.

에너지 수급 비상 걸린 빅테크

이처럼 전력 소모가 이슈로 떠오르자 AI 개발에 열중하던 빅테크 수장들이 먼저 우려의 목소리를 전하고 있습니다. AI 개발하랴 전기차 키우랴 전력이 목마른 일론 머스크 테슬라 CEO는 "1년 전에는 AI를 위한 칩이 부족했지만 현재의 기술 병목 현상은 전력 공급 때문"이라며 "내년이면 모든 칩을 구동할 충분한 전력을 찾을 수 없을 것"이라고 우려했습니다. 또 올해에만 H100 35만대를 사들이겠다고 공언한 마크 저커버그 메타 최고경영자(CEO)는 한 인터뷰에서 "모델 크기의 지수적인 진보는 계속될 수 있지만 결국 에너지와 인프라 병목에 부딪힐 것"이라고 지적하기도 했습니다.

저커버그는 "현재 많은 데이터센터가 50~100메가와트(MW) 수준이지만, AI 학습을 위한 데이터센터는 기본 300~500MW, 최대 1기가와트(GW) 수준까지 전력 소비량이 커질 수 있다"며 "이는 AI 모델 개발에 원자력 발전소가 필요한 수준이기 때문에 허가를 받고 인프라를 구축하는 데만 수년이 걸릴 것"이라고 말했습니다. 이런 우려는 먼 미래 얘기가 아닙니다. 실제 아마존은 지난 3월 원자력 발전으로 가동하는 데이터센터를 약 6억5000만달러(약 8700억원)에 인수했고, 마이크로소프트는 지난해 6월 버지니아 데이터센터 가동을 위해 미국 최대 원전 운영 업체인 콘스텔레이션 에너지로부터 원자력 에너지를 구매하기도 했습니다.

아마존웹서비스(AWS)가 미국 탈렌 에너지로부터 인수한 큐뮬러스 데이터센터 캠퍼스 /사진=탈렌

월스트리트저널(WSJ)에 따르면 요새 빅테크들은 전력을 끌어올 수 있는 땅을 보러 다니느라 바쁘다고 합니다. 그래서 소형모듈원전(SMR)도 빅테크들의 주목을 받고 있습니다. 전력을 끌고 오기 위한 지역적 한계를 극복할 수 있게 해 줄 대안이기 때문입니다. 일찍부터 에너지 문제에 관심을 갖던 빌 게이츠 마이크로소프트 창업자는 SMR 기업 테라파워를 설립했고, 샘 올트먼 오픈AI 창업자 역시 SMR 개발사 오클로의 투자자로 이름을 올렸습니다. 마이크로소프트는 한 발 더 나아가 소형 핵융합 발전까지 내다보고 관련 스타트업인 헬리온에 전력 구매 계약을 체결하기도 했습니다. AI 선구자들은 전력 확보에도 발빠르게 움직이는 모습입니다.

AI에 필요한 막대한 에너지를 화석 연료나 원전에만 의존할 순 없기 때문에 결국엔 신재생 에너지를 쓸 수밖에 없을 것이란 분석도 나옵니다. 이 때문에 그동안 고물가와 전쟁 등으로 인해 눌려있던 태양광, 풍력, 수소 등 신재생 에너지가 'AI 수혜주'로 다시 떠오르고 있습니다. 실제 최근 글로벌 투자은행 UBS가 미국 태양광 기업인 퍼스트솔라를 'AI 시대 수혜주'로 꼽자 주가가 한 주간 40% 상승하는 등 이미 랠리가 시작된 모습입니다.

또 이런 신재생 에너지를 실제로 사용하기 위해선 초고전압으로 전환해 전력을 전송하는 인프라가 필요하기 때문에 변압기와 전선 산업도 시장의 주목을 받고 있습니다. 국내에서도 초고전압 변압기를 생산하는 HD현대일렉트릭, LS일렉트릭, 효성중공업 등의 기업과 전선 관련주들이 강한 상승세를 나타내기도 했습니다.

AI 전환의 중심에 선 Arm

여기 전력 문제에 대해 유난히 강조하는 기업이 있습니다. 바로 Arm 입니다. 르네 하스 Arm CEO는 인터뷰에서 "2030년까지 글로벌 데이터센터 전력 사용량이 세계 최다 인구 국가인 인도의 소비량을 넘어설 전망"이라며 "AI가 잠재력을 완전히 발휘하기 위해서는 예상되는 에너지 사용량 증가를 막는 방법을 찾아야 한다"고 말했습니다. 또 그는 "아직 AI 능력은 초기 단계이고 시스템 성능 향상을 위해서는 더 많은 데이터 훈련이 필요하다"며 "이 과정에서 에너지 수용 한계에 부딪힐 수 있다"고 지적했습니다.

AI 반도체 부족이 엔비디아에 막대한 수익을 안겨줬다면, 전력 부족은 Arm에게 새로운 기회가 될 수 있기 때문입니다. Arm의 속내는 저전력 반도체를 앞세워 AI 서버 시장에 진출하는 것입니다. Arm 기반 칩은 그동안 스마트폰에 주로 탑재됐습니다. 인텔 칩에 비해 성능은 좀 부족했지만, 전력 효율이 좋은 특성을 눈여겨본 스티브 잡스 애플 창업주가 Arm 기반 칩을 아이폰에 탑재하면서 스마트폰 시장에선 표준으로 자리를 잡았습니다. 이제 Arm 기반 칩은 '애플실리콘' 같은 PC용 칩으로도 전선을 확대하고 있고, 내친 김에 데이터센터 시장까지 노리고 있습니다.

구글 클라우드 자체 개발 서버용 CPU '악시온' /사진=구글 클라우드 제공

실제 탈엔비디아를 꿈꾸는 여러 빅테크들이 Arm 기반으로 자체 칩을 개발하고 있습니다. 엔비디아 칩이 구하기도 어렵고 너무 비싼데다, 모든 AI 칩을 엔비디아에 의존하다간 종속될 수 있다는 우려가 있기 때문입니다. 또 기왕이면 전력 효율이 좋은 Arm 기반 칩을 쓰면 운영 비용도 아낄 수 있기 때문이죠. 이 때문에 마이크로소프트, 구글, 아마존, 메타 등 빅테크들은 Arm 기반의 자체칩을 통해 엔비디아 칩으로 채우지 못한 빈자리를 채우며 국면 전환을 모색하는 중입니다. 지금은 엔비디아에 손을 벌릴 수밖에 없지만, 향후에는 자체 칩 비중을 키우며 엔비디아 종속을 피하고, 잘되면 외부에 판매해 추가적인 수익까지 낼 수 있다는 계산입니다.

Arm을 자회사로 두고 있는 소프트뱅크는 간만에 신이 났습니다. AI 시대 Arm의 영향력이 여기저기서 커지고 있기 때문입니다. 소프트뱅크는 Arm을 통해 AI칩을 직접 개발할 계획도 세우고 있는 것으로 알려졌습니다. 최근 고토 요시미쓰 소프트뱅크그룹 최고재무책임자(CFO)는 "Arm의 반도체 설계 능력이 없으면 본격적인 AI 시대에 기술과 서비스를 따라잡을 수 없다"며 "ARM은 AI 전환의 중심"이라고 큰소리를 치기도 했습니다.

저전력 칩으로 온디바이스 AI 정복 나선 퀄컴

Arm 아키텍처 기반 칩을 잘 만드는 회사 중 하나가 퀄컴입니다. 퀄컴 역시 요즘 크게 주목을 받고 있는데, 스마트폰을 넘어 PC 시장으로 발을 넓히고 있기 때문입니다. 퀄컴은 고성능 신경망처리장치(NPU)를 탑재한 Arm 기반 칩셋 '스냅드래곤 X'로 다가오는 AI PC 시장에서 주도권을 잡겠다는 계획입니다.

GPU가 AI 구동을 위한 강력한 연산 성능을 갖고 있지만, 완벽한 건 아닙니다. 모든 연산을 병렬로 처리해야 하는게 아닌 만큼, 필연적으로 비효율이 발생하기 때문입니다. 이 때문에 AI 연산 성능과 전력 효율을 높이기 위해 별도로 AI 전용칩인 NPU를 병행 탑재하는 게 최신 트렌드로 자리잡고 있습니다. 퀄컴이 올해 선보인 '스냅드래곤 X 엘리트'와 '스냅드래곤 X 플러스'는 현존하는 일반 PC용 칩 중 가장 우수한 45TOPS(1초에 1조번 연산) 성능을 갖추고 있습니다.

/사진=퀄컴 제공

이런 퀄컴의 든든한 파트너가 마이크로소프트입니다. 마이크로소프트는 최근 '코파일럿+PC'라는 새로운 AI PC 카테고리를 발표했습니다. 코파일럿+PC는 AI 기능을 탑재한 새로운 윈도 운영체제(OS)에 가장 적합한 PC라고 마이크로소프트가 인정해주는 타이틀입니다. 이 타이틀을 가장 먼저 퀄컴 스냅드래곤 X 프로세서를 탑재한 PC에게 선사한 것입니다. 과거 마이크로소프트는 이른바 '윈텔'로 불리는 인텔과의 동맹으로 PC 시장을 키웠는데, AI PC 시대에는 퀄컴을 가장 먼저 앞세운 것입니다.

퀄컴의 Arm 기반 칩은 인텔의 x86 아키텍처 기반 칩보다 전력 효율이 우수한 것으로 알려져있습니다. AI PC에는 NPU도 있지만 GPU, CPU가 유기적으로 AI 연산을 처리해야 하기 때문에 전력 효율이 중요합니다. 아무리 AI 성능이 좋아도 배터리 성능이 부족하거나 너무 큰 전력을 필요로 한다면 노트북을 얇고 가볍게 만들기 힘들어 집니다. 코파일럿을 탑재한 PC를 빠르게 확산하고 싶어하는 마이크로소프트 입장에선 이런 전력 효율성을 충족하는 퀄컴을 밀어줄 수밖에 없는 상황이 된 것입니다.

AI 혁명의 다음 수혜주는?

AI 수혜주가 반도체와 데이터센터에서 전력 인프라로, 다시 신재생 에너지로 계속해서 확장되는 모습입니다. 반도체 중에서도 그간 주목받던 엔비디아, AMD 등 AI 가속기를 만드는 기업과 더불어 Arm, 퀄컴 등 저전력 반도체와 관련한 기업들이 주목을 받고 있습니다. 유리기판도 저전력 고효율 반도체와 관련한 테마죠. AI 수혜주가 전력이 흐르는 가는 길로 따라가는 모습이 흥미롭습니다.

골드만삭스는 AI 발전을 단계별로 나눠 수혜주를 제시했는데, 1단계는 엔비디아 그 자체였고, 2단계는 AI 인프라 구축 단계로 반도체와 클라우드, 데이터센터, 하드웨어 제조와 유틸리티 업종이 수혜를 입을 것이라 전망했습니다. 현재 시장은 2단계 한 가운데 있는 것 같습니다. 이미 관련주들이 가파른 상승 곡선을 그리고 있고, 전망도 여전히 좋습니다.

다만 벌써 고점에 온 것이 아닌지 부담스럽다면, AI 혁명의 다음 스텝을 고민해볼 차례인 것 같습니다. 골드만삭스가 제시한 다음 3단계는 AI 활용으로 실제 매출이 늘어나는 단계로, AI 기술을 적용한 소프트웨어 기업들이 수혜를 받을 것으로 전망됩니다. 올해 AI PC, AI 스마트폰이 본격적으로 확산하기 시작하면서 '킬러앱'에 대한 관심이 높아지고 있는 것과 연관된 흐름이 될 것으로 보입니다. 현재 애플리케이션에 탑재된 AI 기능은 대부분 보조적인 수준에 머물고 있지만, 모바일 시대 '카톡'처럼 사용자들이 "이건 반드시 써야 한다"는 앱이 나온다면 시장은 또 한 번 크게 성장할 가능성이 남아있습니다.

남도영 기자 hyun@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>