세계 최초 양자 우위 달성한 큐노바(Qunova Computing), 1000배 빠른 알고리즘으로 불가능을 현실로

- 기존 슈퍼컴 한계 뛰어넘는 양자 우위 달성

-100시간 걸리던 계산 40분만에...도로 보수부터 신약, 신소재 개발까지

- “양자컴퓨터 시장이 본격적으로 시작되는 변곡점에서 시장 선도할 기술력 확보”

양자컴퓨팅 혁신을 선도하는 큐노바컴퓨팅(Qunova Computing, 이하 큐노바)은 ‘HI-VQE(Handover Iteration Variational Quantum Eigensolver)’ 알고리즘으로 세계 최초 양자 우위(Quantum Advantage)를 실현했다. 이로써 그동안 만들어진 물질만 학습하던 AI의 한계를 뛰어넘어 새로운 물질을 창조하고 예측할 수 있게 됐다.

2021년 KAIST에서 교원 창업으로 시작된 큐노바는 이준구 대표(KAIST 전기전자공학부 교수 겸임)가 이끄는 양자컴퓨팅 소프트웨어 전문기업이다. 큐노바는 화학 문제 해결용 HI-VQE와 최적화 솔루션 HI-VQA, 열역학 솔루션 HI-VQLS 등 모든 알고리즘을 연내에 출시하고, 일반인이 사용할 수 있는 양자 알고리즘 기반 신약·신소재 디자인 플랫폼 밀키웨이(Milky Way)와 분자 해석 소프트웨어 펄사(Pulsar)를 2027년까지 출시할 계획이다.

큐노바는 전 세계에서 두 번째로 큰 슈퍼컴퓨터 '후가쿠'를 보유한 일본의 리켄(RIKEN)과도 연구를 진행하고 있다. 리켄과의 공동연구를 통해 큐노바의 양자 알고리즘이 세계 최고 수준의 슈퍼컴퓨터보다 빠르고 정확하다는 것을 입증하고 있다.

서울 강남구 사무실에서 만난 이준구 대표와 양자컴퓨팅, 양자우위, 큐노바가 개발하고 있는 알고리즘과 소프트웨어, 비즈니스 계획에 대해 이야기를 나눴다.

양자컴퓨터와 양자우위

현재 우리가 사용하는 컴퓨터는 0과 1의 비트(bit)로 정보를 처리한다. 하지만 양자컴퓨터는 '큐비트(qubit)'는 다른 단위를 사용한다. 큐비트의 핵심은 '중첩(superposition)'과 '얽힘(entanglement)'이라는 양자역학적 현상에 있다. 중첩은 0과 1이 동시에 존재할 수 있게 하고, 얽힘은 여러 큐비트가 서로 연결되어 정보를 공유하게 하는 것이다. 기존 컴퓨터가 미로를 풀 때 하나씩 길을 찾아가는 방식이라면, 양자컴퓨터는 모든 길을 동시에 탐색할 수 있는 능력을 가진다. 그래서 특정 문제에서는 기하급수적으로 빠른 계산이 가능하다. 예를 들어 기존 컴퓨터가 미로에서 출구를 찾는 방식은 하나씩 길을 탐색하는 것과 같다. A 길을 가보고 막다른 길이면 돌아와서 B 길을 시도하는 식으로 순차적으로 진행된다. 반면 양자컴퓨터는 중첩과 얽힘이라는 양자역학적 현상을 활용해 모든 길을 동시에 탐색할 수 있다.

큐비트 하나가 추가될 때마다 계산 능력이 2배씩 증가한다. 40큐비트면 페타스케일의 컴퓨팅이 가능하고, 60큐비트가 되면 현재의 슈퍼컴퓨터로는 불가능한 문제를 풀 수 있다. 60큐비트가 중요한 이유는 바로 여기에 있다. 양자우위란 바로 양자컴퓨터가 기존 슈퍼컴퓨터보다 특정 문제에서 더 빠르고 정확하게 계산할 수 있는 상태를 실현하는 것을 말한다. 즉, 기존 슈퍼컴퓨터로는 불가능했던 문제를 양자컴퓨터로 해결할 수 있게 된다. 이론적으로는 40큐비트부터 양자우위가 시작되지만, 실용적인 산업 활용을 위해서는 60큐비트 이상이 필요하다.

세계 최초로 양자 우위 달성...계산 결과 공개적으로 시연

큐노바는 최근 세계 최초로 양자 우위를 달성한 알고리즘을 상용화하며 주목받고 있다. 현재 VQE(Variational Quantum Eigensolver, 양자컴퓨터와 고전컴퓨터를 결합한 하이브리드 양자 알고리즘)는 양자컴퓨팅 시장의 40-50%를 차지하는 핵심 알고리즘이다. 이러한 VQE보다 성능을 100배 이상 개선한 게 큐노바의 HI-VQE로 HI-VQE는 68큐비트 규모다.

큐노바는 지난 3월에 HI-VQE 알고리즘을 IBM의 키스킷 펑션즈(Qiskit Functions, IBM이 양자컴퓨팅 생태계 구축을 위해 만든 핵심 플랫폼으로 양자컴퓨팅 분야의 '앱스토어'라고 할 수 있다) 플랫폼에 등록했다.

이 대표는 “IBM의 키스킷 펑션즈에 등록된 소프트웨어는 7개인데, 그중에서 양자 우위를 달성한 것은 큐노바가 유일합니다. 전 세계 양자컴퓨팅 소프트웨어 회사가 80개 정도 있지만, 대부분 인터넷에 떠도는 소프트웨어를 조합해서 제품을 만듭니다. 원천 기술 없이는 진정한 경쟁력이 나올 수 없어요."라고 설명했다.

“중요한 것은 큐비트 수가 아니라 현재의 슈퍼컴퓨터보다 더 빠르고 정확하게 계산하거나, 또는 더 정확하게 계산하는 유즈케이스를 달성하는 것입니다. 아예 불가능했던 일을 가능하게 만드는 것이 바로 양자우위의 핵심입니다.”

큐노바는 ‘2024년 퀀텀코리아’ 행사에서 세계 최초로 실시간 데모를 선보였다. 황화리튬(Li2S)이라는 화합물의 분자 구조 해석을 실시간으로 보여줬다. 이는 세계 최초로 양자컴퓨터를 활용해 실제 의미 있는 계산 결과를 실시간으로 얻어내는 과정을 공개적으로 보여준 사건이었다. 그동안 양자컴퓨터 하드웨어 회사들은 자신들의 장비가 작동한다는 것을 보여줄 수는 있었지만, 실제로 의미 있는 계산 결과를 실시간으로 얻어내는 시연은 없었다.

30년 간 양자컴퓨팅 연구한 끝에 창업

세계 유일한 양자우위를 달성한 큐노바는 어느날 갑자기 이루어진 게 아니다. 이준구 대표의 양자컴퓨팅 여정은 30년 전으로 거슬러 올라간다. 1996년 미국 NEC 연구소에서 양자컴퓨팅 연구를 시작한 이 대표는 이 분야의 산증인이라 할 수 있다.

"2018년 국내 최초로 대학 양자컴퓨팅 ITRC 센터를 유치하면서 본격적인 연구를 시작했습니다. 그런데 연구만으로는 한계가 있더군요. 실제 산업에 적용할 수 있는 기술을 만들고 싶었고, 그러기 위해서는 창업을 해야 했습니다."

이 대표와 공동연구를 해온 남아프리카공화국의 프란체스코 페트루치오네(Francesco Petruccione) 교수가 공동창업자로 참여했다. 페트루치오네 교수는 양자기계학습 분야의 세계적 권위자로, 최초의 양자기계학습 교과서를 저술한 인물이다.

현재 26명의 직원 중 절반이 외국인이며, 21명이 연구개발자, 그중 14명이 박사학위 소지자다. 최근에는 아마존 출신의 김재완 박사를 CPO(Chief Product Officer)로 영입하며 글로벌 시장 진출에 박차를 가하고 있다. 김재완 CPO는 아마존에서 10억 달러 매출을 달성한 경력의 소프트웨어 엔지니어링 전문가다.

"국내 인력 확보의 어려움도 있었지만, 더 중요한 이유는 고객이 대부분 해외에 있기 때문입니다. 글로벌라이제이션을 위해 인력을 이렇게 구성했어요."

2022년 토론토 대학의 창의적 파괴 랩(Creative Destruction Lab) 양자 스트림 프로그램을 졸업한 것도 글로벌 네트워크 구축에 큰 도움이 되고 있다. 50개 팀이 시작해 10개 팀만 졸업한 이 프로그램을 통해 베세머 파트너스 같은 글로벌 투자사와 네트워킹을 구축했다.

30년간 양자컴퓨팅 연구에 몰두해온 성과가 이제 현실이 되어가고 있는 것이다.

데이터가 없어도 신약, 신소재 개발 가능

HI-VQE의 핵심은 '하이브리드 접근법'에 있다. 양자컴퓨터와 기존 컴퓨터의 장점을 번갈아 활용하는 방식이다. 이 방법론의 혁신성은 업계에서도 인정받고 있다. 과거에는 불완전한 NISQ(Noisy Intermediate-Scale Quantum, 현재 단계의 불완전하지만 실용적인 양자컴퓨터) 양자컴퓨터로는 의미 있는 계산이 불가능하다고 여겨졌지만, 큐노바의 하이브리드 알고리즘이 그 통념을 깨뜨린 것이다.

이 대표는 ”"GPU가 나왔다고 CPU가 사라지지 않았듯이, 양자컴퓨터도 기존 컴퓨터를 대체하는 것이 아니라 서로 보완하는 관계입니다. 각각의 장점을 뽑아내서 결합했을 때 놀라운 성능이 나오는 거죠. 이런 방법론을 도입한 것도 저희가 처음이고, 원천 특허도 확보했습니다. 이 기술로 전 세계 최초로 양자 우위를 달성하게 됐죠.“

HI-VQE 알고리즘이 가장 큰 혁신을 가져올 분야는 신약과 신소재 개발이다. 현재 AI 기반 신약 개발이 각광받고 있지만, 한계도 분명하다. AI는 기존 데이터를 학습해야 하는데, 데이터가 없는 새로운 영역에서는 제대로 작동하지 않는다.

"AI가 할 수 없는 새로운 영역의 계산을 양자컴퓨터가 담당하는 거죠. 화학적 원리만으로 문제를 해석하기 때문에 데이터가 없어도 정확한 답을 구할 수 있습니다.“

헤모글로빈의 산소 운반 원리도 HI-VQE로 밝혀냈다. 우리 몸에서 헤모글로빈이 어떻게 산소를 운반하는지는 생명현상의 핵심이지만, 지금까지 정확한 메커니즘을 계산하기 어려웠다. 헤모글로빈의 중심에는 Fe-porphyrin(철 포르피린)이라는 화합물이 있다. 이 물질이 산소와 결합할 때 일어나는 에너지 변화를 정확히 계산하려면 약 1천만 개의 전자 궤도가 서로 어떻게 상호작용하는지 분석해야 한다. 큐노바는 44큐비트 규모로 이를 정확하게 해석해냈다.

우리 일상과 직결된 복잡한 문제도 해결 가능하다.

최적화 문제도 척척

예를 들어 특정 행정 구역에 있는 수만 개의 도로를 보수한다고 생각해보자. 각각의 도로를 언제, 어떤 순서로 보수해야 할지 결정하는 것은 매우 복잡한 문제다. 각 도로를 보수할지 말지를 나타내는 변수를 0 또는 1로 설정한다면, 이번 주에 보수할 도로들을 선택하는 것이 바로 의사결정 변수가 된다. 전체 도로가 몇 백, 몇 천 개라면 문제가 되지 않는데, 10만 개를 넘어선다면 문제가 달라진다. 전체 도로망을 한 번에 고려한 최적 보수 계획을 세우는 것은 기존 방법으로는 불가능하다.

큐노바의 HI-VQA 알고리즘은 10만 개에서 100만 개 변수까지 최적화할 수 있다. 전국 단위의 도로망 최적화도 가능하다는 의미다. "변수가 1만 개 정도 되는 문제는 현재 슈퍼컴퓨터에서도 풀 수 있지만, 10만 개 정도가 되면 슈퍼컴퓨터로도 해결할 수 없는 문제가 됩니다. 도로 보수와 같이 복잡한 문제에 대해 최적화 계산이 가능해지면 비용을 획기적으로 줄이면서도 시민들의 편의는 최대화할 수 있습니다"라고 이 대표는 강조했다.

열역학 기반의 항공기 설계도 가능

비행기 날개 설계 문제는 또 다른 차원의 복잡성을 보여준다. 항공기의 연료 효율성을 높이고 안전성을 개선하려면 날개 주변의 공기 흐름을 정확히 예측해야 한다. 여기에는 기체의 와류 분석, 날개 표면의 물 응집이나 결로 현상 등 복잡한 물리적 현상들이 관련된다. 이런 문제들을 해결하기 위해서는 공간을 매우 작은 격자들로 나누어 각 점에서의 물리적 상태를 계산해야 한다. 이준구 대표는 "현재 슈퍼컴퓨터로는 격자 노드가 1만 개를 넘어가면 계산이 불가능해지는데, 실제 항공기 설계에서는 훨씬 더 정밀한 계산이 필요합니다"라고 설명했다. 큐노바의 HI-VQLS는 10억 개 노드 규모의 문제도 해결할 수 있어, 기존에는 상상할 수 없었던 수준의 정밀한 설계가 가능해진다.

HI-VQE, 98개의 청구항의 원천 특허 출원

큐노바의 핵심 경쟁력 중 하나는 탄탄한 특허 포트폴리오에 있다. HI-VQE 관련해서만 98개의 청구항을 가진 원천 특허를 미국에 출원해 등록을 완료했다. 이 대표는 이를 퀄컴의 CDMA 특허에 비유했다.

"CDMA가 모바일 네트워크 액세스 문제를 해소해 모바일통신 시장의 급성장을 촉발했듯이, 저희 기술도 양자컴퓨팅 시장 형성을 촉진하는 세계 최초 실용 유즈케이스가 될 것입니다."

실제로 퀄컴은 2016년에만 CDMA 특허 라이선스로 60억 달러의 수익을 올렸다. 큐노바도 양자컴퓨팅 시장이 본격화되면 상당한 특허 수익을 기대할 수 있다.

현재 양자컴퓨팅 하드웨어 시장은 올해 1조원을 넘어섰고, 내년에는 2조원 규모로 성장할 것으로 예측된다. 맥킨지는 2030년 양자컴퓨팅 시장을 930억 달러(약 130조원) 규모로 전망하고 있다.

1-2년 후 나타날 것으로 예상되는 양자컴퓨터 시장 대비

양자컴퓨팅 시장의 성장 잠재력은 무궁무진하다. 큐노바가 타깃으로 하는 계산화학·수치해석·신약·신소재 발굴 및 AI 분야의 2030년 시장 규모는 12.8조원으로 예측된다. 이 중 양자계산이 점유할 수 있는 시장(SAM)은 3.6조원, 큐노바가 직접 공략할 수 있는 시장(SOM)은 5380억원 규모다.

"양자컴퓨터 시장이 본격적으로 시작되는 변곡점이 1-2년 후에 나타날 것으로 예측하고 있습니다. 저희는 이미 그 준비를 마쳤고, 시장을 선도할 수 있는 기술력도 확보했습니다."

이 대표는 양자컴퓨팅이 단순히 기존 컴퓨팅의 연장선이 아니라 완전히 새로운 패러다임이라고 강조했다. "CPU에서 GPU로, 그리고 이제 QPU(Quantum Processing Unit)로의 진화는 자연스러운 흐름입니다. 저희는 이 변화의 최전선에 있습니다.“

이준구 대표는 "양자컴퓨팅 시장의 트리거 역할을 하겠다"는 포부를 밝혔다. 실제로 큐노바가 세계 최초로 달성한 양자 우위는 이론적 가능성을 현실로 만든 역사적 성과다.

큐노바의 여정은 아직 시작에 불과하다. 2027년 통합 플랫폼 완성, 2030년 200억원 매출 달성이라는 구체적 목표를 향해 나아가고 있다. 더 나아가 양자 AI, 초저전력 GPT 등 차세대 기술들도 준비하고 있다.

한국이 반도체, 배터리에 이어 양자컴퓨팅에서도 글로벌 리더십을 발휘할 수 있을지, 큐노바의 행보가 주목받는 이유다. 이준구 대표가 꿈꾸는 "양자컴퓨팅 시장의 아이폰"이 한국에서 탄생할 그날을 기대해 본다.

조광현 객원 스타트업 전문 기자 hyun@venturesquare.net

Copyright ⓒ ATSQUARE.