지이코노미 강매화 기자 | 엔비디아가 양자컴퓨터 상용화의 최대 난제로 꼽혀온 ‘오류 정정’ 문제 해결에 인공지능(AI)을 전면 투입하며 기술 패러다임 전환에 나섰다. 양자 프로세서(QPU)의 불안정성을 AI로 보완해 GPU와 결합하는 ‘하이브리드 컴퓨팅’ 전략이 본격화되는 양상이다.

엔비디아는 14일(현지시간) ‘세계 양자의 날’을 맞아 양자컴퓨팅용 AI 모델 ‘아이징(Ising)’을 공개했다. 이 모델은 양자 프로세서의 오류를 실시간으로 보정하고 수정하는 기능을 핵심으로, 양자컴퓨터의 실용화를 앞당기기 위한 오픈형 AI 플랫폼이라는 점에서 의미가 크다.

양자컴퓨터는 정보 단위인 큐비트가 외부 환경에 극도로 민감해 오류가 빈번하게 발생하는 구조적 한계를 안고 있다. 현재 기술 수준에서는 수백에서 수천 번 연산마다 오류가 발생하는 것으로 알려져, 대규모 연산을 위해서는 지속적인 오류 감지와 수정이 필수다.

아이징 모델은 이러한 문제를 해결하기 위해 두 가지 기능으로 구성됐다. 하나는 양자 프로세서의 상태를 자동으로 조정하는 ‘캘리브레이션’, 다른 하나는 오류를 실시간으로 복원하는 ‘디코딩’이다. 엔비디아는 해당 기술이 기존 대비 최대 2.5배 빠른 처리 속도와 3배 높은 정확도를 구현했다고 설명했다.

젠슨 황 최고경영자는 “AI는 양자컴퓨팅 실용화의 핵심”이라며 “아이징은 불안정한 큐비트를 신뢰 가능한 시스템으로 확장하는 역할을 하게 될 것”이라고 강조했다. 사실상 AI가 양자컴퓨터의 운영체제 역할을 수행하는 구조를 제시한 셈이다.

시장 반응도 즉각적으로 나타났다. 양자컴퓨터 관련 종목들이 일제히 급등하며 기대감을 반영했다. 재너두퀀텀테크놀러지스는 28% 급등했고, 아이온큐와 디웨이브퀀텀, 리게티컴퓨팅 등 주요 기업들도 상승세를 보였다.

기술 적용 역시 이미 시작됐다. 아이징 캘리브레이션은 아이온큐와 영국국립물리연구소 등이 도입했으며, 디코딩 기술은 코넬대와 연세대 등에서 활용 중이다. 특히 연세대는 IBM 양자컴퓨터를 도입한 상태에서 해당 모델을 연구에 접목하고 있다.

업계에서는 이번 발표를 두고 엔비디아가 양자컴퓨팅의 핵심 제어 영역, 즉 소프트웨어와 컨트롤 레이어 선점에 나선 것으로 해석한다. GPU 기반 생태계를 양자 영역까지 확장하려는 전략이라는 분석이다.

다만 신중론도 적지 않다. 일부에서는 성능 개선 효과가 특정 조건에 국한될 가능성을 제기하며, 다양한 하드웨어 환경에서의 검증이 필요하다는 지적이 나온다.

이학배 연세대 교수는 “하이브리드 컴퓨터로 가는 중요한 단계”라고 평가하면서도 “완전한 상용화까지는 시간이 더 필요하다”고 말했다. 기술적 진전은 분명하지만, 시장의 기대가 앞서가고 있다는 경계의 목소리다.