핵심 요약
AI 요약
기사 목차 펼치기 / 접기
“AI가 양자컴퓨터 발전을 앞당겨 인터넷 암호가 무너지는 날(Q-Day)을 재촉하고 있다”는 세간의 주장은 어디까지 사실일까. 결론부터 짚으면 암호 해독의 ‘설계도’를 만드는 데 AI는 단 한 줄도 쓰이지 않았다. 7년 사이 요구 큐비트를 200분의 1로 줄여낸 것은 100% 인간 수학자들의 알고리즘이었다. 양자 개발에서 AI가 실제로 투입된 자리는 전체 설계도가 아니라, 100만분의 1초마다 터지는 오류를 실시간으로 잡아채는 미세한 ‘수리 공구(디코더)’다.
“AI가 Q-Day를 앞당긴다”는 주장의 출처… 인용 문헌의 허점
양자 전문 매체 더퀀텀인사이더(The Quantum Insider)는 지난 10월 21일 AI가 양자 위협을 앞당기는 동시에 방어도 돕는다는 연구를 소개했다. 원 논문은 지난 10월 16일 『Journal of Quantum Information Science』 게재 논문으로, 트로이 트러블필드(Troy Coienth Troublefield)의 단독 연구다. 저자는 캐피톨공과대학교(Capitol Technology University)에서 사이버심리학을 맡은 겸임교수다.
논문은 AI가 암호를 실제로 깰 수 있는 암호해독 양자컴퓨터(CRQC)의 등장 시점을 앞당긴다고 주장한다. 업계에서는 이러한 기계가 현실화되는 시점을 ‘Q-Day’로 부른다. 그러나 논문에 실증 실험은 없다. 기존 문헌을 엮은 개념 종합에 불과하며, 논문 스스로도 AI의 기여도를 따로 분리해 측정한 추정치는 아직 없다고 명시했다.
“기존 문헌은 양자 위협 가속의 원인 중 머신러닝 디코더의 기여도와 큐비트 품질·소자 제작·회로 설계 개선의 기여도를 분리한 엄밀한 통제 추정치를 아직 내놓지 못했다.”
논문이 제시한 참고문헌 23건을 원문과 전수 대조한 결과, 핵심 근거가 빗나간 대목이 네 곳이나 확인됐다. 대표적인 세 사례를 보면 이렇다. AI 디코더가 2025년 오류정정 성과의 주역이라는 문장은 리버레인(Riverlane) 기술 블로그를 근거로 들었지만, 해당 글 본문에 디코더나 AI라는 단어는 전혀 등장하지 않는다.
전문가들의 위협 도래 확률 추정치가 2022년 이후 두 배로 뛰었다는 문장의 출처인 시큐리티위크(SecurityWeek) 보도에도 그러한 수치는 없다. 해당 기사에 적힌 것은 AI가 양자 개발을 앞당기는 데 쓰일 “수도 있다”(could be used)는 작성자의 주관적 추측뿐이다. 양자내성암호 시장 규모의 출처로 제시된 문헌 역시 2024년 학회 패널 녹취록이었으며, 시장 규모에 관한 언급은 한 줄도 없었다.
출처를 따라가면 근거 대신 남의 추측에 닿는다.
해당 논문이 실린 출판사 SCIRP(Scientific Research Publishing)는 학계에서 약탈적 학술지 출판사 목록인 ‘빌 리스트(Beall’s list)’에 올랐던 곳이다. 그렇다면 인터넷 암호 RSA-2048을 깨는 데 필요한 소자를 200분의 1로 줄여 세상을 놀라게 한 진짜 주역은 누구였을까. AI가 아닌 인간 연구자들의 수학적 최적화였다.
2000만개에서 10만개까지… 3차례 큐비트 감축을 이끈 수학
구글(Google) 퀀텀 AI의 크레이그 기드니(Craig Gidney)와 마르틴 에케로(Martin Ekerå)는 2019년 연구에서 RSA-2048 해독 비용을 정밀하게 계산했다. 양자컴퓨터의 실제 연산 소자인 물리 큐비트(physical qubit) 2000만개로 8시간이 걸린다는 추정이었다. 일반 컴퓨터의 ‘비트(Bit)’가 0이나 1 중 하나만 가리킨다면, ‘큐비트’는 허공에서 팽팽하게 회전하는 동전처럼 0과 1의 상태를 동시에 품는다. 슈퍼컴퓨터가 수만 년 동안 하나씩 맞춰봐야 할 수조 개의 암호 열쇠를 단숨에 동시에 찔러 넣을 수 있는 비결이다.
문제는 회전하는 동전처럼 큐비트가 미세한 열과 진동에도 쉽게 쓰러져 깨진다는 점이다. 안정적으로 계산을 이어가려면 오류를 감시할 보호용 소자를 겹겹이 묶어야 했고, 이 때문에 암호 하나를 푸는 데 2000만개라는 막대한 물리적 큐비트가 요구됐다. RSA-2048은 인터넷 서명과 키 교환에 널리 쓰이는 공개키 암호다. 당시 계산은 게이트 오류율 0.1%, 오류정정 한 주기 1마이크로초, 인접한 큐비트끼리만 연결된 2차원 평면 격자를 전제로 삼았다.
기드니는 2025년 5월 후속 논문에서 동일한 물리 가정 아래 요구 큐비트를 100만개 미만, 소요 시간을 1주 미만으로 대폭 줄였다. 논문의 배치도를 합산하면 정확히 89만7864개다. 데이터를 촘촘히 보관하는 영역 55만400개, 연산 중인 큐비트 17만7112개, 연산 상태 공장 17만352개를 합한 수치이며, 기대 소요 시간은 4.96일이다.
큐비트를 줄인 해법은 세 가지다. 큰 수의 나머지 연산을 근사치로 처리하는 산술 구조, 쉬고 있는 큐비트를 더 조밀하게 보관하는 부호, 비싼 연산 재료를 좁은 공간에서 생성하는 공장 기법이다. 이는 모두 인간 연구자가 설계한 수학적 알고리즘이다. 논문 전문에서 신경망, 머신러닝, 디코더라는 단어는 단 한 차례도 나오지 않는다. 기드니는 논문 결론부에 명확한 단서를 달았다.
“이 논문의 물리 가정을 바꾸지 않는 한 큐비트 수를 또 한 자릿수 줄일 방법은 보이지 않는다. 2048비트 RSA 정수를 10만개의 잡음 큐비트로 소인수분해할 수 있다고 그럴듯하게 주장하기는 어렵다.”
9개월 뒤 가정이 바뀌었다.
호주 스타트업 아이스버그 퀀텀(Iceberg Quantum)은 지난 2월 프리프린트에서 10만개 미만이라는 추정치를 제시했다. 적은 큐비트로 더 많은 양자 정보를 보호하는 양자 저밀도 패리티 검사(QLDPC) 부호를 적용한 결과다. 다만 기대 연산 소요 시간은 한 달로 늘어났고, 바로 옆 소자를 뛰어넘는 원거리 큐비트 연결 배선이 필수적이다. 기드니와 같은 1주 기준선으로 맞출 경우 요구 큐비트는 13만9000개로 늘어난다. 기드니의 89만7864개와 비교하면 격차는 세간에 회자되는 10배가 아니라 6.5배 수준이다. 이 논문 전문에도 머신러닝이나 신경망은 쓰이지 않았다. 회사는 발표 당일 시드 투자 유치 소식도 함께 알렸다.
땅을 줄이는 대신 공사 기간을 늘린 설계도다.
구글은 2026년 3월 타원곡선 백서에서 비트코인이 사용하는 타원곡선 암호(secp256k1)를 물리 큐비트 50만개 미만으로 수 분 안에 해독할 수 있다는 추정치를 내놓았다. 세부 회로는 공개하지 않은 채 영지식 증명 기법으로 주장만을 검증하게 했다. 이 백서 역시 자원 감소의 근거로 양자 알고리즘과 오류정정 아키텍처의 수학적 진전을 꼽았다.
설계도 대신 수리 공구를 쥔 AI… 오류정정 디코더의 실측 성과
그렇다면 AI는 양자컴퓨터 개발에 전혀 쓰이지 않는 것일까. 그렇지 않다. AI의 진가는 전체 설계도를 그리는 작업이 아니라, 극도로 미세한 하드웨어의 오류를 실시간으로 바로잡는 ‘정밀 공구’로서 발휘되고 있다.
큐비트는 환경 잡음에 극도로 취약하기 때문에 여러 개의 물리 큐비트를 묶어 하나의 신뢰할 수 있는 논리 큐비트를 보호한다. 이를 ‘양자 오류정정(QEC)’이라고 부른다. 큐비트 묶음에서 실시간으로 뿜어져 나오는 잡음 신호를 판독해 어디서 오류가 발생했는지 짚어내는 계산기가 바로 ‘디코더(decoder)’다. AI가 실제 기술적 성과를 입증한 지점이 바로 이 디코더 영역이다.
구글 딥마인드(Google DeepMind)의 알파큐비트(AlphaQubit)는 2024년 구글 시카모어 프로세서의 실측 데이터에서 텐서 네트워크 방식보다 오류를 6%, 상관 매칭 방식보다 30% 적게 판정했다. 다만 구글 연구진은 “초전도 프로세서의 오류를 실시간으로 고정하기에는 여전히 속도가 너무 느리다”고 평가했다.
구글의 차세대 양자 칩인 윌로우(Willow) 프로세서 실험에서 신경망 디코더는 부호 크기를 키울 때 오류가 억제되는 배율을 기존 2.04배에서 2.14배로 끌어올렸다. 가장 큰 부호 구조에서 주기당 논리 오류는 0.171%에서 0.143%로 낮아졌다. 계산 결과 16.4% 감소한 수치다. 그러나 오류가 억제되는 양자 임계 영역에 진입한 본질적 돌파구는 기존의 매칭 디코더로도 이미 확인된 바 있다. 실제 실험 구동 중 실시간으로 프로세서를 제어한 디코더 역시 전통적인 매칭 계열 알고리즘이었다.
오류정정 부호 자체를 탐색하는 작업에도 AI가 투입된다. 강화학습을 통해 양자 측정 부담이 작은 부호를 찾아낸 2025년 연구는 특정 조건에서 물리 큐비트 요구량을 기존 대비 10~100배 줄였다고 보고했다. 쇼어 알고리즘에 쓰이는 산술 회로 탐색에서는 구글 딥마인드의 알파텐서-퀀텀(AlphaTensor-Quantum)이 인간이 찾아낸 최적의 회로 해를 다시 도출해 냈다. 인간의 기존 기록을 따라잡은 수준이다.
AI는 설계도를 그리지 않았고, 공구 상자의 가장 정밀한 공구가 됐다.
클로드 미소스 5의 양자 회로… 벤치마크 9100배와 실측의 괴리
지난 10월 15일 하버드대학교 미하일 루킨(Mikhail Lukin) 교수 연구진과 앤트로픽(Anthropic) 연구진은 공동 연구 논문을 통해 대규모 언어모델(LLM)이 양자 회로를 직접 설계한 성과를 공개했다. 진화 알고리즘 탐색 도구인 오픈이볼브(OpenEvolve)에 앤트로픽의 최신 모델 ‘클로드 미소스 5(Claude Mythos 5)’를 결합해 양자 회로 생성 프로그램을 반복 수정하도록 유도했다. 8개 벤치마크 과제 중 7개에서 양자 회로에서 연산 단가가 가장 비싼 토폴리(Toffoli) 게이트 수와 큐비트 수를 동시에 줄이는 성과를 거뒀다.
이 논문은 전문 매체 보도에서 ‘최대 9100배 개선’이라는 헤드라인으로 주목받았다. 그러나 9100배라는 극적인 수치는 암호 해독과 무관한 양자 최적화 알고리즘(DQI) 디코더 과제에서 측정된 것이며, 대조군 역시 선행 가역 회로 연구가 없어 기초 수준으로 단순 구현된 회로였다. 논문 각주 역시 “문헌에 선행 가역 컴파일 연구가 존재하지 않는 기초적 단순 구현”이라는 기준선의 한계를 명시했다.
실제 암호 체계와 맞닿은 과제는 비트코인 타원곡선의 점 덧셈 회로 단 하나였다. 미소스가 설계한 회로는 토폴리 400만개와 큐비트 935개를 소모했다. 논문이 대조군으로 제시한 인간 연구자의 역대 최고 기록(슈로텐로허, 2026)은 토폴리 190만개, 큐비트 1446개였다. 큐비트 소모는 35% 적었지만, 연산 비용이 큰 토폴리 게이트는 2.1배 더 많이 사용했다. 연구진이 채택한 종합 지표인 두 수치의 곱으로 산정하면 미소스의 회로가 37% 더 비싸다. 논문 본문 역시 이 과제에 대해 “단일 기준선이나 개선폭을 공식 보고하지 않는다”고 선을 그었다.
기록을 깬 것이 아니라 다른 체급의 기록을 세웠다.
다만 인간 연구자가 양자 가역 회로 구현에는 비실용적이라고 판단했던 고전 알고리즘을 AI가 실행 가능한 수준으로 다듬어낸 점은 의미 있는 기술적 진전이다. 공저자에 모델 개발사가 참여했고 동료 심사(Peer Review)를 거치기 전의 프리프린트라는 맥락도 함께 고려해야 한다.
남겨진 과제와 AI의 가능성… 1마이크로초 실시간 해독의 벽
다음 큐비트 감축이 터져 나와야 할 자리가 바로 AI가 가장 강한 곳이다.
기드니의 2025년 아키텍처는 오류 내구성을 나타내는 부호 거리(code distance)가 25인 표면 부호를 채택한다. 아이스버그 퀀텀 역시 거리 24의 부호를 전제로 한다. 초전도 소자의 오류정정 주기가 1마이크로초(100만분의 1초)라면, 디코더 역시 1마이크로초라는 극한의 속도로 오류를 실시간 연산해야 한다. 아이스버그 퀀텀 역시 논문을 통해 “실시간용으로 충분히 빠른 디코더를 구현하는 문제는 이 연구의 범위를 벗어난다”고 한계를 인정했다.
구글 딥마인드가 공개한 알파큐비트 2는 상용 텐서처리장치(TPU) 환경에서 표면 부호 거리 11까지 주기당 1마이크로초 이내에 해독하는 데 성공했다. 소자 효율이 우수한 색 부호 구조에서는 거리 9까지 실시간 해독을 세계 최초로 시연했다.
구글은 타원곡선 백서에서 “최근 더 나은 양자 오류정정 부호 탐색이 AI 기법을 통해 가속되고 있다”고 밝혔다. 해당 백서는 타원곡선 해독 알고리즘이 RSA에 비해 연구 누적이 적은 만큼 향후 개선 여지가 더 클 수 있다고 진단했다. 하버드와 앤트로픽의 미소스 연구진 역시 알고리즘, 부호, 하드웨어 아키텍처를 AI로 통합 동시 설계하는 방향을 차세대 연구 과제로 지목했다.
공은 AI가 강한 쪽 코트로 넘어갔지만, 득점 기록은 아직 없다.
AI 변수보다 빠른 정부 시계… 2030년 양자내성암호 전환 시한
미국 정부는 지난 6월 22일 행정명령 14412호를 통해 연방기관의 고가치·고영향 시스템을 2030년 말까지 키 교환, 2031년 말까지 디지털 서명에서 양자내성암호(PQC)로 전면 전환하도록 강제했다. 양자내성암호는 슈퍼 양자컴퓨터로도 풀 수 없는 수학적 난제에 기반한 차세대 암호 체계다. 이 행정명령의 핵심 배경은 적대 세력이 현시점에서 미국의 암호화 통신을 대규모로 수집해 두었다가 미래에 양자컴퓨터로 사후 해독하는 ‘선수집 후해독(HNDL)’ 위험이다. 이틀 뒤 백악관 관리예산처(OMB)는 지침 M-26-15를 통해 각 연방기관에 미국 국립표준기술연구소(NIST)의 전환 보고서 IR 8547 로드맵에 맞추어 이행 계획을 수립할 것을 지시했다. 초안 가이드라인 IR 8547은 2024년 11월 공개된 초안 상태를 유지하고 있다.
구글 역시 지난 3월 전환 타임라인 발표에서 자사 시스템의 전환 시한을 2029년으로 못 박으며, 그 근거로 양자 하드웨어와 오류정정, 소인수분해 자원 추정의 진전을 들었다. 미국 국가안보국(NSA)은 2026년 10월 개정한 문답집에서 2027년 1월 1일부터 국가안보시스템의 신규 배치가 새 알고리즘 규격인 CNSA 2.0을 따라야 한다고 명시했다. 정부와 기관이 공개한 네 개 문서 어디에도 AI를 전환 시한의 근거로 거론한 대목은 없다.
글로벌리스크연구소(Global Risk Institute)가 2026년 3월 낸 보고서에서 전문가 26명이 전망한 10년 이내 CRQC 등장 확률은 평균 28~49%였다. 75쪽에 달하는 심층 보고서에서 AI가 새로운 가속 변수가 될 수 있다고 답한 전문가는 단 한 명에 불과했다. 다른 한 명은 오히려 AI 열풍이 양자컴퓨팅 분야의 투자와 관심을 흡수할 수 있다고 지적했다. 보고서는 2019~2021년 조사 당시 전문가들이 제시했던 도래 확률이 오히려 더 높았다는 사실도 함께 기술했다.
시계를 움직이는 것은 AI보다 지금 쌓이고 있는 암호문이다.
기드니 역시 2025년 논문을 맺으며 NIST 초안이 제시한 2030년 및 2035년 전환 타임라인에 전적으로 동의하며 그 이유를 밝혔다.
“2030년까지 충분히 큰 양자컴퓨터가 나오리라 예상해서가 아니다. 보안 체계가 ‘기술 진보가 느릴 것’이라는 안일한 전제에 기대지 않기를 바라기 때문이다.”
