양자컴퓨터만 푼다던 문제, 노트북이 풀었다…’양자 우월성’ 논쟁 다시 불붙었다

세계 최강 슈퍼컴퓨터로도 100만 년이 걸린다던 계산을, 연구자 한 명이 자기 노트북으로 풀어냈다. 공상과학 같지만 실제로 지금 물리학계에서 벌어지고 있는 일이다. 2025년 3월 캐나다 기업 D-Wave는 국제학술지 <사이언스>에 ‘세계 최초로 실용적 문제에서 양자 우월성을 입증했다’고 발표했다. 그런데 1년여 만에 미국 플랫아이언연구소 연구팀이 그 계산을 평범한 컴퓨터로 재현하면서, 이달 들어 관련 소식이 전 세계 과학 뉴스 상단에 다시 오르내리고 있다.

흥미로운 건 이 반격에 쓰인 무기가 최신 기술이 아니라는 점이다. 연구팀은 1982년에 세상에 나온 낡은 알고리즘을 되살려 썼다. 값비싼 양자컴퓨터를 이긴 것이 40년 넘은 수학 아이디어였다는 사실은, 양자컴퓨터를 둘러싼 장밋빛 전망을 다시 냉정하게 들여다보게 만든다.

이 사건은 단순한 ‘누가 이겼나’ 승부가 아니다. 수십조 원이 오가는 양자컴퓨터 산업의 핵심 마케팅 문구인 ‘양자 우월성(quantum supremacy)’이 얼마나 단단한 것인지를 시험하는 리트머스지다. D-Wave의 공식 발표문부터 그 주장을 흔든 사이먼스재단의 반박까지, 이 한 편으로 정리한다.

이게 뭐냐면: ‘양자 우월성’이라는 결승선

먼저 ‘양자 우월성’이 뭔지부터 쉽게 풀어보자. 초등학생도 알 수 있게 비유하면 이렇다. 반 아이 전체가 손을 잡고 서 있는데, 한 명이 웃으면 옆 사람도 따라 웃고, 그 옆도 따라 웃는 식으로 감정이 순식간에 번진다고 하자. 이 반 전체가 몇 초 뒤 어떤 표정이 될지 예측하려면, 아이가 30명만 돼도 경우의 수가 폭발한다. 아이 한 명이 늘 때마다 계산량이 두 배씩 뛰기 때문이다. 이것이 바로 얽혀 있는 큐비트(양자 비트)들의 움직임을 계산하는 문제다.

양자컴퓨터는 이 ‘감정 전파’를 직접 실험실에서 재현해 답을 빨리 내놓을 수 있다고 주장한다. 반대로 우리가 쓰는 일반 컴퓨터(고전 컴퓨터)는 모든 경우의 수를 하나하나 따져야 해서 아이가 많아지면 사실상 계산이 불가능해진다. 그래서 ‘고전 컴퓨터로는 도저히 못 푸는 문제를 양자컴퓨터가 풀었다’고 증명되는 순간을 양자 우월성이라 부른다. 2019년 구글이 시커모어 칩으로 ‘슈퍼컴퓨터로 1만 년 걸릴 계산을 200초에 했다’고 발표한 것이 대표적 사례다.

이번 논쟁의 발단인 D-Wave의 2025년 3월 <사이언스> 논문(제목 ‘양자 시뮬레이션의 초고전적 계산’)이 바로 이 왕좌를 노렸다. D-Wave는 5,000큐비트급 어드밴티지2 양자 어닐러로 ‘스핀 글라스’라는 복잡한 자성 물질의 동역학을 계산했다. 회사 측 설명에 따르면 양자컴퓨터는 약 36마이크로초 만에 답을 냈지만, 오크리지국립연구소의 세계 최강 슈퍼컴퓨터 ‘프론티어’가 같은 계산을 하려면 약 100만 년이 걸리고 전 세계 1년치 전력보다 많은 전기가 든다고 했다. 자세한 내용은 더퀀텀인사이더 보도에서 확인할 수 있다.

어떻게 노트북으로 풀었나요

그 ‘100만 년짜리’ 계산을 뒤집은 곳은 미국 사이먼스재단 산하 플랫아이언연구소 계산양자물리센터(CCQ)와 보스턴대 공동 연구팀이다. 핵심 인물인 조지프 틴들 연구원은 초기 계산을 거창한 장비가 아니라 개인용 노트북에서 돌렸다고 밝혔다. 사용한 도구는 플랫아이언연구소가 자체 개발한 텐서 네트워크 소프트웨어 라이브러리 ‘ITensor’였다. 관련 발표는 유레카얼럿과 사이테크데일리에 상세히 실렸다.

비결은 두 가지 아이디어의 조합이다. 하나는 텐서 네트워크라는 압축 기술이다. 앞의 비유로 돌아가면, 수백 명 아이의 모든 표정 조합을 통째로 기억하는 대신 ‘옆 사람 몇 명끼리만 강하게 영향을 주고받는다’는 점을 이용해 정보를 확 줄이는 방식이다. 사진 파일을 화질 손해를 거의 안 보면서 용량만 줄이는 JPEG 압축과 비슷하다고 보면 된다. 덕분에 수백 개 큐비트가 얽힌 어마어마한 파동함수를 노트북 메모리에 담을 만한 크기로 압축할 수 있었다.

나머지 하나가 이 사건의 반전이다. 연구팀은 1982년 유대 펄이 제안한 ‘신뢰 전파(belief propagation)’ 알고리즘을 되살려 양자 문제에 맞게 손봤다. 원래는 스팸메일 필터나 통신 오류 정정에 쓰이던 오래된 기법이다. 이 방법을 쓰자 계산량이 큐비트 수에 따라 폭발적으로 늘어나는 대신 거의 정비례로만 증가했다. 그 결과 노트북으로 시작한 계산이 이론값과도, D-Wave 양자컴퓨터가 내놓은 결과와도 맞아떨어졌다. 방법론의 원문은 arXiv 프리프린트에 공개돼 있다.

더 눈여겨볼 대목은 이 팀이 이런 ‘고전 컴퓨터의 역습’에 이미 이력이 있다는 점이다. 2023년 IBM이 127큐비트로 ‘결함 허용 이전의 양자 유용성’을 <네이처>에 발표했을 때도, 학계는 몇 주 만에 텐서 네트워크 기반 고전 기법으로 상당 부분을 재현해냈다. 새 무기를 든 것이 아니라, 늘 쓰던 도구를 더 날카롭게 벼려 온 셈이다.

왜 중요한가요: 결승선이 자꾸 움직인다

이 사건의 진짜 교훈은 ‘양자 우월성은 한 번 선언한다고 끝이 아니다’라는 것이다. 역사가 이를 보여준다. 2019년 구글의 ‘1만 년 대 200초’ 선언은 이후 IBM과 중국 연구팀이 고전 알고리즘을 개선하면서 수일, 나중엔 수 시간 규모까지 따라잡았다. 화려한 숫자로 발표된 우월성이 몇 년 만에 크게 깎인 것이다. D-Wave의 ‘100만 년’도 지금 같은 길을 걷고 있다.

아래 표는 지난 몇 년간 나온 대표적 ‘양자 우월성’ 주장과 고전 컴퓨터의 반격을 정리한 것이다. 다른 매체가 잘 만들어두지 않은, 이 사건을 한눈에 이해하기 위한 타임라인이다.

다만 오해는 금물이다. 이번 결과가 ‘양자컴퓨터는 다 허풍’이라는 뜻은 결코 아니다. 2025년 10월 구글이 윌로 칩으로 내놓은 ‘검증 가능한 양자 우월성’ 주장처럼 아직 고전 컴퓨터가 따라잡지 못한 사례도 있다. 관련 논의는 <네이처> 기사에서 볼 수 있다. 요점은 우월성이라는 결승선이 고정된 벽이 아니라, 고전 컴퓨터의 알고리즘이 좋아질 때마다 뒤로 밀리는 ‘움직이는 선’이라는 사실이다.

그래서 과학계는 어떤 기업이 ‘우리가 우월성을 달성했다’고 발표하면, 그 즉시 다른 연구자들이 고전 컴퓨터로 따라잡기를 시도하는 검증 문화를 중요하게 여긴다. 이번 플랫아이언팀의 작업은 양자컴퓨터를 깎아내리려는 것이 아니라, 그 검증 잣대(벤치마크) 자체를 더 정교하게 다듬은 것에 가깝다. 자세한 배경은 phys.org 해설에 잘 나와 있다.

나에게 무슨 의미인가요

일반 독자에게 가장 실질적인 함의는 ‘양자 관련 투자·뉴스를 볼 때의 판별력’이다. 최근 몇 년간 양자컴퓨터 기업 주가는 ‘우월성 달성’ 같은 헤드라인 한 줄에 급등락을 반복했다. D-Wave(나스닥 QBTS) 역시 2025년 관련 발표 전후로 주가가 크게 출렁였다. 이번 사건은 그런 헤드라인 숫자가 몇 달 뒤 조용히 뒤집힐 수 있음을 보여준다. ‘100만 년’이라는 표현을 볼 때 ‘무엇과 비교해, 어떤 조건에서’를 함께 따져봐야 하는 이유다. 투자 판단은 반드시 공식 공시와 검증된 후속 연구를 확인하기 바란다.

둘째, 당장 우리 삶이 바뀌는 것은 아니라는 냉정한 사실이다. 이번에 다뤄진 문제는 ‘스핀 글라스 동역학’이라는 특정 물리 시뮬레이션이지, 은행 암호를 깨거나 신약을 즉석에서 설계하는 것과는 거리가 멀다. 양자컴퓨터가 신약 개발·물류 최적화·금융에서 진짜 성과를 낼지는 여전히 미래형이며, 현재 산업의 현실적 방향은 양자와 고전 컴퓨터가 각자 잘하는 일을 나눠 맡는 ‘하이브리드’ 구조라는 점을 기억해두면 좋다.

셋째, 뜻밖의 희소식도 있다. 노트북으로도 수백 큐비트급 양자 동역학을 흉내 낼 수 있게 됐다는 건, 값비싼 양자컴퓨터 없이도 대학원생이나 소규모 연구실이 양자 물질·소재 연구에 뛰어들 문이 넓어졌다는 뜻이다. 연구팀 스스로도 이 기법이 양자 소재 시뮬레이션과 대규모 최적화 문제로 확장될 수 있다고 밝혔다. 값비싼 하드웨어 경쟁만이 답은 아니라는 것이다.

오구온라인의 시각

우리는 이 사건의 핵심이 ‘양자냐 고전이냐’의 승패가 아니라 ‘과대포장 대 실체’의 문제라고 본다. 양자컴퓨터 업계는 상장 기업이 많고, ‘세계 최초 우월성’이라는 표현은 그 자체로 강력한 자금 조달·마케팅 도구다. 문제는 그 숫자가 대개 ‘지금 알려진 최선의 고전 알고리즘 기준’이라는 단서 위에 서 있다는 점이다. 알고리즘은 계속 발전하므로, 발표 당시의 ‘100만 년’은 영구불변의 물리 법칙이 아니라 유통기한이 있는 추정치에 가깝다. 헤드라인은 이 단서를 대개 생략한다.

남들이 잘 짚지 않는 각도를 하나 더 던지고 싶다. 이번 승부의 주인공이 최첨단 신기술이 아니라 40여 년 전 알고리즘이었다는 사실이야말로 가장 통렬한 대목이다. 이는 계산과학의 진짜 돌파구가 반드시 더 크고 비싼 하드웨어에서만 나오지 않으며, 오래된 수학 아이디어를 새 문제에 영리하게 이식하는 ‘소프트웨어의 창의성’에서 나올 수 있음을 보여준다. 수십조 원짜리 냉각 장비와 노트북 한 대의 대결에서 후자가 한 판을 따냈다는 건, 기술 경쟁의 무게중심을 다시 생각하게 한다.

그래서 앞으로 이 분야를 볼 때 우리는 세 가지를 권한다. 첫째, ‘양자 우월성 달성’ 헤드라인은 ‘누가, 무엇과 비교해, 얼마나 오래 유지되는가’를 확인하기 전까지는 잠정 결론으로 받아들이자. 둘째, 반박·재현 연구를 발표만큼 비중 있게 챙겨보자. 진짜 실력은 첫 발표가 아니라 검증을 견디는지에서 드러난다. 셋째, 양자컴퓨터의 잠재력 자체는 여전히 크다는 균형 감각을 잃지 말자. 결승선이 움직인다는 건 경기가 끝났다는 뜻이 아니라, 아직 한창 진행 중이라는 뜻이다.