추론 AI칩 전쟁 개막…딥시크·퓨리오사 ‘탈엔비디아’ 무슨 일

2026년 7월, 반도체 업계에서 같은 단어가 반복해서 나온다. ‘추론’이다. 중국 AI 스타트업 딥시크가 학습이 아닌 추론에 특화된 자체 칩 개발에 착수했다는 보도가 나오자, 그날 엔비디아 주가는 개장 초반 2.2% 밀렸다. 칩 하나가 아직 세상에 나오지도 않았는데 시가총액 수천억 달러가 출렁였다. 왜 시장은 ‘추론’이라는 두 글자에 이렇게 예민할까.

딥시크만의 일이 아니다. 오픈AI는 브로드컴과 함께 만든 추론 전용 칩 ‘할라페뇨’를 이미 공개했고, 앤트로픽도 자체 칩을 검토 중이다. 구글은 TPU로 진작에 길을 텄고, 아마존은 트레이니엄·인퍼런시아로 뒤를 따랐다. 그리고 한국에서는 퓨리오사AI가 2세대 추론 칩 ‘레니게이드(RNGD)’를 삼성SDS 클라우드에 7월부터 태우기 시작했다. 지금 지구상 거의 모든 AI 회사가 같은 방향으로 달리고 있다.

이름은 어렵지만 사건의 구조는 단순하다. 한 시대가 저물고 다른 시대가 열리는 길목에서, 그동안 시장을 독점해온 엔비디아의 성벽에 처음으로 여러 갈래 균열이 생기고 있다는 이야기다. 오구온라인이 이 흐름을 초등학생도 알 만큼 쉽게, 그러나 빠지는 것 없이 풀어봤다.

이게 뭐냐면

AI가 똑똑해지는 과정은 크게 두 단계다. ‘학습’과 ‘추론’. 학습은 학생이 몇 년 동안 교과서 수천 권을 밤새 외우는 시기다. 엄청난 시간과 전기, 그리고 수천 개의 칩을 한꺼번에 돌려야 한다. 추론은 그렇게 공부를 마친 학생이 실제 시험장에 앉아 문제 하나하나에 답을 적어내는 순간이다. 챗봇에게 질문을 던지고 답을 받는 바로 그 장면이 전부 ‘추론’이다.

지금까지 돈이 몰린 쪽은 학습이었다. 거대 모델을 만들려면 엔비디아의 고성능 GPU 수만 장이 필요했고, 엔비디아는 여기서 사실상 독점적 지위를 누렸다. 그런데 챗GPT가 전 국민 앱이 되고, 기업마다 AI를 붙이기 시작하면서 무게중심이 옮겨갔다. 모델은 한 번 만들면 끝이지만, 사용자가 질문을 던지는 추론은 24시간 쉬지 않고, 수억 번 반복된다. 실제로 2026년 기준 AI 연산의 절반이 넘는 약 55%가 추론 작업이라는 분석이 나온다. 시험 준비보다 시험 자체가 훨씬 커진 셈이다.

쉽게 풀어보면 이렇다. 예전엔 ‘가장 빠른 슈퍼카(학습용 GPU)’를 파는 회사가 왕이었다. 그런데 이제 도로에 필요한 건 슈퍼카 몇 대가 아니라, 매일 수억 명을 실어 나르는 값싸고 연비 좋은 시내버스(추론용 칩)다. 슈퍼카 회사가 버스도 잘 만들라는 법은 없다. 딥시크·오픈AI·구글이 ‘우리가 쓸 버스는 우리가 직접 만들겠다’고 나선 게 지금의 추론칩 전쟁이다.

어떻게 작동하나요

추론 전용 칩이 따로 필요한 이유는 ‘용도가 다르면 최적 설계도 다르기’ 때문이다. 학습용 GPU는 온갖 계산을 다 하는 만능 선수라 값이 비싸고 전기도 많이 먹는다. 반면 추론은 ‘이미 배운 걸 빠르고 싸게 반복 출력’하는 게 전부라, 그 한 가지만 잘하도록 회로를 깎아내면 훨씬 효율적이다. 만능 스마트폰 대신 계산기 하나를 극한까지 최적화하는 것과 비슷하다.

그 효과는 숫자로 드러난다. 퓨리오사AI의 레니게이드는 엔비디아 RTX PRO 6000과 같은 전력을 쓰고도 최대 7.4배 많은 사용자를 처리한다고 회사 측은 밝혔다. 메모리도 5세대 고대역폭메모리(HBM3E)로 바꿔 용량을 48GB에서 72GB로 1.5배 키웠다. AI 데이터센터의 최대 골칫거리가 전기요금이라는 점을 떠올리면, ‘전력당 처리량’은 성능 자랑이 아니라 곧 원가 경쟁력이다.

다만 여기엔 함정이 하나 있다. 칩이 아무리 좋아도 개발자들이 쓰는 소프트웨어 생태계가 없으면 무용지물이라는 점이다. 엔비디아가 20년 가까이 쌓아온 ‘CUDA’라는 개발 도구가 바로 그 해자(垓字)다. 그래서 도전자들은 대부분 ‘학습은 엔비디아, 추론은 우리 칩’이라는 분업 전략을 택한다. 성을 정면으로 부수는 대신, 성벽이 얇은 뒷문을 노리는 셈이다.

왜 중요한가요

이 전쟁의 진짜 쟁점은 ‘엔비디아가 망하느냐’가 아니라 ‘독점이 과점으로 쪼개지느냐’다. 엔비디아는 2026년에도 데이터센터 AI 가속기 시장을 매출 기준 80~85% 쥐고 있다. 다만 이 수치는 2023년의 약 92%에서 내려온 값이고, 특히 추론 영역만 떼어 보면 점유율이 60~75% 수준으로 더 낮아진다. 구글 TPU, AMD MI300X, 아마존 트레이니엄이 ‘가격에 민감한 추론’ 시장에서 먼저 틈을 벌린 결과다.

돈의 흐름도 이를 뒷받침한다. 구글·마이크로소프트·아마존·메타가 직접 설계하는 맞춤형 칩(커스텀 ASIC) 시장은 연평균 44.6%씩 커지고 있고, 엔비디아의 가장 현실적인 대항마로 꼽히는 AMD는 데이터센터 부문 매출이 1분기 58억 달러로 1년 새 57% 뛰었다. AMD는 차세대 서버용 CPU ‘베니스’와 AI 서버 랙 ‘헬리오스’를 3분기 말부터 고객사에 공급한다. 시장이 ‘엔비디아냐 아니냐’의 단일 선택에서 ‘어떤 조합이냐’의 다지선다로 바뀌고 있는 것이다.

한국에는 이 전환이 특히 의미가 크다. 우리 반도체 산업은 최근 월 수출액이 처음으로 1000억 달러를 넘어섰는데, 그 상당 부분이 AI 칩에 들어가는 HBM이다. 즉 딥시크가 이기든 오픈AI가 이기든, 그 칩에 얹히는 메모리는 삼성전자·SK하이닉스가 만든다. 여기에 팹리스(설계) 강자 퓨리오사AI까지 자리를 잡으면, 한국은 ‘심판이자 부품 공급사’라는 독특한 위치에 서게 된다. 아래 표로 지금 뛰는 선수들을 한눈에 정리했다.

나에게 무슨 의미인가요

당장 지갑에 꽂히는 변화는 ‘AI 이용료’다. 추론 칩 경쟁이 붙는다는 건, 챗봇을 한 번 돌리는 원가가 떨어진다는 뜻이다. 지금은 무료로 쓰는 AI 서비스가 많지만 상당수가 적자를 감수하는 구조인데, 칩값과 전기값이 내려가면 유료 전환 압박이 줄고 서비스 품질은 올라갈 여지가 생긴다. 소비자 입장에선 ‘더 싸고 더 빠른 AI’가 이 전쟁의 배당금이다.

주식·투자 관점에서도 함의가 뚜렷하다. 딥시크 보도 한 줄에 엔비디아가 2.2% 출렁인 데서 보듯, AI 반도체주는 이제 ‘엔비디아 한 종목’ 베팅이 아니라 학습(엔비디아·CUDA)과 추론(맞춤형 칩·메모리)으로 갈라 봐야 하는 시장이 됐다. 한국 투자자라면 팹리스뿐 아니라, 누가 이기든 수혜를 보는 HBM·파운드리라는 ‘무기 상인’ 포지션을 함께 보는 게 합리적이다.

구직·커리어에도 신호가 있다. 삼성전자가 미국 테일러 공장에서 2나노 공정으로 테슬라의 차세대 칩 ‘AI5’를 준비하고, 퓨리오사가 생산량을 내년까지 두 배로 늘리는 흐름은 국내 반도체·소프트웨어 인력 수요로 이어진다. 다만 한 가지는 냉정히 기억하자. 아직 딥시크·오픈AI의 자체 칩은 ‘설계 착수’ 혹은 ‘공개’ 단계일 뿐, 대규모 상용 실적으로 검증된 건 아니다. 뉴스의 온도와 제품의 현실 사이엔 시차가 있다.

오구온라인의 시각

첫째, ‘엔비디아 시대의 종말’이라는 헤드라인은 과대포장이다. 무너지는 건 독점이지 엔비디아 자체가 아니다. 학습 영역의 CUDA 해자는 여전히 두껍고, 도전자들조차 ‘학습은 엔비디아로’ 하겠다고 공언한다. 정확히 표현하면 이번 사건은 엔비디아의 추락이 아니라 AI 연산의 무게중심이 학습에서 추론으로 넘어가는 구조 전환이다. 이 프레임으로 봐야 딥시크 보도에 주가가 흔들린 이유도, 그 흔들림이 5%가 아니라 2%에 그친 이유도 함께 설명된다.

둘째, 남들이 잘 짚지 않는 각도를 하나 던진다. 이 전쟁의 최종 승패는 칩 스펙 표가 아니라 전기요금과 소프트웨어 생태계에서 갈릴 가능성이 크다. 추론은 24시간 반복되는 작업이라, 성능이 조금 낮아도 전력당 효율이 좋으면 총비용에서 이긴다. 퓨리오사가 ‘7.4배’를 앞세우는 것도, 구글이 자사 서비스 전용 칩을 고집하는 것도 결국 이 총소유비용 싸움이다. 화려한 벤치마크 숫자보다 ‘전기요금 고지서’를 보는 눈이 이 시장을 제대로 읽는 법이다.

셋째, 한국의 승부수는 ‘엔비디아를 이기는 칩’이 아니라 ‘누가 이겨도 파는 부품’에 있다고 본다. 딥시크든 오픈AI든 구글이든, 그들이 만드는 추론 칩에는 결국 HBM이 필요하고 그 시장은 삼성·SK하이닉스가 사실상 양분한다. 팹리스에서 퓨리오사가 교두보를 넓히는 동시에, 메모리·파운드리라는 ‘중립 무기고’를 지키는 이중 전략이 가장 현실적이다. 그러니 앞으로 이 뉴스를 볼 땐 ‘누가 엔비디아를 무너뜨렸나’가 아니라, ‘추론 시장이 얼마나 커졌고, 그 안에서 한국 부품이 몇 %를 차지하나’를 지표로 삼길 권한다. 전쟁의 승자보다 전장의 규모가 우리에겐 더 중요한 숫자다.