엔비디아, 구글 TPU 견제..."우리가 한 세대 앞서 있다"
2025년 11월 25일, 엔비디아가 소셜미디어 X를 통해 자사의 기술이 구글의 AI 칩(TPU)보다 "한 세대 앞서 있다"며 경쟁 우위를 강조했다. 이는 메타가 구글의 텐서처리장치(TPU)에 수십억 달러 규모의 투자를 검토 중이라는 보도가 나온 직후 나온 반격이다.
엔비디아는 성명에서 "구글의 성공을 기쁘게 생각하며 계속 구글에 공급하고 있다"면서도, "엔비디아는 업계보다 한 세대 앞선 유일한 플랫폼이며, 모든 AI 모델을 모든 컴퓨팅 환경에서 실행할 수 있는 기술을 보유하고 있다"고 주장했다.
메타의 구글 TPU 도입 검토가 촉발한 논쟁
IT 전문매체 디인포메이션은 11월 24일 메타가 구글의 TPU를 2027년부터 데이터센터에 도입하는 방안을 논의 중이라고 보도했다. 내년에는 구글 클라우드로부터 칩을 임대하는 방안도 함께 검토하고 있는 것으로 알려졌다.
이 보도가 나온 후 엔비디아 주가는 11월 25일 장중 7% 이상 급락했다가 2.59%까지 낙폭을 축소하며 175.22달러에 마감했다. 이는 AI 반도체 분야에서 독보적 지위를 누려온 엔비디아가 경쟁 심화에 직면할 수 있다는 우려 때문이다.
엔비디아의 핵심 주장: GPU의 범용성과 성능
엔비디아는 X 게시물에서 TPU와 같은 주문형반도체(ASIC) 기반 칩은 특정 기능과 기업 용도로 설계돼 범용성이 떨어진다며 자사 칩 대비 유연성이 낮다는 점을 강조했다. 엔비디아의 최신 GPU 세대는 '블랙웰'로 불린다.
엔비디아는 "엔비디아는 ASIC 대비 더 좋은 성능, 다목적성, 대체 가능성을 제공한다"고 덧붙였다. 이는 단일 목적에 맞춰 설계된 구글 TPU보다 엔비디아 GPU가 훨씬 범용적이라는 점을 강조한 것으로 해석된다.
젠슨 황 엔비디아 CEO는 이달 초 실적 발표에서 TPU 경쟁 심화에 대한 질문에 "구글은 엔비디아 GPU의 주요 고객이며, 제미나이 모델 역시 엔비디아 기술에서 실행될 수 있다"고 언급했다.
구글 TPU의 부상: 제미나이 3의 성공
최근 구글이 공개한 AI 모델 '제미나이 3'가 구글 TPU로만 훈련됐다는 사실이 공개되며 AI 반도체 시장에 지각변동이 일어날 수 있다는 전망이 나오고 있다. 제미나이 3은 극한의 AI 벤치마크 평가인 '인류 최후의 시험(Humanities Last Exam)'에서 도구 사용 없이 37.5%로 최고의 점수를 달성했다.
이는 오픈AI의 최신 챗GPT인 'GPT-5.1'(26.5%), 앤트로픽의 '클로드 소넷 4.5'(13.7%)를 웃도는 성적표다. 전문가들로부터 호평받으며 비싸고 구하기 어려운 블랙웰 대신 구글의 TPU가 대안이 될 수 있다는 기대가 커지고 있다.
TPU란 무엇인가: AI 전용 칩의 효율성
TPU(Tensor Processing Unit)는 구글이 2013년 급격히 증가한 딥러닝 연산량을 해결하기 위해 15개월 만에 설계·검증한 AI·머신러닝 특화 주문형반도체(ASIC)다. 전력 공급 구조를 최적화해 엔비디아 GPU보다 전력 효율이 높다는 평가를 받는다.
TPU의 핵심은 '시스톨릭 어레이'(Systolic Array) 아키텍처다. 심장이 혈액을 박동으로 전달하듯 데이터를 물결처럼 흘려보내는 구조로, 특정 AI 추론 작업에서 GPU·CPU보다 최대 30배 빠른 성능을 발휘한다고 구글은 발표했다.
업계는 TPU의 경쟁 우위로 '가격 대비 성능'과 '효율성'을 꼽고 있다. 엔비디아 H100의 경우 개당 판매가가 2만~3만 5,000달러에 달하지만, TPU는 GPU 대비 35%에서 최대 80% 비용을 절감할 수 있는 것으로 전해진다.
구글의 TPU 확장 전략: 대형 계약 연이어 체결
구글은 TPU를 외부에 직접 판매하지는 않지만, 자체 서비스 운영에 활용하고 있으며 구글 클라우드를 통해 기업 고객에게 임대 형태로 제공하고 있다. 최근 제3자 클라우드 제공업체 데이터센터에도 TPU를 제공하기 시작했다.
특히 구글은 AI 선도기업 앤트로픽에 TPU 최대 100만 개를 공급하는 장기 계약을 체결했다. 앤트로픽은 TPU와 구글 클라우드 서비스를 활용해 'Claude' 모델을 학습·운영한다. 이는 올해 5월 앤트로픽이 엔비디아와 중국 수출 제한 문제로 공개적으로 대립한 이후 체결된 계약이라는 점에서 주목받고 있다.
오픈AI도 올해 6월 구글 클라우드 서비스를 도입하는 계약을 체결한 상태다. 시포트의 애널리스트 제이 골드버그는 앤트로픽과의 계약을 "정말 강력한 검증"이라고 평가하며, 엔비디아 아키텍처에 대한 대안이 점점 더 매력적으로 다가오고 있음을 강조했다.
구글의 TPU 생산 규모 급증
분석가들에 따르면 구글은 올해 브로드컴으로부터 약 98억 달러 규모의 TPU를 공급받을 것으로 전망된다. 이는 2023년의 20억 4,000만 달러, 2024년의 62억 달러에서 크게 증가한 수치다.
구글과 브로드컴은 TPU 제조를 위해 수년간 설계 협력 파트너십을 이어오고 있다. 해로웰 애널리스트는 "이로써 구글은 클라우드 및 엔터프라이즈 데이터센터 시장에서 엔비디아에 이어 두 번째로 큰 AI 칩 규모를 보유하게 됐다"고 설명했다.
엔비디아의 독주는 계속될까: 시장 점유율 격차
현재 엔비디아는 AI 반도체 시장에서 90% 이상을 점유하고 있다. 구글의 시장 점유율은 약 5% 수준이며, TPU 점유율은 3~4%에 불과하다.
전문가들은 맞춤 AI 칩(구글 아이언우드·아마존 트레이니엄 등)이 엔비디아의 독점 지배력을 단기간에 위협하기는 어렵다고 분석한다. 엔비디아의 쿠다(CUDA) 소프트웨어 플랫폼과 하드웨어 생태계는 사실상 업계의 표준으로 자리매김한 상태다.
IDC의 브랜든 호프 리서치 디렉터는 "자체 추론 모델을 개발하는 기업 고객은 엔비디아의 소프트웨어 플랫폼에 사실상 묶여있다"고 진단했다. 쿠다는 2007년에 공개된 반면, 텐서플로우의 첫 버전은 2015년에 등장했다. 따라서 오랜 기간 쿠다를 기반으로 구축된 코드와 인프라를 보유한 기업에게는 새로운 플랫폼으로의 전환이 쉽지 않다는 분석이다.
구글의 공식 입장: 양자택일이 아닌 병행 전략
구글 대변인은 성명에서 "맞춤형 TPU와 엔비디아 GPU 모두에서 수요가 빠르게 확대되고 있다"며 "우리는 두 기술을 동시에 지원해왔고 앞으로도 지속할 것"이라고 밝혔다.
실제로 구글 클라우드 플랫폼의 데이터센터에는 엔비디아의 칩셋이 상당수 사용되고 있다. 다만 2023년 모건 스탠리가 발간한 리포트 등 각종 통계에 따르면 엔비디아의 최신 칩셋인 A100 주요 고객 리스트에 구글은 없는 것으로 나타났다. 이를 통해 딥러닝 관련 워크로드 수행 분야에서는 TPU가 이미 엔비디아의 역할을 대부분 대체했다고 추정해볼 수 있다.
핵심 요약
- 엔비디아가 구글 TPU를 겨냥해 "우리가 한 세대 앞서 있다"며 견제, 모든 AI 모델을 실행할 수 있는 유일한 플랫폼 강조
- 메타의 구글 TPU 도입 검토 소식에 엔비디아 주가 7% 이상 급락했다가 낙폭 축소
- 구글 TPU는 엔비디아 GPU 대비 35~80% 비용 절감 가능하며, 앤트로픽·오픈AI 등 주요 고객 확보