구글과 브로드컴이 10년 공들여 개발한 구글 TPU, 엔비디아 GPU를 대체할 경쟁력은 무엇인지 살펴본다. 제미나이 3.0이 일군 성능 혁신과 글로벌 AI 가속기 시장 변화, 삼성·SK하이닉스 HBM 수요 확대 등 국내 반도체 영향까지 종합 분석한다.
최근 공개된 구글의 '제미나이 3.0'은 AI 성능 면에서 챗GPT를 뛰어넘었다는 평가를 받으며, 학습에 사용된 구글 TPU에 관심이 쏠리고 있습니다. 엔비디아가 지배하던 AI 인프라 시장에서 TPU 부상은 균형을 흔들고 있죠. 실제로 구글 TPU를 활용한 제미나이 3.0 덕에 구글과 브로드컴 주가는 급등한 반면, 엔비디아는 소폭 하락했습니다. 이제 구글 TPU의 의미와 향후 변화를 살펴보겠습니다.
GPU vs TPU: 개념과 차이
AI·컴퓨터를 잘 모르는 일반인도 'GPU(Graphics Processing Unit)'라는 말은 한 번쯤 들어봤을 겁니다. 과거 게임 그래픽과 영상 편집을 위해 발전한 GPU는 병렬 연산에 강해 AI 학습에도 효율적입니다. 전 세계 AI 가속기 시장에서 95% 이상을 엔비디아가 차지한 것도 바로 GPU 성능 덕분이었죠. 반면 TPU(Tensor Processing Unit)는 구글과 반도체 설계사 브로드컴이 10년 이상 공들여 개발한 AI 특화 칩(ASIC)입니다. 이름에서 알 수 있듯이 텐서 연산에 최적화됐고, 딥러닝 연산에 필요한 전력 대비 성능이 뛰어납니다.
GPU: 범용 반도체로 게임·그래픽용으로 발전. 병렬 연산은 강하지만 전력 소모가 크고, 글로벌 품귀 현상까지 빚어졌습니다.
TPU: 구글-브로드컴 공동 개발 AI 전용 칩. 딥러닝 연산에 특화되어 에너지 효율이 높고, 성능 대비 전력 소모가 적습니다.
쉽게 비유하면, 다재다능한 SUV와 AI 전용 스포츠카의 차이랄까요? GPU는 다양한 작업을 해내는 SUV이고, TPU는 최적화된 전용 서킷을 달리는 스포츠카 같은 존재입니다.
구글 TPU의 부상
TPU는 구글이 2016년에 공개한 후 알파고의 이세돌 대국에 사용되며 유명해졌습니다. 원래는 검색 서비스 속도를 높이기 위해 개발된 것이지만, AI 연산에 강점을 보이면서 활용처가 넓어졌습니다. 과거 구글은 TPU를 일부 클라우드에만 제공했지만, 올해는 7세대 TPU(코드명 '아이언우드') 성능이 주목받으며 외부 판매를 시작하겠다고 발표했습니다. 실제로 AI 스타트업 엔스로픽은 구글 클라우드에서 최대 100만 개의 TPU를 활용하겠다고 밝혔죠. 이는 TPU가 이제 누구나 사용할 수 있는 기술이 됐음을 뜻합니다.
제미나이 3.0 개발에도 구글 TPU가 결정적 역할을 했습니다. 구글은 제미나이 3.0 학습에 엔비디아 GPU를 전혀 사용하지 않고, 오로지 구글 TPU로 연산을 수행했습니다. 그 결과 전력 대비 성능 효율이 높아 같은 전력으로 더 많은 연산을 할 수 있었고, 덕분에 모델 성능도 크게 끌어올렸죠. 물론 서비스 단계에서는 GPU와 TPU를 병행해 호환성과 효율을 모두 고려하고 있습니다.
AI 칩 경쟁 구도: 엔비디아 vs 구글
지금까지 AI 반도체는 사실상 엔비디아의 시대였습니다. 엔비디아의 GPU는 워낙 강력해서 AI 데이터센터는 거의 모두 엔비디아를 사용했고, 이를 반영해 한국을 포함한 여러 나라가 대규모 GPU 공급 계약을 맺었죠. 예컨대 2030년까지 한국 기업들에 26만 장의 엔비디아 GPU를 공급하기로 한 것이 대표적입니다. 하지만 구글 TPU의 부상은 이 판도를 흔드는 신호입니다.
시장에선 이미 '탈(脫) 엔비디아' 움직임도 언급됩니다. 메타는 2027년 가동 예정 데이터센터에 TPU 도입을 검토 중이고, 아마존·MS·애플도 자체 AI 칩 개발에 나섰습니다. 구글-브로드컴 연합이 물밑에 움직이는 반면, 엔비디아는 공식 발표에서 구글을 칭찬하면서도 자신들의 우위를 강조했습니다. 단기적으로 GPU 왕좌가 무너지진 않겠지만, 새로운 경쟁자가 등장했다는 사실만으로 시장 판도는 흔들리고 있습니다.
국내 반도체 산업 영향
이 같은 AI 반도체 지각변동은 국내 반도체 업계에도 기회입니다. TPU가 대량 연산에 HBM(고대역폭메모리)을 필요로 하면서 삼성전자·SK하이닉스 같은 메모리 기업에 호재가 됩니다. 실제로 제미나이 3.0 발표 이후 구글과 브로드컴 주가가 큰 폭으로 상승한 반면, 엔비디아는 약간 빠졌습니다. 삼성전자와 SK하이닉스 등 메모리 관련주도 동반 상승하며 반도체 시장 분위기가 바뀌고 있습니다.
결론 및 전망
구글 TPU의 등장은 AI 인프라 시장에 새로운 변곡점이 될 것입니다. 한동안 독주하던 엔비디아의 GPU에 구글 TPU가 도전장을 내밀면서 AI 칩 경쟁은 더욱 치열해질 전망입니다. 단기적으로는 엔비디아 우위가 지속되겠지만, 중장기적으로 'AI 반도체 전쟁'에서 양강 구도가 형성될 가능성이 커졌습니다. 국내에서도 이를 계기로 메모리반도체 중심의 또 다른 기회가 마련될 수 있겠죠. 여러분은 앞으로 AI 인프라 시장 판도가 어떻게 바뀔 거라고 보시나요?