구글 TPU, 엔비디아 GPU 시장에 새로운 도전

구글이 개발한 텐서처리장치(TPU)가 인공지능(AI) 반도체 시장에서 존재감을 높이고 있다. 최근 구글이 TPU를 활용해 개발한 AI 모델 '제미나이 3 프로'가 오픈AI의 최신 모델(GPT-5.1)을 능가하는 성능을 보이면서, 엔비디아 GPU 중심의 시장에 균열이 생길 수 있다는 전망이 나온다. 구글은 12년 전부터 딥러닝 연산량 증가에 대비해 TPU 개발을 시작했고, 2015년부터 내부 서비스에 적용했다.

GPU는 다용도로 활용되는 반면, TPU는 특정 AI 연산에 특화되어 전력 효율성이 높다. 엔비디아 GPU는 AI 모델 학습 및 추론에서 탁월한 성능을 보이지만, 구하기 어렵고 가격이 비싸며 전력 소비량이 많다는 단점이 있다. 엔비디아는 이에 대해 자사의 기술이 TPU보다 뛰어난 성능과 범용성, 호환성을 제공한다고 주장한다.

업계는 TPU가 GPU를 완전히 대체하기는 어렵다고 본다. 엔비디아 GPU 위에서만 구동되는 개발 도구 플랫폼 '쿠다' 생태계가 강력하고, 개발자들이 익숙한 환경을 TPU 기반으로 전환하는 데 비용이 따른다는 점이 작용한다. 구글도 JAX 등 소프트웨어를 제공하지만 쿠다 생태계를 무시하기는 어렵다.

이병훈 포항공대 전자전기공학과 교수는 현재 GPU와 TPU처럼 각자의 강점을 가진 칩이 공존하는 흐름이라고 진단한다. 시장 규모가 커지면서 각 칩이 서로 다른 역할을 수행하게 될 것이라는 전망이다. 한종목·김은지 미래에셋증권 연구원은 보고서에서 TPU의 약진이 엔비디아의 붕괴를 의미하지 않으며, 시장은 역할 분담을 통해 성장할 것이라고 분석한다.

AI 가속기 시장의 성장은 관련 메모리 수요 증가로 이어져 SK하이닉스와 삼성전자에도 긍정적인 영향을 미칠 것으로 예상된다. 이 교수는 TPU든 GPU든 메모리가 필수적이며, 시장 성장과 함께 메모리 시장도 확대될 것이라고 내다본다.