2026년 6월 19일 금요일 발행
구글 TPU, 엔비디아 독점에 균열 낸다
AI 시대의 석유를 쥔 기업이 있다면, 단연 엔비디아다. 챗GPT를 학습시키든, 이미지를 생성하든, 자율주행 모델을 돌리든 — 그 뒤엔 어김없이 엔비디아의 GPU(그래픽처리장치)가 있다. AI 붐이 시작된 2023년 이후 엔비디아의 데이터센터 매출은 3년 새 10배 이상 뛰었고, AI 칩 시장 점유율은 80% 안팎으로 추정된다. 업계에선 이를 가리켜 '젠슨 감옥'이라는 말까지 나왔다. 엔비디아 CEO 젠슨 황의 생태계에 한 번 들어가면 빠져나오기 힘들다는 뜻이다.
이 독점 구조를 정면으로 겨냥한 게 구글의 TPU(텐서처리장치) 전략이다. TPU는 구글이 2016년부터 자체 개발해온 AI 전용 칩으로, 딥러닝 연산에 특화돼 있다. 쉽게 말해 GPU가 다양한 연산을 빠르게 처리하는 '만능 선수'라면, TPU는 AI 학습과 추론만을 위해 설계된 '스페셜리스트'다. 구글은 지금껏 TPU를 내부 인프라 용도로만 써왔는데, 이번엔 외부 판매 전략으로 방향을 틀었다.
주목할 건 구글이 채택한 전략의 방식이다. 엔비디아의 성공 공식, 즉 하드웨어(칩) + 소프트웨어 생태계 + 개발자 커뮤니티를 하나의 패키지로 묶는 방식을 그대로 가져오려 한다. 엔비디아가 CUDA라는 개발 환경으로 수백만 개발자를 자기 생태계에 묶어뒀듯, 구글도 TPU에 맞춘 소프트웨어 스택과 클라우드 서비스를 함께 제공하며 락인(Lock-in) 효과를 노린다.
빅테크들이 AI 칩 시장에 눈독을 들이는 이유는 명확하다. AI 모델 학습에 들어가는 칩 비용이 기업 경쟁력을 좌우하는 핵심 변수가 됐기 때문이다. 아마존(트레이니움), 메타(MTIA), 마이크로소프트(마이아)도 각자의 자체 칩을 개발 중이다. 이른바 'AI 칩워(Chip War)' 의 새로운 국면이다. 엔비디아 의존도를 낮추면서 동시에 클라우드 수익을 높이려는 이중 전략이기도 하다.
체리 두 조각
엔비디아의 진짜 해자는 칩이 아니라 CUDA 생태계다. 10년 이상 쌓인 개발자 커뮤니티와 소프트웨어 자산은 하루아침에 대체할 수 없다. TPU가 성능 면에서 경쟁력을 갖춰도, 개발자들이 익숙한 생태계를 떠날 이유가 없는 한 엔비디아의 독점은 쉽게 무너지지 않을 것이다.
AI 칩 수요가 폭발적으로 늘면서 공급 다변화는 불가피한 흐름이다. 구글처럼 자체 클라우드와 AI 모델을 가진 빅테크가 TPU를 외부에 개방하면, 가격 경쟁력과 연동 서비스 편의성으로 충분히 점유율을 가져올 수 있다. 특정 기업 하나의 독점 구조는 장기적으로 시장 자체에 리스크이기 때문에, 대안 생태계에 대한 수요도 커질 수밖에 없다.