인더뉴스 이종현 기자ㅣ구글의 제미나이 3.0이 최근 공개되며 오픈AI의 챗GPT의 대항마로 떠오른 가운데, 엔비디아의 그래픽처리장치(GPU)가 아닌, 구글이 자체 개발한 AI 가속기 '텐서처리장치(TPU)'를 사용해 개발한 점이 화제입니다.
원래 그래픽과 고해상도 영상 처리 등 시각적 데이터에 특화된 장치였던 GPU는 AI 학습에 주로 활용되는 '딥러닝'의 행렬 연산 방식에 적합한 장치로 주목받으며 AI 산업의 핵심 장치로 부상했습니다.
이는 과거부터 GPU를 주로 만들었던 엔비디아를 AI 산업의 '큰 손'으로 만들어 주었으며 지금까지도 고성능 거대언어모델(LLM)을 만들기 위해서는 엔비디아의 GPU가 필수적이라고 여겨져 왔습니다.
GPU가 그래픽 처리용으로 쓰였던 만큼 AI 연산이 아닌 분야에서도 범용성 있게 사용될 수 있지만 TPU는 딥러닝에만 특화된 장치라는 점에서 차별점을 가집니다. 구글이 자사 AI 서비스인 구글 어시스턴트, 번역기 등의 처리 속도를 높이기 위해 2016년 처음 공개되었으며 이후로 꾸준히 발전시키고 있습니다.
제미나이 3.0 개발을 위해 사용된 TPU 또한 일반적인 칩처럼 범용적인 계산을 하는 것이 아닌, AI 연산에만 모든 처리 속도를 사용해 AI 연산 효율성을 높인 것이 특징입니다.
이렇게 TPU를 활용해 개발된 제미나이 3.0이 챗GPT와 견줄 만한 성능이 나오자 일각에서는 TPU가 엔비디아 GPU의 독점 체제를 깨고 새로운 대안으로 떠오를 것으로 예상하기도 합니다.
젠슨 황 엔비디아 CEO 또한 "구글은 AI 분야에서 큰 진전을 이뤘다"라고 자신의 X 공식 계정에 밝혔지만 그러면서도 구글이 TPU를 통해 AI 모델을 구축한다고 해도 여전히 엔비디아 GPU를 필요로 할 것이라고 전망하기도 했습니다.
하지만 당장 TPU가 GPU를 대체할 수 있지는 않을 것으로 보입니다. 제미나이 3.0이 GPU 없이 TPU로만 개발되었다는 것도 완전한 사실은 아니란 것이 전문가들의 의견입니다.
한 업계 전문가는 "제미나이 3.0을 TPU 기반으로 학습시킬 수 있었던 것은 이전부터 구글이 GPU 기반으로 데이터와 프레임워크를 훈련시켰기 때문이다"라고 설명했습니다. 이미 AI 산업의 발전이 GPU를 토대로 진행됐기에 GPU 없이 순수 TPU만으로 제미나이를 개발했다는 것은 어렵다고 보는 것입니다.
또한, TPU가 AI 연산에 특화되어 있지만 그만큼 범용성은 GPU에 비해 떨어집니다. 이는 곧 다양한 AI 서비스가 이미 GPU를 기반으로 출시되었기에 TPU가 현재 구축되어 있는 GPU 기반 AI 인프라를 당장 대체하기에는 현실적으로 불가능합니다.
다만, GPU가 범용성이 넓은 것은 사실이나 가격이 비싸며 전력 효율성 등에서 완전한 모습을 보이는 것은 아니기에 이를 대체하기 위한 노력은 세계 곳곳에서 계속되고 있습니다. 마이크로소프트, 테슬라 등 빅테크들은 이미 자체 칩 개발을 오랜 기간 지속해 오고 있습니다.
구글의 TPU 역시 GPU 사용에 대한 부담이 커짐에 따라 자사 서비스에 최적화된 칩을 개발하고자 해서 나온 결과입니다. 실제로 제미나이 3.0에 쓰인 TPU가 엔비디아의 주력 칩인 GPU H100보다 80%가량 저렴하다는 점에서 비용 절감 효과가 큽니다.
TPU의 부상은 GPU를 대체한다는 전조가 아닌, AI 산업에서의 칩 역할 분화로 분석됩니다. GPU가 다양한 AI 학습에 활용되는 것은 사실이지만 AI 기술이 발전하고 영역이 세분화 된다면 일부 영역에서는 TPU와 같이 GPU 대비 성능이 비교 우위에 있는 칩들을 활용하게 될 것이라는 전망입니다.
