Google TPUv7 supera NVIDIA em desempenho por dólar em testes de inferência

O Google TPUv7 apresentou resultados de desempenho por dólar superiores aos chips da NVIDIA em testes de inferência de modelos de linguagem. Os dados, divulgados em 5 de novembro de 2026, mostram que o hardware do Google é competitivo ou entrega resultados de ponta em tarefas de inferência de longo contexto e múltiplas voltas.

O avanço da tecnologia do Google ocorre em um cenário onde a demanda por hardware é apenas parte da história, visto que o ecossistema de software da NVIDIA tem sido seu principal diferencial. No entanto, o TPUv7 tem ganhado espaço ao estabelecer parcerias com mantenedores de código aberto, como as equipes do PyTorch da Meta, vLLM, SGLang e Ray.

Resultados de desempenho por modelo

Os novos benchmarks realizados no InferenceX/AgentX compararam o TPUv7 com chips da NVIDIA e AMD em diferentes modelos de inteligência artificial. Os resultados destacam a eficiência de custo do hardware do Google:

• Muse Spark Open (Meta): O TPUv7 mostrou desempenho competitivo por dólar, mesmo em uma arquitetura co-projetada para GPUs;
• GLM-5.2: O TPUv7 foi a opção mais barata em FP8, entregando de 1,2x a 2,7x mais tokens por dólar que os modelos B200, B300 e MI355X da NVIDIA e AMD;
• Qwen3.5 397B: O TPUv7 superou o GB300 FP8 em todos os níveis de interatividade;
• Kimi K3: O hardware do Google entregou de 1,15x a 2,5x mais tokens por dólar do que os modelos GB200, B200, B300 e MI355X.

Desafios para a NVIDIA

A competitividade do TPUv7 coloca pressão sobre a liderança da NVIDIA, que busca manter sua vantagem de mercado. Segundo o relatório, a NVIDIA tem mobilizado equipes de engenharia para responder aos avanços da concorrência, mas o primeiro contra-ataque da empresa (GB300 FP4) ainda apresentou um desempenho 1,64x inferior ao TPUv7 FP8 para clientes externos na maioria das curvas de uso.

Além da questão técnica, o relatório aponta dificuldades burocráticas na NVIDIA, mencionando que processos de revisão jurídica interna têm atrasado a implementação de novas funcionalidades de drivers para o PyTorch. Em contraste, empresas com mentalidade de startup, como a AMD, e o próprio Google, têm demonstrado maior agilidade no desenvolvimento e integração de recursos para a comunidade de código aberto.

Otimização de modelos

O suporte para modelos de grande escala tem sido um ponto de destaque. O modelo Muse Spark Open, da Meta, que possui 816 bilhões de parâmetros, já é utilizado em produção com o TPUv7 no SGLang-TorchTPU. Mesmo sendo um modelo otimizado para GPUs, o TPUv7 conseguiu manter um desempenho competitivo de decodificação por dólar.

Outro exemplo é o GLM-5.3, que utiliza o DeepSeek Sparse Attention para suportar contextos de até 1 milhão de tokens. No formato FP8, o TPUv7 continua sendo a forma mais barata de realizar o serviço para este modelo, superando significativamente as opções de hardware concorrentes em termos de custo-benefício.

Leia também: Camouflaj libera demo gratuita de Iron Man VR em PlayStation 4.

Leia também: Iron Man VR teve data confirmada para 03 de julho em PlayStation VR.