A Alphabet (GOOGL) apresenta chips TPU de 8.ª geração de duplo propósito desenvolvidos com a Broadcom

Destaques Principais

• A Alphabet apresentou as suas unidades de processamento tensorial de 8.ª geração: a TPU 8t otimizada para treino e a TPU 8i para cargas de trabalho de inferência
• A TPU 8i, focada em inferência, oferece um desempenho por dólar 80% superior em comparação com a sua predecessora, Ironwood
• Ambos os processadores foram desenvolvidos em parceria com a Broadcom e concebidos em colaboração com a Google DeepMind
• O processador de treino TPU 8t pode escalar até 9.600 chips e oferece o dobro da largura de banda entre chips da Ironwood
• Os clientes do Google Cloud terão acesso a ambas as variantes de chips mais tarde em 2025

A divisão Google da Alphabet apresentou na quarta-feira dois processadores de inteligência artificial especializados, marcando a primeira vez que a sua arquitetura de unidade de processamento tensorial foi separada em chips distintos para operações de treino e inferência.

A TPU 8t foi concebida especificamente para o treino de modelos de IA, enquanto a sua homóloga, a TPU 8i, se foca exclusivamente na inferência — o processo de implementação de modelos treinados em aplicações do mundo real. A Broadcom atuou como parceira de codesenvolvimento, prolongando uma colaboração que já dura mais de dez anos.

Alphabet Inc., GOOGL

Isto representa uma mudança estratégica relativamente às abordagens anteriores. As iterações anteriores das TPU combinavam capacidades de treino e inferência num único processador. A Google atribui esta mudança ao surgimento de sistemas de IA agênticos — modelos autónomos que operam em ciclos de feedback contínuos com supervisão humana mínima — que requerem silício mais especializado.

A TPU 8i orientada para inferência integra 384 megabytes de SRAM por processador — três vezes a capacidade da Ironwood. De acordo com a Google, esta melhoria arquitetural elimina o estrangulamento da "sala de espera", reduzindo os picos de latência que ocorrem quando múltiplos utilizadores consultam um modelo simultaneamente.

As capacidades de inferência registam melhorias significativas

Em comparação com a Ironwood, a TPU 8i alcança uma eficiência de custo 80% superior. Em termos operacionais, as organizações podem acomodar quase o dobro da procura de utilizadores sem aumentar o orçamento.

O chip demonstra também uma melhoria de até 2x na eficiência energética por watt, possibilitada pela tecnologia de gestão dinâmica de energia que modula o consumo energético com base nos requisitos de carga de trabalho em tempo real.

Pela primeira vez, ambos os processadores utilizam a CPU Axion da Google como processador anfitrião, permitindo a otimização ao nível da arquitetura do sistema em vez de limitar as melhorias ao desempenho individual de cada chip.

No que respeita às capacidades de treino, a configuração superpod da TPU 8t suporta clusters de até 9.600 processadores com 2 petabytes de memória de alta largura de banda. Isto representa o dobro da largura de banda de comunicação entre chips da Ironwood, e a Google afirma que pode comprimir os prazos de desenvolvimento de modelos de fronteira de meses para meras semanas.

O processador de treino oferece 2,8 vezes o desempenho computacional da arquitetura Ironwood de sétima geração a um preço equivalente.

Primeiros adotantes e impacto na indústria

A adoção precoce está a ganhar força. A Citadel Securities desenvolveu plataformas de investigação quantitativa utilizando a infraestrutura TPU da Google. Todos os dezassete laboratórios nacionais do Departamento de Energia dos Estados Unidos operam aplicações de co-cientista de IA nos processadores. A Anthropic assumiu compromissos de utilizar múltiplos gigawatts de capacidade de computação TPU da Google.

Os analistas da DA Davidson projetaram em setembro que a divisão TPU da Google, quando combinada com a Google DeepMind, poderia atingir uma avaliação próxima dos 900 mil milhões de dólares.

A Google mantém um modelo de distribuição exclusivo para as TPU — não estão disponíveis para compra direta e só podem ser acedidas através dos serviços do Google Cloud. A Nvidia continua a fornecer hardware GPU à Google, e a empresa confirmou que estará entre os primeiros fornecedores de serviços de nuvem a oferecer a próxima plataforma Vera Rubin da Nvidia quando esta for lançada mais tarde este ano.

Os processadores foram concebidos em estreita colaboração com a Google DeepMind, que os implementou para treinar modelos de linguagem Gemini e otimizar algoritmos que alimentam as plataformas Search e YouTube.

A Google anunciou que tanto a TPU 8t como a TPU 8i estarão disponíveis para clientes da plataforma de nuvem mais tarde em 2025.

The post Alphabet (GOOGL) Unveils Dual-Purpose 8th-Gen TPU Chips Developed With Broadcom appeared first on Blockonomi.