Ícone do site Pichau Arena

Intel lança Gaudi 3: acelerador otimizado para IA generativa em larga escala

Gaudi

Imagem: Intel/Reprodução

De acordo com uma publicação do Tom’s Hardware da última terça-feira (24), a Intel lançou oficialmente seu acelerador de IA de terceira geração, o Gaudi 3, projetado para enfrentar as demandas de IA generativa e grandes modelos de linguagem (LLMs).

A empresa está apostando em seu novo chip para competir com a série H100 da NVIDIA, e embora o a novidade seja mais lenta, sua proposta de valor está em um preço significativamente mais baixo e melhor eficiência em grandes clusters de data centers.

O Gaudi 3 traz várias melhorias em relação ao modelo anterior, Gaudi 2, incluindo 64 núcleos de processamento tensorial (TPCs), motores de multiplicação de matrizes e 128 GB de memória HBM2E. Com essas especificações, o chip é otimizado para grandes cargas de trabalho de treinamento de IA, oferecendo uma taxa de transferência máxima de até 1856 TFLOPS em operações BF16/FP8.

Por mais que esse desempenho seja inferior ao H100, especialmente em operações FP8 (1,856 vs. 3,958 TFLOPS), a Intel está focada em oferecer um melhor custo-benefício para empresas que precisam de escalabilidade em larga escala​.

Imagem: Reprodução/Intel

Uma das principais vantagens do Gaudi 3 é seu custo. Cada unidade tem um preço estimado em torno de US$15.625, quase R$86 mil na cotação atual, menos da metade do preço de um H100, que custa mais de US$ 30.000 (R$164.757).

Essa característica torna o lançamento da Intel uma escolha atraente para empresas que buscam reduzir o custo total de propriedade, principalmente em data centers que utilizam muitos aceleradores simultaneamente​.

Outras vantagens do Gaudi 3

Além disso, é importante destacar que o Gaudi 3 é totalmente compatível com frameworks populares de IA, como PyTorch e modelos da Hugging Face, otimizando ainda mais seu uso em IA generativa. No entanto, resta ver como o desempenho do Gaudi 3 se traduzirá em cenários reais, nos quais o software e o suporte a longo prazo podem ser fatores decisivos.

0 0 votos
Classificação do artigo
Sair da versão mobile