|
Getting your Trinity Audio player ready...
|
– Ganho de performance até 80% em workloads de inferência em estações multi-GPU com LLM Scaler v1.0
– Quantização dinâmica, speculative decoding, torch.compile, suporte a modelos multimodais, paralelismo e monitoramento robusto via XPU Manager
– Versão mais estável no fim do Q3 de 2025 e entrega completa no Q4 com funcionalidades corporativas completas, SR-IOV e gerenciabilidade
Conforme publicado pelo Tom’s Hardware na última quarta-feira (13), a Intel revelou o primeiro grande update de software para o Project Battlematrix, iniciativa da marca para estações de trabalho com múltiplas GPUs Arc Pro B-series.
O lançamento do LLM Scaler v1.0, um container Linux especializado em workloads de inferência de IA, impulsiona o desempenho em até 80% em configurações multi-GPU com transferência PCIe P2P e traz melhorias para usuários corporativos e entusiastas.
- Trump vira aliado e pode salvar a Intel; saiba mais
- Apple, Google e NVIDIA podem formar aliança para salvar Intel
Otimizações de performance na prática
-
Para modelos LLM com sequências longas (40 mil tokens), o ganho chega a 1,8× em modelos de 32B KPI e até 4,2× em modelos de 70B KPI. Modelos entre 8B e 32B recebem um aumento de throughput de saída de cerca de 10%.
-
O software inclui ainda quantização online por camada para reduzir memória utilizada, suporte a torch.compile, speculative decoding, paralelismo de dados, suporte a múltiplos modelos (multi-modal), entre outras melhorias avançadas.
Ferramentas para gerenciamento e monitoramento
Vale destacar que o pacote vem com utilitários de de diagnóstico e monitoramento, como o XPU Manager, que permite atualizar firmware, monitorar consumo de energia e largura de banda de GPU, além de ferramentas como o benchmark OneCCL.
Além disso, promete confiabilidade em nível empresarial com recursos como ECC, SR-IOV, telemetria e updates remotos, preparando o terreno para versões futuras com ainda mais funcionalidades. Uma versão mais robusta está prevista para o final do Q3, com o conjunto completo de funcionalidades chegando no Q4 de 2025.
O ecossistema Battlematrix
Por fim, é importante mencionar que o Project Battlematrix reúne até 8 GPUs Arc Pro B60 (cada uma com 24 GB de GDDR6, PCIe 5.0, multi-GPU e entre 120–200 W), além de CPUs Xeon e até 192 GB de VRAM, voltado para aplicações de inferência de LLMs em ambientes Linux com contêineres Otimizados. A estratégia prevê implantação do stack completo até o fim de 2025, com suporte a virtualização, gerenciamento remoto e serviços vLLM.