De acordo com uma publicação do Tom’s Hardware desta terça-feira (30), a Apple divulgou um documento oficial que revela que a marca não utiliza as GPUs da NVIDIA em seu modelo próprio de IA, contrariando o que é feito pela maioria das concorrentes com o mesmo propósito.
A fabricante declarou sua preferência por TPUs (Tensor Processing Unit) da Google nos treinamentos. Conforme mostra o arquivo, os Apple Foundation Models (AFMs), sejam eles de servidores ou dispositivos, fazem uso dos chips TPUv4 e TPUv5.
- Apple e NVIDIA usaram milhares de vídeos do YouTube para treinar IAs, dizem acusações
- 100 melhores empresas do mundo: NVIDIA de fora, Apple, Microsoft e outras na lista
A AFM para servidores é a maior inteligência artificial da fabricante e está sempre online. Segundo os documentos, é treinada com 8.192 chips TPUv4, divididos em oito grupos de 1.024 chips cada, sendo que todos são conectados por uma rede de data center.
No mais, a Apple informa ainda que as AFMs reúnem dados de treinamento para inteligência artificial através do web crawler Applebot, além de usarem também vários conjuntos high-end licenciados. A marca revela ainda que se beneficia de códigos, matemática e conjunto de dados públicos selecionados a dedo.
O uso de TPUv5
Por um outro lado, o divulgado mostra que em dispositivos com Arm, a marca faz uso de clusters do Google com TPUv5, treinados por 2.048 chips em somente uma divisão.
A Apple afirma também que técnicas de destilação de conhecimento otimizadas são utilizadas para o desempenho em modelos menores, o que por sua vez garante mais eficiência.
Por fim, a empresa mostrou ainda benchmarks que revelam que as AFMs da marca estão entre os melhores em seguir instruções, uso de ferramentas, escrita e mais, o que prova que a decisão de não usar hardware NVIDIA não está impactando a performance.