Pichau Arena
Uma Batalha de Informações

Servidor de IA local Lemonade, apoiado pela AMD, recebe suporte oficial para NVIDIA CUDA

Uma atualização importante coloca gigantes do hardware para trabalhar no mesmo ecossistema

Getting your Trinity Audio player ready...

-Quebra de barreiras
-Avanços técnicos e hardware de ponta
-Foco no desenvolvedor

O ecossistema de Inteligência Artificial local ganhou um capítulo interessante de interoperabilidade. O Lemonade SDK, um projeto de servidor de IA de código aberto apoiado e otimizado pela AMD, recebeu uma atualização significativa (versão 10.7.0) que adiciona suporte nativo para GPUs da rival NVIDIA por meio da tecnologia CUDA.

A mudança chama a atenção por se tratar de uma ferramenta desenvolvida inicialmente com foco no hardware da AMD, como processadores x86, placas de vídeo Radeon e as CPUs Ryzen AI. Com o novo update, o Lemonade se consolida como uma solução multiplataforma capaz de rodar nativamente nos três principais ecossistemas de hardware do mercado atual AMD, NVIDIA e Apple (via Metal).

Imagem: reprodução/Lemonade

O que é o Lemonade?
O Lemonade funciona como um servidor local de IA projetado para configurar e otimizar de forma automática o uso de CPUs, GPUs e NPUs para tarefas de texto, imagem e áudio. Ele se destaca por sua compatibilidade com APIs de grandes serviços de nuvem e ferramentas de IA, como OpenAI, Anthropic e Ollama, permitindo que desenvolvedores migrem suas aplicações da nuvem para o hardware local apenas mudando o endpoint de destino. O software está disponível para Windows, Linux, macOS e Docker.

Novidades da versão 10.7.0
Suporte a CUDA no Windows e Linux: A integração foi feita adicionando o backend llamacpp:cuda. O changelog do projeto no GitHub também aponta que já foram aplicadas correções de detecção para as novas arquiteturas de hardware da NVIDIA, como a linha Blackwell, e melhorias no ecossistema PRIME do Linux.

Expansão para geração de imagens: Além do texto, a atualização traz suporte para o backend CUDA do stable-diffusion.cpp no Linux, e suporte a Vulkan (para Windows e Linux), ampliando o desempenho em múltiplos fornecedores de placas gráficas.

Suporte ao modelo LMX-Omni, agora compatível com aplicações que renderizam saídas multimídia através de interfaces que usam a API da OpenAI (como o Open WebUI e o AnythingLLM).

Monitoramento e Benchmarks: A nova versão introduz uma ferramenta nativa de métricas do Prometheus para monitoramento em tempo real e o comando lemonade bench, que permite aos usuários padronizar e comparar o desempenho de modelos de linguagem (LLMs) entre diferentes motores de execução, como llama.cpp, vLLM, FastFlowLM e o ecossistema Ryzen AI dentro da mesma máquina.

Essa atualização demonstra um movimento pragmático no desenvolvimento de softwares de IA de código aberto: mesmo com o patrocínio da AMD, garantir que a ferramenta funcione sem barreiras no hardware da NVIDIA amplia drasticamente a sua adoção pela comunidade de desenvolvedores.

0 0 votos
Classificação do artigo
Inscrever-se
Notificar de
guest

0 Comentários
mais antigos
mais recentes Mais votado
0
Adoraria saber sua opinião, comente.x