DeepSeek disponibiliza DeepInfer, framework de inferência open-source com suporte a Nvidia e Huawei
DeepSeek lançou o DeepInfer, framework de inferência open-source que suporta GPUs Nvidia e processadores Huawei Ascend. Foco em reduzir custos computacionais e democratizar a infraestrutura de IA.
A DeepSeek resolveu colocar na mão dos desenvolvedores o motor que faz seus modelos de IA rodarem em produção. No último dia 20 de outubro, a empresa liberou como código aberto o DeepInfer, o framework de inferência que sustenta os serviços em larga escala da própria companhia. Ele já nasce com suporte a GPUs da Nvidia e processadores Huawei Ascend, duas das arquiteturas mais usadas no mercado de inteligência artificial.
Resumo
- DeepSeek liberou o DeepInfer como código aberto para desenvolvedores.
- O framework suporta GPUs Nvidia e processadores Huawei Ascend.
- DeepInfer oferece inferência distribuída e decodificação especulativa.
- O projeto inclui o deepseek-recipe para facilitar migração de APIs.
O DeepInfer não é só mais um framework. Ele entrega recursos como inferência distribuída, decodificação especulativa e saída estruturada — tudo pensado para turbinar a vazão (throughput) e reduzir a latência sem explodir o custo computacional. A DeepSeek afirma que a ideia é ajudar empresas e desenvolvedores a rodar modelos com mais eficiência, economizando energia e dinheiro no processo.
O que o DeepInfer oferece de diferente
Além do núcleo de inferência, a DeepSeek também abriu o deepseek-recipe, um componente que faz a ponte entre requisições de API e o processamento do modelo, seguindo o mesmo padrão usado no serviço oficial da empresa. Na prática, isso significa que quem já usa a API da DeepSeek pode migrar para o código aberto com o mínimo de adaptação.
O que é DeepInfer? Framework de inferência open-source da DeepSeek para rodar modelos de IA em produção.
O DeepInfer atualmente suporta o modelo DeepSeek-V4.1-Flash-1017, e a empresa promete continuar liberando código e otimizações para futuros modelos pelo mesmo projeto. Para quem trabalha com inferência de IA, ter acesso ao framework que roda nos servidores da DeepSeek é uma chance de entender e replicar as escolhas técnicas que fazem a diferença no dia a dia.
Suporte a Huawei Ascend abre portas na China
O suporte aos processadores Huawei Ascend é um movimento estratégico. Enquanto a Nvidia domina o mercado global, a Huawei tem ganhado terreno na China com suas próprias soluções de hardware para IA. Ao abraçar as duas arquiteturas, o DeepInfer se posiciona como uma alternativa flexível para quem não quer ficar preso a um único fornecedor — algo cada vez mais relevante num cenário de restrições de exportação e disputas tecnológicas.
Enquanto frameworks como o DeepInfer buscam otimizar a execução de modelos, a Inception acabou de lançar o Mercury 3, um modelo de IA que promete até 8x mais velocidade em relação a concorrentes como GPT-6 Luna e Claude Haiku 5.5. A corrida por eficiência está pegando fogo, e ter o código aberto ajuda a democratizar o acesso a essas tecnologias.
📲 Quer ficar por dentro de cada movimento da DeepSeek e de outros gigantes da IA? Entra no Canal do TS no WhatsApp e recebe os destaques direto no celular.
O lançamento do DeepInfer mostra que a DeepSeek não quer só competir com os grandes modelos fechados — ela também quer que a comunidade use e contribua com a infraestrutura que os sustenta. Para o desenvolvedor brasileiro, é uma chance de experimentar um framework de nível de produção sem depender de licenças caras. O projeto já está no GitHub e pode ser testado hoje mesmo.
Fonte: TechNode
Escrito por
