A empresa chinesa de inteligência artificial DeepSeek, sediada em Hangzhou, na China, abriu na terça-feira (20) o código do DeepInfer, seu framework interno de inferência estrutura de software que executa modelos treinados para responder a comandos dos usuários em servidores de produção. O projeto oferece compatibilidade simultânea com placas de vídeo de data center Nvidia SM100 (arquitetura Blackwell) e unidades de processamento neural (NPUs) Huawei Ascend 950, atingindo uma taxa de geração superior a 25.000 tokens por segundo na família do modelo DeepSeek-V4.1-Flash.
Publicado na plataforma de desenvolvimento GitHub junto com a biblioteca complementar deepseek-recipe, o sistema entrega a camada que distribui o processamento entre máquinas e controla a velocidade de geração de texto. “Estamos compartilhando nossa pilha de produção para ajudar a comunidade a reduzir custos computacionais, diminuir o uso de energia e tornar a IA mais acessível”, afirmou a DeepSeek, em tradução livre de comunicado oficial divulgado na rede social X. No mesmo pronunciamento, a companhia informou que o framework interno foi disponibilizado integralmente em código aberto e sustenta o modelo DeepSeek-V4.1-Flash em escala com alta vazão e baixa latência.
Leia também: Motorola Razr Flex: celular dobrável de formato largo aparece em teste com chip Snapdragon 8 Gen 5
DeepInfer e deepseek-recipe: licença, requisitos de sistema e hardware
Para desenvolvedores e empresas que administram infraestrutura própria de inteligência artificial, a abertura do projeto permite reproduzir localmente o motor de execução da fabricante chinesa. O pacote deepseek-recipe acompanha o lançamento e atua na codificação e decodificação de tokens (unidades de texto processadas pelo modelo), na conversão de requisições e no tratamento de entrada e saída no mesmo padrão da interface de programação de aplicações (API) comercial da empresa. Isso evita que equipes técnicas precisem reescrever do zero a interpretação de comandos e respostas.
A instalação e a operação da ferramenta exigem configurações específicas de software e aceleradores:
Saiba mais: Character.AI pede recuperação judicial e busca venda nos EUA
- Data de lançamento: 20 de outubro de 2026
- Sede da desenvolvedora: Hangzhou, China
- Licença de distribuição do DeepInfer: Apache License 2.0
- Aceleradores de hardware compatíveis: GPUs Nvidia SM100 e NPUs Huawei Ascend 950
- Sistema operacional e base de compilação: Linux, compilador GCC 13.0 ou superior e Python 3.12
- Plataformas de aceleração exigidas: CUDA 13 (para placas Nvidia) ou CANN 9.2 (para chips Huawei Ascend)
- Modelos suportados na estreia: família DeepSeek-V4.1-Flash, incluindo a versão DeepSeek-V4.1-Flash-1017
Arquitetura do DeepInfer sobre o vLLM e funções exclusivas na Nvidia
De acordo com a documentação técnica da própria desenvolvedora, o DeepInfer foi construído originalmente sobre o motor de código aberto vLLM, com inspiração adicional nos projetos SGLang e TensorRT-LLM, da Nvidia, antes de passar por uma reconstrução voltada à operação em larga escala. Após o anúncio, a equipe responsável pelo projeto vLLM agradeceu publicamente à DeepSeek por dar crédito à comunidade de código aberto e declarou que continuará aprimorando seu próprio suporte ao modelo V4.1-Flash utilizando ideias da nova ferramenta.
Veja também: Nvidia App ganha servidor MCP ativado por padrão para agentes de IA controlarem a placa de vídeo
O pacote liberado reúne recursos como inferência distribuída, kernels otimizados (rotinas de baixo nível ajustadas para o processador) e paralelismo para camadas de atenção e de Mixture-of-Experts (MoE, arquitetura que divide o modelo em sub-redes acionadas conforme a tarefa). Também estão presentes o agendamento assíncrono que sobrepõe o processamento da unidade central (CPU) à execução no chip acelerador, a reprodução limitada de atenção de janela deslizante (SWA Bounded Replay), a saída estruturada para formatos previsíveis como JSON e a decodificação especulativa batizada de DSpark, técnica que emprega um modelo menor para prever sequências e acelerar o modelo principal.
Dois mecanismos voltados à reprodutibilidade exata das respostas integram o código: a inferência invariante a lote (batch-invariant inference) e a amostragem determinística (deterministic sampling), que garantem resultados idênticos em execuções distintas. No estágio atual do projeto, contudo, essas duas funções operam apenas em hardware da Nvidia.
A versão disponibilizada no GitHub contempla a chamada inferência offline e deixa de fora três elementos necessários para um serviço completo em produção, que precisam ser implementados pelo próprio usuário:
- Sistema de armazenamento temporário (cache KV) compartilhado entre diferentes requisições
- Desagregação entre as fases de leitura do comando (prefill) e geração da resposta (decode)
- Balanceamento de carga entre réplicas paralelas de dados
Modelo DeepSeek-V4.1-Flash-1017 e impacto para infraestrutura no Brasil
A abertura do motor ocorre três dias após o lançamento do modelo atualizado DeepSeek-V4.1-Flash-1017, disponibilizado no sábado (17) sob a licença de código aberto MIT. Essa versão conta com uma arquitetura MoE multimodal de 552 bilhões de parâmetros totais e janela de contexto com capacidade para até 1 milhão de tokens, focada em compressão de cache KV e ganhos em testes de programação, raciocínio e tarefas de agentes. Na API pública da companhia, os novos pontos de conexão (endpoints) de busca (Search) e captura (Fetch) lançados com o modelo têm preço fixado em 5 iuanes chineses (CNY 5) por lote de 1.000 chamadas.
Antes desta semana, a empresa já havia aberto os pesos de famílias anteriores, como a linha R1 e versões da série V, mas mantinha fechado o software responsável por converter esses arquivos em serviço ativo. A inclusão de suporte nativo aos processadores da Huawei responde às restrições de exportação dos Estados Unidos, que limitam o acesso de companhias chinesas aos componentes mais avançados da Nvidia e impulsionam o uso de semicondutores locais.
Para operações que montam infraestrutura de inteligência artificial no Brasil — onde os processadores Huawei Ascend ainda não têm distribuição comercial relevante e as placas da Nvidia enfrentam preços elevados por demanda global e impostos de importação —, o código estabelece a separação entre o motor de execução e um único fornecedor de silício. Equipes que já utilizam o modelo V4.1-Flash-1017 ganham ainda a possibilidade de rodar o código oficial de quem treinou a rede, sem depender de adaptações de terceiros para evitar divergências de comportamento no servidor.
Continue lendo: Embraer E195-E2 da LATAM realiza voo de nacionalização entre São José dos Campos, Assunção e Confins
Discussões em fóruns de tecnologia após o lançamento citaram números extras atribuídos a um documento de perguntas e respostas em chinês incluindo uma vazão de 155 trilhões de tokens por dia por agrupamento de servidores (cluster) e receita de US$ 38 por placa por hora fora do horário de pico , mas esses dados não foram confirmados na documentação oficial do projeto. A DeepSeek informou que continuará publicando atualizações de código de inferência e otimizações para os seus próximos modelos diretamente no repositório do DeepInfer.