Desempenho de IA aberta, agentes que vão do código à produção sozinhos e um olhar de bastidor sobre como entregar voz com IA em tempo real.
Drafters de predição múltipla deixam o Gemma 4 até 3 vezes mais rápido
O Google lançou drafters de predição de múltiplos tokens para a família Gemma 4, que já passou de 60 milhões de downloads. A técnica, chamada decodificação especulativa, usa um modelo leve para prever vários tokens à frente, que o modelo principal confere de uma vez, aproveitando computação que ficaria ociosa. Segundo o Google, isso dá até 3 vezes mais velocidade sem perda de qualidade, em ferramentas como LiteRT-LM, MLX, Transformers e vLLM.
Respostas mais rápidas no mesmo hardware melhoram a experiência de assistentes e reduzem o custo de servir modelos próprios. Quem roda Gemma localmente ou em servidores pode ativar os drafters sem trocar de modelo.
Como a Dexpert ajuda: Inteligência Artificial
Agentes já podem criar conta, registrar domínio e publicar apps na Cloudflare
A Cloudflare passou a permitir que agentes de código, em nome do usuário, criem uma conta, assinem um plano pago, registrem um domínio e recebam um token para publicar o app na hora. O fluxo usa um protocolo criado com a Stripe, como parte do Stripe Projects, e a pessoa só entra para dar permissões e aceitar os termos de uso. A empresa também oferece US$ 100 mil em créditos para startups abertas pelo Stripe Atlas.
O caminho do protótipo à produção encurta muito para MVPs e projetos novos. Mesmo assim, vale definir quem aprova gastos e acessos que os agentes solicitam em nome da empresa.
Como a Dexpert ajuda: Cloud e ServerlessFontes
- The Cloudflare Blog: Agents can now create Cloudflare accounts, buy domains, and deploy
Como a OpenAI entrega voz com IA de baixa latência para 900 milhões de usuários
A OpenAI explicou como reformulou sua infraestrutura WebRTC para a voz do ChatGPT e a Realtime API, que atendem mais de 900 milhões de usuários semanais. O modelo de uma porta por sessão não se encaixava no Kubernetes, e as sessões precisam manter o mesmo dono para funcionar. A solução foi separar um relay e um transceptor, mantendo o WebRTC padrão para os clientes e mudando apenas o roteamento interno dos pacotes, para conectar rápido e manter a latência baixa e estável.
Para assistentes de voz, atendimento por telefone ou apps com conversa em tempo real, a latência da rede pesa tanto quanto o modelo. O caso mostra que usar padrões abertos como o WebRTC e cuidar do roteamento é o caminho para uma conversa natural.
Como a Dexpert ajuda: Backend e APIsFontes
Quer colocar uma dessas novidades para trabalhar na sua empresa?
A Dexpert desenvolve sistemas, apps, integrações e soluções de IA sob medida. Conte o que você precisa e receba uma estimativa, ou faça o diagnóstico gratuito de maturidade digital.