Eficiência em três frentes: modelos de IA que gastam menos memória, um caso real de reescrita com IA que cortou custos e uma nova versão do Swift.
TurboQuant, do Google, comprime vetores e o cache dos modelos sem perda de precisão
O Google Research apresentou o TurboQuant, algoritmo de quantização que reduz muito o tamanho de vetores de alta dimensão, usados tanto no cache de chave-valor dos modelos de linguagem quanto em buscas vetoriais. Os métodos tradicionais precisam guardar constantes extras para cada bloco de dados, o que consome 1 ou 2 bits a mais por número. Segundo os pesquisadores, o TurboQuant elimina essa sobrecarga e, nos testes, reduziu o tamanho sem perda de precisão.
Técnicas assim tendem a baratear a execução de modelos e de buscas semânticas, o que interessa a quem roda RAG ou modelos próprios. Vale acompanhar quando elas chegarem às bibliotecas e bancos vetoriais usados no dia a dia.
Como a Dexpert ajuda: Inteligência ArtificialFontes
- Google Research: TurboQuant: Redefining AI efficiency with extreme compression
%20(1)%20(1).png)
Reco reescreve o JSONata em Go com IA em sete horas e economiza US$ 500 mil por ano
A Reco avaliava expressões JSONata sobre bilhões de eventos chamando, por rede, uma frota de processos Node.js, o que custava cerca de US$ 300 mil por ano em computação e somava latência a cada chamada. Inspirada no caso do Next.js na Cloudflare, a equipe deu à IA a especificação e a suíte de testes do JSONata e pediu uma implementação em Go até todos os testes passarem. O resultado levou sete horas e US$ 400 em tokens, ficou até 1.000 vezes mais rápido em expressões comuns e abriu otimizações que somaram US$ 500 mil de economia anual.
Quando existe uma boa suíte de testes, reescrever componentes caros com IA virou uma opção concreta de modernização. Empresas com serviços que só existem para atravessar linguagens ou plataformas podem ter economias parecidas.
Como a Dexpert ajuda: Modernização de Sistemas Legados
Swift 6.3 melhora a interoperabilidade com C e as ferramentas multiplataforma
O Swift 6.3 foi lançado com o atributo @c, que expõe funções e enums Swift para código C, e seletores de módulo para resolver conflitos de nomes entre bibliotecas importadas. A versão também dá a autores de bibliotecas mais controle sobre otimizações do compilador e traz uma prévia do Swift Build integrado ao Swift Package Manager, para um build mais consistente entre plataformas. Há ainda melhorias para uso em sistemas embarcados.
Integrar Swift a bases de código C e C++ existentes fica mais simples, o que ajuda a modernizar apps aos poucos, sem reescrever tudo. Times iOS podem planejar a atualização para aproveitar o novo sistema de build.
Como a Dexpert ajuda: Aplicativos MobileFontes
- Swift.org: Swift 6.3 Released
Quer colocar uma dessas novidades para trabalhar na sua empresa?
A Dexpert desenvolve sistemas, apps, integrações e soluções de IA sob medida. Conte o que você precisa e receba uma estimativa, ou faça o diagnóstico gratuito de maturidade digital.