A bolha de IA não estourou pelo preço: o que os cortes da OpenAI e da Meta revelam
Meta e OpenAI cortaram até 90% o preço dos tokens. O que muda não é só a tarifa, é engenharia de infraestrutura, e isso também vale para quem constrói produto em cima de LLM.
Todo mundo esperava a bolha de IA estourar pelo lado do preço subindo.
Aconteceu o contrário.
Essa semana a Meta cortou mais de 90% do preço dos seus tokens. E em 30 de julho a OpenAI fez o maior corte de preço da sua história: até 80% mais barato na API.
O que me chamou atenção não foi o corte em si, foi o motivo por trás dele.
A OpenAI usou o próprio modelo mais avançado (o Sol) para reescrever o kernel de GPU da infraestrutura que serve os modelos. Resultado: 20% a menos no custo de servidor. Não foi ajuste de margem, foi ganho de engenharia real, documentado publicamente.
Kernels de produção reescritos em Triton/Gluon, validados com um floating point sanitizer para evitar erro numérico silencioso. Speculative decoding aprimorado: um modelo pequeno especula os próximos tokens, o modelo grande só valida. Load balancing repensado: roteamento por localização, tipo de acelerador, tamanho de contexto e disponibilidade de cache.
Nada disso veio de novo treinamento ou mais dados. É software. É engenharia de sistema.
E é exatamente por isso que os modelos chineses de peso aberto (Kimi, GLM, DeepSeek) estão pressionando tanto o mercado: quando a diferença passa a ser eficiência de infraestrutura e não só qualidade do modelo, cada engenheiro bom que otimiza uma camada (roteamento, cache, kernel) vira vantagem competitiva.
Pra quem constrói produto em cima de LLM, o recado é direto: o custo por tarefa não é fixo. Ele é uma variável que você também pode (e deve) otimizar, escolhendo o modelo certo pra cada etapa, cortando output desnecessário, cacheando o que for cacheável.
A régua de eficiência de infraestrutura que gigante de IA usa também vale pro seu produto.