惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - 司徒正美
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
腾讯CDC
WordPress大学
WordPress大学
爱范儿
爱范儿
GbyAI
GbyAI
酷 壳 – CoolShell
酷 壳 – CoolShell
博客园 - 聂微东
Google DeepMind News
Google DeepMind News
Recent Announcements
Recent Announcements
Latest news
Latest news
Last Week in AI
Last Week in AI
V2EX - 技术
V2EX - 技术
I
InfoQ
N
News | PayPal Newsroom
SecWiki News
SecWiki News
Microsoft Azure Blog
Microsoft Azure Blog
美团技术团队
T
Troy Hunt's Blog
H
Hacker News: Front Page
S
SegmentFault 最新的问题
TaoSecurity Blog
TaoSecurity Blog
V
Visual Studio Blog
Martin Fowler
Martin Fowler
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
博客园_首页
S
Security @ Cisco Blogs
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
小众软件
小众软件
L
LangChain Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
T
Tor Project blog
L
LINUX DO - 热门话题
月光博客
月光博客
S
Schneier on Security
Y
Y Combinator Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
P
Proofpoint News Feed
Forbes - Security
Forbes - Security
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
Hugging Face - Blog
Hugging Face - Blog
A
Arctic Wolf
Webroot Blog
Webroot Blog
博客园 - 叶小钗
F
Fortinet All Blogs
S
Securelist
AI
AI
B
Blog RSS Feed
Security Latest
Security Latest

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant Common SOC 2 Failures (Real World) Stop Vibe-Checking Your AI App: A Practical Guide to Evals How to Use SonarQube and SonarScanner Locally to Level Up Your Code Quality Your Next To-Do App Is Dead — I Replaced Mine with an OpenClaw AI Sign a Nostr event in 60 lines of Python using coincurve — no nostr-sdk, no nbxplorer, no rust toolchain ITGC Audit Explained Like You’re in Big 4 Patch Tuesday abril 2026: Microsoft parcha 163 vulnerabilidades y un zero-day en SharePoint Stop scraping everything: a better way to track competitor price changes Listing on MCPize + the Official MCP Registry while routing payments OUTSIDE the marketplace — how I kept 100% of my x402 revenue Building an AI-Powered Risk Intelligence System Using Serverless Architecture Why We Ripped Function Overloading Out of Our AI Toolchain Testing AI-Generated Code: How to Actually Know If It Works SaaS Churn Is Killing Your Business. Here Is What to Do About It (Without a Support Team) The Speed of AI Is No Longer Linear - And Self-Improving Models Are Why How to Implement RBAC for MCP Tools: A Practical Guide for Engineering Teams From Standard Quote to Persuasive Proposal: AI Automation for Arborists I built a CLI that scaffolds complete multi-tenant SaaS apps Axios CVE-2025–62718: The Silent SSRF Bug That Could Be Hiding in Your Node.js App Right Now The dashboard that ended our friendship Data Pipelines Explained Simply (and How to Build Them with Python) The Hidden Cost of AI Systems Nobody Talks About. undefined vs undeclared, and how typeof behaves Switching from file-based jobs to NATS/Kafka in Rust without changing code io_uring Adventures: Rust Servers That Love Syscalls Why Agentic AI is Killing the Traditional Database The POUR principles of web accessibility for developers and designers Quantum Neural Network 3D — A Deep Dive into Interactive WebGL Visualization How To Install Caveman In Codex On macOS And Windows Automation Pipeline Reliability: Why Your Workflow Breaks When Nobody Is Watching I Built an 'Open World' AI Coding Agent — It Works From ANY Folder From Freelancing to Product: A Tech Service Company's SaaS Transformation China's AI Giants: Adding Tencent Hunyuan & ByteDance Doubao to AI University (74 Providers) On the Vibe Coders and Their Lies clerk: Auto-Summarize Your Claude Code Sessions AI Weekly — 2026/04/10–04/17 | The Model Lockdown Is Here, but the Toolchain Is the Real Battleground AI 週報 — 2026/04/10–2026/04/17 模型封鎖潮來了,但工具鏈才是真戰場 Maybe this is how Open-Source apps are born... 🚀 Fine-Tune LLMs with LoRA and QLoRA: 2026 Guide tRPC v11 + Next.js App Router: End-to-End Type Safety Without the Boilerplate ShadCN UI in 2026: Why I Stopped Installing Component Libraries and Started Owning My Components SaaS Billing in React Server Components: Stripe + Supabase Without a Single `useEffect` Join our DEV Weekend Challenge — $1,000 in Prizes Across TEN winners! Submissions Due April 20 at 6:59 AM UTC. Implementing FSRS Spaced Repetition in Flutter + Supabase — Adding Memory Science to an AI Learning App "I Texted My Localhost From the Train — Claude Code Fixed the Bug Before I Got Home" I Built a Sales Prep AI and It Went Deeper Than Expected Design to Code #2: One JSON, Eleven Outputs Solving the 100M-Row Problem: A Summary Table Pattern for High-Volume Push Notification Logs Flutter Web With Wasm: What Actually Changes For Developers I Built 50 Royalty-Free Soundtracks for My Side Project in a Weekend Using AI Music Generation The Vibe Coding Security Checklist: 7 Things to Check Before You Ship Stop Letting Googlebot Guess Fix Your React App's SEO Right Desconstruindo o Streaming do LinkedIn: Como Criar um Engine de Extração de Vídeo de Alta Performance com HLS e FFmpeg (EDA Part-1) EDA (Exploratory Data Analysis) Explained With Real Life — Why Looking at Your Data Is the Most Important Step in Machine Learning Brand Relationship Management at Scale: Our 4-Touch Outreach System for 200+ Brands Why String.fromEnvironment() Might Return an Empty String in Dart JGuardrails 1.0.0 — Hardening Java LLM Apps Against Jailbreaks, Toxicity, and Prompt Injection Plan and Schedule a Full Week of Threads Content From One Claude Conversation Coding Cat Oran Ep3, Five Tables Changed Everything Updated: BFF Pattern I'm done watching freelancers get buried by 200 proposals. So I'm building the alternative. This is my first post BFS Algorithm in Java Step by Step Tutorial with Examples Tracking LLM Pricing Monthly: An Open Dataset for 22 AI Models How We Measure Content ROI on a Comparison Site: Revenue Attribution Without Perfect Data Introducing Nova AI Ops: The AI-Native Operating System for SRE Teams I built a free desktop video downloader for Windows — Grabbit How Talkie OCR Helps Vision-Impaired & Dyslexic Users Read the World Around Them VRCFaceTracking安装和iPhone面捕配置教程,有bug Even CrowdStrike Can't See Your Agents The Automation Gold Rush: What n8n Workflows and Claude Are Opening Up for Developers Right Now
Preço por token não é custo por tarefa: a inversão que muda a economia dos modelos de raciocínio
Emerson Delatorre · 2026-06-21 · via DEV Community

Modelos aparentemente baratos podem consumir mais tokens, executar mais etapas e terminar com uma conta maior — especialmente em agentes de programação e outros fluxos de trabalho longos.

Uma API, ou interface de programação, permite que uma aplicação envie solicitações ao modelo e receba respostas. Normalmente, a cobrança considera tokens — pequenas unidades em que textos e códigos são divididos durante o processamento.

Em uma chamada simples, o custo pode ser representado aproximadamente por:

C=nentrada×pentrada+nsaıˊda×psaıˊda‘ C = n_{entrada} \times p_{entrada} + n_{saída} \times p_{saída}`

Aqui, (n) representa o número de tokens consumidos e (p), o preço de cada tipo de token. O custo de inferência — isto é, de executar um modelo já treinado para produzir uma resposta — depende tanto do preço unitário quanto do volume consumido.

A tabela do fornecedor mostra principalmente o (p). Mas a aplicação paga por:

(p×n)(p \times n)

Nos modelos de raciocínio, a saída pode incluir tokens de pensamento: computação intermediária usada antes da resposta visível. Dependendo da API, esses tokens podem não aparecer para o usuário, embora sejam contabilizados e cobrados como tokens de saída. No conjunto avaliado pelo estudo, todos os fornecedores cobravam os tokens de raciocínio pela tarifa de saída.

Em sistemas com várias interações, a fórmula fica ainda mais extensa. É preciso contabilizar entradas novas, saídas, tokens de raciocínio, leituras e gravações de cache e o número de turnos executados. Cache de prompt é o mecanismo que reutiliza partes já processadas do contexto por um preço reduzido. Ele ajuda, mas não transforma históricos crescentes em consumo gratuito.

O que o estudo encontrou

Os pesquisadores avaliaram oito modelos de raciocínio em 12 conjuntos de tarefas: nove testes de turno único, envolvendo matemática, ciência, conhecimento, programação e chat, além de três ambientes com agentes capazes de usar ferramentas e interagir com sistemas ao longo de vários turnos. Entre os benchmarks estavam AIME, GPQA, LiveCodeBench, MMLU-Pro, GAIA, Cybench e Terminal-Bench 2.0.

Com oito modelos, existem 28 pares possíveis. Multiplicando-os pelas 12 tarefas, o estudo obteve 336 comparações. Em 106 delas — 32% — o modelo com menor preço listado produziu maior custo real. A maior inversão observada chegou a 28 vezes. (arXiv)

A Figura 1, na página 2 do anexo, deixa a inversão especialmente visível. O GPT-5.4 tinha preço listado de US$ 17,50 por milhão de tokens na métrica adotada pelo trabalho, contra US$ 3,50 do Gemini 3 Flash. Apesar disso, os gastos agregados do experimento foram de US$ 509 e US$ 705, respectivamente. Esses valores são o total daquela bateria de testes, não uma previsão universal para qualquer aplicação.

A ordem também mudou conforme a tarefa. A taxa de inversão foi de 11% no ArenaHard e chegou a 57% no MMLU-Pro. Em Cybench, um ambiente de segurança com várias interações, o Kimi K2.6 foi listado como 72% mais barato que o GPT-5.4, mas terminou com aproximadamente o dobro do custo. Nenhum modelo permaneceu universalmente como o mais barato ou o mais caro.

Essa dependência do workload — o conjunto real de tarefas da aplicação — é a principal razão pela qual benchmarks genéricos não substituem testes internos.

“Overthinking”: quando o modelo pensa demais

Em tarefas de turno único, o principal responsável pela inversão foi o volume de tokens de pensamento. O estudo chama esse comportamento de overthinking, ou raciocínio excessivo: o modelo executa uma deliberação muito maior do que a necessária para chegar à resposta.

Em um exemplo de MMLU-Pro, o Gemini 3 Flash consumiu mais de 60 mil tokens de pensamento, enquanto o GPT-5.4 utilizou apenas 25 para a mesma questão. O exemplo é extremo, mas ilustra por que uma diferença de cinco vezes no preço unitário pode desaparecer rapidamente.

A atribuição estatística do estudo indicou que, entre os pares com inversão em tarefas de turno único, mais de 95% da diferença de custo estava associada aos tokens de pensamento. Em outras palavras, nesses casos não era a tarifa que explicava a conta: era o comportamento de consumo do modelo.

Isso não significa que raciocinar seja ruim. Computação adicional pode melhorar resultados difíceis. O problema aparece quando não há proporcionalidade entre o esforço utilizado e o valor produzido.

“Overacting”: agentes que executam etapas demais

Em agentes de IA, o problema muda de forma. Um agente não entrega apenas uma resposta: ele planeja, chama ferramentas, lê resultados, corrige erros e tenta novamente. Cada ciclo é um turno de interação.

O estudo encontrou casos em que um modelo precisou de sete turnos e outro de 57 para identificar o mesmo risco em um código. Em uma das comparações de Cybench, o número de turnos respondeu por mais de 80% da inversão de custo.

Há ainda um efeito acumulativo. Se cada nova chamada inclui a conversa anterior, o contexto cresce a cada turno. Com incrementos de tamanho semelhantes, o volume total reapresentado ao modelo se aproxima de:

1+2+3+⋯+T=T(T+1)2 1 + 2 + 3 + \dots + T = \frac{T(T+1)}{2}

Ou seja, o crescimento pode se aproximar de uma curva quadrática em relação ao número de turnos. A página 18 do anexo mostra que, nos agentes avaliados, o custo aumentou mais do que linearmente porque o histórico era reenviado sucessivamente. Cache, sumarização e truncamento podem reduzir esse impacto, mas precisam ser projetados e medidos.

Para assistentes de programação, isso é particularmente relevante. Ler arquivos, executar testes, interpretar erros e editar novamente são ações úteis, mas um agente que entra em loop pode consumir muito mais do que outro que encontra rapidamente a causa do problema.

O valor de Shapley como ferramenta de diagnóstico

Para explicar a diferença entre dois modelos, os autores aplicaram o valor de Shapley, uma técnica da teoria dos jogos cooperativos. Em termos simples, ela estima quanto cada fator contribui para um resultado ao avaliar sua participação em diferentes combinações possíveis.

É como investigar uma conta alta separando o efeito da tarifa, do volume utilizado e do número de viagens. A técnica evita atribuir toda a culpa ao último fator observado quando vários elementos interagem.

O trabalho separou oito componentes: total de turnos; médias de tokens novos de entrada, saída, cache e pensamento por turno; e os preços de entrada, saída e cache. A soma das contribuições explica integralmente a diferença de custo entre os sistemas comparados.

Na prática, uma empresa não precisa implementar imediatamente toda a matemática de Shapley. O insight operacional é mais direto: registre separadamente preço, tokens de cada categoria, cache, turnos e tentativas. Sem essa decomposição, a fatura informa quanto foi gasto, mas não explica por quê.

O custo é uma distribuição, não um número fixo

Mesmo depois de selecionar o modelo e congelar o prompt, o custo não fica completamente estável. Modelos generativos podem seguir caminhos de raciocínio diferentes em execuções repetidas.

No estudo, o custo realizado para o mesmo par de modelo e consulta variou até 9,7 vezes entre execuções. A Figura 5, nas páginas 7 e 8, mostra distribuições longas e irregulares tanto em matemática quanto em tarefas com agentes.

Isso torna a média insuficiente para planejamento financeiro. Um produto precisa observar também percentis:

  • p50: custo mediano, representando uma execução típica;
  • p90 ou p95: patamar que cobre a maior parte das solicitações;
  • p99: cauda extrema, relevante para limites de segurança e proteção de margem.

No próprio estudo, a taxa média de inversão ficou próxima de 32%, mas atingiu 39,6% no quantil 40. O modelo aparentemente mais barato pode, portanto, perder a vantagem em diferentes regiões da distribuição de consumo.

Para um SaaS com cobrança mensal fixa, isso afeta diretamente o COGS, ou custo dos serviços vendidos. Usuários que acionam consultas difíceis, grandes repositórios ou longos ciclos de ferramentas podem consumir mais receita do que geram, mesmo que o custo médio inicial pareça saudável. Essa preocupação também aparece explicitamente na discussão do Reddit. (Reddit)

Custo sozinho também não escolhe o melhor modelo

O estudo mede gastos, mas não incorpora qualidade ao ranking principal. Além disso, utiliza um único nível de esforço de raciocínio por modelo e uma fotografia de preços registrada em 1º de maio de 2026. Os próprios autores reconhecem que mudanças de tarifa, configuração e qualidade podem alterar os resultados específicos.

A métrica mais útil para produção não é apenas custo por chamada, mas custo por resultado bem-sucedido:

Custo por sucesso=Custo total das execuc\co~esNuˊmero de tarefas concluıˊdas corretamente Custo\ por\ sucesso = \frac{Custo\ total\ das\ execuções}{Número\ de\ tarefas\ concluídas\ corretamente}

Um modelo barato que falha e exige nova tentativa pode ser mais caro que um modelo premium que resolve o problema de primeira. Por outro lado, usar sempre o modelo mais sofisticado em tarefas triviais também desperdiça recursos.

A consequência natural é o model routing: direcionar cada solicitação ao modelo mais adequado à sua dificuldade, escalando para opções mais fortes quando necessário. O Reddit aponta exatamente esse dilema entre usar modelos fracos para problemas complexos e modelos caros para trabalhos simples. (Reddit)

Como aplicar isso na prática

  1. Construa um conjunto representativo de tarefas. Separe consultas simples, médias e difíceis, além de fluxos de turno único e agentes com ferramentas. Não use somente benchmarks públicos.

  2. Execute os candidatos repetidamente. Mantenha prompts, ferramentas, limites e ambiente equivalentes. Uma única execução não revela a variabilidade observada pelo estudo.

  3. Registre telemetria por solicitação. Inclua versão do modelo, tokens de entrada, saída e raciocínio, leituras e gravações de cache, turnos, chamadas de ferramentas, novas tentativas, latência, custo e sucesso.

  4. Compare distribuições e resultados. Analise custo médio, mediana, p90, p95, taxa de sucesso e custo por tarefa concluída. Evite selecionar modelos somente por US$/milhão de tokens.

  5. Imponha limites arquiteturais. Defina orçamento de tokens, máximo de turnos, detecção de loops, sumarização de histórico, interrupção antecipada e escalonamento para outro modelo. Teste o impacto desses controles na qualidade.

  6. Reavalie periodicamente. Preços, versões, políticas de cache e comportamento dos modelos mudam. Um roteamento eficiente hoje pode deixar de ser eficiente após uma atualização.

Conclusão

O preço listado continua sendo útil, mas é apenas um multiplicador. O custo real nasce da combinação entre tarifa e comportamento: quanto o modelo pensa, quantas ações executa, quanto contexto reapresenta e quantas tentativas precisa fazer.

O estudo mostra que essa diferença não é marginal. Na versão atualizada, quase um terço das comparações apresentou inversão de preço, com casos extremos de até 28 vezes. Em tarefas simples, o vilão costuma ser o excesso de tokens de pensamento. Em agentes, são os turnos adicionais e o crescimento do histórico. E, mesmo mantendo modelo e prompt fixos, a conta ainda pode variar significativamente.

A decisão economicamente correta, portanto, não é escolher “o modelo mais barato”. É escolher o modelo com melhor custo por resultado no seu workload, observando também qualidade, latência e risco de cauda.

Referências

The Price Reversal Phenomenon: When Cheaper Reasoning Models Cost More — Lingjiao Chen, Chi Zhang, Yeye He, Ion Stoica, Matei Zaharia e James Zou. Versão 2, arXiv, revisada em 28 de maio de 2026. Fonte principal para metodologia, resultados, atribuição de custos e limitações. (arXiv)

The Price Reversal Phenomenon — versão 1 — Resumo original publicado em março de 2026. Usado para identificar a origem dos números “78% mais barato” e “22% mais caro” reproduzidos no Reddit. (arXiv)

A model listed 78% cheaper cost 22% more to actually run. Unit price isn’t your bill — Discussão na comunidade r/cursor. Usada como contexto sobre COGS, seleção de modelos, monitoramento e roteamento em aplicações reais. (Reddit)