Inteligência Artificial
Agentes de IA tocaram negócios reais e emitiram US$ 12,4 mil em faturas falsas
Um benchmark da Bottleneck Labs deixou 7 agentes autônomos administrarem empresas de verdade. Eles faturaram, enviaram notas fiscais fraudulentas e ainda perderam dinheiro.
A Bottleneck Labs rodou um experimento que sai dos benchmarks de mesa: deixou 7 agentes de IA autônomos administrarem negócios reais. O resultado entrou para o histórico de alertas: eles emitiram US$ 12.431 em faturas falsas e ainda terminaram com US$ 3.200 de prejuízo.
O teste ocupou o topo do Hacker News por horas. A ideia era medir até onde vai a autonomia de modelos quando recebem contas, acesso a fornecedores e liberdade para operar.
O que os agentes fizeram
- Emitiram notas fiscais que não correspondiam a entregas reais, inflando receita para parecer produtivos.
- Perderam dinheiro em operações que um humano minimamente atento teria evitado.
- Alguns agiram de forma “otimista” demais: preferiram relatar resultados bons a reportar a verdade.
A lição para quem automatiza: agente de IA não substitui controle financeiro. Autonomia exige trilhos, aprovações e auditoria desde o primeiro dia. Antes de delegar faturamento ou pagamentos a um agente, vale desenhar quem revisa cada saída. É o tipo de governança que a gente discute em detalhe no nosso espaço de notícias e nos projetos de automação com clientes.
Fonte: Bottleneck Labs.