Número bonito sem lastro: o que a IA não decide por você

Numa reunião de vendas, alguém trouxe uma análise de distribuição das vendas por canal. Slide bonito, números redondos, tudo no lugar. Só que, se você somasse as fatias, dava mais de 100%. Ninguém tinha percebido. A análise veio pronta, parecia séria, e a sala comprou.

Esse tipo de coisa anda acontecendo em todo canto, e é sobre isso que eu quero falar. Não sobre a IA errar, que é esperado. Sobre a gente comprar o erro porque ele veio embrulhado bonito.

A IA entrega o plausível, não o certo

Vale entender o que a ferramenta realmente faz. Ela é ótima em produzir algo que parece uma boa resposta. Isso não é o mesmo que produzir a resposta certa.

Já vi os três sabores dessa armadilha:

A tal análise de vendas com as fatias somando mais de 100%.
Uma análise de custos em que a IA, sem ter o custo real de cada produto, simplesmente estimou um por conta própria e tocou a conta em cima disso. O número final era lindo, e estava assentado sobre areia.
E a minha preferida: uma IA que não conseguia escrever um teste E2E pra uma situação difícil e, pra cumprir a missão, escreveu um teste que sempre passava. Ela te entrega o check verde. O check verde não quer dizer nada.

O padrão é sempre o mesmo. Na falta de contexto ou de caminho, ela preenche o buraco com algo plausível pra parecer que resolveu. E o plausível, numa reunião, tem um poder perigoso: ele passa.

O risco não é o erro. É o erro que ninguém defende.

Numa empresa, o problema de verdade aparece um passo depois. Alguém leva o número bonito pra uma decisão. Perguntam de onde veio, e a pessoa não sabe, porque não foi ela que construiu, foi a IA. Ela validou, não pensou.

Aí a decisão sai apoiada num dado que ninguém consegue defender. Se der errado, também ninguém sabe voltar e entender por quê. A autoria se dilui, a responsabilidade junto. Você vai acumulando números bonitos sem lastro e decidindo em cima deles, até que um cobra a conta.

E não é culpa da IA. Ela fez o que faz. O buraco é a gente ter entregado pra ela a parte que era nossa: o contexto e o julgamento.

O que a IA não faz por você

Duas coisas ela não tem, e são justamente as que decidem.

A primeira é o seu contexto. A IA não tem a sua base de conhecimento. Ela não sabe o custo real do seu produto, a margem do seu canal, a briga política entre dois times, o histórico daquele cliente. Se você não dá isso a ela, ela preenche a lacuna sozinha, educadamente. Um bom pedido não começa com "faz pra mim". Começa com "essa é a situação, esses são os números, essas são as restrições, é isso que eu preciso decidir".

A segunda é o julgamento. E aqui eu uso, sem cerimônia, as lentes que eu já usava muito antes da IA, vindas do Design Thinking. Toda saída que eu recebo passa por três perguntas:

Desejabilidade: alguém quer ou precisa disso de verdade? É a pergunta da empatia, e é a que a IA menos alcança. Ela prevê padrão, não sente a sala. A ansiedade de um cliente, o cansaço de um time, o que não está na planilha, isso quem lê é gente.
Viabilidade técnica: dá pra construir e manter sem criar um monstro daqui a seis meses?
Viabilidade de negócio: no fim, a conta fecha?

A IA me ajuda a rascunhar dentro de cada uma dessas lentes. Mas quem pesa as três, e decide qual ceder quando elas brigam entre si, sou eu. Isso não dá pra terceirizar.

Uns hábitos que me seguram

Não quero parecer coach, até porque não sou. Lá no trabalho vivem brincando que eu crio um projeto pra cada coisa, e não deixa de ser verdade. Tudo o que me pedem eu anoto, na mão mesmo. Pode parecer método velho, mas os três hábitos abaixo são exatamente o motivo de eu fazer assim:

Rascunhar antes de perguntar. Um esboço meu primeiro, nem que seja tosco. Só então chamo a IA pra expandir. Assim ela parte do meu raciocínio, não do lugar dele.
Alimentar com história, não só com pergunta. Quem, o quê, por quê, restrições, o que seria sucesso. Se o pedido cabe num tweet, provavelmente falta contexto.
Anotar meu palpite antes de ler a resposta. Antes de olhar o resultado, escrevo o que eu acho que vai vir. Quando diverge, ou eu aprendo alguma coisa, ou eu peguei um erro. Nos dois casos, saí ganhando.

O que sobra pra gente

A IA subiu o piso. Qualquer um agora produz algo plausível, rápido. Justamente por isso, o plausível parou de ser diferencial. O que sobra em cima é o que ela não faz por você: ter o contexto que ninguém mais tem, julgar o que ela te entrega, e assinar embaixo da decisão.

O prompt virou commodity. Pensar, não.