João Margalho O GPS mandou virar à direita. Era um lago

Em The Office, Michael Scott segue o GPS do carro com a fé de quem lê horóscopo. A voz manda virar à direita. Dwight, no banco do passageiro, garante que a máquina sabe das coisas. Michael vira. Era um lago. O carro afunda devagar e Michael ainda tenta se defender: o aparelho mandou.

Ria à vontade, mas eu conheço alguns Michaels aqui na cidade. Nenhum tem carro na água. Todos têm empresa.

O primeiro digitou no chat: “Devo demitir meu gerente? Responda só sim ou não.” Não contou que o gerente é o cunhado, que o caixa está no vermelho por causa de um contrato que ele mesmo assinou, nem que a pergunta nasceu de uma discussão no almoço de domingo. A IA respondeu com educação e três “depende”. Ele leu só o parágrafo que concordava com ele.

O segundo pediu um plano de expansão para a segunda loja. Recebeu doze páginas lindas, com cronograma e tudo. Faltavam no pedido o valor do aluguel, a margem real e o detalhe de que a primeira loja ainda não se paga. A IA preencheu os buracos com média de mercado, como faz todo entusiasta brilhante (não é uma crítica a eles) que tem medo de perguntar. Ele imprimiu, encadernou e levou ao banco. O gerente apontou para um número e quis saber de onde ele tinha saído. Silêncio. Era o lago.

O terceiro é o meu favorito. Perguntou ao chat qual preço cobrar e anotou. Perguntou de novo, na mesma conversa, e veio outro número. Ficou com o maior e chamou isso de “validar com a IA”.

Existe pesquisa por trás da cena, e é divertida. Em 2019, Jennifer Logg, Julia Minson e Don Moore mostraram que as pessoas tendem a preferir o conselho de um algoritmo ao de outra pessoa, e até a seguir esse conselho mais do que o de um colega. Já escrevi aqui sobre quem foge da IA depois de um erro. Esta é a ponta que quase ninguém comenta: quem obedece antes do primeiro erro.

O problema não é a ferramenta, que é ótima. O problema é que ela fala com a mesma firmeza quando acerta e quando inventa. A voz do GPS de Michael não tinha dúvida nenhuma. O seu chat também não tem.

Dwight, aliás, continua por aí, jurando que a máquina sabe. Ele está em todo grupo de WhatsApp de empreendedor.

Antes de perguntar à máquina para onde virar, olhe pela janela. Se tiver água, desconfie da voz. E quer saber, talvez, quem a fez errar foi você.