Ter a resposta entregue pela IA não significa compreender o problema

O artigo defende que receber uma análise sofisticada da IA não significa compreender o problema nem estar preparado para decidir. A tecnologia ajuda a organizar informações, encontrar padrões e construir cenários rapidamente, mas uma resposta convincente ainda pode deixar de fora aspectos decisivos da realidade de uma empresa. Por isso, líderes precisam de conhecimento, experiência e critério para questionar o que recebem. A proposta de Ricardo é usar mais IA para pensar melhor, sem entregar a ela a responsabilidade pela escolha.
inteligência artificial

Tenho observado uma mudança interessante na forma como estamos lidando com problemas dentro das empresas.

Até pouco tempo atrás, quando surgia uma questão mais complexa, boa parte do trabalho estava justamente em construir uma resposta. Era preciso reunir informações, conversar com pessoas, estudar possibilidades, confrontar opiniões e, muitas vezes, passar algum tempo amadurecendo uma decisão.

Hoje, parte importante desse caminho pode ser percorrida em minutos.

Uma empresa pode colocar diante da inteligência artificial seus números, informações sobre mercado, estrutura, concorrentes e objetivos e receber uma análise organizada, cenários possíveis, riscos e até uma recomendação sobre o que fazer.

Isso é extraordinário.

Mas há algum tempo uma pergunta começou a me incomodar mais do que a capacidade da inteligência artificial de produzir essas respostas:

quem está preparado para dizer se elas são realmente boas?

Porque receber uma resposta sofisticada ficou muito mais fácil. Saber se ela faz sentido continua sendo difícil.

Imagine uma empresa avaliando a abertura de uma nova unidade. A inteligência artificial pode analisar os números, projetar cenários, estimar custos, comparar mercados e construir uma apresentação impecável defendendo determinada decisão.

Só que empresas não existem dentro de apresentações.

Existe uma equipe que talvez já esteja no limite. Um caixa que pode não suportar a expansão. Uma liderança ainda despreparada para assumir outra operação. Um processo que funciona com uma unidade, mas talvez não funcione com duas. Um sócio que conhece aquele mercado há vinte anos e percebe um movimento que ainda não apareceu nos números.

E existe contexto.

É justamente aí que a resposta deixa de ser suficiente.

Quanto mais competente a inteligência artificial parece, mais competente precisa ser quem avalia aquilo que ela produz.

Ter a resposta não significa compreender o problema

Talvez uma das grandes mudanças provocadas pela inteligência artificial seja esta: pela primeira vez, conseguimos chegar a respostas muito sofisticadas sem necessariamente percorrer todo o caminho intelectual que antes era necessário para construí-las.

Não vejo isso como um problema. Vejo como uma das grandes vantagens da tecnologia.

O que me preocupa é confundirmos as duas coisas.

Durante muito tempo, pesquisar, estudar, comparar informações, formular hipóteses, conversar com pessoas e organizar o raciocínio faziam parte do caminho até uma decisão. Além de produzir uma resposta, esse processo construía repertório.

Agora conseguimos encurtá-lo enormemente.

Só que encurtar o caminho até a resposta não encurta o caminho necessário para desenvolver quem precisa julgá-la.

Uma resposta pode estar muito bem escrita, apresentar números, cenários e argumentos consistentes e ainda partir de uma premissa errada. E talvez exista aqui um risco pouco discutido: quanto melhor for a resposta, mais difícil pode ser perceber o que está errado nela.

Um erro grosseiro chama atenção. Uma resposta ruim desperta desconfiança.

Uma resposta brilhantemente construída pode fazer exatamente o contrário.

É nesse ponto que estudo, conhecimento, experiência e repertório deixam de competir com a inteligência artificial e passam a ser ainda mais importantes para utilizá-la bem.

Até aquilo que chamamos de feeling merece um pouco mais de respeito nessa discussão. Depois de anos tomando decisões, observando mercados, pessoas, números, erros e consequências, parte desse aprendizado se transforma em capacidade de reconhecer padrões. Às vezes percebemos que alguma coisa não fecha antes mesmo de conseguirmos explicar exatamente por quê.

Isso não significa que o feeling esteja certo. Significa que ele merece ser investigado.

A inteligência artificial também encontra padrões, em uma escala que nenhum de nós conseguiria alcançar sozinho. Imagine então o potencial de combinar as duas capacidades, em vez de usar uma para substituir a outra.

A IA reduziu drasticamente o custo de produzir respostas. Não reduziu o custo de desenvolver critério.

Quem está julgando a resposta?

Quanto mais sofisticada a inteligência artificial se torna, mais relevante fica essa pergunta.

Uma resposta pode ser extremamente convincente e ainda partir de uma premissa equivocada. Pode estar bem escrita e ignorar uma informação essencial. Pode apresentar uma estratégia tecnicamente coerente que simplesmente não cabe na realidade daquela organização.

Esse talvez seja um dos pontos mais importantes desta discussão. Um estudo publicado na revista Estudos Avançados analisou 128 casos de uso de IA em decisões organizacionais e distinguiu situações em que a tecnologia decide daquelas em que ela apoia uma escolha humana.

Não basta manter uma pessoa no processo apenas para dizer que a decisão continua sendo humana. Essa pessoa precisa ter condições de questionar.

Precisa reconhecer quando falta informação, quando uma premissa merece ser revista ou quando uma recomendação aparentemente lógica não combina com aquilo que conhece sobre a empresa, as pessoas, o mercado ou o momento.

Para discordar de uma boa resposta, é preciso saber alguma coisa sobre a pergunta.

E talvez esse seja justamente o risco de terceirizarmos demais o raciocínio. Se deixarmos de estudar porque a resposta está disponível, de investigar porque a análise já veio pronta ou de construir repertório porque a ferramenta consegue organizar o assunto por nós, podemos enfraquecer exatamente a capacidade necessária para avaliar aquilo que recebemos.

A tecnologia não torna o conhecimento desnecessário.

Pode torná-lo ainda mais importante.

Use mais inteligência artificial, não menos

Essa reflexão não deveria nos levar a usar menos inteligência artificial.

Pelo contrário.

Use para organizar ideias. Para encontrar padrões em grandes volumes de informação. Para confrontar hipóteses. Para construir cenários. Para localizar inconsistências. Para resumir informações. Para encontrar repetições que passariam despercebidas. Para formular perguntas que talvez você ainda não tenha feito.

Use inclusive para aprender.

Quanto melhor compreendemos a ferramenta, mais conseguimos utilizá-la para ampliar aquilo que já sabemos e também para explorar aquilo que ainda não sabemos.

Talvez a grande oportunidade esteja justamente aí.

A melhor utilização da inteligência artificial não é pensar menos. É conseguir pensar melhor sobre mais coisas.

O problema começa quando uma ferramenta criada para ampliar nossa capacidade passa a funcionar como substituta da capacidade que ainda precisamos desenvolver.

Existe uma diferença enorme entre pedir à IA que ajude a organizar uma decisão e pedir que ela decida por você.

Na primeira situação, a tecnologia amplia sua capacidade.

Na segunda, existe o risco de produzir algo ainda mais perigoso do que uma resposta errada: uma resposta aparentemente excelente que ninguém está preparado para questionar.

O conhecimento mudou de lugar, o critério não

Durante muito tempo, parte do valor profissional estava em possuir informações que poucas pessoas conseguiam acessar.

Esse mundo está mudando rapidamente.

Informações, modelos, análises e conhecimento estão se tornando cada vez mais acessíveis. Isso é extraordinário porque coloca capacidades antes restritas a poucas pessoas e organizações ao alcance de muito mais gente.

Mas talvez também esteja aumentando o valor de outra coisa.

Saber perguntar. Saber contextualizar. Saber reconhecer o que está faltando. Saber confrontar uma resposta. Saber escolher.

E assumir a responsabilidade pela escolha.

A inteligência artificial provavelmente continuará ficando melhor em produzir respostas. E espero que fique.

Mas nenhuma sofisticação tecnológica elimina uma responsabilidade fundamental de quem lidera: compreender suficientemente aquilo sobre o que está decidindo.

Por isso, talvez a pergunta mais importante não seja apenas o que a inteligência artificial consegue fazer por nós.

Existe outra que considero mais incômoda:

Se a resposta pronta desaparecer, o que sustenta a sua capacidade de decidir?

Porque, quanto melhores forem as respostas da inteligência artificial, mais importante será a qualidade do critério humano que decide o que fazer com elas.

—

Jornalismo regional de qualidade
Há mais de 18 anos, o GIRO noticia os acontecimentos mais importantes nos seguintes municípios: Araçariguama, Barueri, Cajamar, Carapicuíba, Cotia, Itapevi, Jandira, Osasco, Pirapora do Bom Jesus, Santana de Parnaíba, São Roque e Vargem Grande Paulista. Agora, juntam-se a eles, as cidades de Jundiaí e Taboão da Serra.

Mais recentes