Por Galileu
Um agricultor de 67 anos de Chuzhou, na província chinesa de Anhui, afirma ter perdido cerca de 10 hectares (aproximadamente 100 mil m²) de uma plantação de gergelim depois de seguir as recomendações de uma IA (inteligência artificial) para combater ervas daninhas e pragas. Segundo ele, as mudas começaram a murchar e morrer logo no dia seguinte à aplicação dos produtos.
LEIA TAMBÉM
Identificado pelo sobrenome Wu, o homem vinha utilizando um chatbot não identificado havia cerca de um ano para obter orientações sobre diferentes atividades da propriedade, incluindo fertilização e planejamento do trabalho. No início, ele teria ficado desconfiado das respostas, mas passou a confiar no sistema após obter resultados que considerou positivos. Por isso, deixou de conferir as recomendações com especialistas ou outras fontes antes de colocá-las em prática.
O problema se deu quando, questionada sobre a melhor forma de controlar ervas daninhas e pragas em uma plantação de gergelim, a IA forneceu um plano de aplicação de agrotóxicos que incluíam, dentre outras substâncias, o flufenacet. “As ervas daninhas morreram, mas as mudas de gergelim morreram ainda mais rápido”, disse Wu ao CTWANT.
Especialistas ouvidos pelo jornal britânico The Independent explicam que esse herbicida não é o mais indicado para o caso. Isso porque, quando empregado de maneira incorreta ou sem aplicação direcionada, ele pode prejudicar o desenvolvimento de certas sementes, como o gergelim.
O problema das respostas geradas por IA
Como destaca o portal IFLScience, o episódio chama atenção para uma limitação dos chatbots: as alucinações. Por mais que a IA consiga consultar uma vasta base de dados e produzir respostas que parecem confiáveis, isso não garante que as informações apresentadas estejam corretas.
Os modelos de IA generativa, como o ChatGPT ou o Gemini, são treinadas com grandes volumes de textos para aprender a reproduzir padrões de linguagem para formular respostas. Portanto, não funcionam como uma fonte infalível de conhecimento.
Um estudo internacional recente identificou problemas em grande parte das respostas geradas por sistemas de IA: cerca de 45% apresentavam algum tipo de falha relevante, enquanto aproximadamente 20% continham informações inventadas ou incorretas apresentadas com aparência de precisão (alucinações). O projeto ainda aponta que usuários em situações de maior vulnerabilidade ou com menor capacidade de checagem tendem a ser mais expostos a esse tipo de erro, o que aumenta o risco de decisões equivocadas quando não há validação por fontes especializadas.
Não é a primeira vez que a IA gera prejuízos a alguém. Um artigo publicado em 2025 nos Annals of Internal Medicine lembra o caso de um homem de 60 anos que substituiu o sal de cozinha por brometo de sódio depois de buscar orientação do ChatGPT sobre alimentação. Após três meses, ele desenvolveu bromismo, uma intoxicação causada pelo excesso de brometo, e precisou ser internado.
Daí a importância de nunca confiar 100% em modelos de IA. Sobretudo para situações que envolvem decisões com consequências práticas, é indicado sempre conferir as respostas geradas por chatbots em fontes confiáveis e consultar profissionais (humanos) especializados no assunto.
Gostou? Compartilhe
LEIA MAIS
+Lidas
