Imprecisão do GPT na agricultura pode resultar em perda de safras

O fundador do Programa Aviram de Sustentabilidade e Clima da Universidade Reichman, Dr. Asaf Tzachor, e pesquisadores dos EUA, Reino Unido, Quênia, Nigéria e Colômbia, examinaram para agricultores na África a confiabilidade das informações e conselhos profissionais fornecidos pelo popular ChatGPT (versões 3.5 e 4.0). Os pesquisadores identificaram que imprecisões do GPT podem resultar em erros agrícolas e perda de safras.

Em um artigo para a Nature Food, os pesquisadores alertam contra o uso não mediado de modelos de inteligência artificial (IA) generativa na agricultura, temendo que os agricultores adotem recomendações falhas que possam desencadear crises alimentares. Em vez disso, os pesquisadores recomendam um processo de desenvolvimento mais otimizado para modelos de IA na agricultura, que inclua monitoramento e testes completos antes que esses modelos sejam largamente implementados.

Logo após o lançamento do ChatGPT no início de 2023, o Dr. Tzachor reuniu uma equipe internacional de pesquisadores oriundos de centros de pesquisas agrícolas da Nigéria, Quênia, Colômbia, França, Inglaterra e Estados Unidos. Eles observaram que agricultores de países em desenvolvimento começaram a consultar o modelo de inteligência artificial para aconselhamento profissional sobre agronomia e botânica.

Esses agricultores, de pequenas e médias fazendas da África equatorial, Sudeste Asiático e América do Sul, têm acesso à internet e à interface de usuário da OpenAI. A equipe de pesquisa buscou avaliar se o chatbot inovador poderia suplantar, ou mesmo substituir os agentes agrícolas, conhecidos como “extensionistas”, que treinam e consultam os agricultores.

Esses extensionistas incluem centenas de milhares de agrônomos e botânicos profissionais, especialistas em doenças de plantas e consultores sobre irrigação, fertilização, comercialização de produtos e comércio.

“Os extensionistas têm sido essenciais na disseminação do conhecimento agrícola avançado e, em muitos casos, orientam os pequenos agricultores em todo o mundo na implementação de métodos para a intensificação sustentável das culturas. Eles realizam conferências e seminários sobre novos herbicidas e pesticidas, fornecem conselhos sobre estratégias de irrigação, fertilização e planejamento de experimentos de campo – e recomendam canais de marketing locais e estratégias de exportação de produtos agrícolas“, explica o Dr. Tzachor.

Globalmente, aproximadamente 570 milhões de pequenas e médias fazendas precisam de treinamento em vários campos agrícolas. No entanto, os extensionistas frequentemente enfrentam desafios significativos, especialmente em países em desenvolvimento. Esses desafios incluem barreiras linguísticas, problemas de tradução, infraestrutura rodoviária precária, falta de transporte público e redes de comunicação desatualizadas ou inexistentes.

Os consultores agrícolas lutam para alcançar fazendas pequenas e remotas, enquanto os pequenos agricultores na África e na América do Sul têm dificuldade em participar de seminários profissionais a centenas de quilômetros de distância. As agências de extensão, muitas vezes sediadas nas capitais, carecem de recursos e pessoal para atualizar seus materiais de consultoria e manter-se atualizadas com os novos métodos.

Nesse contexto, a equipe de pesquisa explorou se um modelo de IA generativa poderia compensar a falta de serviços prestados por uma consultoria agrícola. No entanto, o que começou com um otimismo cauteloso terminou em orientação equivocada, imprecisões e avisos rigorosos aos usuários.

Primeiro, os pesquisadores encarregaram o chatbot de recomendar medidas de controle e tratamento para a lagarta-do-cartucho, um inseto nocivo que neutraliza os mecanismos de defesa das plantas e causa bilhões de dólares em danos às plantações de milho em todo o mundo. Os modelos mais antigos da OpenAI (3.5 e 4.0) forneciam conselhos ambíguos sobre o uso de pesticidas.

Em outra série de perguntas, desta vez feitas por produtores de raízes de mandioca na Nigéria – o mais importante produtor de mandioca da África – os pesquisadores avaliaram métodos recomendados para cultivar a planta, que desempenha um papel crucial na segurança nutricional de dezenas de milhões de pessoas no continente. Neste caso, o ChatGPT sugeriu o uso de herbicidas, mas errou no momento da aplicação de produtos químicos, o que levaria a danos nas lavouras e crises alimentares se os agricultores seguissem seus conselhos.

“O problema com nossas descobertas vai além dos erros do algoritmo em si. Muitos nos alertaram sobre possíveis erros e imprecisões. O problema fundamental é a ausência de quaisquer salvaguardas contra o uso generalizado de modelos de linguagem grande, e IA de forma mais ampla, em um sistema tão sensível como a agricultura. Não há supervisão de como tais modelos são usados, nenhuma avaliação de sua adequação específica ao contexto, nenhuma responsabilização pelas consequências do uso incorreto ou pelas ações tomadas com base em suas recomendações e, em geral, nenhuma responsabilidade. No caso do estudo atual, não estamos discutindo o uso do chatbot para compor uma música, um roteiro ou uma tese. Estamos lidando com a segurança alimentar e a gestão das fazendas. Embora o fascínio do algoritmo seja claro, ele envolve riscos substanciais”. Dr. Tzachor.

Em resposta a esse desafio, os pesquisadores propuseram um processo idealizado de desenvolvimento e implantação de modelos de IA generativa na agricultura.

“Por um lado, vemos fazendas e extensionistas consultando o modelo de IA disponível gratuitamente. Por outro lado, esse uso envolve erros, incertezas e estimativas que a agricultura não pode tolerar”, conclui Dr. Tzachor.

Informação adicional: A. Tzachor et al. Large language models and agricultural extension services, Nature Food (2023). DOI: 10.1038/s43016-023-00867-x

Informação do periódico: Nature Food

Fonte: Universidade Reichman

Artigo original (em inglês) publicado pela Universidade Reichman na Phys.Org.