A próxima fronteira não é a IA, mas as sociedades artificiais

Há uma tentação para dividir o futuro da inteligência artificial (IA) em duas possibilidades: utopia ou catástrofe. Nenhum dos dois extremos é particularmente útil. A possibilidade mais interessante é mais confusa, e exige uma mudança radical em nossa forma de pensar: da inteligência artificial para as sociedades artificiais.

Quando a maioria das pessoas ouve “IA”, normalmente pensa no ChatGPT, Copilot ou em outro sistema de interação. Você faz uma pergunta, e esse sistema gera uma resposta.

Mas a IA está caminhando rapidamente para além disso. Os sistemas agora podem monitorar o mundo, tomar decisões, negociar transações e realizar tarefas durante longos períodos de tempo. A IA não está mais apenas gerando uma resposta — está fazendo algo a respeito.

Isso aponta para algo muito maior do que um chatbot melhor: um mundo no qual os agentes de IA agem em nosso nome e, cada vez mais, interagem com outros agentes de IA.

Um agente percebe o que está acontecendo, decide o que fazer e então toma as medidas para alcançar esse objetivo. Ele pode reservar uma viagem, monitorar uma cadeia de suprimentos, coordenar uma equipe ou administrar as finanças de uma família.

Agora imagine não apenas um agente, mas milhões deles. Seu agente de IA poderia negociar uma hipoteca com o agente do seu banco, agendar uma cirurgia com o agente de um hospital e reorganizar seus planos de viagem lidando diretamente com os agentes de companhias aéreas, hotéis e seguradoras.

Esse futuro está muito mais próximo do que parece, e isso deveria mudar as perguntas que estamos fazendo sobre a IA. Até agora, a tendência tem sido concentrar-se em quão inteligente um único agente poderia se tornar. O desafio mais profundo é o que acontece quando milhões deles interagem em escala uns com os outros.

A ascensão das sociedades artificiais

Os fundamentos intelectuais dos sistemas de IA atuais foram estabelecidos muito antes do ChatGPT.

Durante décadas, eu e outros pesquisadores de redes multiagentes estudamos como os agentes autônomos podem cooperar, coordenar-se e negociar quando ninguém tem informações completas e ninguém controla tudo.

Os primeiros sistemas que surgiram se concentravam em como as áreas distintas da IA — raciocínio, planejamento e ação — poderiam ser combinadas em um agente eficaz e orientado a objetivos, e em como dezenas desses agentes poderiam se comunicar e cooperar para resolver um objetivo comum.

À medida que essas interações se tornaram mais complexas e envolveram mais agentes, houve uma mudança da cooperação entre os agentes que pertenciam todos a uma única organização para os agentes com proprietários diferentes e, às vezes, objetivos conflitantes. Isso concentrou a atenção na criação de algoritmos que pudessem formar equipes de agentes, automatizar negociações e determinar a confiabilidade desses agentes.

Hoje, as peças necessárias para construir os sistemas de IA multiagentes em larga escala estão se encaixando. Os agentes modernos de IA podem usar ferramentas de software, acessar informações, escrever e executar códigos, comunicar-se com outros sistemas e operar durante longos períodos.

Considere uma cadeia de suprimentos. Um agente de IA poderia representar um fabricante tentando garantir os componentes; outro, um fornecedor tentando maximizar sua receita. Outros ainda poderiam administrar o transporte, o estoque e os armazéns. Cada agente poderia estar fazendo exatamente aquilo para o qual foi projetado. Mas a questão importante é se o sistema que eles criam se comporta de maneira sensata.

Essa mudança oferece enormes benefícios potenciais, mas também aumenta os riscos. Em um experimento recente envolvendo a OpenAI e a plataforma de tecnologia Hugging Face, milhares de agentes colaboradores trocaram dezenas de milhares de mensagens e conseguiram contornar os controles de segurança projetados para contê-los [e que foram] deliberadamente enfraquecidos.

Os detalhes de um experimento importam menos do que o alerta mais amplo. Quando os sistemas de IA interagem, o comportamento do coletivo pode ser mais difícil de prever do que o comportamento de qualquer sistema individual. Isso deveria nos tornar cautelosos — não fazer com que abandonemos o trabalho.

Em vez disso, precisamos mudar nossa mentalidade: de construir máquinas inteligentes para construir sociedades inteligentes.

Quando os agentes conseguem cooperar, competir e resolver os conflitos uns com os outros, não estamos mais lidando com máquinas isoladas, mas com uma sociedade. Assim, a próxima fronteira não é a inteligência artificial, mas as sociedades artificiais.

Um papel importante para os humanos

Já sabemos que a inteligência, por si só, não faz uma sociedade funcionar. As sociedades humanas dependem de regras, instituições, incentivos, normas e mecanismos para resolver divergências. As sociedades artificiais precisarão de equivalentes.

Quem é responsável quando dois agentes tomam uma decisão ruim? O que acontece quando os interesses de agentes diferentes entram em conflito? Quem estabelece as regras? E quem tem o poder de mudá-las? Essas não são apenas questões técnicas; são questões sobre economia, direito, política e sociedade.

Elas também apontam para um papel importante dos humanos. É improvável que o futuro mais útil seja aquele em que a IA simplesmente substitui as pessoas. Embora a substituição sem dúvida aconteça em alguns casos, acredito que um cenário mais comum envolverá as pessoas e os agentes trabalhando juntos, cada um fazendo aquilo que faz melhor.

Os humanos trazem julgamento, experiência, valores, compreensão contextual e responsabilidade. Os agentes de IA trazem velocidade, persistência, escala e a capacidade de processar enormes quantidades de informação.

O objetivo não deveria ser criar máquinas que tornem os humanos irrelevantes. Deveria ser criar sistemas nos quais os humanos e as máquinas possam alcançar coisas que nenhum dos dois conseguiria alcançar sozinho.

Mas tal futuro exige mais do que apenas fazer modelos de IA melhores. Será preciso confiança e transparência sobre o que os agentes estão fazendo, fortes proteções à privacidade e linhas claras de responsabilidade.

[Esse futuro] também exigirá que sociedades e governos decidam como esses sistemas devem ser regulamentados quando o comportamento mais importante puder emergir não de um único desenvolvedor de IA, mas das interações entre os sistemas construídos por várias organizações diferentes.

A última década da IA foi definida por uma corrida para construir sistemas mais inteligentes. Acredito que a próxima década será definida por um desafio diferente: garantir que milhões de sistemas autônomos possam trabalhar juntos de forma segura, justa e eficaz.

O futuro da IA não será determinado exclusivamente pela inteligência de agentes individuais, mas pelas sociedades que eles criarem. E as sociedades, como os humanos bem sabem, são muito mais difíceis de governar do que os indivíduos.

Artigo original (em inglês) publicado por Nick Jennings na The Conversation UK.

SOBRE O AUTOR
Nick Jennings

Vice-reitor e Presidente da Universidade Loughborough. Professor e autoridade internacionalmente reconhecida nas áreas de IA, sistemas autônomos, cibersegurança e computação baseada em agentes. Sua pesquisa concentra-se no desenvolvimento de sistemas de IA agêntica para ambientes de grande escala, abertos e dinâmicos.

Declaração de Transparência

Nick Jennings recebeu anteriormente financiamento do EPSRC. Ele recebeu o Prêmio Excelência em Pesquisa de 2026 da Conferência Conjunta Internacional sobre Inteligência Artificial.

Parceria

A Universidade Loughborough fornece fundos como membro da The Conversation UK.

Visando otimizar a produção, usamos nosso assistente de IA, BLIP, para traduzir este artigo, mas sob supervisão humana para garantir a qualidade exigida pelos padrões editoriais da Sustenare News.