A IA pode escapar do controle humano? Anthropic faz alerta global
A empresa de inteligência artificial (IA) Anthropic sugeriu uma pausa global na construção dos sistemas de IA mais poderosos, à medida que os modelos mais recentes começam a dar sinais de que podem escapar do controle humano.
Sediada em São Francisco, a empresa que desenvolve a família de modelos de IA Claude, afirmou em um relatório que uma desaceleração mundial no desenvolvimento de IA de ponta “provavelmente seria algo positivo”, mas alertou que, se apenas uma empresa parasse, as rivais simplesmente avançariam na corrida.
“Acreditamos que seria positivo para o mundo ter a opção de desacelerar ou interromper temporariamente o desenvolvimento da IA de ponta para permitir que as estruturas sociais e as pesquisas de alinhamento acompanhem o avanço da tecnologia”, afirmou a empresa.
Segundo a Anthropic, para que uma pausa real funcionasse, seria necessário que várias empresas grandes de IA em países diferentes— especialmente Estados Unidos e China — concordassem em interromper ao mesmo tempo o desenvolvimento da tecnologia, sob regras que todos pudessem verificar de forma efetiva.
Essa ideia pode se mostrar pouco popular para figuras como Elon Musk, já que a aguardada estreia na bolsa de valores de sua empresa SpaceX — que é proprietária de seu empreendimento de inteligência artificial xAI — deve fazer dele a primeira pessoa trilionária do mundo.
“Sem um mecanismo global de coordenação, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas”, afirmou a Anthropic.
A empresa tem enfrentado resistência de outros integrantes do setor — e de autoridades da Casa Branca — que afirmam que seu foco em cenários extremos exagera os riscos e equivale a uma estratégia para frear concorrentes sob o pretexto de preocupações com a segurança.
Ainda assim, a Casa Branca reconheceu o poder do modelo Mythos da empresa, o qual não foi disponibilizado ao público em geral por conta de suas capacidades em cibersegurança e por atualmente estar implantado apenas em um pequeno número de empresas previamente credenciadas.
A proposta enfrentaria uma batalha difícil em Washington e no Vale do Silício, onde autoridades americanas e executivos do setor de tecnologia têm argumentado repetidamente que qualquer desaceleração no desenvolvimento da IA corre o risco de conceder à China uma vantagem estratégica decisiva no que muitos consideram ser a corrida tecnológica definidora deste século.
No entanto, o presidente dos Estados Unidos, Donald Trump, afirmou ter discutido a possibilidade de cooperação com a China em questões de segurança relacionadas à IA durante sua recente visita a Pequim.
Trump também assinou há poucos dias uma ordem executiva que concede ao governo 30 dias para conduzir uma revisão preliminar dos modelos de IA americanos mais poderosos antes de seu lançamento.
O estreitamento do papel humano
A Anthropic comparou o problema aos tratados de controle de armas nucleares, mas afirmou que seria ainda mais difícil administrar, já que o treinamento de IA é muito mais fácil de ocultar do que um silo de mísseis, e a tentação de continuar avançando discretamente seria enorme.
“Você quer ter a opção de tirar o pé do acelerador e colocá-lo no freio”, disse o cofundador da Anthropic, Jack Clark, ao programa Newsnight da BBC britânica. “No momento, é como se a indústria de IA tivesse um pedal de acelerador, mas não tivesse um pedal de freio”.
A empresa informou que nos próximos meses planeja reunir cientistas, autoridades governamentais, grupos de defesa e empresas concorrentes de inteligência artificial para descobrir como um sistema desse tipo poderia funcionar.
Segundo a Anthropic, o apelo por coordenação surge juntamente com dados internos que mostram que a IA já está acelerando dramaticamente o próprio desenvolvimento da inteligência artificial.
Essa aceleração cria um ciclo de retroalimentação que, segundo o alerta da própria empresa, pode eventualmente levar ao que os pesquisadores chamam de “autoaperfeiçoamento recursivo” – ou seja, a ideia de um sistema de IA que se torna capaz de essencialmente ensinar a si mesmo a ficar mais inteligente, sem muita ajuda humana.
“Ainda não chegamos a esse ponto, e o autoaperfeiçoamento recursivo não é inevitável”, afirmou o relatório da Anthropic, acrescentando que isso pode ocorrer mais cedo do que a maioria dos governos e instituições está preparada para enfrentar.
“As evidências sugerem que o papel humano está se estreitando a cada etapa do processo de desenvolvimento da IA”, disse a empresa.
Artigo original (em inglês) publicado por Alex Pigman na TechXplore.
