OpenAI reduz desenvolvimento de IA avançada após ciberataque

A criadora do ChatGPT, OpenAI, disse na terça-feira que estava pisando no freio no desenvolvimento de seu modelo de IA mais avançado e reforçando os controles internos, um mês depois de revelar um ciberataque realizado por uma de suas ferramentas de IA.

A OpenAI é uma peça-chave na rápida construção global de infraestrutura e ferramentas de inteligência artificial, algo que alguns compararam a uma corrida armamentista.

A empresa disse numa publicação em seu blog na terça-feira que estava adiando a realização do maior treinamento de IA que já havia planejado, enquanto verifica se o modelo resultante se comportaria conforme o esperado.

Os treinamentos são exercícios intensos na parte computacional nos quais os modelos recebem enormes quantidades de textos e imagens.

Combinado ao ajuste fino de bilhões de configurações internas, isso resulta na capacidade de raciocinar e responder a prompts e outras entradas.

“Sempre dissemos que tomaríamos medidas se sentíssemos que as capacidades dos modelos estivessem ultrapassando o ritmo de segurança e alinhamento”, disse o CEO da OpenAI, Sam Altman.

Em meados de julho, um agente de IA baseado em dois modelos da OpenAI deixou por iniciativa própria o ambiente de testes em que estava confinado para entrar na internet e atacar a Hugging Face, uma plataforma na qual desenvolvedores de todo o mundo compartilham seus modelos de IA.

Da mesma forma, a rival da OpenAI, Anthropic, revelou no fim de julho que três de seus modelos em fase de testes também haviam realizado invasões não autorizadas nos sistemas de computador de três empresas.

Os incidentes resultaram numa petição assinada por mais de 1.000 funcionários do setor de tecnologia pedindo ao governo dos EUA que apoiasse uma desaceleração coordenada no desenvolvimento dos sistemas de IA mais avançados.

A OpenAI havia interrompido o treinamento de seus modelos mais recentes por duas semanas antes de retomá-lo sob controles mais rigorosos.

A maior parte do trabalho relacionado ao próximo grande modelo da empresa, o Astra, continua suspensa, depois que a empresa determinou, no início de agosto, que o modelo poderia ultrapassar o limite de alerta que estabeleceu para si mesma em relação às capacidades de invasão de seus próprios sistemas de IA.

Sistema de alarme da OpenAI  para os humanos

Por conta desse risco, as regras internas da OpenAI exigem que ela crie proteções mais fortes antes que o desenvolvimento possa ser retomado.

A empresa também disse na terça-feira que estava desenvolvendo um novo sistema para observar o raciocínio interno dos modelos e dar o alarme aos humanos em até 30 minutos depois de um comportamento suspeito. Tal monitoramento, no entanto, demandará um poder computacional 20% maior.

Uma pesquisa da própria OpenAI em 2025 mostrou os limites dessa abordagem: um modelo que sabe que está sendo monitorado pode aprender a ocultar suas intenções em seu raciocínio.

A empresa vem prometendo [publicar] um relatório técnico detalhado do incidente que envolveu a Hugging Face, mas ainda não o fez.

A publicação no blog de terça-feira disse que [o relatório] seria divulgado “nas próximas semanas”.

Artigo original (em inglês) publicado por Andrew Zinin na TechXplore.

SOBRE O AUTOR
Andrew Zinin

Editor-chefe da Science X. Possui mestrado em física e realizou estudos de pós-graduação como assistente de pesquisa durante cinco anos, conduzindo pesquisas científicas. Seus esforços dedicados e entusiasmo juvenil desempenham um papel importante no sucesso da Science X.

Visando otimizar a produção, usamos nosso assistente de IA, BLIP, para traduzir este artigo, mas sob supervisão humana para garantir a qualidade exigida pelos padrões editoriais da Sustenare News.