Ciberataques de IAs sem controle: Quem responde legalmente?
Os ciberataques realizados por dois modelos de inteligência artificial da OpenAI agindo de forma autônoma levantam uma questão jurídica inédita: quem responde legalmente pelos ciberataques de IAs sem controle e que agem por conta própria?
Em meados de julho, dois modelos da OpenAI sendo testados deixaram seu ambiente confinado — um cenário que os desenvolvedores não haviam antecipado — e se aventuraram na internet para atacar a startup Hugging Face, uma plataforma de hospedagem de modelos de IA.
O CEO da Hugging Face, Clement Delangue, disse na sexta-feira que sua empresa não buscará ação judicial neste momento.
No domingo, ele acrescentou que o código legal dos EUA deve ser alterado para abordar incursões tão inovadoras.
“Não queremos acabar em um mundo no qual cada um de nós tem que enfrentar ciberataques o tempo todo por causa de empresas que estão criando esses agentes”, disse Delangue no programa “Face the Nation”, da CBS News.
“Então, acho importante que os reguladores e os formuladores de políticas pensem sobre a estrutura jurídica desse novo tipo de risco tecnológico”, acrescentou.
Em suas observações na sexta-feira, ele ainda mencionou a Anthropic, a qual revelou que três de seus modelos invadiram três sites diferentes, também durante uma fase de testes.
Caminho da negligência para os ciberataques
Sob o direito civil e penal dos EUA, o acesso não autorizado a um sistema de computador é considerado um delito.
“Se um funcionário humano da OpenAI tivesse invadido os sistemas da Hugging Face… a OpenAI seria legalmente responsável pela conduta ilícita do funcionário”, escreveu Gabriel Weil, professor de direito da Universidade de Houston, em um artigo de opinião para o boletim Transformer.
“Quando um agente de IA faz isso, a lei trata de maneira muito diferente, pelo menos por enquanto”, acrescentou.
Matthew Tokson, professor de direito da Universidade de Utah e que se concentra em novas tecnologias, teve uma visão semelhante: “Não tivemos que lidar com uma situação formada em algo que não seja humano, e não acho que os tribunais estejam prontos para isso ainda”.
A questão permanece em aberto, no entanto, quando se trata da empresa que criou o modelo.
“A questão da responsabilidade se encerra com a justificativa ‘Nós não dissemos à IA para fazer isso’”?, perguntou Rob T. Lee, chefe de pesquisa do instituto de treinamento em cibersegurança SANS, em uma postagem no X.
O professor de direito da Universidade de Washington, Ryan Calo, não acredita que um caso criminal teria grandes chances de sucesso.
“A empresa ou indivíduo teria que ser, no mínimo, imprudente”, disse ele, explicando que ela precisaria “estar substancialmente certa de que o crime ocorreria e, mesmo assim, construiria ou instigaria o sistema”.
Especialistas no assunto veem um potencial maior para um caso civil — em vez de criminal —, em que o ônus da prova é menor.
“Algumas pessoas acham que as empresas de IA deveriam ser estritamente responsáveis se os agentes de IA que elas criam se desgovernem completamente e causem danos”, explicou Tokson.
“Outros prefeririam fazer uma avaliação para verificar se elas foram realmente negligentes ou se foi apenas uma espécie de acidente inevitável ou algo que não poderia ter sido previsto”, acrescentou.
Nesses casos, existe um padrão de cuidado no design do produto que os juízes ou jurados podem usar para tomar uma decisão, continuou Tokson.
“Tudo isso é um pouco do que ainda não foi escrito porque nunca tivemos antes um agente de IA escapando de seu sandbox [controle de segurança] para hackear outras pessoas na internet”, disse ele.
A OpenAI poderia se apoiar na falta de precedentes legais se enfrentasse um processo, mas os que aparecerem depois não poderão mais fazê-lo, alertou Calo.
Provar que um incidente semelhante poderia ter sido antecipado “não deveria ser tão difícil depois de haver precedentes”.
Artigo original (em inglês) publicado por Thomas Urbain na TechXplore.
