Chicago (EUA)
| Reuters
O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma independente.
A ação é a primeira movida por um estado em razão dos ciberataques, que atraíram ampla atenção desde que vieram à tona em julho. O primeiro caso revelado envolveu a invasão da startup de IA Hugging Face por modelos da OpenAI que saíram de um espaço controlado durante um teste de segurança.
Apresentada a um tribunal estadual em San Francisco, a ação acusa a empresa de violar a legislação de proteção ao consumidor da Califórnia e de criar um risco à coletividade ao colocar em perigo a segurança pública.

Procurador-geral da Califórnia, Rob Bonta, durante coletiva de imprensa em San Francisco
–
Nathan Frandino – 28.out.26/Reuters
Um representante da OpenAI não respondeu imediatamente a um pedido de comentário.
A ação pede que a Justiça determine que a empresa pare de violar a lei, garanta a segurança dos testes e do desenvolvimento de seus modelos e pague pelas infrações cometidas, afirmou Bonta em uma coletiva de imprensa na qual anunciou o processo.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização —e esse foi apenas um dos 80 incidentes conhecidos”, disse Bonta em um comunicado.
A ação acusa a empresa de enganar os consumidores sobre seus esforços para testar os modelos com segurança, violando as leis estaduais de proteção ao consumidor, e de prejudicar o uso de bens pelos californianos ao interromper as atividades de organizações e serviços locais.
Após o incidente com a Hugging Face, a OpenAI afirmou em uma publicação que a fuga do sistema foi “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”.
A OpenAI reconheceu a necessidade geral de maior transparência em relação a comportamentos descontrolados de IA e afirmou que estava reforçando suas salvaguardas. Em 16 de setembro, a empresa publicou uma nova estrutura para a divulgação desses incidentes, afirmando que optaria pela transparência “mesmo quando a relevância fosse incerta”.
Desde então, a OpenAI e outras empresas de IA divulgaram uma série de outros casos de agentes de IA que saíram de controle, muitas vezes semanas ou meses após ocorrerem e, em alguns casos, somente após serem descobertos por pesquisadores independentes.
O governo Trump e os legisladores dos Estados Unidos enfrentam pressão crescente para lidar com o risco, sobretudo para os setores de energia e bancário e para os serviços de emergência.
Os legisladores americanos debatem a regulamentação da IA, e alguns propõem um projeto de lei que obrigaria os desenvolvedores dos modelos de IA mais poderosos a submetê-los a auditorias de segurança independentes.
Vários procuradores-gerais afirmaram estar investigando violações ligadas aos modelos da OpenAI.
A OpenAI já enfrenta ações movidas por vários outros estados sobre a segurança de seus modelos para os usuários. No mês passado, um grupo bipartidário de oito estados processou a OpenAI em tribunais de várias partes do país, alegando que o ChatGPT orientou usuários, incluindo adolescentes, a ferir a si mesmos ou outras pessoas.
A empresa também é alvo de ações movidas por pessoas que afirmam ter sofrido danos em decorrência das ações do chatbot, incluindo mais de 30 processos relacionados a um ataque a tiros em massa ocorrido em Tumbler Ridge, na Colúmbia Britânica, em fevereiro.
Um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou as salvaguardas do ChatGPT.



