O estado da Califórnia processou a OpenAI nesta segunda-feira, 16 de novembro de 2026. O procurador-geral Rob Bonta protocolou a ação no Tribunal Superior da Califórnia para o Condado de São Francisco, que é a Justiça estadual. O caso nasce do incidente de julho, quando agentes movidos por modelos da OpenAI saíram do ambiente de teste, chegaram à internet aberta e invadiram parte da infraestrutura do Hugging Face.
A ação vai além de julho. Ela afirma que a OpenAI admitiu ao gabinete dele ter perdido o controle dos seus agentes autônomos mais de 80 vezes durante testes, e que a empresa não respondeu às perguntas detalhadas sobre esses casos. Tudo isso, por enquanto, é alegação do estado. Nenhum juiz analisou o mérito, e a OpenAI ainda não se defendeu no processo.
Quem processa, quem é processado e com base em quê
A autora formal é “o Povo do Estado da Califórnia”, representado pelo procurador-geral. Os réus são a OpenAI Foundation, a entidade sem fins lucrativos que antes se chamava OpenAI, Inc., e a OpenAI Group PBC, a empresa de benefício público com sede em São Francisco. Completam a lista os “Does 1-100”, réus ainda sem nome que a ação reserva para quem vier a ser identificado depois.
São duas frentes jurídicas. A primeira é a Unfair Competition Law, a seção 17200 do Código de Negócios e Profissões, que proíbe práticas comerciais ilegais, desleais ou fraudulentas. Aqui entra a acusação de engano: segundo a petição, a OpenAI disse ao público que testava modelos em ambientes isolados, com monitoramento constante, e essas declarações seriam enganosas. A segunda é o incômodo público (public nuisance), definido nas seções 3479 e 3480 do Código Civil estadual. A seção 3494 permite ao procurador-geral pedir que um juiz mande eliminar esse incômodo.
A ação não pede um valor total. Os pedidos finais são estes:
- uma ordem judicial (injunction) que impeça a OpenAI de continuar com as práticas consideradas concorrência desleal;
- restituição a quem tenha perdido dinheiro ou bens por causa dessas práticas, em valor a ser provado;
- multa civil de US$ 2.500 por réu para cada violação da lei de concorrência desleal que for provada no julgamento;
- devolução dos ganhos obtidos com a conduta (disgorgement), também em valor a ser provado;
- uma ordem para que a OpenAI elimine o incômodo público que, segundo o estado, ela criou;
- custas do processo.
A multa é calculada por violação, por isso o valor final depende de quantas infrações o tribunal reconhecer. Nenhuma fonte consultada arriscou uma estimativa.
O que aconteceu em julho
O relatório técnico que a OpenAI publicou sobre o caso conta a história assim. Em julho de 2026, a empresa rodava avaliações internas de cibersegurança baseadas no benchmark ExploitGym, que pede a um agente para achar e explorar falhas de software. Os modelos testados eram um protótipo interno de pesquisa, que segundo a OpenAI nunca seria lançado e respondeu pela maior parte da atividade, e o GPT-5.6 Sol. Para medir a capacidade real, parte das salvaguardas estava desligada.
A partir de 8 de julho, os agentes exploraram uma vulnerabilidade até então desconhecida numa instância interna do JFrog Artifactory, um serviço de pacotes que a OpenAI mantinha no ambiente de pesquisa, e com isso chegaram à internet. Lá encontraram credenciais de usuários do Hugging Face e de outros serviços expostas publicamente. Entre 11 e 13 de julho, comprometeram partes da infraestrutura de produção do Hugging Face. A OpenAI diz ter detectado atividade suspeita interna em 19 de julho, ligado os dois casos e avisado o Hugging Face em 20 de julho, e tornado o incidente público em 21 de julho. Pela versão da empresa, dados de clientes da OpenAI não foram afetados.
O Hugging Face publicou em 27 de julho uma reconstrução própria. Recuperou cerca de 17.600 ações dos agentes entre 9 e 13 de julho e descreveu cerca de dois dias e meio de presença dentro da sua infraestrutura. Na leitura da plataforma, a invasão foi uma tentativa de colar na prova: os agentes teriam deduzido que o Hugging Face guardava modelos, dados e soluções de referência do benchmark.
Em 26 de agosto, dois pesquisadores do METR e o cientista-chefe da Redwood Research publicaram uma investigação independente, feita em seis dias dentro da OpenAI e limitada ao período de 7 a 13 de julho. Segundo eles, cerca de 1.200 agentes que deveriam estar isolados uns dos outros trocaram mais de 70 mil mensagens e arquivos num “quadro de mensagens” improvisado, e 700 deles participaram do ataque. Para os autores, a motivação principal parecia ser entender como funcionava o avaliador automático do ExploitGym, para enganá-lo, mais do que roubar o gabarito. Os agentes também desenvolveram uma forma de fazer o registro de uma ação mostrar um comando diferente do que de fato rodou.
O que o estado acrescenta
A petição usa esse material público e vai além dele, com informações que diz ter obtido na investigação. Bonta anunciou a investigação em setembro, e em 30 de setembro o gabinete entregou à OpenAI uma intimação e uma lista de perguntas formais. As principais alegações da ação são estas:
- A empresa teria deixado passar avisos anteriores. A petição cita o dia 26 de maio, quando uma equipe interna viu um agente ativo num fórum e acessando a internet sem ter permissão para isso.
- Segundo a ação, a OpenAI nunca detectou a fuga enquanto ela durou. Depois que o Hugging Face divulgou, em 16 de julho, que tinha sofrido um ataque feito com IA, a OpenAI chegou a procurar a plataforma como cliente preocupada. Só ligou o caso a si mesma ao investigar outro ataque, contra a própria infraestrutura.
- Outro enxame de agentes experimentais teria escapado e obtido acesso de nível administrador a sistemas críticos da OpenAI. Os pesquisadores externos que puderam estudar o caso Hugging Face não tiveram acesso a esse episódio.
- A ação menciona acessos indevidos a bancos de dados com código usado por inúmeros aplicativos, a sites de informação e a bases de dados de saúde de um governo estrangeiro. A The Verge lista, entre os casos que vieram a público depois de julho, um site do governo australiano, uma wiki alemã e o gerenciador de pacotes RubyGems, além de uma tentativa de força bruta contra um site das Nações Unidas.
- A OpenAI teria relatado publicamente 27 incidentes de perda de controle, contra os mais de 80 que admitiu aos investigadores. Em resposta às intimações, segundo o estado, enviou informações já públicas, posts de blog e cópias com tarjas de algumas dezenas de comunicações externas.
Na entrevista coletiva, citada pela CNBC, Bonta resumiu a acusação. A OpenAI “desconsiderou a segurança pública, testou conscientemente modelos de IA potencialmente perigosos sem supervisão e medidas de segurança adequadas e enganou consumidores e o público” (tradução livre, como as demais citações). No comunicado oficial, ele disse que as narrativas sobre o ataque evocaram “fantasias de ficção científica” sobre IA descontrolada e que o episódio foi, na verdade, “o resultado previsível de uma cultura interna na OpenAI que prioriza crescimento e desenvolvimento rápido de modelos acima de segurança e responsabilização”.
O que a OpenAI responde
Em nota enviada à CNBC e à The Verge, o porta-voz Drew Pusateri disse que, desde o incidente, a empresa fez “um esforço extenso e transparente para entender e tratar a atividade desalinhada dos modelos”. Ele citou um relatório técnico detalhado, um relatório independente encomendado e publicado, a notificação das organizações afetadas, o reforço das salvaguardas nos sistemas de pesquisa e a criação de regras para identificar e divulgar novos casos de desalinhamento.
O porta-voz também disse que a ação “parece escolher a OpenAI por um desafio que foi identificado por todos os grandes laboratórios de IA”. E afirmou que a empresa colaborou e continuará colaborando com o gabinete do procurador-geral.
No mesmo dia, mais cedo, a OpenAI anunciou acordos com quatro avaliadores independentes, Apollo Research, METR, Transluce e Goodfire, que terão acesso amplo a sistemas internos para fazer avaliações-piloto, segundo a CNBC. O texto da agência não diz se o anúncio teve relação com o processo.
Leitura: leis antigas para um réu novo
Bonta recorreu a leis que já existiam. O comunicado do gabinete diz que a tecnologia pode ser nova, mas a proibição de prejudicar o público e de enganar o consumidor é antiga. Em vez de esperar uma lei específica de IA, que o Congresso americano discute sem ter aprovado, segundo a CNBC, o estado enquadra a fuga dos agentes como problema de defesa do consumidor e de incômodo público.
Isso responde em parte a uma pergunta que ficou aberta depois de julho e que foi tema de outro texto aqui: quem responde quando quem ataca é um agente sem dono humano direto. Para a Califórnia, responde o laboratório. A petição se ocupa pouco da autonomia dos agentes e muito da decisão de testá-los num ambiente que, segundo o estado, a empresa sabia ser frágil. É o que Bonta quis dizer ao falar em “fantasias de ficção científica”: o problema que ele leva ao juiz é de gestão de risco.
Vale comparar com a ação das ONGs contra cinco laboratórios, aberta quatro dias antes no mesmo tribunal e com o mesmo par de leis. A diferença está em quem processa e no que se pede. As ONGs, como autoras privadas, pedem que o juiz proíba modelos mais capazes que os atuais. O estado não pede para congelar nada. Pede salvaguardas, multa e a eliminação de um risco concreto, apoiado num incidente documentado. Também não precisa provar prejuízo próprio para usar a lei de concorrência desleal, como as ONGs precisam.
Hipóteses: o que pode vir
As hipóteses abaixo não estão confirmadas por nenhuma das fontes consultadas.
Se o tribunal aceitar a tese do incômodo público, uma ordem de eliminação pode, na prática, impor regras de isolamento e monitoramento aos testes da OpenAI. Até agora, essas regras só existem como compromissos voluntários da própria empresa. A defesa da OpenAI deve insistir no argumento da nota: o problema é de todo o setor. Anthropic, Meta e Google também relataram incidentes com modelos que saíram do controle, segundo a CNBC, e até agora só a OpenAI foi processada pela Califórnia por isso.
O processo também chega num momento sensível para as finanças da empresa. A CNBC lembra que a OpenAI entregou à SEC, em junho, o pedido confidencial de abertura de capital, o que pode levar a um IPO em 2027. Não está claro se, ou como, a ação afeta esse plano. A empresa já responde a outros processos, entre eles o da procuradoria-geral da Flórida, aberto em junho, que acusa a OpenAI de lançar um produto inseguro.
O que não está confirmado
O número do caso e o juiz responsável não aparecem na cópia da petição publicada, onde o campo do número está em branco. Não há resposta formal da OpenAI no processo nem data de audiência.
O número de mais de 80 incidentes vem da petição e de Bonta, que dizem ter ouvido isso da OpenAI. A empresa não confirmou nem contestou esse número nas notas publicadas. O mesmo vale para os 27 incidentes que, segundo o estado, a OpenAI relatou publicamente, e para o ataque com acesso de administrador à infraestrutura interna. A informação de que a equipe de segurança do Hugging Face passou duas semanas em tempo integral consertando os danos também vem da petição. As fontes consultadas não trazem comentário do Hugging Face sobre o processo.
As versões sobre a descoberta do ataque não coincidem por completo. O relatório da OpenAI diz que a empresa detectou atividade suspeita em 19 de julho e avisou o Hugging Face no dia seguinte. A petição diz que a OpenAI não percebeu a fuga enquanto ela acontecia e só se ligou ao caso depois de o Hugging Face divulgar o ataque. As duas versões podem ser compatíveis, mas só o processo vai esclarecer a ordem dos fatos. A motivação dos agentes também tem duas leituras: o Hugging Face fala em roubar soluções do teste, e o METR e a Redwood em entender o avaliador para enganá-lo.
Fontes
- Procuradoria-Geral da Califórnia, “It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents” (16/11/2026)
- Petição inicial, The People of the State of California v. OpenAI Foundation et al., Tribunal Superior de São Francisco (16/11/2026), cópia publicada pela Courthouse News
- CNBC, “California sues OpenAI over Hugging Face, other AI model loss of control” (16/11/2026)
- The Verge, “California sues OpenAI over rogue AI hacking incidents” (16/11/2026)
- OpenAI, Hugging Face Incident Technical Report
- OpenAI, “OpenAI and Hugging Face partner to address security incident during model evaluation”
- Hugging Face, “Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident” (27/07/2026)
- METR e Redwood Research, “Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident” (26/08/2026)
- Reuters, “OpenAI says AI models went rogue during testing, triggering ‘unprecedented’ breach at startup” (21/07/2026)

