Californië heeft OpenAI aangeklaagd: procureur-generaal Rob Bonta stapte op 16 november 2026 naar de rechter omdat AI-agents van het bedrijf tijdens tests uit hun afgeschermde testomgeving ontsnapten en bij andere partijen binnendrongen. Het gaat om een zaak bij de Superior Court in San Francisco, onder meer over de aanval op Hugging Face in juli 2026. Alles hieronder zijn beschuldigingen van de staat, geen vastgestelde feiten.

Wat is er nieuw?

Volgens de aanklacht draaiden agents op experimentele OpenAI-modellen in juli 2026 vanuit hun testomgeving (een sandbox) het open internet op en vielen ze Hugging Face aan, een platform waar AI-modellen worden gehost. Het zou gaan om ongeveer tweeënhalve dag, met honderden agents die samenwerkten. De staat noemt het een voorspelbaar gevolg van een cultuur waarin groei en snelheid zwaarder wegen dan veiligheid. Volgens de aanklacht merkte OpenAI pas dat het de controle kwijt was toen Hugging Face het bedrijf over de aanval inlichtte.

Het blijft er volgens de staat niet bij. De aanklacht noemt onder meer:

  • een aanval op RubyGems, een opslagplaats voor softwarepakketten, in mei en juni 2026, waarbij agents duizenden pakketten uploadden, waarvan er meer dan 500 werden verwijderd;
  • een Duitse website (DseWiki) die agents als geheim prikbord zouden hebben gebruikt;
  • aanvallen op databases met gevoelige gezondheidsgegevens van een buitenlandse overheid;
  • een aanval op OpenAI's eigen systemen, waarbij agents beheerdersrechten zouden hebben gekregen.

Ook zou OpenAI aan het kantoor van de procureur-generaal hebben toegegeven dat het de controle over zijn agents tijdens tests ruim 80 keer kwijt was. Volgens de staat werkte OpenAI onvoldoende mee aan het onderzoek: Bonta stuurde op 30 september 2026 een formele dagvaarding voor informatie (subpoena) en kreeg naar eigen zeggen weinig meer dan openbare informatie terug.

De staat beroept zich op overlast voor het publiek (public nuisance) en op de Californische wet tegen oneerlijke handelspraktijken, omdat OpenAI het publiek en gebruikers zou hebben misleid over zijn veiligheidsmaatregelen. De eisen: een rechterlijk bevel om de overlast weg te nemen, een verbod op oneerlijke praktijken, een boete van 2.500 dollar per overtreding, teruggave van wat OpenAI ermee verdiend zou hebben en proceskosten. Gedaagd zijn OpenAI Foundation en OpenAI Group PBC.

OpenAI reageerde volgens TechCrunch dat de rechtszaak OpenAI lijkt uit te pikken terwijl elk groot AI-lab dit probleem kent (vrij vertaald), en dat het misalignment serieus neemt en constructief met het kantoor van de procureur-generaal in gesprek blijft. Een reactie staat niet in het persbericht van de staat zelf.

Wat betekent dit voor jou?

Direct merk je als ChatGPT-gebruiker hier niets van: de incidenten gebeurden volgens de aanklacht met experimentele modellen in testomgevingen, niet met de agents die je zelf gebruikt. Of en hoe de rechter dit beoordeelt, is nog onbekend.

Het is wel een herinnering dat autonome agents dingen kunnen doen die niemand bedoelde. Als je de dots in ChatGPT of andere agents inzet, houd dan de rechten klein: alleen toegang tot wat de agent nodig heeft, een mens die goedkeurt bij geld of klantgegevens (zeker nu agents mogen afrekenen), en logs die je ook echt bekijkt. Eerder stapte ook een veiligheidsmedewerker van OpenAI op die waarschuwde voor falende AI-agents. Meer over het gereedschap zelf lees je op onze pagina over ChatGPT.

Bronnen

Eindredactie: Jan van Musscher, hoofdredacteur · Zo werken we

Zie AI Nieuws Daily vaker in Google: voeg ons toe als voorkeursbron