In dit artikel

Voor AI en de AVG geldt één vuistregel: zodra je gegevens van herkenbare mensen in ChatGPT, Copilot, Gemini of Claude zet, is dat een verwerking van persoonsgegevens en gelden de regels van de AVG. Of je klantgegevens mag invoeren, hangt dus af van het account dat je gebruikt, de afspraken met de aanbieder en wat je er precies mee doet. Een gratis persoonlijk account is voor klantdata meestal de slechtste keuze.

Hieronder lees je welke AVG-regels hier spelen, wat de Autoriteit Persoonsgegevens (AP) zegt, hoe de vier grote aanbieders hun zakelijke abonnementen beschrijven en wat je morgen kunt regelen. Dit is algemene informatie op basis van de wettekst, de AP en de pagina's van de aanbieders zelf. Het is geen juridisch advies. Twijfel je over je eigen situatie, vraag het dan een jurist of je functionaris gegevensbescherming.

Mag je klantgegevens in ChatGPT zetten?

Het korte antwoord: niet zomaar. De AVG verbiedt het gebruik van AI niet, maar vraagt wel dat je kunt uitleggen waarom je de gegevens verwerkt, dat je er niet meer van gebruikt dan nodig is en dat je de aanbieder contractueel hebt vastgelegd als je die gegevens laat verwerken. Een naam, e-mailadres, klantnummer, adres of dossier is een persoonsgegeven. Een samenvatting van een klantgesprek waarin de klant herkenbaar is, ook.

Gegevens die echt geanonimiseerd zijn, vallen er niet onder. Dat is strenger dan het klinkt: alleen de naam weghalen is vaak niet genoeg als de rest van de tekst nog naar één persoon te herleiden is.

De AVG-basis die hier speelt

De AVG is Verordening (EU) 2016/679. Dit zijn de onderdelen die bij AI-gebruik het vaakst terugkomen.

Onderdeel Wat het betekent bij AI Artikel
Grondslag Je hebt een wettelijke reden nodig om de gegevens te verwerken, bijvoorbeeld uitvoering van een overeenkomst, een gerechtvaardigd belang of toestemming. 6
Doelbinding Je mag gegevens alleen gebruiken voor het doel waarvoor je ze hebt verzameld. Klantgegevens voor een factuur zijn niet vanzelf bruikbaar voor een AI-experiment. 5
Dataminimalisatie Voer niet meer in dan nodig. Heb je voor een samenvatting geen naam nodig, laat die dan weg. 5
Verwerker Laat je een partij gegevens namens jou verwerken, dan is een verwerkersovereenkomst (in het Engels DPA, data processing agreement) verplicht. 28
Doorgifte buiten de EU Gegevens naar een land buiten de Europese Unie sturen mag alleen onder de voorwaarden van hoofdstuk V, bijvoorbeeld met standaardcontractbepalingen. 44 en verder
DPIA Een gegevensbeschermingseffectbeoordeling is nodig als een verwerking waarschijnlijk een hoog risico meebrengt, zoals grootschalig gebruik van bijzondere persoonsgegevens. 35
Datalek Een datalek meld je bij de AP zonder onredelijke vertraging en waar mogelijk binnen 72 uur nadat je ervan wist, tenzij het onwaarschijnlijk is dat het risico oplevert voor mensen. 33

Je bent zelf de verantwoordelijke, de aanbieder is de verwerker. Dat is het kernpunt: de verantwoordelijkheid voor wat er met klantdata gebeurt blijft bij jou, ook als een Amerikaans bedrijf de servers draait. Bijzondere persoonsgegevens, zoals medische gegevens, hebben extra bescherming en je kunt ze in de praktijk beter helemaal buiten een algemene chatbot houden.

De boetes zijn fors. Voor de zwaarste overtredingen noemt de AVG tot 20 miljoen euro of 4 procent van de wereldwijde jaaromzet, het hoogste bedrag telt. Voor een kleine ondernemer weegt de schade aan het vertrouwen van klanten vaak zwaarder dan een boete.

Wat zegt de Autoriteit Persoonsgegevens?

De AP waarschuwde op 6 augustus 2024 dat ze meldingen had gekregen van datalekken doordat medewerkers persoonsgegevens van bijvoorbeeld patiënten of klanten met een AI-chatbot hadden gedeeld. De AP noemt zelf ChatGPT en Copilot als assistenten die op de werkvloer veel worden gebruikt. Twee voorbeelden uit de melding: een medewerker van een huisartsenpraktijk die medische gegevens van patiënten invoerde, en een medewerker van een telecombedrijf die een bestand met klantadressen invoerde.

Het risico, schrijft de AP, is dat de bedrijven achter de chatbots de ingevoerde gegevens meestal opslaan. Die komen dan op hun servers terecht, vaak zonder dat de invoerder of de betrokkene weet wat ermee gebeurt. Of het een datalek is, hangt af van de situatie:

  • Gebruikt een medewerker de chatbot op eigen initiatief en tegen de afspraken in, dan is het volgens de AP een datalek. Melden bij de AP en bij de slachtoffers is dan in veel gevallen verplicht.
  • Is het gebruik onderdeel van het beleid, dan is het geen datalek, maar volgens de AP vaak wel niet toegestaan door de wet.

Organisaties moeten beide situaties voorkomen. De AP raadt aan duidelijke afspraken te maken: mogen medewerkers chatbots gebruiken, en zo ja, welke gegevens wel en niet. Organisaties kunnen ook met de aanbieder afspreken dat die de ingevoerde gegevens niet opslaat.

De waarschuwing van augustus 2024 staat nog altijd op de site van de AP. Meer over wat dit voor werknemers betekent staat in ChatGPT op het werk: wat mag je en wat niet?.

Gratis of persoonlijk account versus zakelijk abonnement

Het grootste verschil zit in drie dingen: wordt je invoer gebruikt om modellen te trainen, kun je een verwerkersovereenkomst sluiten en kun je als beheerder bepalen wat er bewaard wordt. Dit staat er nu op de eigen pagina's van de aanbieders. Plannen en voorwaarden veranderen regelmatig, check dus altijd de actuele pagina.

Persoonlijk account Zakelijk abonnement
ChatGPT Training op je gesprekken staat bij Free, Go, Plus en Pro standaard aan en kan uit (Settings, Data controls). Een DPA noemt OpenAI alleen voor zakelijke klanten. Business, Enterprise en de API: "By default, we do not use your business data for training our models". OpenAI kan een DPA sluiten voor Business, Enterprise en de API.
Copilot De toezeggingen op de Microsoft-documentatie gaan over Copilot met een werk- of schoolaccount. Voor persoonlijke accounts vonden we daar geen vergelijkbare zakelijke toezeggingen. Microsoft 365 Copilot: prompts, antwoorden en data via Microsoft Graph worden niet gebruikt om de basismodellen te trainen.
Gemini Voor een persoonlijk Google-account gelden andere regels dan voor Workspace. Check de privacyinstellingen van de Gemini-app zelf. Gemini in Workspace: Google gebruikt klantdata niet om modellen te trainen zonder voorafgaande toestemming van de klant. Inhoud wordt volgens Google niet door mensen beoordeeld.
Claude Free, Pro en Max: chats kunnen voor training worden gebruikt als je de instelling "Model Improvement" aan hebt. Team, Enterprise en API: Anthropic gebruikt je invoer en uitvoer standaard niet voor training. De DPA zit in de commerciële voorwaarden.

Een paar kanttekeningen per aanbieder.

OpenAI. Bij Business en Enterprise kunnen beheerders instellen hoe lang gegevens bewaard worden, en verwijderde gesprekken verdwijnen volgens OpenAI binnen 30 dagen uit de systemen, tenzij de wet langer bewaren vereist. Gebruik je de API, dan kan OpenAI invoer en uitvoer tot 30 dagen bewaren om misbruik op te sporen, met uitzonderingen en de mogelijkheid van zero data retention voor geschikte toepassingen. Over regio's in Europa en de beperkingen daarvan staat meer in ChatGPT zakelijk. Hoe je training uitzet in een persoonlijk account lees je bij is ChatGPT veilig.

Microsoft. Microsoft schrijft op Microsoft Learn dat Copilot voldoet aan de bestaande privacy-, beveiligings- en compliancetoezeggingen voor commerciële klanten, waaronder de AVG en de EU Data Boundary. Voor EU-gebruikers blijft het verkeer volgens Microsoft binnen die grens. Er is één uitzondering die telt voor wie met persoonsgegevens werkt: modellen van Anthropic die in Copilot draaien, vallen volgens dezelfde pagina op dit moment buiten de EU Data Boundary. Beheerders kunnen kiezen of ze die modellen aanzetten. Over het verschil tussen de abonnementen lees je meer in Copilot Pro versus Microsoft 365 Copilot. Een overzicht van de tool staat op de Copilot-pagina.

Google. Volgens de privacyhub voor generatieve AI in Workspace vallen gegevens onder het Cloud Data Processing Addendum (CDPA), waarin Google toezegt klantdata alleen te verwerken volgens de instructies van de klant. Bewaartermijnen stelt de beheerder in; voor Gemini in Workspace noemt Google 90 dagen tot onbeperkt. De hub geeft weinig details over waar Gemini-gegevens precies worden verwerkt, dus wie datalocatie nodig heeft, moet dat bij Google navragen. Meer over de tool vind je op de Gemini-pagina. Let ook op de apps die je zelf koppelt: lees Gemini en gekoppelde apps: menselijke beoordelaars voor wat dat voor je gegevens betekent.

Anthropic. Bij de commerciële producten traint Anthropic standaard niet op je gegevens. Geef je feedback met duim omhoog of omlaag, dan bewaart Anthropic het hele gesprek tot 5 jaar, losgekoppeld van je gebruikers-ID, en kan het voor training worden gebruikt. Beheerders van Team en Enterprise kunnen feedback uitzetten. De DPA, inclusief standaardcontractbepalingen, is onderdeel van de commerciële voorwaarden. Gebruik je Claude via een platform van een andere partij, dan gelden de voorwaarden van dat platform. Meer over de tool staat op de Claude-pagina.

Zakelijk betekent niet dat alles mag. Een DPA en geen training lossen je grondslag, doelbinding en dataminimalisatie niet op. Ze regelen vooral dat de aanbieder je gegevens als verwerker behandelt.

Doorgifte buiten de EU en dataresidentie

Veel aanbieders zijn Amerikaanse bedrijven. Gegevens naar een land buiten de EU sturen valt onder de regels voor doorgifte in hoofdstuk V van de AVG. In de praktijk loopt dat via adequaatheidsbesluiten of standaardcontractbepalingen die in de DPA staan, zoals bij Anthropic. Dataresidentie, waarbij je opslag (en soms ook verwerking) in Europa kiest, is een extra mogelijkheid die per aanbieder en per abonnement verschilt. Bij OpenAI en Microsoft staan de details op hun eigen pagina's, en ze hebben beperkingen. Vraag er dus naar voordat je het als argument gebruikt in je privacyverklaring.

Wanneer is een DPIA nodig?

Een DPIA is verplicht als een verwerking waarschijnlijk een hoog risico voor mensen meebrengt. Denk aan grootschalige verwerking van bijzondere persoonsgegevens, of aan AI die beslissingen over mensen neemt of voorbereidt, zoals het rangschikken van sollicitanten. Wil je een AI-tool structureel koppelen aan je klantsysteem of dossiers, doe dan een DPIA of laat in elk geval iemand met verstand van zaken beoordelen of het nodig is. Voor losse, geanonimiseerde teksten is het meestal niet nodig. Ook de AI Act kan er naast gelden, vooral zodra je AI gebruikt voor beslissingen over mensen.

Praktische checklist

  1. Inventariseer. Welke AI-tools gebruiken jij en je team, ook op eigen initiatief? De AP ziet juist daar de meldingen vandaan komen.
  2. Kies een zakelijk account voor alles waar klantdata in kan komen, en regel de DPA (bij Anthropic zit hij in de commerciële voorwaarden, bij Microsoft en Google in de zakelijke voorwaarden, bij OpenAI kun je hem voor Business, Enterprise en de API aanvragen).
  3. Schrijf op wat erin mag. Maak een korte lijst: wel (openbare teksten, geanonimiseerde voorbeelden), niet (medische gegevens, BSN, IBAN, bestanden met klantadressen). Een template vind je in AI beleid opstellen voor je bedrijf.
  4. Minimaliseer en anonimiseer. Vervang namen door "klant A", haal nummers weg en plak niet het hele dossier als een alinea volstaat.
  5. Zet training uit bij elk persoonlijk account dat je toch nog gebruikt.
  6. Controleer bewaartermijnen en wie in je organisatie gesprekken kan inzien.
  7. Leg het vast. Neem de tools op in je verwerkingsregister en pas je privacyverklaring aan als klanten erdoor geraakt worden.
  8. Train je mensen. De AI Act vraagt daarnaast om AI-geletterdheid, zie AI-geletterdheid.
  9. Weet wat je doet bij een lek. Zijn er toch persoonsgegevens in een niet-goedgekeurde tool terechtgekomen, dan telt de meldplicht: check binnen 72 uur of je moet melden bij de AP en bij de betrokkenen.

Veelgestelde vragen

Mag ik klantgegevens in ChatGPT zetten?

Niet zomaar. Je hebt een grondslag nodig, mag niet meer invoeren dan nodig en moet bij gebruik van een zakelijk abonnement een verwerkersovereenkomst hebben. In een gratis of persoonlijk account is klantdata voor bedrijfsgebruik meestal geen goed idee. Anonimiseer waar het kan.

Is ChatGPT AVG-proof?

Dat hangt af van het abonnement en van hoe jij het gebruikt. OpenAI zegt dat het een DPA kan sluiten voor Business, Enterprise en de API en traint daar standaard niet op je data. Een DPA maakt jouw gebruik nog niet vanzelf rechtmatig: grondslag, doelbinding en dataminimalisatie blijven jouw verantwoordelijkheid.

Wat als een medewerker per ongeluk klantdata in een AI-chatbot plakt?

Volgens de AP is het een datalek als een medewerker dat tegen de afspraken in doet. Je moet dan beoordelen of je het moet melden, in veel gevallen bij de AP en bij de betrokkenen. De termijn is waar mogelijk 72 uur nadat je ervan wist.

Heb ik een verwerkersovereenkomst nodig voor Copilot, Gemini of Claude?

Als de aanbieder namens jou persoonsgegevens verwerkt, ja. Bij Claude zit de DPA in de commerciële voorwaarden, bij Gemini in Workspace valt data onder het CDPA van Google en Microsoft verwijst naar zijn Data Protection Addendum. Controleer wel zelf of het contract dat je hebt afgesloten dat dekt.

Wat is het verschil tussen de AVG en de AI Act?

De AVG gaat over persoonsgegevens en geldt altijd als je die verwerkt. De AI Act regelt AI-systemen zelf, op basis van risico, en kan er extra naast gelden. Lees hoe dat zit in onze uitleg over de AI Act.

Bronnen

Eindredactie: Jan van Musscher, hoofdredacteur · Zo werken we