OpenAI gaat teksten die ChatGPT en Codex in de Europese Unie schrijven voorzien van een onzichtbaar watermerk, schrijft het bedrijf op 5 oktober in een eigen aankondiging over de EU-regels voor herkomst van tekst. Het ChatGPT-watermerk heet textGrain en zit verwerkt in de woordkeuze zelf. Je ziet er dus niets van.
Wat is er nieuw?
Een taalmodel kiest bij elk woord uit meerdere mogelijkheden. Volgens OpenAI stuurt textGrain die keuze subtiel bij, waardoor er over een hele passage een statistisch patroon ontstaat. Een speciale detector kan dat patroon opsporen, ook als de tekst daarna een beetje is aangepast. Het patroon bevat volgens OpenAI geen informatie over wie de tekst heeft gemaakt.
OpenAI noemt als aanleiding de Europese AI-verordening, die vraagt dat AI-gegenereerde inhoud machineleesbaar herkenbaar is. NOS meldt dat de regels over transparantie het kader vormen.
Wat OpenAI zelf zegt over de grenzen van het watermerk:
- Het kan bevestigen dat een OpenAI-systeem bij de tekst betrokken was, maar niet wie het systeem gebruikte.
- Het zegt niets over hoeveel een mens zelf heeft geschreven, wie de tekst bezit of of de inhoud klopt.
- Korte teksten en latere bewerkingen maken herkenning minder betrouwbaar.
- Als er geen watermerk wordt gevonden, bewijst dat niet dat een mens de tekst schreef.
OpenAI geeft er ook cijfers bij. Bij een foutmarge van 1 procent vond de detector het watermerk in ongeveer 80 procent van de stukken tekst van 200 tokens en in ongeveer 95 procent bij 400 tokens, bij onderwerpen als psychologie. Bij wiskunde, waar minder ruimte is in de woordkeuze, lag dat flink lager. Bewerken helpt ook: werden 10 procent van de woorden vervangen door synoniemen, dan zakte de herkenning van ongeveer 92 naar 66 procent, en bij 25 procent naar 17 procent. OpenAI wil de techniek later ook open source beschikbaar maken.
De detector is er voorlopig niet voor iedereen. Volgens OpenAI en NOS is hij in eerste instantie alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties. Je kunt dus niet zelf een tekst plakken en laten controleren.
Wanneer en voor wie?
OpenAI zegt dat het in de komende weken een onzichtbaar watermerk toevoegt aan geschikte teksten uit ChatGPT en Codex die in de EU worden gemaakt. Een exacte datum noemen de bronnen die wij konden raadplegen niet. NOS meldt dat teksten buiten de EU geen watermerk krijgen.
Voor ontwikkelaars geldt iets anders: sinds 5 oktober kunnen API-klanten wereldwijd het watermerk voor geselecteerde modellen zelf aanzetten. Het staat standaard uit en wordt bij de start geen wereldwijde standaard.
Volgens NOS gebruikt ook Anthropic, de maker van Claude, sinds twee maanden een soortgelijk onzichtbaar watermerk, en wel wereldwijd. Dat is door ons niet bij Anthropic zelf nagetrokken.
NOS laat techexpert Bert Hubert aan het woord. Hij denkt dat bedrijven het watermerk vooral invoeren door concurrentie en niet door strikte wetgeving, en dat het nuttig is om nepmails te herkennen die zich voordoen als echte bedrijfsmail. Dat is zijn inschatting, geen standpunt van OpenAI.
Wat betekent dit voor jou?
Gebruik je ChatGPT in Nederland voor werk, school of tekstjes, dan verandert er aan je eigen gebruik niets zichtbaar: de tekst leest hetzelfde. Wel kan een organisatie met toegang tot de detector straks vaststellen dat een lange, ongewijzigde tekst door ChatGPT is geschreven. Voor een gewone gebruiker, een docent of een redacteur is die detector voorlopig niet beschikbaar.
Een paar praktische punten:
- Het watermerk is geen bewijs van fraude. Het zegt dat AI is gebruikt, niet of dat mocht. Check zelf de regels van je werkgever of opleiding.
- Een tekst zonder watermerk is niet per se door een mens geschreven. Teksten van andere tools, bewerkte teksten en korte stukjes vallen buiten wat het betrouwbaar kan zien.
- Door de beperkingen blijft het een hulpmiddel naast andere controles. Lees in onze gids over AI-detectors wat er nog meer bestaat en waarom die tools ook fouten maken.
- Wil je transparant zijn, vermeld dan gewoon dat je AI hebt gebruikt. Dat is eenvoudiger dan hopen dat niemand het ziet.
Bronnen
Eindredactie: Jan van Musscher, hoofdredacteur · Zo werken we
Zie AI Nieuws Daily vaker in Google: voeg ons toe als voorkeursbron
