OpenAI heeft op 16 november 2026 nieuwe maatregelen aangekondigd voor ChatGPT kinderveiligheid en de strijd tegen online seksueel kindermisbruik. Het bedrijf brengt een nieuwe beeldclassifier uit die misbruikmateriaal (CSAM) kan opsporen, zet waarschuwingen in ChatGPT in en publiceert richtlijnen voor ontwikkelaars en hulpmiddelen voor opsporingsteams.
Wat is er nieuw?
De beeldclassifier. De nieuwe OpenAI-classifier zoekt in afbeeldingen naar visuele tekenen van misbruik, ook bij beelden die nog nergens als misbruik bekend zijn, en ook als het materiaal door AI is gemaakt. Hij geeft scores terug, zodat menselijke beoordelaars kunnen bepalen welke beelden eerst aandacht nodig hebben. Volgens OpenAI is het de eerste breed beschikbare CSAM-classifier met een apart signaal voor de vraag of materiaal mogelijk AI-gegenereerd is. Het bedrijf ontwikkelde hem met hulp van NCMEC, de Amerikaanse organisatie achter de CyberTipline, het centrale meldpunt voor online uitbuiting van kinderen.
Over de prestaties meldt OpenAI cijfers uit eigen tests: de classifier zou 48 procent minder beelden markeren dan de bestaande aanpak, terwijl ongeveer evenveel misbruikbeelden worden gevonden. Gemarkeerde beelden bleken ongeveer twee keer zo vaak misbruik te bevatten. Het zijn cijfers van OpenAI zelf op basis van een evaluatie met door gebruikers geüploade afbeeldingen, niet van een onafhankelijke toets.
Waarschuwingen in ChatGPT. Wie in ChatGPT probeert misbruikmateriaal te vinden, krijgt een waarschuwing die uitlegt dat het seksualiseren van kinderen schade veroorzaakt, ook als het gevraagde materiaal door AI is gemaakt. OpenAI verwijdert het gemarkeerde gesprek en pauzeert de toegang tot ChatGPT 24 uur. De waarschuwing wijst ook op hulp voor wie met dit gedrag wil stoppen. Bij herhaling kunnen langere beperkingen volgen, uiteindelijk sluiting van het account of een melding aan de autoriteiten. Verboden en geweigerd was dit materiaal al langer. De waarschuwing komt daar bovenop.

OpenAI ontwikkelde de waarschuwingen met onder meer Protect Children, de Lucy Faithfull Foundation en onderzoekers van de universiteiten van Kent en Tasmanië.
Voor ontwikkelaars en opsporing. OpenAI publiceerde praktische CSAM-richtlijnen voor ontwikkelaars, opgesteld met onder meer de Tech Coalition, Thorn, NCMEC en de Internet Watch Foundation. Daarnaast krijgen politie-eenheden die zich met kinderveiligheid bezighouden nieuwe AI-hulpmiddelen en training. De eerste tool helpt onderzoekers lange chatlogs en juridische gegevensverstrekkingen door te nemen, verbanden te leggen en tijdlijnen te maken. Toegang loopt via programmabeheerders en hangt af van autorisatie door de dienst.
Wanneer en voor wie?
De classifier is niet vrij voor iedereen. OpenAI biedt hem aan "gescreende organisaties" aan via de OpenAI API, zonder kosten. Organisaties vragen toegang aan via een formulier op de site van OpenAI. De Tech Coalition en ROOST helpen bij het delen van de tool. Of er voorwaarden gelden voor Nederlandse of Europese organisaties, staat niet in de aankondiging. Voor de waarschuwingen in ChatGPT noemt OpenAI geen datum of landen. Een van de betrokken onderzoekers zegt dat OpenAI gebruikers in zoveel mogelijk landen naar lokale hulp wil doorverwijzen. Of dat in Nederland al werkt, konden we niet bevestigen.
Wat betekent dit voor jou?
Gebruik je ChatGPT gewoon voor werk of school, dan merk je hier niets van. De maatregelen richten zich op wie bewust naar misbruikmateriaal zoekt. Heb je kinderen in huis, dan zijn de eerdere strengere regels voor tieners nuttiger voor het dagelijks gebruik. Hoe OpenAI het gedrag van het model vastlegt, lees je bij de update van de Model Spec.
Run je een platform of app waar gebruikers afbeeldingen uploaden, zeker met beeldgeneratie, dan is dit relevant. Je kunt toegang tot de classifier aanvragen en de richtlijnen van OpenAI gebruiken. Het blijft een hulpmiddel voor menselijke beoordelaars en vervangt geen eigen meldproces.
Kom je zelf seksueel kindermisbruikmateriaal tegen, dan kun je dat in Nederland melden bij het meldpunt van Offlimits, dat volgens de eigen site een "Meldpunt voor beeldmateriaal van seksueel kindermisbruik" heeft (meldpunt.offlimits.nl). Zorgen over je eigen gevoelens of gedrag kun je vertrouwelijk bespreken via de preventielijn van Offlimits (preventielijn.offlimits.nl).
Bronnen
Eindredactie: Jan van Musscher, hoofdredacteur · Zo werken we
Zie AI Nieuws Daily vaker in Google: voeg ons toe als voorkeursbron




