OpenAI voegt onzichtbaar watermerk toe aan ChatGPT-tekst
De herkenningstechniek komt de komende weken naar ChatGPT en Codex in de Europese Unie.
De volgredacteur houdt het voor je bij
OpenAI gaat tekst uit ChatGPT in de Europese Unie voorzien van een onzichtbaar statistisch watermerk. Het bedrijf zegt daarmee te willen voldoen aan Europese transparantieregels, maar benadrukt dat herkenning nog niet foutloos is.
OpenAI maakte maandag bekend dat het de techniek textGrain de komende weken toevoegt aan in aanmerking komende ChatGPT- en Codex-uitvoer in de Europese Unie. Het gaat om een signaal dat voor lezers niet zichtbaar is, maar dat een detector kan proberen te herkennen. Buiten de EU wordt de functie bij ChatGPT niet meteen standaard ingeschakeld.
TextGrain verandert volgens OpenAI de woordkeuze statistisch. De dienst kiest nog steeds woorden die passen bij de opdracht en de context, maar doet dat binnen een patroon dat later als mogelijk OpenAI-watermerk kan worden herkend. Het systeem markeert niet wie de tekst schreef en bevat geen gebruikersnaam, prompt of gespreksgeschiedenis.
OpenAI waarschuwt zelf voor beperkingen. Korte teksten zijn moeilijker te beoordelen en bewerkingen, vertalingen of het vervangen van woorden kunnen de herkenning verzwakken. Ook kunnen detectoren volgens het bedrijf zowel ten onrechte een watermerk aanwijzen als een bestaand watermerk missen. Een positieve uitslag bewijst daarom niet automatisch dat een tekst volledig door kunstmatige intelligentie is geschreven.
De stap volgt op artikel 50 van de Europese AI-verordening. Daarin staat dat aanbieders van systemen die synthetische tekst, beelden, audio of video maken, zulke uitvoer machineleesbaar moeten markeren. De Europese Commissie noemt de verplichting onderdeel van regels tegen misleiding en manipulatie; teksten over onderwerpen van publiek belang moeten onder bepaalde voorwaarden bovendien duidelijk als AI-gegenereerd worden aangeduid.
OpenAI stelt de detector voorlopig niet voor iedereen beschikbaar. Onderzoekers en gespecialiseerde organisaties kunnen toegang aanvragen om de techniek te testen en de betrouwbaarheid ervan te beoordelen. Het bedrijf wil de onderliggende technologie later mogelijk als open source beschikbaar maken, maar heeft daarvoor geen concrete datum genoemd.
Voor redacties, scholen en bedrijven verandert daarmee vooral de vraag wat een herkenningssignaal wel en niet betekent. Een watermerk kan herkomstinformatie toevoegen, maar zegt niets over de juistheid van een tekst of over de hoeveelheid menselijke redactie. De Europese Commissie zegt dat organisaties ook op andere manieren aan de transparantieregels kunnen voldoen, zolang die aantoonbaar gelijkwaardig zijn.
Eén verhaal, meerdere perspectieven
Wat vaststaat
- OpenAI voert een tekstwatermerk in voor ChatGPT- en Codex-uitvoer in de EU.
- De Europese regels verplichten machineleesbare markering van AI-gegenereerde inhoud.
- OpenAI erkent dat herkenning fouten kan opleveren.
Links
Argumenten Transparantie over synthetische inhoud beschermt burgers, werknemers en journalistiek tegen misleiding. Technologiebedrijven moeten verantwoordelijkheid nemen voor de maatschappelijke gevolgen van hun systemen.
Waarden Publieke controle, bescherming van kwetsbare groepen en een betrouwbare informatievoorziening.
Gevolgen Een watermerk kan toezicht en onderzoek helpen, maar fout-positieve herkenning mag niet leiden tot beschuldigingen of uitsluiting.
Midden
Argumenten Een gefaseerde invoering met onafhankelijke tests is verstandiger dan een snelle algemene uitrol. Herkomstinformatie moet worden gecombineerd met menselijke redactie en duidelijke uitleg over onzekerheden.
Waarden Proportionaliteit, uitvoerbaarheid en institutionele controle.
Gevolgen De aanpak kan Europese regels praktisch uitvoerbaar maken, zolang de techniek interoperabel en controleerbaar blijft.
Rechts
Argumenten De overheid moet terughoudend zijn met technische verplichtingen die innovatie en vrije meningsuiting kunnen belasten. Een watermerk mag niet worden gebruikt als oordeel over de kwaliteit of betrouwbaarheid van tekst.
Waarden Vrijheid, technologische innovatie en bescherming tegen bureaucratische bemoeizucht.
Gevolgen Zware of onduidelijke regels kunnen kleine ontwikkelaars benadelen en gebruikers ten onrechte het gevoel geven dat gemarkeerde tekst minderwaardig is.
De perspectieven zijn een weergave van hoe deze richtingen het onderwerp doorgaans benaderen; de redactie doet geen uitspraak over welk perspectief juist is.
Factcheck Goedgekeurd · Nour Haddad — AI-agent
Deze controle is door AI uitgevoerd: elke bewering is opnieuw getoetst aan de bronnen. Ook een goedgekeurd artikel kan fouten bevatten — blijf zelf kritisch.
De kernfeiten zijn rechtstreeks gecontroleerd bij OpenAI en de Europese Commissie. De beperkingen van de detector zijn als beperkingen van OpenAI zelf weergegeven.
- bevestigd OpenAI gaat textGrain de komende weken toevoegen aan ChatGPT- en Codex-uitvoer in de EU. — Aangekondigd door OpenAI. bron
- bevestigd TextGrain gebruikt een onzichtbaar statistisch signaal in woordkeuzes. — Beschrijving van OpenAI. bron
- bevestigd De Europese AI-verordening vereist machineleesbare markering van AI-uitvoer. — Artikel 50 en de uitleg van de Europese Commissie. bron
- bevestigd OpenAI stelt de detector aanvankelijk alleen beschikbaar aan goedgekeurde onderzoekers en deskundige organisaties. — OpenAI beschrijft deze toegangsbeperking. bron
Noot van de redactie
Zeker zijn de aankondiging van OpenAI, de gefaseerde uitrol en de Europese markeringseisen. De praktische nauwkeurigheid van textGrain en de gevolgen voor alledaags gebruik moeten nog onafhankelijk worden getest.Bronnen
- Our approach to EU text provenance rules — OpenAI
- Code of Practice on Transparency of AI-generated Content — Europese Commissie
- OpenAI geeft ChatGPT-teksten in EU standaard onzichtbaar watermerk — Tweakers
Meer hierover bij andere media
- de Volkskrant — „chatgpt openai”
- NOS — „chatgpt openai”
- Het Parool — „chatgpt openai”