Inleiding
Teksten die worden gegenereerd met behulp van kunstmatige intelligentie (AI), zoals via ChatGPT, krijgen voortaan een onzichtbaar watermerk. Dit watermerk is bedoeld om duidelijkheid te scheppen over de authenticiteit van teksten en om te onderscheiden of een tekst door een mens is geschreven of door een AI. Deze ontwikkeling is recent aangekondigd door OpenAI en geldt specifiek voor gebruikers binnen de Europese Unie. Buiten de EU worden deze watermerken niet toegepast.
Wat houdt het onzichtbare watermerk in?
Het watermerk, dat de naam textGrain draagt, is niet zichtbaar voor gewone gebruikers. Het is geen fysiek stempel of een speciaal teken dat in de tekst wordt geplaatst. In plaats daarvan is het watermerk ingebouwd in de woordkeuzes van het generatieve AI-model zelf. Dit betekent dat de AI bij het samenstellen van teksten subtiele patronen in woordgebruik aanbrengt die door mensen niet opgemerkt worden, maar wel door speciale detectietools kunnen worden herkend.
Deze detectietools zijn momenteel alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties. OpenAI benadrukt dat het systeem sterk is, maar niet foutloos. Vooral korte teksten of teksten die zijn bewerkt, kunnen het moeilijk maken om met zekerheid vast te stellen of ze een watermerk bevatten.
Context en vergelijkbare initiatieven
Een vergelijkbare aanpak werd enkele maanden geleden al geïntroduceerd door een ander bedrijf dat AI-chatbots ontwikkelt. Ook zij maakten gebruik van een onzichtbaar watermerk dat niet door mensen kan worden gezien, maar wel door computersystemen. Dit watermerk wordt wereldwijd toegepast.
De invoering van deze watermerken sluit aan bij nieuwe Europese regels op het gebied van AI-transparantie. Een van deze regels schrijft voor dat content die door kunstmatige intelligentie is gemaakt, moet worden gemarkeerd, bijvoorbeeld met een watermerk. Dit moet bijdragen aan meer transparantie over de herkomst van digitale content.
Praktische gevolgen en aandachtspunten
Volgens een tech-expert is het in Europa nog toegestaan om teksten te maken met behulp van AI zonder watermerk, mits onder bepaalde omstandigheden duidelijk wordt vermeld dat de tekst door AI is geproduceerd. De keuze van bedrijven om nu massaal watermerken toe te voegen, wordt mede ingegeven door concurrentieoverwegingen. Bedrijven willen niet achterblijven in het voldoen aan de nieuwe regelgeving en het vertrouwen van gebruikers behouden.
De aanwezigheid van watermerken kan ook een belangrijke rol spelen bij het tegengaan van fraude. Bijvoorbeeld bij e-mails die zogenaamd van een energiebedrijf afkomstig zijn, maar in werkelijkheid door AI zijn gegenereerd om mensen te misleiden. In zo’n geval kan een mailsysteem met behulp van het watermerk waarschuwen dat de inhoud door AI is gemaakt, wat de betrouwbaarheid van communicatie kan vergroten.
Beperkingen van de detectie
Hoewel het watermerk een nuttig hulpmiddel kan zijn, is het belangrijk te beseffen dat de detectie niet onfeilbaar is. Korte teksten of teksten die na generatie zijn aangepast, kunnen het moeilijk maken om het watermerk betrouwbaar te identificeren. Dit betekent dat de redactionele controle en verificatie bij de primaire bron altijd noodzakelijk blijven om de authenticiteit van content vast te stellen.
Toekomstige ontwikkelingen
De implementatie van onzichtbare watermerken in AI-teksten is een stap in de richting van meer transparantie en verantwoord gebruik van kunstmatige intelligentie. Het is een voorbeeld van hoe technologie kan worden ingezet om de herkomst van digitale content beter te kunnen traceren en misbruik tegen te gaan. Tegelijkertijd blijft het een uitdaging om deze systemen verder te verbeteren en toegankelijk te maken voor bredere toepassingen, bijvoorbeeld in het onderwijs, de journalistiek en de zakelijke communicatie.
Conclusie
De introductie van onzichtbare watermerken in AI-gegenereerde teksten binnen de Europese Unie is een belangrijke ontwikkeling op het gebied van AI & innovatie. Het biedt een technisch middel om onderscheid te maken tussen menselijke en AI-gegenereerde content, wat bijdraagt aan transparantie en het tegengaan van misleiding. Hoewel de technologie nog niet perfect is en beperkingen kent, vormt het een waardevolle aanvulling op bestaande maatregelen en regelgeving rondom AI. Voor gebruikers en organisaties blijft het van belang om kritisch te blijven en waar nodig de authenticiteit van teksten zorgvuldig te controleren.
Bronnen
- feeds.nos.nl: Ook ChatGPT-teksten krijgen onzichtbaar 'watermerk'
Bron gebruikt voor dit artikel; raadpleeg de originele publicatie voor details.
