Teksten van ChatGPT-gebruikers worden voorzien van een onzichtbaar 'watermerk'. Hiermee moet duidelijker worden of een tekst authentiek is of gegenereerd is door kunstmatige intelligentie, aldus OpenAI.
Het watermerk, genaamd textGrain, wordt komende tijd verwerkt in AI-teksten van gebruikers in de Europese Unie. Daarbuiten bevatten de teksten geen watermerken.
Het herkenningsteken is voor normale gebruikers niet te zien: het is namelijk geen fysiek stempel of speciaal teken, maar zit ingebouwd in de woordkeuzes van het generatieve AI-model.
Korte teksten
Een speciale detector kan dat watermerk, en daarmee door AI-gegenereerde woorden en teksten, wel oppikken. Die tool is vooralsnog alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties, schrijft OpenAI.
Het systeem is volgens het bedrijf achter ChatGPT sterk, maar niet foutloos, schrijft het bedrijf. Onder meer korte en bewerkte teksten maken betrouwbare detectie lastig.
Anthropic, het bedrijf achter chatbot Claude, voerde twee maanden geleden een vergelijkbaar watermerk in: ook onzichtbaar voor mensenogen, maar wel waarneembaar voor computersystemen. Deze is wereldwijd toegepast.
EU-richtlijn
De bedrijven zeggen met hun watermerken de nieuwe Europese AI-transparantieregels te volgen. Een van die regels is dat content die door kunstmatige intelligentie is gemaakt een markering krijgt, zoals een watermerk.
Volgens tech-expert Bert Hubert mag je in Europa nog best teksten maken die door kunstmatige intelligentie zijn geproduceerd zonder watermerk, maar dan moet je het onder sommige omstandigheden zelf vermelden.
Dat de bedrijven nu massaal watermerken toevoegen, komt volgens Hubert dan ook vanwege onderlinge concurrentie. "Anders moet je nu als OpenAI haast uitleggen waarom je dit als bedrijf niet hebt. Zoiets kan slecht zijn voor je verkoopproces."
Fraudezaken
De watermerken komen in een tijd waarin veel discussie is over de authenticiteit van content en wat de gevolgen zijn als content niet authentiek is. "Dit legt de lat wat hoger", zegt Hubert.
Volgens hem kunnen de watermerken vooral helpen bij fraudezaken. "Denk aan mails van een zogenaamd energiebedrijf die er geloofwaardig uitzien, maar door kunstmatige intelligentie zijn geproduceerd. Dan is het heel handig als je mailsysteem kan zeggen: let op, dit is een door AI-gegenereerde mail."
