Scientias · Wetenschap

Hoe AI-detectoren proberen te achterhalen of tekst door AI is geschreven

AI-detectoren analyseren statistische patronen in teksten om te bepalen of ze door een mens of een AI zijn geschreven. De betrouwbaarheid hiervan is echter beperkt.

Taalmodellen zoals ChatGPT voorspellen het volgende woord op basis van waarschijnlijkheid. Dit leidt tot statistisch voorspelbaardere teksten dan die van mensen, die vaak grilliger zijn en fouten bevatten. De voorspelbaarheid wordt gemeten met 'perplexity'; een lagere score betekent een voorspelbaardere tekst.

AI-detectoren kijken ook naar het gebruik van specifieke woorden die taalmodellen vaak gebruiken. In Engelstalige wetenschappelijke publicaties is bijvoorbeeld een toename van woorden als 'delve' en 'underscore' waargenomen tussen 2022 en 2024.

Deze detectoren leveren geen sluitend bewijs, maar hooguit aanwijzingen. Het gebruik van bepaalde AI-populaire woorden kan zelfs ons eigen taalgebruik beïnvloeden, wat mogelijk ook onze manier van denken verandert.

AI-samenvatting op basis van de bron.