Tweakers · Technologie

OpenAI voegt onzichtbaar watermerk toe aan ChatGPT-teksten in de EU

OpenAI heeft een nieuwe functie genaamd textGrain geïntroduceerd die een onzichtbaar watermerk toevoegt aan door AI gegenereerde teksten. Deze functie wordt standaard ingeschakeld voor gebruikers in de Europese Unie.

De textGrain-technologie werkt door woorden (tokens) te groeperen met een geheime sleutel en deze te koppelen aan willekeurige waarden. De detectiesoftware herkent de statistische afhankelijkheid tussen de gekozen woorden en de sleutel, zonder dat dit merkbaar is voor de lezer. Een 'entropiebudget' regelt de hoeveelheid willekeurigheid die voor het watermerk wordt opgeofferd.

OpenAI stelt dat de detectie van het watermerk in veel gevallen goed werkt, maar minder effectief is bij zeer korte teksten of wanneer gebruikers tien procent of meer van de woorden aanpassen. Vanwege deze beperkingen is de toegang tot de detector in eerste instantie beperkt tot goedgekeurde onderzoekers en deskundige organisaties.

De EU AI Act vereist dat AI-bedrijven synthetische content voorzien van een machinaal herkenbare markering. Dit stelt zoekmachines en detectietools in staat om AI-gegenereerde content te identificeren. Bedrijven die niet voldoen, riskeren aanzienlijke boetes.

AI-samenvatting op basis van de bron.