Tweakers · Technologie

Anthropic scherpt regels voor AI-tool Claude aan

AI-ontwikkelaar Anthropic past het gebruikersbeleid voor hun chatbot Claude aan om misbruik tegen te gaan. De nieuwe regels, die vanaf 12 november gelden, verbieden onder andere het creëren van misleidende content en het maken van surveillancetools.

Het nieuwe beleid verbiedt expliciet het genereren van misleidende politieke propaganda en het verspreiden van nepnieuws via Claude. Ook het ontwikkelen van software voor het volgen of analyseren van mensen met Claude Code is niet langer toegestaan.

Daarnaast treedt Anthropic op tegen gebruikers die de AI-dienst herhaaldelijk en zonder duidelijke reden wreed of onaardig bejegenen. Het bedrijf stelt dat er al beveiliging in de modellen zit die gesprekken kan beëindigen bij verbale mishandeling, maar dat dit niet geldt voor normale frustratie of testscenario's.

Voor de gemiddelde gebruiker zullen de veranderingen waarschijnlijk weinig impact hebben. Het beleid dient voornamelijk als juridische basis voor Anthropic om op te treden tegen gebruikers die de voorwaarden herhaaldelijk schenden, bijvoorbeeld door hen te verbannen.

AI-samenvatting op basis van de bron.