Tweakers · Technologie

Microsoft betaalt beoordelaars voor AI-beeldverbetering, inclusief seksuele content

Microsoft huurt honderden mensen in om de door AI-chatbot Copilot gegenereerde afbeeldingen te beoordelen, met als doel de kwaliteit van de output te verbeteren. Dit proces omvat ook het beoordelen van seksueel getinte beelden.

De beoordelaars, die prompts en afbeeldingen ontvangen, kunnen deze niet markeren als ongepast. Hun taak is uitsluitend het selecteren van de beste van twee door Copilot gemaakte afbeeldingen, om zo de algehele kwaliteit te verhogen. Dit gebeurt op basis van documenten en gesprekken met medewerkers, aldus 404 Media.

Onder de beoordeelde content bevinden zich veel seksueel getinte afbeeldingen, waaronder 'upskirting'-beelden en verzoeken om kleding aan te passen of personen in suggestieve posities af te beelden. Ook zijn er prompts die gericht zijn op het afbeelden van ziektes, zoals een verzoek om Taylor Swift met anorexia te tonen.

Microsoft heeft nog niet gereageerd op het bericht. Dit volgt op eerdere onthullingen over vergelijkbare praktijken bij OpenAI, waar medewerkers ChatGPT-prompts zouden beoordelen.

Het is mogelijk dat menselijke beoordelaars, met name achteraf, meekijken met interacties van gebruikers met AI-chatbots. Deze menselijke controle is essentieel voor het waarborgen van naleving van regels en het verbeteren van de gebruikerservaring.

Dit fenomeen is niet beperkt tot tekstgebaseerde AI. Ook bij interacties met AI via beeld en geluid, zoals met Meta Ray-Ban-brillen, kunnen medewerkers meekijken met gebruikersactiviteiten. Eerder bleek dit ook al het geval te zijn bij slimme speakers.

AI-samenvatting op basis van de bron.