Tweakers · Technologie

Anthropic gebruikt Claude voor een kwart van R&D-werk

AI-ontwikkelaar Anthropic zet zijn eigen chatbot, Claude, in voor een aanzienlijk deel van zijn onderzoeks- en ontwikkelingswerk. Meer dan 90 procent van het werk aan de chatbot maakt op de een of andere manier gebruik van AI, waarbij menselijk toezicht altijd centraal staat.

Anthropic rapporteert dat 26 procent van het R&D-werk momenteel op niveau 4 wordt uitgevoerd. Dit houdt in dat een AI-agent een taak van begin tot eind kan volbrengen op basis van een prompt, maar dat een mens de uiteindelijke controle behoudt.

Het bedrijf beschrijft in een rapport hoe AI-agents intern worden ingezet. Ze gebruiken een schaal om de mate van AI-bijdrage aan R&D te meten, waarbij niveau 5 staat voor volledig autonoom werk, wat momenteel niet aan de orde is.

Anthropic streeft ernaar een raamwerk te ontwikkelen voor het interne beheer van AI-agents. Het bedrijf benadrukt de noodzaak van monitoring en controlemechanismen voor AI-agents, aangezien het gebruik ervan toeneemt en de technologie zich snel ontwikkelt.

Het ontwikkelde monitorsysteem analyseert het aantal acties van een agent, de tijd die nodig is om acties uit te voeren en voor te leggen aan menselijke controle, en hoe vaak een agent problemen detecteert.

Anthropic beheert momenteel 30.000 AI-agents op interne platforms. Zes tot twaalf procent van de totale rekenkracht wordt toegewezen aan het monitoren van deze agents.

AI-samenvatting op basis van de bron.