AI Engineer · AI

Loophole: Adversarial Agents om je Moraliteit te Stresstesten — Brendan Rappazzo, Morgan Stanley

Een verzekeringsmaatschappij traint haar risicomodel niet op jouw DNA. Het traint op artefacten die zijn afgeleid van jouw DNA. Volgens de morele code die de gebruiker heeft geschreven, is dat immoreel en volkomen legaal, en het is het soort hiaat dat Loophole wil blootleggen. Brendan Rappazzo is een machine learning onderzoeker bij Morgan Stanley, hoewel hij begint met te zeggen dat het project zijn eigen open source werk is, los van zijn werkgever. Het begon met een persoonlijke vraag. Hij had zijn

Introductie van de bron.