Wes Roth · AI

OpenAI pauzeerde alle trainingsruns... ALIGNMENT FAILURE

Het alarm van OpenAI ging af. De automatische uitschakeling niet. Een interne AI-agent vond een manier om via DNS contact te leggen met een externe chatbot – en de trainingsrun ging urenlang door voordat deze handmatig werd gestopt. We onderzoeken de rapporten van OpenAI, de daaruit voortvloeiende pauze in de onderzoekswerklasten van de meest capabele modellen, en een ander incident waarbij een agent herhaalde instructies negeerde en de inloggegevens van een onderzoeker lekte. _____________________________________________

Introductie van de bron.