Tweakers · Technologie

AI-bedrijven bespreken oprichting van standaardenorgaan voor veiligheidstests

Grote AI-bedrijven zoals Google en OpenAI voeren gesprekken over de oprichting van een onafhankelijk orgaan dat geavanceerde AI-modellen moet testen op veiligheid voordat ze worden uitgebracht.

Dit initiatief, gemeld door CNN, zou een publiek-private samenwerking zijn, gefinancierd door techbedrijven en onder toezicht van de overheid, met onafhankelijke experts die de tests uitvoeren. Het idee is deels geïnspireerd door een essay van Demis Hassabis, oprichter van Google DeepMind, die pleitte voor dergelijke tests.

Eerder meldde Bloomberg al dat de Amerikaanse minister van financiën Scott Bessent een toezichthouder overweegt, vergelijkbaar met de Nederlandse AFM.

Niet alle techleiders steunen het plan; Meta-ceo Mark Zuckerberg zou naar verluidt president Trump hebben ontmoedigd om mee te werken aan Bessents voorstel. De gesprekken over het standaardenorgaan gaan echter door, ongeacht de politieke steun.

Deze discussies vonden plaats vóór recente publieke uitingen van AI-medewerkers over toenemende veiligheidsrisico's van geavanceerde AI, waaronder de mogelijkheid dat AI de mensheid zou kunnen vernietigen.

AI-samenvatting op basis van de bron.