Tweakers · Technologie

Grote AI-bedrijven sluiten vrijwillig akkoord voor zelfregulering

Leiders van vooraanstaande techbedrijven hebben een vrijwillig akkoord bereikt met de Amerikaanse president om zelf toezicht te houden op de ontwikkeling van kunstmatige intelligentie (AI).

Het akkoord, gedeeld door president Trump, bevat vier vrijwillige maatregelen die bedrijven zouden moeten implementeren. Deze omvatten het invoeren van 'robuuste interne controles' gericht op cybersecurity, klimaat- en chemische bedreigingen, en het opzetten van interne teams om deze controles te monitoren.

Daarnaast zullen de bedrijven samenwerken met een externe toezichthouder om de effectiviteit van de interne controles te beoordelen. Een interne commissie binnen de raad van bestuur zal rapporten van zowel interne als externe toezichthouders evalueren.

Het concept 'uitlijning' (alignment) in AI verwijst naar het zorgen dat AI-modellen in lijn zijn met menselijke waarden en gedrag, om onvoorspelbaar gedrag te voorkomen.

Het akkoord laat echter veel details vaag, zoals de identiteit van externe toezichthouders en hun bevoegdheden. De maatregelen lijken de veiligheidsbeoordeling van AI-modellen primair bij de bedrijven zelf te leggen.

Aangezien de afspraken vrijwillig zijn en niet wettelijk zijn vastgelegd, zijn bedrijven niet verplicht deze na te leven. Er is ook twijfel over de bereidheid van de Amerikaanse regering om toezicht op AI uit Amerikaanse handen te geven, gezien eerdere verzoeken aan bedrijven om modellen niet te delen met buitenlandse veiligheidsinstanties.

AI-samenvatting op basis van de bron.