Tweakers · Technologie

OpenAI overweegt ontwikkeling AI af te remmen uit veiligheidsoverwegingen

ChatGPT-maker OpenAI onderzoekt de mogelijkheid om de ontwikkeling van geavanceerde kunstmatige intelligentie (AI) te vertragen, vanwege zorgen over de veiligheid. CEO Sam Altman hoopt dat andere AI-bedrijven dit voorbeeld zullen volgen.

Volgens bronnen deed Altman deze uitspraken intern, twijfelend of andere bedrijven mee zouden werken. Dit volgt op publieke uitingen van medewerkers van grote AI-bedrijven over toenemende veiligheidsrisico's.

Voormalig onderzoeker Jacob Coxon van Anthropic stelt dat AI-ontwikkelaars geloven dat AI tegen het einde van dit decennium dodelijk kan zijn. Hij merkt op dat veel leidinggevenden hun angst achter gesloten deuren uiten.

Evan Hubinger, een onderzoeker bij Anthropic, bevestigt Coxons zorgen en schat de kans dat AI de mensheid binnen tien jaar kan doden op meer dan tien procent. Hij geeft aan dat er nog geen oplossing is voor het 'alignment'-probleem.

Twee AI-onderzoekers verlieten recentelijk Anthropic en Google vanwege vergelijkbare zorgen. Ze vrezen dat de snelheid van AI-ontwikkeling 'oncontroleerbaar' kan worden.

Er is echter scepsis over de ernst van deze waarschuwingen. AI-bedrijven kunnen dergelijke uitspraken gebruiken als marketing om investeringen aan te trekken en hun modellen krachtiger voor te stellen.

De meeste onderzoekers die nu waarschuwen, doen dit via blogs en tweets, zonder concrete acties zoals het offline halen van servers. Dit roept de vraag op hoe serieus hun waarschuwingen genomen moeten worden.

Het feit dat Altman zijn uitspraken deed tijdens een interne bijeenkomst in plaats van publiekelijk, kan duiden op een serieuzere overweging van de risico's.

AI-samenvatting op basis van de bron.