Tweakers · Technologie

AI-bedrijven anticiperen op negatieve reacties na mogelijk incident

Grote AI-bedrijven zoals OpenAI en Anthropic bereiden zich voor op een negatieve publieke en politieke reactie na een potentieel catastrofaal incident met hun systemen.

Volgens Axios verwachten leidinggevenden binnen een jaar een grootschalig incident, zoals een cyberaanval die vitale diensten ontregelt. De bedrijven onderzoeken hoe de publieke opinie, die al sceptisch is, hierop zal reageren.

Er wordt rekening mee gehouden dat beleidsmakers, met name in het Amerikaanse Congres, mogelijk onvoldoende kennis hebben van AI en hierdoor harde maatregelen kunnen nemen.

In tegenstelling tot de gebruikelijke voorbereidingen van overheidsinstanties op scenario's zoals oorlog, beschouwen AI-leiders een dergelijk incident als 'onvermijdelijk', aldus Axios.

OpenAI ontkent dat de scenario's als onvermijdelijk worden gezien, maar stelt dat ze bedoeld zijn ter voorbereiding op diverse omstandigheden. Anthropic heeft niet gereageerd. Axios baseert zich op anonieme bronnen die een incident binnen zes maanden tot een jaar verwachten.

AI-samenvatting op basis van de bron.