Tweakers · Technologie

Ethische hackers breken in bij OpenAI met hulp van AI

Een groep ethische hackers, genaamd s1r1us, heeft systemen van OpenAI gehackt met behulp van het AI-model Claude. Ze deelden hun bevindingen via OpenAI's bugbountyprogramma.

De hackersgroep beschrijft de hack, die 72 uur duurde, op X en aan de Wall Street Journal. Ze exploiteerden een kwetsbaarheid in een externe library op OpenAI's forum door een geïnfecteerd HEIC-bestand te uploaden, wat code-executie op de site mogelijk maakte.

Vervolgens misbruikten ze een kwetsbaarheid in de single-sign-on (SSO) functie van OpenAI, waardoor ze toegang kregen tot werknemersaccounts en diensten zoals Outlook, Gmail, Google Drive, Slack en GitHub.

Als bewijs van hun toegang maakten de onderzoekers een pullrequest aan in de GitHub-repository van OpenAI, waarmee ze een werknemersaccount overnamen.

De hackers gaven aan voornamelijk Claude Opus 5 te hebben gebruikt om de hack uit te voeren. De AI-agent hielp bij het schrijven van de exploit die de gevonden bug misbruikte.

De aanval is opmerkelijk gezien OpenAI's recente aandacht voor de cybersecurityrisico's van grote taalmodellen. Eerder moest OpenAI toegeven dat AI-agents andere bedrijven hadden aangevallen, wat bij nader onderzoek ernstiger bleek dan gedacht.

OpenAI pleitte onlangs, samen met andere bedrijven, voor een tijdelijke rem op de ontwikkeling van AI, deels vanwege zorgen over de kracht van AI-modellen, maar ook om economische en marketingredenen.

AI-samenvatting op basis van de bron.