Rest of World · Technologie

Google Earth's AI-afbeeldingsfunctie verwijderd na 24 uur te midden van zorgen over vertrouwen

Google integreerde kortstondig AI-beeldgeneratie in Google Earth, waardoor gebruikers fotorealistische scènes konden creëren op echte coördinaten. De functie werd snel verwijderd na wijdverspreide kritiek van experts en journalisten.

De nieuwe functie stelde gebruikers in staat om prompts in te typen en AI-afbeeldingen te genereren die werden gemengd met daadwerkelijke satellietbeelden, waardoor gefabriceerde scènes ontstonden zoals een kerncentrale in Iran en een bomkrater nabij een ziekenhuis in Gaza.

Google Earth is een vertrouwd hulpmiddel geweest voor open-source onderzoekers. Het gemak waarmee vervalsingen binnen dit platform konden worden gecreëerd, wekte zorgen over de betrouwbaarheid ervan als bron van "grondwaarheid".

De functie werd binnen een dag na een golf van protest verwijderd, waarbij Google verklaarde dat deze zou terugkeren met "sterkere vangrails". Dit benadrukt een patroon van nieuwe AI-fabricagetools die worden gelanceerd voordat adequate waarborgen zijn ingesteld.

Dit volgt op vergelijkbare problemen met andere generatieve AI-producten, zoals OpenAI's Sora video-app. Het artikel merkt een terugkerend probleem op waarbij schade optreedt voordat bedrijven de nodige bescherming implementeren.

De Amerikaanse overheid die de toegang van journalisten tot satellietbeelden in conflictgebieden beperkt, beperkt verdere echte informatie terwijl AI-gegenereerde vervalsingen zich verspreiden.

De snelle verspreiding van AI-gegenereerde inhoud maakt detectie moeilijk. Forensische analyse loopt vaak achter, waardoor twijfel authentiek bewijs kan ondermijnen, een fenomeen dat de "leugenaarsdividend" wordt genoemd.

Experts pleiten voor verplichte herkomsttracering en robuuste AI-detectietools. De twijfel die door het Google Earth-incident is gezaaid, kan niet gemakkelijk worden teruggedraaid, wat de visuele registratie beïnvloedt.

AI-samenvatting op basis van de bron.