Tweakers · Technologie

IND gebruikt AI voor asielaanvragen zonder registratie

De Immigratie- en Naturalisatiedienst (IND) zet twee AI-systemen, Robin en ChatIND, in voor ondersteuning bij asielaanvragen. Deze systemen zijn echter niet aangemeld in nationale of Europese registers, wat tot zorgen leidt bij juristen.

De IND gebruikt de AI-assistenten voor 'voorwerk', zoals het opzoeken van jurisprudentie, het opstellen van teksten, het samenvatten van documenten en het uitschrijven van interviews. De systemen zijn ontwikkeld door het ministerie van Justitie en Veiligheid als alternatief voor ChatGPT. In ChatIND mogen persoonsgegevens van asielzoekers worden gedeeld.

Hoewel registratie in het Nederlandse Algoritmeregister niet wettelijk verplicht is, staat de IND daar slechts met twee algoritmes. Robin en ChatIND ontbreken.

Onder de Europese AI-verordening is registratie van 'hoogrisicoalgoritmes' wel verplicht. De IND classificeert Robin en ChatIND echter niet als zodanig, waardoor ze niet zijn aangemeld.

Dit druist in tegen de eigen interne regels van de IND, die stellen dat openheid over algoritmes belangrijk is.

Advocaten uiten 'grote zorgen' over het gebruik van deze AI-modellen, vooral omdat de IND hen niet informeert over de inzet ervan, terwijl de systemen mogelijk gevoelige informatie verwerken.

AI-samenvatting op basis van de bron.