Pas op met deze visumaanvraag’, waarschuwt het algoritme dat discriminatie in de hand werkt. Het ministerie negeert kritiek
Visumbeleid De papiermolen rond visumaanvragen detacheert Buitenlandse Zaken zo veel mogelijk naar buitenlandse bedrijven. Maar het risico op ongelijke behandeling door profilering van aanvragers blijft bestaan. Kritiek daarover van de interne privacy-toezichthouder, werd door het ministerie in de wind geslagen.
Het nieuws in het kort
- Het ministerie van Buitenlandse Zaken heeft vorig jaar het advies van zijn interne privacy-toezichthouder om te stoppen met het gebruik van profilerende software bij visumverstrekking naast zich neergelegd.
- Volgens de toezichthouder kan de software, die bepaalt of visumaanvragen intensief of juist oppervlakkig gecontroleerd moeten worden, mogelijk discriminatie in de hand werken en zou het gebruik ervan slecht onderbouwd zijn.
- Dat blijkt uit onderzoek van NRC en journalistiek
collectief Lighthouse Reports naar het zogeheten ‘Informatie Ondersteund Beslissen’ (IOB) dat een rol speelt bij de beoordeling van Schengenvisa.- Daarnaast blijkt dat de gedigitaliseerde visumvertrekking de afgelopen jaren heeft geleid tot lange wachttijden, slechte bereikbaarheid en een hausse aan klachten van reizigers die Nederland willen bezoeken.
Dit was het idee: de Marokkaans-Nederlandse Saadia (37) zou in het voorjaar van 2021 in haar woonplaats Purmerend bevallen. En haar kinderloze tante uit Marokko zou daar bij zijn.
Vol goede moed begon Saadia daarom in de zomer van 2020 – ruim op tijd, dacht ze - met de voorbereiding: documenten verzamelen, een machtiging regelen, langs het gemeentehuis om (à 15,20 euro)
Dat bleek onmogelijk. Maand in, maand uit was er geen plek voor een afspraak. Mailen of bellen met VFS Global lukte niet, elke keer kreeg ze een bandje of een automatisch gegenereerde e-mail. Ze hoorde dat het druk was en dat ze het later weer kon proberen. Ze klaagde bij de Nederlandse ambassade, maar die verwees haar terug naar de visumverwerker. Saadia, die vanwege mogelijk gedoe met de Marokkaanse overheid haar achternaam liever niet noemt: „Ik werd helemaal gek.”
Tot haar verrassing lukte het haar neef wel om een visum voor iemand te regelen. „Via een tussenpersoon, mijn neef gaf me het nummer. Die moest ik 60 euro betalen - en nog eens 30 als het was gelukt. We hebben hem betaald, maar ook hij kreeg geen afspraak. Het is allemaal hartstikke corrupt.” In de tussentijd verliepen de termijnen op de visumaanvraag. Weer een stempel halen, weer 15,20 betalen.
Terwijl haar tante wachtte, werd het nichtje geboren. Ze heeft haar intussen al wel gezien. In Marokko.
Bescheiden en goedkoop
Als eind 2012 het tweede kabinet-Rutte naar bezuinigingen zoekt, komt ook het ministerie van Buitenlandse Zaken aan de beurt. Nederland past een bescheidener en goedkoper plek op het wereldtoneel, is de gedachte. Daarom moet het aantal ambassades en het aantal medewerkers van het ministerie omlaag. Andere beleidsdoelen - het trekken van toeristen en zakenreizigers en het ontmoedigen van asielinstroom - mogen hier niet onder lijden.
De populariteit van Nederland groeit intussen. In 2011 vragen nog 428.000 mensen om een ‘Schengen Visum Kort Verblijf’, kortweg Schengenvisum, voor vakantie, familiereünie of zakenreis van maximaal 90 dagen. In 2019, voordat corona het reizen stillegt, is het aantal gestegen naar meer dan 700.000 mensen.
De risicoscore scheelt handenvol werk. Zonder het systeem, zegt het ministerie desgevraagd, zouden er „enkele tientallen” mensen extra op het Haagse kantoor nodig zijn.
Als oplossing voor deze conflicterende trends – meer bezoekers, minder ambtenaren – grijpt Buitenlandse Zaken naar de computer. Aanvragen moeten voortaan digitaal ingezameld, centraal verwerkt en met behulp van slimme software beoordeeld worden.
NRC onderzocht samen met journalistieke organisatie Lighthouse Reports de gevolgen van deze modernisering, op basis van interne memo’s, documenten en gesprekken met betrokkenen. De gevolgen vallen niet mee: reizigers kregen te maken met oplopende wachttijden en haperende dienstverlening. En op het ministerie van Buitenlandse Zaken woedt een conflict over de risico’s op datalekken en mogelijke discriminatie van visumaanvragers. Vorig jaar adviseerde de interne privacytoezichthouder de top van het departement om te stoppen met het gebruik van profileringssoftware, maar die heeft dat advies naast zich neergelegd.
Uitbesteden en centraliseren
Dat de overheid kiest voor modernisering is niet gek. Decennialang werden visa verleend door de Nederlandse consulaten en ambassades in het buitenland. Om de administratieve rompslomp en het gesleep met paspoorten te stroomlijnen, kiest de overheid voor een beproefde managementformule: uitbesteden, centraliseren, automatiseren.
In 2018 draagt de overheid het overgrote deel van de documentenafhandeling over aan VFS Global, een multinational uit Dubai die in handen is van het Amerikaanse investeringsfonds Blackstone. Voortaan administreren en digitaliseren medewerkers van VFS Global vrijwel overal ter wereld aanvragen voor Nederland, behalve in China - daar doet het Franse bedrijf TLS het.
/s3/static.nrc.nl/images/gn4/stripped/data57924182-ac3d04.jpg)
Lees ook dit interview uit 2022:Nationale Ombudsman ziet etnisch profileren in alle lagen van de overheidVolgende stap: alle aanvragen moeten op één plek worden beoordeeld. De ‘beslismedewerkers’, die eerst op de ambassades zaten en later verspreid over zeven ‘regionale service organisaties’, verhuizen vanaf 2015 naar één groot kantoor in Den Haag. Op dit moment werken daar 118 beslisambtenaren, die oordelen of mensen misschien niet terug willen en een „vestigingsgevaar” vormen, asiel aanvragen tijdens hun verblijf of mogelijk criminele intenties hebben.
De derde stap is automatiseren. In 2015, het jaar dat big data de grote belofte wordt, begint het ministerie een proef met ‘behandelprofielen’. Ambtenaren in de Haagse backoffice krijgen voortaan steun van een computerprogramma. Dat heet Informatie Ondersteund Beslissen (IOB), en werkt met een algoritme dat risicoscores toekent aan visumaanvragen. Een hoog getal betekent: minder kansrijke aanvraag, een laag getal dat het er goed uitziet. Hoe hoger het getal, hoe intensiever een ambtenaar de aanvraag moet bestuderen. Soms is er dan een interview nodig, of extra documenten.
De risicoscore scheelt handenvol werk. Zonder het systeem, zegt het ministerie desgevraagd, zouden er „enkele tientallen” mensen extra op het Haagse kantoor nodig zijn.
Dubieuze tussenpersonen
De voordelen voor het departement zijn evident, maar visumaanvragers reageren minder enthousiast. Parlementsleden Kati Piri (PvdA) en Don Ceder (CU) publiceerden eind vorig jaar een zwartboek, een bundeling ervaringen van gefrustreerde reizigers en hun families. De klachten: mensen moeten maanden wachten op een afspraak bij VFS Global, of krijgen die alleen via dubieuze tussenpersonen die alle afspraken hebben geboekt en die doorverkopen. Ook is de dienstverlening op de VFS-kantoortjes vaak matig: geen zitplekken, onfatsoenlijk personeel, verloren papieren. Klagen bij de ambassade kan niet.
In 2015, het jaar dat big data de grote belofte wordt, begint het ministerie een proef met ‘behandelprofielen’. Een hoog getal betekent: een minder kansrijke aanvraag, een laag getal dat het er goed uitziet
Marokko en Suriname waren afgelopen jaar de knelpunten, liet het ministerie begin dit jaar aan de Tweede Kamer weten. Het is volgens Buitenlandse Zaken de nasleep van de coronatijd, waarin het aantal visumaanvragen terugviel naar een kleine 140.000 per jaar. Dat leidde tot gedwongen vertrek van ambtenaren op de backoffice. Toen de grenzen weer opengingen, bleken die alsnog hard nodig.
Michael Yap, een advocaat in Bergen op Zoom die jaarlijks tientallen visumaanvragers bijstaat, is ontevreden over de manier waarop Nederland aanvragen afwijst. „Mensen krijgen een standaardafwijzing, waaruit niet duidelijk wordt waarom ze niet welkom zijn. Pas als ze een advocaat in de arm nemen en in bezwaar gaan, komen ze erachter dat ze een document zijn vergeten of een stempel missen.” Dat komt volgens hem door de uitgeklede dienstverlening. „Vroeger ging je langs bij de Nederlandse ambassade en werd je aan de balie geholpen, dat scheelde geld, tijd en rompslomp.”
Functionaris gegevensbescherming
Terwijl reizigers worstelen met de wachttijden bij VFS Global, speelt er bij Buitenlandse Zaken een tweede probleem. Dat is de opstelling van de interne privacytoezichthouder van het departement, een jonge advocaat met de titel ‘functionaris gegevensbescherming’. De ambtenaar heeft grote moeite met het systeem Informatie Ondersteund Beslissen.
De functionaris is in 2019 na de invoering van de AVG aangesteld om te controleren of Buitenlandse Zaken zich aan de privacywetgeving houdt. Nadat hij alle directies heeft doorgelicht, schrijft hij in 2021 een memo aan de plaatsvervangend secretaris-generaal. In het stuk, in bezit van NRC, staat dat er bij twee afdelingen „grote risico’s” zijn op privacyschendingen: de IT-afdeling en de directie Consulaire Zaken en Visumbeleid (DCV).
Die laatste afdeling doet te gemakkelijk over het inhuren van bedrijven die gevoelige persoonsgegevens verwerken, schrijft hij. Dat zijn softwareleverancier Microsoft uit de VS, visumverwerker VFS Global in de Arabische Emiraten en het van origine Franse TLS dat de visumadministratie in China regelt. Zijn de gegevens wel veilig bij deze private buitenlandse partijen? Kunnen buitenstaanders meekijken?
De privacy-functionaris formuleert nog een pijnpunt: het „mogelijk discriminerende karakter” van het visum-algoritme IOB.
De software berekent voor elke visumaanvrager een risicoscore op basis van eerdere aanvragen, persoonsgegevens en hits in databestanden van onder meer de marechaussee en immigratiedienst IND. Mensen die tijdens een vorig bezoek langer bleven dan mocht of (tevergeefs) asiel aanvroegen, pikt het programma er zo uit. Let extra goed op, zegt het dan.
Hoe kun je op basis van iemands nationaliteit of geslacht de kans berekenen dat iemand z’n visum misbruikt? Wat is de rechtvaardiging daarvan, vraagt de privacy-toezichthouder zich af
Als er niets over een reiziger bekend is, vergelijkt het algoritme diens visumaanvraag met die van andere reizigers, op basis van onder meer nationaliteit, leeftijd, geslacht en de plek van aanvraag. Komt daar een ‘kansprofiel’ uit, dan krijgt de beslisambtenaar een teken dat het visum eenvoudig kan worden verleend – in de fast track. Rolt er een ‘risicoprofiel’ uit, dan adviseert de computer de intensive track – en wordt de aanvraag extra nagelopen.
De functionaris ziet hier discriminatie-risico’s. Hoe kun je op basis van iemands nationaliteit of geslacht de kans berekenen dat iemand z’n visum misbruikt? Wat is de rechtvaardiging daarvan?
De directie botst met de eigen privacy-functionaris. Visumverstrekking blijft mensenwerk en het algoritme is niet meer dan een hulpmiddel, houden topambtenaren vol. Het kan zelfs objectiever zijn dan mensen. In reactie op vragen van NRC zegt het ministerie “dat de profielen niet leiden tot een mechanisme van ‘zoekt en gij zult vinden’”. In het intensieve traject worden weliswaar veel meer aanvragen afgewezen dan in het snelle traject – nu 33 procent tegen 3,5 procent. Maar zolang die percentages stabiel blijven, is er geen sprake van een „mogelijke bias”.
Algoritmen Toeslagenschandaal
In dezelfde jaren wordt software die discriminatie in de hand kan werken een belangrijker thema in Den Haag. Dat is het gevolg van het Toeslagenschandaal, waarin de Belastingdienst duizenden gezinnen ten onrechte tot potentiële fraudeurs bestempelde, mede op basis van algoritmen. In reactie hierop riep de Tweede Kamer via allerlei moties het kabinet op om algoritmes te toetsen en zo nodig buiten werking te stellen.
De privacy-functionaris laat het er niet bij zitten. Op 3 juni 2022 geeft hij een presentatie aan topambtenaren van Buitenlandse Zaken en opent een slide met in opspraak geraakte algoritmen zoals het ‘Toeslagen Verstrekkingen Systeem’, het ‘risico-classificatiemodel’ en de ‘fraude signalering voorziening’ van de Belastingdienst – eerder parels van overheidsautomatisering, maar inmiddels woorden waarmee geen ambtenaar meer geassocieerd wil worden. Idem voor het ‘risicomodel referenten kennismigranten’ van de immigratiedienst IND en de ‘PGB-risicoscan’ van de Sociale Verzekeringsbank.
/s3/static.nrc.nl/images/gn4/stripped/data99425099-801c07.jpg)
De grote gemene deler van deze modellen, zegt de functionaris tegen de topambtenaren, is dat nationaliteit en afkomst geautomatiseerd invloed hebben op de uitkomst, zonder rechtvaardiging. In zijn presentatie laat hij zien hoe dat uitpakt bij het visumalgoritme: een Surinaamse man van tussen de 26 en 40 jaar die een toeristenvisum aanvraagt in Paramaribo krijgt automatisch een hoge risicoscore toebedeeld. „Zij lijden onder de kwaden die op hen lijken.” In 2022 werd 17 procent van de aanvragen van Surinamers geweigerd. Wat hem betreft komt hier een eind aan. Zijn advies aan de ambtenaren: „Stop direct met het profileren van visumaanvragers om hen te onderscheiden mede op basis van nationaliteit en hen vervolgens op basis van dat onderscheid ongelijk te behandelen.”
Uiteindelijk belanden zijn bezwaren via een memo bij de hoogste baas, Wopke Hoekstra. De minister schrijft daarop: „Ik zie diverse kwetsbaarheden, aub bespreking plannen” en hoort het verhaal van de functionaris aan. Maar er verandert weinig. Het ministerie laat het risicomodel gewoon draaien, en wint externe adviezen in: bij een gespecialiseerd bureau, bij de landsadvocaat en bij het ministerie van Justitie en Veiligheid. Zij gaan geen daadwerkelijke visumaanvragen herbeoordelen, maar doen een juridische toets. Het oordeel is dat het systeem „rechtmatig”, „proportioneel” en „niet-discriminatoir” is. De oproep van de privacyfunctionaris wordt terzijde geschoven. De man werkt inmiddels niet meer op het departement.
Uiteindelijk belanden de bezwaren bij de hoogste baas, Wopke Hoekstra. Maar er verandert weinig. Het ministerie laat het risicomodel gewoon draaien
Volgens het ministerie zijn de wachtlijsten bij de visumaanvragen nu onder controle door het werven van nieuwe medewerkers, al werkt de overspannen arbeidsmarkt niet mee. Het doorverkopen van afspraken van VFS Global is niet meer mogelijk, zegt Buitenlandse Zaken. Ook heeft het een nieuwe ‘factsheet’ gepubliceerd over het systeem.
De toenmalige functionaris gegevensbescherming, Niels Westerlaken, wil desgevraagd reageren op de bevindingen, omdat hij „transparantie” en „onderzoek naar de impact van profilering op individuen” steunt. Hij is voor snelle en efficiënte afhandeling van visumaanvragen, schrijft hij. „Maar dit mag niet ten koste gaan van het recht op een gelijke behandeling. Profilering kan de kansen van mensen verkleinen en hen in hokjes plaatsen, op basis van data die geen recht doen aan hen als individu. Het is dus van cruciaal belang dat de profielen eerlijk en goed onderbouwd zijn.”
Advocaat Michael Yap heeft niet de indruk dat er veel is verbeterd. Hij heeft nog steeds de grootste moeite om voor zijn cliënten afspraken te maken op de kantoren van VFS Global. De dienstverlening van de overheid aan mensen die naar Nederland willen komen, voor familiebezoek, geboorte, of om een zieke te bezoeken, noemt hij „simpelweg ruk”.
Het draait bij Buitenlandse Zaken maar om twee dingen, zegt Yap. Om geld en een „diep wantrouwen” tegen reizigers uit bepaalde landen. „We kijken vooral naar de visumafhandeling als een verkapt ontmoedigingsbeleid voor mensen uit landen als Marokko. De overheid zegt in feite: bezoek je familie in Nederland maar niet, straks blijf je nog hier. Dat kun je veel beter en netter regelen, maar ik vrees dat de politiek daar nu allerminst oren naar heeft. Die vinden het wel best zo.”
Reacties: onderzoek@nrc.nl
Nalinee Maleeyakul is verbonden aan Lighthouse Reports, waarmee NRC samenwerkt voor dit artikel.
Correctie 24 april: in een eerdere versie van dit artikel stond geschreven dat VFS in handen is van Blackrock. Dat moest Blackstone zijn.
