EW Podium, Aaron Mirck

Zonder tech-kennis stevent Rutte IV af op volgend toeslagenschandaal

21 december 2021Leestijd: 4 minuten

Eén van de grootste politieke schandalen van de laatste jaren is het toeslagenschandaal. Een algoritme bleek etnisch te kunnen profileren en zelfs mensenrechten te schenden. Zonder technologische kennis stevent het volgende kabinet af op een nieuw schandaal, schrijft Aaron Mirck op EW Podium.

Aaron Mirck (1989) schrijft en spreekt over technologie, tijdgeest en media. Hij studeerde Nederlands en politicologie. Hij werkte als journalist, als PR-consultant voor overheidscampagnes en tech-start-ups en was co-founder van technologiebedrijf Presscloud. In 2021 verscheen zijn poëziedebuut: Dit Algoritme Deugt Niet.

Dit is een artikel van EW Podium. Daarop publiceert de redactie van EW elke week diverse artikelen van jonge schrijvers, die vanuit hun eigen onderzoek, expertise of werkervaring bijdragen aan het publieke debat. De redactie van EW neemt bij het selecteren van artikelen voor EW Podium geen standpunt in, maar biedt ruimte voor diverse opinies.

Bij de fraudecontrole op toeslagen gebruikte de Belastingdienst een zelflerend algoritme. Deze vorm van kunstmatige intelligentie, ofwel AI, zien we steeds vaker terug in het bedrijfsleven en bij de overheid. De voordelen van deze technologie zijn veelbelovend: door een algoritme te voorzien van trainingsdata, leert het patronen te herkennen en kan het werk van mensen overnemen. Die slimme automatisering zorgt voor kostenbesparing, maakt organisaties efficiënter en minder foutgevoelig.

Algoritmes worden niet alleen gebruikt om processen te automatiseren, maar zorgden ook voor nieuwe uitvindingen. Inmiddels gebruiken we algoritmes om een partner te vinden (datingapps) en om nieuwe muziek te ontdekken (Spotify). Ook onze blik op de wereld wordt steeds vaker bepaald door algoritmes. Onze timeline en Google-zoekresultaten, het digitale venster op de realiteit, worden samengesteld door een vorm van intelligentie. Dat we niet altijd doorhebben hoe die algoritmes werken, deert ons niet. Zolang we maar kunnen genieten van een fijne gebruikservaring en een op maat gemaakte playlist en dito partner.

Weerbarstige praktijk

Hoe prachtig de beloftes van kunstmatige intelligentie ook waren, de praktijk blijkt weerbarstiger. Algoritmes van social media zorgen ervoor dat polariserende content en nepnieuws vaker boven komen drijven. Sterker nog: uit onderzoek blijkt dat nepnieuws zes meer clicks krijgt dan betrouwbaar nieuws. Wie terugdenkt aan de bestorming van het Capitool – en de oproep van Trump op social media om in actie te komen – herinnert zich hoe ongemakkelijk de verhouding tussen technologie en democratie is.

Het dubbeldikke kerstnummer van EW , vol diepgaande en verrassende interviews, achtergrondverhalen en reconstructies, ligt nu in de winkel!

Via onze webshop is het kerstnummer te bestellen (gratis verzending)

 

Niet alleen private algoritmes deugen niet altijd, ook de publieke algoritmes laten soms te wensen over. Zo kregen de huishoudens met een laag inkomen of een tweede nationaliteit een hogere risicoscore van het algoritme van de Belastingdienst. De Wetenschappelijke Raad voor het Regeringsbeleid sprak zich hier recent over uit en riep op om regels op te stellen voor het gebruik van artificiële intelligentie. De overheid zou niet alleen kaders moeten scheppen, maar ook een visie moeten ontwikkelen op ‘onze digitale leefwereld’.

Ontwikkelt het nieuwe kabinet Rutte geen visie op technologie, dan dreigt een herhaling van het toeslagenschandaal, zo vreest Amnesty International. De ngo analyseerde de maatregelen van het kabinet na de toeslagenaffaire en vreest dat ze tekortschieten. Ambtenaren zijn niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, het toezicht op algoritmes is ondermaats en overheidsinstellingen mogen het gebruik en de werking van algoritmes geheimhouden. Hoe kan het dat algoritmes zo’n grote invloed krijgen op (de uitvoering van) beleid – zonder dat er toezicht op wordt gehouden? Welke visie ligt daaraan ten grondslag?

Rutte IV heeft een techneut nodig

Over visie gesproken. Wat zei premier Mark Rutte ook alweer over visie – dat het een olifant is, die het zicht belemmert? Toch kan het nieuwe kabinet niet zonder een visie op technologie. Niet alleen voor private algoritmes, die in steeds grotere mate onze blik op de werkelijkheid vormen en ervoor zorgen dat echt nieuws steeds minder bereik krijgt. Ook publieke algoritmes vragen meer aandacht, omdat er tot nu toe weinig geleerd lijkt van het verleden en toezicht op algoritmes tekortschiet. Daarbij kan Europa een voorsprong nemen op Aziatische en Amerikaanse markten als het als eerste serieuze wetgeving ontwikkelt voor technologie. Niet alleen technologie voor groene stroom, maar ook ethische kaders voor innovaties als exportproduct.

De kabinetsformatie, met dezelfde partijen als in het vorige kabinet, maar heus: met een nieuw geluid, bevindt zich in de eindfase. Twintig ministerposten worden verdeeld tussen de partijen, Rutte hoopt dat de werkdruk zo beter behapbaar wordt. Het is te hopen dat er ook ruimte wordt gemaakt voor een kabinetslid dat zich mag bezighouden met (de toekomst van) technologie.

De opdracht is in feite heel simpel. Het nieuwe kabinet zorgt er ofwel voor dat er een minister van Digitale Zaken komt, zoals al eerder geopperd. Of er komt plek voor een techneut in het kabinet. Een regering profiteert vaak al van de inzichten van een jurist en een econoom. Waarom zit er anno 2021 nog geen IT’er in de ministerraad?

Ingelogde abonnees van EWmagazine kunnen reageren
Bij het plaatsen van een reactie geldt een aantal voorwaarden. Klik hier voor de voorwaarden.

Reacties die anoniem worden geplaatst of met een overduidelijke schuilnaam zullen door de moderator worden verwijderd, evenals reacties die niets met het onderwerp van het artikel te maken hebben. Dit geldt evenzeer voor racistische of antisemitische reacties. De moderator handelt in opdracht van de hoofdredacteur.