Artificiële intelligentie stuit op terechte grenzen

Brussel wil de uitwassen van artificiële intelligentie enigszins beperken met een nieuwe wet. Dat wordt een complexe zaak, zegt Theo van Vugt. Maar het is wel nodig.

Hoogleraar kunstmatige intelligentie Frank van Harmelen (63) van de Vrije Universiteit Amsterdam maakte vorige week in Nieuwsuur duidelijk dat artificiële intelligentie (AI) weliswaar heel veel aandacht trekt, maar nog altijd domme fouten maakt. Zo vroeg de hoogleraar aan de kunstmatige tekstgenerator ChatGPT welke acht boeken hij geschreven heeft. De chatbot antwoordde meteen en gaf acht titels. Maar, zo zegt Van Harmelen, ik heb maar zes boeken geschreven. ‘Twee titels heeft ChatGPT er dus gewoon bij verzonnen.’

Een mineur gebrek zou je kunnen zeggen. Maar AI kan zich dat soort fouten niet permitteren als het om gezondheidsvragen gaat. Of als het bij gezichtsherkenning de verkeerde data aan een persoon koppelt en die burger van de straat wordt gehaald of een boete krijgt. AI wil ook nog wel eens profileren op ras en ook criminelen kunnen gebruikmaken van de ongebreidelde mogelijkheden van AI.

De nieuwe technologie maakt dus fouten en hoewel Google en Microsoft bezweren dat de sensor vrij kritisch staat afgesteld en dus scheldpartijen en seksueel getinte uitkomsten er uit worden gefilterd – het blijft behelpen. Zelfs wetenschappers uit het AI-domein vinden dat het nu wel erg snel gaat en dat er te weinig regulering is. Ook zij weten vaak helemaal niet hoe een algoritme dat cases of mensen beoordeelt tot stand komt. Wat er onder de motorkap gebeurt, blijft een raadsel. Moet je zo’n instrument dan loslaten op miljarden mensen?

Europees Parlement nam eerste wet ter wereld aan voor regulering AI

Nee, zegt het Europees Parlement dat vorige week de eerste wet ter wereld ter regulering van AI aannam. Het Parlement vindt simpelweg dat ontwikkelaars van kunstmatige intelligentie nu nog te veel hun gang kunnen gaan. De wet werd met grote meerderheid aanvaard en Europarlementariërs schreeuwden van de daken dat dit de eerste wet was die Europese burgers beschermt tegen de uitwassen van AI.  Wat houdt de wet dan in? Hij is in elk geval vrij complex met diverse  categorieën en bepalingen.

De Artificiële Intelligentie Wet bepleit dat in de toekomst AI veilig, transparant en traceerbaar moet zijn. De algoritmes mogen ook niet discrimineren. De wet maakt een onderverdeling in vier risicogroepen. Een risico kan ‘onaanvaardbaar’, ‘hoog’, ‘beperkt’ of ‘minimaal’ zijn, met bijpassende regulering.

Brussel wil systemen met het hoogste risico gewoon verbieden. Dat is bijvoorbeeld gezichtsherkenning in de openbare ruimte. Veel van wat in China nu gebruikelijk is, mag dan in Europa niet. Chinese burgers die bijvoorbeeld door rood licht lopen, worden door camera’s vastgelegd en gezichtsherkenning zorgt uiteindelijk voor een puntje op zijn of haar sociale score. Afhankelijk van het gedrag van de burger kan diens sociale score stijgen of dalen. Bij overtredingen krijgt de burger minpunten en mag hij bijvoorbeeld niet meer reizen.

Brussel wil Chinese taferelen met gezichtsherkenning voorkomen

Het Europees Parlement wil dit dus niet. Het voorspellen van criminaliteit en fraude op basis van AI-profilering is onder de nieuwe Europese wet ook niet toegestaan. Situaties waarin mensen op grond van hun naam of afkomst bijvoorbeeld een uitkering mislopen, mogen dan niet meer voorkomen.