NOS Nieuws•
Ruim honderd bedrijven hebben het Europese AI-pact ondertekend. Grote techbedrijven zoals Google, OpenAI, Amazon en Microsoft hebben hun handtekening gezet, net als KPN en Booking.com uit Nederland.
Grote afwezigen zijn Apple, TikTok, X en Meta, bekend van Facebook en Instagram. Ook Mistral, een Frans AI-bedrijf, heeft vooralsnog niet getekend. Meta laat weten op een later moment wellicht het pact alsnog te ondertekenen. Apple, TikTok en X geven vooralsnog geen reactie.
Vorige maand trad de Europese AI Act in werking, een set regels en wetten op het gebied van kunstmatige intelligentie (AI). De komende jaren worden de regels gefaseerd ingevoerd. Met het ondertekenen van het pact committeren bedrijven zich daaraan. Ook worden de bedrijven geacht mee te doen aan het ethische debat als er zich nieuwe, gevoelige situaties voordoen als gevolg van AI.
Gedeeld belang
“Ze committeren zich vrijwillig aan een aantal eisen vanuit de wetgeving die deels nog moet ingaan”, zegt Mona de Boer, die als expert op het gebied van verantwoordelijk gebruik van kunstmatige intelligentie is verbonden aan accountantskantoor PwC. “Het pact moet ‘best practices’ stimuleren.”
Zowel de EU als de bedrijven hebben belang bij dit pact, denkt de Boer. “Enerzijds hoopt de EU innovatie te stimuleren en zo aantrekkelijk te worden voor bedrijven die met AI bezig zijn. Anderzijds willen de bedrijven niet de boot missen en in de EU aan de slag kunnen. Als je toch weet dat je moet voldoen aan deze vereisten, kun je er ervaring mee opdoen.”
Risico’s
Met de nieuwe regels moeten de maatschappelijke risico’s van AI zo veel mogelijk beperkt worden. “Alle AI-systemen nemen een bepaald risico met zich mee,” legt De Boer uit. “Nu zullen bedrijven transparant moeten maken welke systemen ze gebruiken en welke risico’s dat met zich meebrengt.”
Het grootste risico is ongewenste profilering, denkt De Boer. “Dat gaat dan om het gebruiken van een grote hoeveelheid gegevens om vervolgens voorspellingen te doen over het gedrag van mensen, die negatief voor hen uitpakken.” In februari 2025 treedt een nieuw deel van de wetgeving in werking. Het wordt dan onder meer verboden voor opsporingsdiensten om AI te gebruiken om te voorspellen of iemand een misstap zal begaan of dat heeft gedaan.
Tekort zorg
AI biedt ook kansen om het tekort aan personeel op te vangen. Zo verwacht het Nederlandse kabinet veel van de toepassing van kunstmatige intelligentie in de zorg. De vraag is hoeveel risico we bereid zijn te nemen om krapte op de arbeidsmarkt tegen te gaan met AI.
Ook De Boer verwacht ethische dilemma’s hieromtrent. “Je ziet nu dat patiënten vaker op afstand gemonitord worden. Dan kan het zijn dat data worden gebruikt om tijdig in te grijpen, bijvoorbeeld door aan te geven dat er medicatie nodig is. Als zo’n systeem niet helemaal stabiel en betrouwbaar, is dat een groot risico.”