NOS Nieuws•
De Autoriteit Persoonsgegevens wil dat het kabinet opschiet met het maken van regels voor het gebruik van AI. De waakhond zegt dat er nu een gebrek aan toezicht is.
Volgens voorzitter Aleid Wolfsen kleven er verschillende risico’s aan de nieuwe computertechnologie. Bijvoorbeeld een toename van deepfakes, AI-gestuurde fraude en psychische schade door chatbots. “Grondrechten moeten beschermd worden.”
De toezichthouder wil daarom dat het nieuwe kabinet haast maakt het met uitvoeren van de Europese regels. Er moet onder meer geregeld worden dat er een speciale AI-toezichthouder komt en geld moet worden vrijgemaakt voor toezicht.
Fouten op de loer
Wolfsen wijst als voorbeeld op het toeslagenschandaal. Veel mensen kwamen toen in grote problemen door een discriminerend algoritme. “Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk. Wie een nieuw schandaal wil voorkomen, moet nu handelen.”
Wolfsen noemt daarnaast reclasseringsorganisaties die algoritmes gebruikten om te beoordelen of verdachten in herhaling zouden kunnen vallen. “Dat zijn beslissingen over mensen. Dat AI-systeem gaf foute adviezen.”
Ook bij de werving en selectie van mensen liggen fouten op de loer als er geen mens aan te pas komt. Het zou volgens Wolfsen kunnen leiden tot discriminatie. “Er wordt een besluit over je genomen en je weet niet op basis waarvan. Dan kan je niet naar een rechter om je daartegen te verdedigen.”
Gevaarlijk
In Europa bestaat er al wetgeving over AI. Daarin staat onder meer dat makers van krachtige AI-systemen moeten testen of hun modellen accuraat zijn en of de grootste risico’s zijn ondervangen.
In Nederland moet de Europese wetgeving nog worden uitgevoerd, zegt de Autoriteit Persoonsgegevens. De wetgeving moet vervolgens in Nederland voorwaarden stellen aan het op de markt brengen van AI-systemen en het gebruik ervan.
Wolfsen legt de vergelijking met medicijnen of auto’s voordat die de markt op mogen. “Die moeten worden getest. Die moeten veilig zijn. Anders kan het leiden tot gevaarlijke situaties.”
