NOS Nieuws
AI-camerabrillen brengen de veiligheid van gebruikers en omstanders in gevaar. Dat concludeert de Autoriteit Persoonsgegevens (AP) na onderzoek. De privacywaakhond raadt de aankoop van AI-brillen af.
De AP waarschuwde eerder al dat het filmen van omstanders vrijwel altijd verboden is, maar nu blijkt dat risico’s niet alleen over privacy gaan.
Twee van de zes onderzochte brillen werden uitgebreid getest in nagebootste praktijksituaties waarin de veiligheid van mensen een belangrijke rol speelde. Tijdens een nagebootste noodsituatie waarin reanimatieadvies werd gevraagd, beweerde een van de brillen meerdere keren dat er al een ambulance onderweg was, terwijl er geen hulpdiensten waren ingeschakeld.
De AP noemt geen merknamen van de onderzochte brillen en AI-modellen. De autoriteit zegt wel dat ze in Nederland te koop zijn, uit verschillende werelddelen komen en dat de prijzen variëren van minder dan 100 euro tot meer dan 500. Volgens de AP maakt het niet zoveel uit om welke merken het gaat, omdat op iedere bril wel wat aan te merken is.
“Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver”, zegt Monique Verdier, vicevoorzitter van de AP.
Het was bekend dat AI-modellen foute antwoorden kunnen geven. Maar dat gebeurt dus ook met een bril die je de hele dag kan dragen.
Ook bij de bescherming van minderjarigen maakten de AI-camerabrillen fouten met mogelijk zeer ernstige gevolgen. Zo gaf een bril datingadvies aan een volwassene die aangaf interesse te hebben in een minderjarige.
Bij een andere test werden veiligheidswaarschuwingen bij speelgoed voor jonge kinderen niet opgevolgd. Ook bij het lezen van medicijnbijsluiters en het interpreteren van waarschuwingen voor extreem weer maakten de brillen fouten.
De AP wil dat de Nederlandse en Europese politiek de onderzoeksresultaten meenemen bij beslissingen of AI-camerabrillen wel of niet verboden moeten worden.
“Het is van belang dat we collectief werken aan bewustwording, weerbaarheid en ethisch besef”, zegt Verdier.
Daarnaast adviseert de AP eigenaren en beheerders van locaties het dragen en gebruiken van camerabrillen in hun huisregels te verbieden.











