VN en Rode Kruis: strengere regels voor autonome wapens ‘voordat het te laat is’

De Verenigde Naties en het Rode Kruis dringen aan op onderhandelingen over het gebruik van autonome wapens. De twee organisaties vinden dat er nieuwe bindende regels en wetten moeten worden vastgesteld “voordat het te laat is”, stellen ze in een persverklaring(opent in nieuw venster).

“We staan nu gevaarlijk dicht bij het overschrijden van een morele rode lijn: het autonoom aanvallen van mensen door machines”, zeggen de VN-secretaris-generaal Antonio Guterres en de voorzitter van het Internationale Comité van het Rode Kruis, Mirjana Spoljaric.

Een van de zorgen van de twee organisaties is dat machines veranderende omstandigheden niet zouden kunnen herkennen. Het aanvallen van burgers en civiele infrastructuur in conflictgebieden is verboden onder het internationaal humanitair recht, maar het kan moeilijk zijn om te bepalen wie burgers zijn in een conflictgebied.

Bovendien is de vraag of machines zouden kunnen herkennen wanneer iemand zich overgeeft of wanneer een burger per ongeluk een vijandig gebied in is gekomen, aldus de organisaties. De VN en het Rode Kruis vinden dat beslissingen over leven en dood niet in handen moeten liggen van machines.

De oproep van de organisaties komt in aanloop naar een wapentop in het Zwitserse Genève in november. Daar worden mogelijke nieuwe regels besproken. Volgens persbureau Reuters bestaat er “groeiende bezorgdheid over de rol van door AI ondersteunde semi-autonome wapens” die zijn ingezet in oorlogen in Oekraïne, Sudan, Gaza, Iran en de Golfstaten.

De leiders van de VN en het Rode Kruis beschrijven de bijeenkomst als het uitgekozen moment voor landen om te onderhandelen en nieuwe, duidelijke regels op te stellen.

“We dringen er bij de staten op aan dit moment te grijpen”, aldus Guterres en Spoljaric. “Innovatie moet de mensheid dienen, niet in gevaar brengen.”