Dringende oproep door hacken met AI: ‘We moeten supersnel kunnen reageren’

Snel en makkelijk zoeken naar veiligheidsproblemen in computerprogramma’s: het kan met kunstmatige intelligentie (AI). Deze AI-systemen werken sneller dan een mens en worden nooit moe. En dat kan grote gevolgen hebben voor de digitale beveiliging voor allerlei bedrijven en organisaties.

De AI-systemen kunnen ernstige veiligheidsproblemen ontdekken. Bijvoorbeeld waarmee je computers kunt hacken of platleggen. Het kunnen fouten zijn die al jaren in computerprogramma’s zitten, terwijl niemand dat doorhad.

“Daarom moeten bedrijven en organisaties supersnel kunnen reageren”, waarschuwt Matthijs van Amelsfort, directeur van het Nationaal Cyber Security Centrum (NCSC). “Vroeger duurde het dagen voordat een aanvaller een fout misbruikte, nu is dat uren”, zegt hij. “Dat zal minuten worden.”

De dringende waarschuwing is bekend bij de mensen die erover gaan, zegt Dimitri van Zandvliet. Hij is voorzitter van de beroepsvereniging voor die mensen: het CISO Platform. “Er is geen paniek, maar het is zeker urgent”, zegt hij.

Deze week kwamen honderden daarvan bij elkaar op een evenement, onder meer om het hierover te hebben. “Deze ontwikkeling betekent dat er kwetsbaarheden gevonden worden in systemen die al twintig jaar oud zijn. We moeten versnellen, zodat we die fouten oplossen voordat ze misbruikt worden.”

Dat je met AI-programma’s snel en automatisch veiligheidsproblemen kunt vinden, bewijst Rogier Fischer van cybersecuritybedrijf Hadrian. In het kantoor in Amsterdam laat hij zien hoe hij daarmee de overheid kon hacken.

Fischer liet een AI-systeem kijken naar de programmeercode van een overheidswebsite. Hij vroeg of er een bepaalde fout in zat waarmee hij toegang kon krijgen tot bestanden die niet toegankelijk horen te zijn. Het AI-programma antwoordde dat dit inderdaad zo is.

Door die fout kon Fischer een bestand downloaden, terwijl het niet de bedoeling is dat hij erbij kan. Hij wijst het aan op zijn scherm. “Hier zie je letterlijk de wachtwoorden”, zegt hij.

Daarmee kon Fischer inloggen op de database van de website. “Er is niets dat me tegenhield”, zegt de hacker. “Als je binnen bent, kun je bijvoorbeeld dingen aanpassen. Of in die database nieuwe aanvallen uitvoeren. Dat doen we niet: wij hebben al aangetoond dat we toegang hadden. Dus toen stopten we met de aanval.”

Hadrian kon de overheid hacken met een goedkoop AI-programma van OpenAI, het bedrijf achter ChatGPT, vertelt Fischer. De totale aanval kostte hem ongeveer 10 euro, schat hij. “Daarmee kreeg ik dus volledige toegang.”

Andere goedkope AI-programma’s zijn ook geschikt om dit soort fouten te vinden, blijkt uit onderzoek van cybersecuritybedrijf AISLE. Sinds september heeft het bedrijf meer dan tweehonderd fouten gevonden met behulp van allerlei AI-systemen, zegt Jaya Baloo, een van de oprichters.

AISLE onderzocht onder meer of goedkope systemen fouten kon vinden in twee computerprogramma’s die pas geleden ook al werden ontdekt met het AI-programma Mythos. Het bedrijf achter Mythos gebruikte die twee fouten die het programma vond om reclame te maken voor het AI-systeem. Dit is zo goed, zei het bedrijf, dat maar een heel kleine groep er toegang toe krijgt.

“Het verhaal was dat AI ‘opeens’ heel goed was in het vinden van kwetsbaarheden”, zegt Baloo. “Maar wij konden met oudere AI-systemen diezelfde fouten vinden. Dus hoezo ‘opeens’? Wij doen dit al maanden.”

Baloo en Fischer denken dat de verdedigers op dit moment in het voordeel zijn. Maar er is haast, zeggen ze: als de criminele hackers aan de slag gaan met deze AI-programma’s, kunnen zij deze veiligheidsproblemen ook vinden en misbruiken.

“Technologie wordt vaak na een aantal maanden gebruikt door mensen met slechte bedoelingen”, zegt NCSC-directeur Van Amelsfort. Het is belangrijk om daar serieus rekening mee te houden, omdat het gaat over de digitale veiligheid van ons allemaal, zegt hij.

“We hebben al meegemaakt dat een haven platligt of dat onze gegevens worden gestolen. Nederland is heel erg digitaal. Dat maakt ons ook kwetsbaar. Aanvallers en verdedigers zullen met elkaar in gevecht blijven, ook met deze AI-ontwikkeling. We moeten echt zorgen dat onze verdediging op orde is.”