NOS Nieuws
OpenAI heeft per ongeluk een ander AI-bedrijf gehackt. Dat gebeurde tijdens een test waarmee OpenAI wilde kijken hoe goed zijn AI-programma’s presteren op het gebied van cybersecurity. Nadat OpenAI zijn AI-programma’s veel vrijheid had gegeven om de test te voltooien, gebeurde iets wat niet de bedoeling was: ze verlieten de testomgeving.
“Onze AI-programma’s gebruikten een aanzienlijke hoeveelheid rekenkracht om toegang te krijgen tot het internet”, schrijft OpenAI in een bericht over het incident. Toen dat was gelukt, richtten die zich op Hugging Face. Dat is een platform waar ontwikkelaars hun AI-programma’s en databestanden kunnen delen.
De AI-programma’s deden dat omdat op Hugging Face misschien antwoorden stonden waarmee ze goed konden scoren op de test die ze moesten maken. Hugging Face maakte vorige week al bekend dat het bedrijf was gehackt, maar toen was niet duidelijk dat OpenAI daarvoor verantwoordelijk was.
‘Valsspelen tijdens de test’
De digitale inbraak vond plaats met een AI-agent: een computerprogramma dat zelfstandig taken kan uitvoeren om een doel te bereiken. Dit soort AI-agenten kan gebruikmaken van meerdere AI-programma’s die met elkaar zijn verbonden. Bijvoorbeeld AI-programma’s die zelfstandig veiligheidsproblemen kunnen vinden.
Een aanvaller kan een veiligheidsprobleem misbruiken, bijvoorbeeld om ergens binnen te dringen. Dat is wat het AI-programma van OpenAI deed: het vond een gat in de beveiliging waardoor het de testomgeving kon verlaten.
Het computerprogramma kon zich vervolgens verplaatsen binnen het computernetwerk van OpenAI, tot het op een plek met internettoegang kwam. Daar kon het AI-programma “succesvol op zoek naar geheime informatie die het zou kunnen gebruiken om vals te spelen bij de test”, schrijft OpenAI.
Het klinkt als spannende science fiction waarin AI een eigen wil creëert, of alsof AI op hol is geslagen. In werkelijkheid is het incident te verklaren door te begrijpen hoe deze AI-programma’s werken, vertellen deskundigen. En door hoe OpenAI die heeft afgesteld.
AI-programma deed wat OpenAI wilde
“Het is heel logisch dat dit is gebeurd”, zegt Thijs van Ede. Hij doet aan de Universiteit Twente onderzoek naar AI in cybersecurity. “Normaal zijn er bij dit soort AI-programma’s een soort vangrails ingebouwd”, zegt hij. “Daarmee kun je voorkomen dat een AI-programma iets doet wat niet mag. Maar die heeft OpenAI bewust uitgezet of minder streng gemaakt. Daardoor had het veel vrijheid om zijn doel te bereiken.”
In plaats van de test oplossen zoals die bedoeld is, probeerde het AI-programma het op een andere manier: een gaatje vinden waarmee hij de testomgeving kon verlaten. “Daar ben ik niet per se van onder de indruk”, zegt zijn collega Jeroen van der Ham-de Vos. “We weten dat heel veel code dit soort veiligheidsproblemen bevat én dat AI-programma’s die kunnen vinden en misbruiken.”
“Dus als je een AI-agent de vrijheid geeft om op zoek te gaan naar dit soort problemen, moet je niet gek opkijken dat ‘ie dat probeert”, zegt Jaya Baloo. Zij is een van de oprichters van AI-cybersecuritybedrijf AISLE. “Het is niet op hol geslagen: het deed precies wat je vroeg. Het AI-programma mocht van OpenAI zijn gang gaan. Dan krijg je waar je om hebt gevraagd.”
Het is onbekend of de hack bij Hugging Face schade heeft aangericht en of het gevolgen gaat hebben voor OpenAI. Hugging Face zei een week geleden dat het bedrijf het incident heeft gemeld bij de politie. Inmiddels werken de twee bedrijven samen aan hun onderzoek. OpenAI belooft dat het bedrijf meer details zal delen over het incident zodra het onderzoek is afgerond.
