NOS Nieuws
Het Amerikaanse bedrijf OpenAI heeft de training van zijn AI-modellen tijdelijk stopgezet. Aanleiding zijn de aanvallen van Open AI-agents afgelopen zomer op websites van onder meer de Amerikaanse overheid. AI-agents zijn AI-programma’s die bepaalde opdrachten kunnen uitvoeren.
De agents van OpenAI hadden geen opdracht gekregen om websites aan te vallen, dat deden ze om de taak te volbrengen die aan hen was gevraagd, werd gisteren bekendgemaakt door het non-profit AI-onderzoeksbureau Transluce.
OpenAI zei in een reactie dat er geen sprake was van hacks, maar volgens The New York Times wisten de agents bij het ministerie van Handel informatie te vergaren door gebruik te maken van online gevonden login-gegevens. Andere AI-onderzoekers ontdekten dat OpenAI-agents actief waren op een Duits online forum. Ook dat was niet de bedoeling.
OpenAI zegt dat de training alleen wordt hervat “als we er zeker van zijn dat we extra beveiligingsmaatregelen hebben”. Het bedrijf verwacht dat het opnieuw op de pauzeknop moet drukken als AI zich verder ontwikkelt en zich nieuwe problemen voordoen.
Het is de tweede keer in drie maanden dat Open AI op de ontwikkeling van modellen moet stopzetten. De eerste keer was in juli toen 1200 agents van Open AI bij het AI-bedrijf Hugging Face wist in te breken.
Topmannen van Amerikaanse AI-bedrijven pleitten eerder deze maand voor een vertraging in de ontwikkeling van nieuwe AI-modellen omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
President Trump wil die ontwikkeling juist versnellen. Een speciale ‘AI Force’ moet op dat gebied advies gaan uitbrengen.
