NOS Nieuws
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. “De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico’s willen aanpakken.”
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: “We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen.”
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als “waarschuwingsschot, voor ons en voor de wereld”.
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook “oprecht bang” zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
De AI-industrie die gelooft in artificial general intelligence, koppelt die vaak ook aan allerlei doemscenario’s, maar in de wetenschap worden die niet heel serieus genomen. Hoe dat zit, zie je in deze video die NOS op 3 eerder maakte:
“Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen”, zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. “Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen.” Elon Musk plaatste simpelweg “Dario heeft gelijk” op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
