Kritiek op AI-bedrijven die oproepen tot vertraging vanwege gevaar: ‘Doe het dan’

De oproep van de topman van AI-bedrijf Anthropic om op een lager tempo nieuwe krachtige AI-modellen uit te brengen, leidt tot kritiek van binnen en buiten de AI-sector. Als je het echt zo belangrijk vindt om te vertragen, dóe het dan, zegt onder meer een invloedrijke adviseur van de Amerikaanse president Donald Trump.

Anthropic-topman Dario Amodei publiceerde zaterdag een artikel waarin hij schrijft dat de koplopers van de AI-industrie moeten vertragen, maar dat daarvoor steun van de Amerikaanse overheid nodig is. Onder anderen Sam Altman van OpenAI (ChatGPT) en Elon Musk van SpaceXAI (Grok) zeiden het met hem eens te zijn.

“Jongens, ga je gang”, reageerde de invloedrijke Trump-adviseur David Sacks bij tv-zender Bloomberg(opent in nieuw venster). “Het is jullie verantwoordelijkheid om ervoor te zorgen dat jullie producten veilig zijn. Als jullie het gevoel hebben dat je moet vertragen, doe dat dan. Je hebt daar geen toestemming van iemand anders voor nodig.”

Amodei schrijft dat hij zijn oproep doet omdat hij zich zorgen maakt dat AI-technologie binnen zes tot twaalf maanden “in staat is om het hele internet over te nemen”. Daarbij moet worden aangetekend dat het schetsen van doemscenario’s een beproefde marketingstrategie van Anthropic en OpenAI is.

Amodei onderbouwt zijn zorg verder ook niet: hoe dat zou gaan, waarom mensen dat niet zouden opmerken of kunnen tegenhouden en hoe een ‘overgenomen internet’ er dan uitziet, schrijft hij er niet bij.

Je kunt betwijfelen of Amodei’s oproep oprecht is, zegt Felienne Hermans. Zij is hoogleraar informatica aan de Vrije Universiteit Amsterdam en volgt de AI-industrie. “Als je je werkelijk zo veel zorgen maakt, kun je ook gewoon stoppen. Ze kunnen zeggen: dit is waar wij ons als Amerikaanse AI-bedrijven aan gaan houden. Ze kunnen zeggen: als we mensen niet met deze AI-technologie kunnen vertrouwen, moeten we mensen dit misschien ook niet geven. Waarom hebben ze daar de overheid voor nodig?”

Na Amodei’s oproep zette Facebook-oprichter Mark Zuckerberg een bericht online waarmee hij laat zien dat de AI-bedrijven elkaar of de overheid volgens hem niet nodig hebben. Hij schrijft dat Meta het uitbrengen van zijn laatste AI-model enkele maanden heeft uitgesteld om zich te concentreren op de veiligheid ervan.

“We hebben niet eerst andere bedrijven opgeroepen om dit te doen, voordat we het zelf zouden doen”, schrijft Zuckerberg. “We hebben het gewoon gedaan, als onderdeel van onze dagelijkse werkzaamheden, omdat het duidelijk het juiste was om te doen.”

“Dat is wat ik bedoel”, zegt Hermans. “Als je je écht zorgen maakt als bedrijf, dan kun je zeggen: we stoppen er zelf mee. En we onderhandelen met elkaar dat we er samen mee stoppen. Maar in plaats daarvan zeggen ze: ‘Overheid, kom alsjeblieft met wetten en regels’. En Trump heeft al gezegd dat hij dat niet van plan is.”

Hermans vermoedt dat de AI-bedrijven de verantwoordelijkheid van zich af willen schuiven. “Stel dat er straks iets misgaat, dan kunnen ze zeggen: we hebben de overheid gevraagd om regels. Die kwamen er niet, dus het is niet onze schuld.”

Dat is een strategie die eerder succesvol is gebleken, zegt Roel Dobbe van de TU Delft. Hij onderzoekt hoe de AI-bedrijven beeldvorming en regelgeving proberen te beïnvloeden. “De bedrijven zeggen: geef ons regels. Of er in de praktijk wat van terechtkomt, is een ander verhaal. En als dat wel zo is, blijkt uit ons onderzoek dat deze bedrijven veel geld hebben om de regelgeving te beïnvloeden, zodat de regels in hun voordeel uitpakken.”

Hermans en Dobbe denken dat de concurrentie met China mogelijk ook een rol speelt. In Amodei’s oproep om te vertragen, schrijft hij ook dat de AI-ontwikkelingen in China tegengewerkt moeten worden.

“Anthropic en OpenAI hebben veel geld geïnvesteerd in hun AI-modellen”, zegt Dobbe. “Dat moeten ze terugverdienen. Hun klanten betalen daar hoge rekeningen voor.” Ondertussen brengen Chinese AI-bedrijven goedkope of gratis modellen op de markt die een serieuze concurrentie zijn voor de Amerikaanse AI-technologie, legt Dobbe uit.

“Je kunt je voorstellen dat de bedrijven enthousiast zijn over regulering waardoor de Chinese AI-modellen beperkt worden”, zegt Hermans. “Dat zou goed zijn voor de marktpositie van de grote Amerikaanse AI-bedrijven.”

“We moeten ervoor zorgen dat we China een stap voor blijven en geen onnodige regelgeving invoeren waardoor China een voorsprong kan krijgen”, zegt Trump-adviseur Sacks bij Bloomberg. Hij wijst er ook op dat er al regels zijn en dat de AI-bedrijven verantwoordelijk kunnen worden gehouden voor gevaarlijke producten.

“Ik denk dat elk bedrijf in Amerika ervoor moet zorgen dat hun producten veilig zijn wanneer ze op de markt komen. Dat is gewoon een basisverantwoordelijkheid voor bedrijven”, zei hij. “Ik geloof niet echt dat zij hun producten pas veilig kunnen maken als de overheid zich ermee bemoeit. Het voelt als een smoesje. We staan niet in de weg. Ze moeten hun verantwoordelijkheid nemen en het doen.”