NOS Nieuws•
Oprichter Dario Amodei van AI-bedrijf Anthropic heeft op het Witte Huis de ontwikkeling van super-AI Mythos besproken. De ontmoeting is opmerkelijk, omdat president Trump Anthropic juist in de ban heeft gedaan omdat het bedrijf wil vasthouden aan strenge ethische regels.
Amodei ging langs bij Trumps chef-staf Susie Wiles. Een woordvoerder van de president sprak na afloop van een productief en constructief gesprek, waarin mogelijkheden tot samenwerking zijn besproken. Ook werd er gesproken over de balans tussen innovatie en veiligheid.
Anthropic kondigde eerder deze maand aan dat zijn nieuwe AI-technologie Mythos voorlopig nog niet publiekelijk beschikbaar maakt. Het model is zo krachtig dat het volgens het bedrijf verstrekkende veiligheidsrisico’s met zich meebrengt. Anthropic werkt daarom voorlopig alleen samen met een groepje bedrijven als Google, Apple en Microsoft om de risico’s en mogelijkheden in kaart te brengen.
Veiligheidsgaranties
Eerder dit jaar kreeg Anthropic het nog aan de stok met de regering-Trump omdat het veiligheidsgaranties eiste bij het gebruik van zijn huidige AI-technologie. Zo wilde het bedrijf dat zijn bot nooit gebruikt wordt bij autonome wapensystemen, die zelf mogen bepalen of ze het vuur mogen openen. Ook was uitgebreide surveillance van Amerikaanse burgers taboe.
De regering was tegen dergelijke beperkingen en zei dat Anthropic ervan uit mocht gaan dat de Amerikaanse overheid zich aan bestaande wetten zou houden. Toen het bedrijf toch verdere garanties eiste, schortte Trump alle contracten met Anthropic op.
Het Pentagon duidde het bedrijf zelfs officieel aan als een risicofactor in de productieketen, een ongekende kwalificatie voor een binnenland bedrijf.
Onder de rechter
Anthropic vecht de verbroken contracten aan bij de rechter. Die heeft in een tussenvonnis al geoordeeld dat de overheid zich aan bestaande afspraken moet houden zolang er geen definitieve uitspraak is.
Ondanks de vete was ook het Witte Huis geïnteresseerd in de verbeterde technologie van Anthropic. Als het AI-model Mythos inderdaad zo krachtig is als dat Anthropic voorspiegelt, dan heeft dat ook gevolgen voor de economie, de nationale veiligheid en cybersecurity.
Anthropic zei na afloop dat er met het Witte Huis is gesproken over die zorgen, maar ook de noodzaak om de VS voorop te laten lopen in de AI-race met bijvoorbeeld China. Het bedrijf “kijkt ernaar uit dat gesprek voort te zetten”.
