NOS Nieuws
OpenAI, het bedrijf achter ChatGPT, heeft een AI-programma laten binnendringen op een Australische overheidswebsite. Dat zegt de Australische premier Albanese. Het incident deed zich in juni voor, maar de Australische regering werd pas twee weken geleden op de hoogte gebracht.
OpenAI stuurde een mail naar een algemeen mailadres om de Australische overheid in te lichten over het incident.
Het Britse persbureau Reuters meldt dat dit het eerste bekende geval kan zijn waarbij een AI-agent, een computerprogramma dat zelfstandig taken kan uitvoeren om een doel te bereiken, zich toegang heeft verschaft tot een overheidswebsite.
De hack vond volgens Albanese plaats op 18 juni in een medische database van Medicare, het Australische zorgverzekeringssysteem. De AI-agent had ook toegang tot gegevens die niet openbaar zijn.
“Dit is natuurlijk onacceptabel”, zei Albanese op een persconferentie in New York waar hij is voor de VN-top. Volgens de Australische premier zijn er tot nu toe geen signalen dat er persoonlijke gegevens zijn ingezien, maar loopt het onderzoek nog.
Albanese heeft inmiddels ook met OpenAI-topman Sam Altman gesproken over de hack. De premier zegt de zorgen van de Australische overheid en het ongenoegen over de communicatie te hebben overgebracht. Volgens Albanese heeft OpenAI veel te laat de Australische overheid geïnformeerd en was de manier waarop dat gebeurde “eveneens onacceptabel”.
In een reactie zegt OpenAI dat een AI-agent de Australische overheidswebsite onbedoeld is binnengedrongen. Volgens het Amerikaanse bedrijf blijkt uit eigen onderzoek dat de AI-agent geen toegang heeft verkregen tot patiëntendossiers. In juli hackte OpenAI per ongeluk al een ander AI-bedrijf.
Nieuwsuur publiceerde vorig jaar onderstaande video over AI-agents:
