NOS Nieuws•
De regering van Canada heeft OpenAI op het matje geroepen. Het moederbedrijf van ChatGPT nam geen contact op met de Canadese politie na verdachte interacties van een tiener die twee weken geleden acht mensen doodschoot. OpenAI had haar account vorig jaar zomer al als verdacht aangemerkt omdat het werd “ingezet voor gewelddadige activiteiten”, bleek zaterdag.
Bij de aanslag van 10 februari werden in de provincie Brits-Columbia vijf leerlingen en een lerares op een middelbare school gedood. Eerder had de 18-jarige schutter, Jesse Van Rootselaar, al haar moeder en stiefbroer gedood. Zeker 25 anderen raakten gewond. Na de schietpartij maakte de schutter een einde aan haar leven.
Teken van potentieel geweld
Al maanden voor de massamoord sloegen medewerkers van OpenAI intern alarm over de interactie van de tiener met ChatGPT. Zo zou ze meerdere scenario’s met wapengeweld hebben besproken en voorgelegd aan de populaire bot, zeggen bronnen aan The Wall Street Journal.
Een automatisch beoordelingsmechanisme merkte haar interactie met ChatGPT op en markeerde die als ‘gewelddadig’. Daardoor werden medewerkers van OpenAI op de hoogte gebracht. Sommige werknemers zagen haar interactie met ChatGPT als een teken van potentieel geweld in de echte wereld en drongen er bij hun leidinggevenden op aan de Canadese autoriteiten te waarschuwen.
Uiteindelijk besloot OpenAI dat niet te doen. Volgens het bedrijf was de dreiging voor ernstig lichamelijk geweld voor anderen niet reëel genoeg. Na de aanslag brachten OpenAI-medewerkers de Canadese politie alsnog op de hoogte.
De Canadese AI-minister Solomon zegt dat hij “diep verontrust” is dat de politie niet is geïnformeerd. “Ik heb de veiligheidsverantwoordelijken van OpenAI opgedragen om naar Ottawa te komen om hun veiligheidsprotocollen toe te lichten.” Ook wil Solomon in gesprek over hoe hoog de dreiging moet zijn om naar de politie te stappen. OpenAI is gevestigd in San Francisco en heeft geen kantoor in Canada.
Premier Eby van Brits-Columbia noemt de berichten dat OpenAI relevante informatie zou hebben gehad zeer verontrustend voor de families van de slachtoffers en voor inwoners van de provincie. OpenAI zegt in reactie het politieonderzoek te steunen en spreekt zijn medeleven uit naar de nabestaanden.
Chatbots liggen al langer onder vuur. Zo vinden privacywaakhond Autoriteit Persoonsgegevens en ook openbaar aanklagers in de VS dat ChatGPT snel aanpassingen moet doen die het risico op mentale schade verkleinen. Vorig jaar werd OpenAI aangeklaagd door de ouders van een 16-jarige Amerikaanse jongen die zelfmoord pleegde. Ook andere AI-bots, zoals Character AI, worden beschuldigd van het aanzetten van gebruikers om zichzelf of anderen iets aan te doen.
Nieuwsuur maakte eerder deze reportage over de keerzijde van chatbots:
Chatbots onder vuur: ‘Gevaarlijk voor kwestbare mensen’
