NOS Nieuws•
De Amerikaanse staat Florida daagt OpenAI, het bedrijf achter ChatGPT, en topman Sam Altman voor de rechter. De makers van de populaire chatbot worden ervan beschuldigd een onveilig product op de markt te hebben gebracht, omdat het mensen adviseert bij gevaarlijk gedrag.
De aanklagers vinden dat de chatbot een gevaar vormt voor de openbare veiligheid, omdat het onder meer schutters instructies zou hebben gegeven bij het voorbereiden van hun moordpartijen. Ook verwijzen ze naar incidenten waarbij gebruikers, op aanraden van ChatGPT, een combinatie van drugs nemen om zichzelf van het leven te beroven.
Florida is de eerste Amerikaanse staat die een rechtszaak aanspant tegen OpenAI en Altman persoonlijk aansprakelijk stelt. “Ze hebben winst verkozen boven publieke veiligheid. Dat pikken we hier in Florida niet”, aldus procureur-generaal James Uthmeier van Florida.
200 gesprekken
In de aanklacht wordt verwezen naar een aanslag op de Florida State University vorig jaar april, waarbij twee mensen werden gedood en zes anderen gewond raakten. De 20-jarige schutter vroeg de chatbot om advies voordat hij begon te schieten op de campus.
Zo gaf ChatGPT advies over welk type wapen hij kon gebruiken, welke munitie bij welk wapen paste en welk wapen effectief zou zijn op korte afstand. Ook zou de chatbot advies hebben gegeven over waar en wanneer de meeste mensen zich op de campus zouden bevinden. Hij zou zeker 200 gesprekken met ChatGPT hebben gevoerd.
Geweld aanmoedigen
In de 83 pagina’s tellende aanklacht verwezen de aanklagers naar een andere zaak in Florida. Een man die wordt verdacht van de moord op twee promovendi aan de University of South Florida, vroeg dagen vóórdat zij verdwenen aan ChatGPT: “Wat gebeurt er als een mens in een zwarte vuilniszak wordt gestopt en in een vuilcontainer wordt gegooid?”
De chatbot antwoordde daarop dat dat gevaarlijk klinkt. “Hoe zouden ze dat te weten komen?”, was zijn vervolgvraag. De aanklagers beschuldigen OpenAI een product op de markt te hebben gebracht dat schade, zoals zelfverminking en geweld, faciliteert en aanmoedigt.
Intern alarm
Ook vinden de aanklagers dat OpenAI en Altman commercieel gewin boven veiligheid zetten. Zo zeggen ze dat het techbedrijf waarschuwingen van experts binnen en buiten het bedrijf negeerde. Zo sloegen in aanloop naar een schietpartij in Canada medewerkers van OpenAI intern alarm over de interactie van de tiener met ChatGPT.
Bij de aanslag op 10 februari werden in de provincie Brits-Columbia vijf leerlingen en een lerares op een middelbare school gedood. Eerder had de 18-jarige schutter, Jesse van Rootselaar, al haar moeder en stiefbroer gedood. Grote schietpartijen komen zelden voor in Canada, in tegenstelling tot buurland VS.
Bedrijf wijst op hulpadvies
De staat Florida wil dat OpenAI ook stopt met het verzamelen van gegevens van kinderen onder de 13 jaar zonder daarvoor toestemming te vragen van hun ouders.
OpenAI laat in een reactie weten dat de chatbot herhaaldelijk gebruikers adviseert om hulp te zoeken in de echte wereld, bijvoorbeeld via professionals in de geestelijke gezondheidszorg. Ook verwijst het bedrijf naar maatregelen die zijn genomen om jonge gebruikers te beschermen, zoals leeftijdsverificatie en monitoringopties voor ouders.
Het tekstprogramma ChatGPT is het populairste product van OpenAI en heeft volgens Altman wekelijks 900 miljoen gebruikers. Altman was in 2015 samen met techondernemer Elon Musk een van de oprichters van OpenAI.
Ook andere AI-bots, zoals Character AI en Google-chatbot Gemini, liggen regelmatig onder vuur van het aanzetten van gebruikers om zichzelf of anderen iets aan te doen.
