Advocaten krijgen waarschuwing en moeten op cursus na verkeerd gebruik AI

• Stan Hulsen

  redacteur Tech

Drie advocaten hebben tot nu toe een waarschuwing gekregen omdat zij verkeerd gebruik hebben gemaakt van kunstmatige intelligentie zoals ChatGPT. Twee van die advocaten zijn verplicht op een AI-cursus gestuurd, zegt Wouter Timmermans van de toezichthouder op advocaten tegen de NOS.

Het gaat om zaken waarin advocaten een AI-programma gebruikten om hun argumenten bij de rechter te onderbouwen. In die argumenten stonden verwijzingen naar eerdere uitspraken, maar die bleken over iets heel anders te gaan of zelfs helemaal niet te bestaan.

Programma’s zoals ChatGPT schrijven teksten op basis van kunstmatige intelligentie (AI, afgekort van het Engelse artificial intelligence), als mensen bijvoorbeeld een vraag stellen of een opdracht geven. Maar er zit geen echte intelligentie in. Het is simpel gezegd een computerprogramma dat woorden achter elkaar zet.

Advocaten kunnen AI-programma’s gebruiken om samenvattingen te maken of om eerdere uitspraken te vinden, zegt Timmermans. Hij is de toezichthouder op de advocatuur in Gelderland en houdt bij hoe alle regionale toezichthouders oordelen over het AI-gebruik van advocaten.

“Het kwalijkste dat ik heb gezien, is dat advocaten klakkeloos overnemen wat AI produceert, en dat vervolgens indienen in de rechtszaal zonder het te controleren”, zegt hij. “Wat AI produceert, leest vaak heel logisch. Ook als het eigenlijk onzin is. Je kunt er niet 100 procent op vertrouwen dat die informatie klopt.”

De afgelopen maanden hebben rechters in Arnhem, Rotterdam en Groningen uitspraken gedaan waarin zij het vermoeden uitspraken dat advocaten ChatGPT of een vergelijkbaar programma verkeerd gebruikten. Dat gebeurde nadat de advocaten hadden verwezen naar uitspraken die niet bestaan of helemaal niet relevant waren.

Timmermans wil niet zeggen of deze advocaten op gesprek moesten komen en daarin een waarschuwing kregen. Wel zegt hij dat de toezichthouders meer dan drie onderzoeken hebben gedaan naar verkeerd AI-gebruik. Advocaten hoefden daarna niet altijd op zo’n gesprek te komen. Op dit moment loopt er ook nog een aantal onderzoeken, zegt Timmermans.

Advocaten die AI-programma’s verkeerd inzetten, moeten zich schamen, vindt Lodewijk Smeehuijzen. Hij is hoogleraar rechten aan de Vrije Universiteit in Amsterdam en volgt hoe technologie invloed heeft op de rechtspraak.

“Als advocaat kun je niet zomaar bronnen noemen die niet bestaan. Dit soort AI-programma’s schrijven teksten die niet altijd kloppen. Je moet dat altijd controleren. Dat niet doen is ernstig. Je doet jezelf en je reputatie daar geen plezier mee.”

AI-programma’s komen niet alleen via advocaten de rechtszaal binnen. In december publiceerde de rechtbank van Den Bosch een uitspraak in een zaak waarin een man zijn gelijk probeerde te halen zonder advocaat, maar met behulp van ChatGPT.

De kwestie ging over de verkoop van een appartement in Andorra. Hoewel een rechter eerder oordeelde dat er een geldige koopovereenkomst was gesloten, wilde de verkoper niet meewerken aan de overdracht van de woning. Daarom stapte hij opnieuw naar de rechter, waarbij hij zich naar eigen zeggen liet “adviseren door AI”.

Dat leidde tot een hoop extra werk, zegt Erik Braun, de advocaat van de koper. “Er werd verwezen naar artikelen die totaal niet van toepassing waren. Als jurist zie je meteen dat het niet klopt. En toch ben ik extra uren kwijt om de onzin te weerleggen.”

Daarom maakte Braun er een punt van bij de rechter. De advocaat noemde het in de rechtszaal “juridisch broddelwerk” en stelde dat de man zijn tegenstander onnodig op juridische kosten joeg. Het kostte veel werk om de argumenten te volgen en ertegenin te gaan.

De rechter bleek het daarmee eens. Sterker nog: in het oordeel schreef de rechter dat de man misbruik maakte van het recht, onder meer omdat hij gebruikmaakte van “ondermaatse door AI geproduceerde processtukken zonder deze te (laten) controleren op juridische relevantie en juistheid”.