Advocate krijgt berisping na onzorgvuldig gebruik van AI in juridische procedures

Een advocate heeft een berisping gekregen omdat zij in twee huurrechtzaken gebruikmaakte van een AI-tool zonder de door het systeem gegenereerde informatie voldoende te controleren. Daardoor kwamen onjuiste en deels niet-bestaande jurisprudentieverwijzingen in processtukken terecht. De Raad van Discipline in ’s-Hertogenbosch oordeelt dat de advocate daarmee haar professionele verantwoordelijkheid heeft geschonden.

AI genereerde onjuiste jurisprudentie
De zaak kwam aan het rollen nadat de deken van de Orde van Advocaten in het arrondissement Limburg een signaal ontving over het gebruik van kunstmatige intelligentie door de advocate. De advocate had in twee huurrechtzaken processtukken opgesteld waarbij zij een AI-tool gebruikte voor het zoeken naar juridische onderbouwing en jurisprudentie.

In de ingediende stukken stonden meerdere verwijzingen naar rechterlijke uitspraken die niet bleken te kloppen. Sommige genoemde ECLI-nummers bestonden helemaal niet, terwijl andere nummers verwezen naar uitspraken met een andere inhoud dan in de processtukken werd beschreven. De advocate trok de foutieve verwijzingen later in via zogenoemde aktes van rectificatie.

Advocaat blijft verantwoordelijk
De advocate gaf aan dat zij in 2025 de AI-tool had gebruikt als een soort zoekmachine en zich onvoldoende bewust was van het risico dat een AI-systeem zelf verzonnen of onjuiste informatie kan produceren. Volgens haar had zij de fouten hersteld zodra zij deze ontdekte.

De Raad van Discipline vindt echter dat dit de verantwoordelijkheid van de advocate niet wegneemt. Een advocaat moet de informatie die in processtukken wordt opgenomen controleren en mag niet zonder verificatie vertrouwen op de resultaten van een AI-tool.

Volgens de tuchtrechter heeft de advocate daarmee niet gehandeld zoals van een deskundig advocaat mag worden verwacht. Niet alleen de belangen van haar cliënten konden hierdoor worden geschaad, maar ook het vertrouwen in de juridische procedure.

Ook andere fouten in processtukken
De problemen beperkten zich volgens de Raad van Discipline niet alleen tot de AI-gegenereerde jurisprudentie. In de processtukken stonden ook inhoudelijke onjuistheden over het huurrecht en werd een deel van een vordering van de wederpartij niet behandeld.

Daarnaast verscheen de advocate niet bij de mondelinge behandelingen in de twee zaken. Volgens de raad bracht dit extra risico’s met zich mee voor haar cliënten, omdat een advocaat tijdens een zitting belangrijke vragen van de rechter kan beantwoorden en de belangen van de cliënt actief kan behartigen.

Berisping wegens gebrek aan deskundigheid
De Raad van Discipline oordeelt dat de advocate de kernwaarden deskundigheid en integriteit heeft geschonden. Het gebruik van AI is op zichzelf niet verboden, maar een advocaat blijft altijd verantwoordelijk voor de inhoud van het werk dat aan een rechtbank wordt voorgelegd.

De raad benadrukt dat een AI-tool een hulpmiddel kan zijn, maar geen vervanging vormt voor juridische kennis, controle en professioneel oordeel. Omdat de kwaliteit van de dienstverlening in de twee zaken duidelijk onder de maat was, kreeg de advocate een berisping opgelegd.

Waarschuwing voor AI-gebruik
De uitspraak is een duidelijk signaal voor professionals die AI inzetten bij hun werk. Generatieve AI kan helpen bij het zoeken naar informatie, het samenvatten van documenten of het opstellen van teksten, maar systemen als ChatGPT en vergelijkbare tools kunnen ook overtuigend klinkende fouten produceren.

Vooral in sectoren waarin fouten grote gevolgen kunnen hebben, blijft controle door een deskundige noodzakelijk. AI kan het werk ondersteunen, maar de eindverantwoordelijkheid blijft bij de gebruiker liggen.

Wat betekent dit voor HCC-leden?
Voor HCC-leden laat deze uitspraak zien dat kritisch omgaan met AI steeds belangrijker wordt. Kunstmatige intelligentie kan een waardevol hulpmiddel zijn, maar de uitkomsten moeten altijd worden gecontroleerd. Een AI-systeem begrijpt niet werkelijk wat juridische, financiële of medische gevolgen van een fout kunnen zijn.

De zaak onderstreept ook een bredere digitale vaardigheid: weten hoe AI werkt én waar de beperkingen liggen. Wie AI gebruikt voor belangrijke beslissingen of professionele taken, moet de resultaten blijven beoordelen en niet blind vertrouwen op een automatisch gegenereerd antwoord.

Standpunt van HCC
HCC ziet grote mogelijkheden voor kunstmatige intelligentie, maar vindt verantwoord gebruik essentieel. AI kan mensen helpen sneller informatie te verwerken en efficiënter te werken, maar menselijke kennis en controle blijven vooralsnog onmisbaar.

Bij het gebruik van AI moet duidelijk zijn dat een gebruiker verantwoordelijk blijft voor de uiteindelijke keuzes en resultaten. Transparantie, controle en digitale vaardigheden zijn daarom belangrijke voorwaarden om het vertrouwen in AI verder te vergroten.