Debiteuren gebruiken steeds meer AI en dat gaat regelmatig fout

Het onafhankelijke klachteninstituut Kifid signaleerde recent een opvallende trend: consumenten maken in toenemende mate gebruik van AI-taalmodellen als ChatGPT om klachten en betwistingen in te dienen. Hoewel technologie een waardevol hulpmiddel kan zijn, waarschuwt het instituut dat de uiteindelijke beoordeling altijd mensenwerk moet blijven. Bij Ultimoo zien we deze ontwikkeling dagelijks terug in de praktijk. Waar debiteuren voorheen persoonlijke brieven stuurden, ontvangen we nu steeds vaker taalkundig perfecte, maar inhoudelijk rammelende AI-verweerschriften. Dit blinde vertrouwen in taalmodellen brengt risico's met zich mee voor de debiteur en stelt nieuwe eisen aan de kwaliteitsborging van incassodiensten.

De valkuil van AI

Een AI-model is getraind om overtuigend te klinken, niet om de juridische werkelijkheid weer te geven. In de incassopraktijk zien we dat dit vaak leidt tot zogenaamde AI-'hallucinaties', waarbij debiteuren vaak onbewust onjuiste informatie geven. Dit maakt het dossier vaak een stuk complexer en kan leiden tot onnodige escalatie.

Concrete fouten die wij regelmatig tegenkomen:

• Amerikaanse wetgeving in Nederland: Omdat veel AI-modellen getraind zijn op internationale data, beroepen debiteuren zich soms op de Fair Debt Collection Practices Act. Dit is een Amerikaanse wet die niet in Nederland geldt.
  
  
• Verzonnen jurisprudentie: Debiteuren presenteren soms indrukwekkende citaten uit rechtszaken die nooit hebben plaatsgevonden, inclusief fictieve uitspraaknummers die door de AI zijn gegenereerd om het verweer kracht bij te zetten.
  
  
• Onjuiste verjaringstermijnen: AI haalt vaak verschillende types vorderingen door elkaar. Zo wordt er bijvoorbeeld onterecht geclaimd dat een zakelijke energierekening verjaard is op basis van regels die enkel gelden voor consumenten.

Het gevaar is dat debiteuren zich door deze 'juridische' adviezen onterecht in hun recht wanen, waardoor zij soms een passende oplossing afwijzen.

Menselijke expertise versus digitale fictie

Om de kwaliteit van het incassoproces te bewaken, is een scherpe menselijke blik cruciaal. Wij gebruiken technologie om efficiënt te werken. Zo wordt bijna 70% van de standaardvragen afgehandeld door onze chatbot. Toch blijven inhoudelijke betwistingen het domein van onze incassospecialisten.

Onze kwaliteitsborging berust op een goede controle van de feiten:

• Controle op 5 elementen: Alle door AI gegenereerde interacties en samenvattingen worden gecontroleerd op zaken als verificatie, de reden van wanbetaling en de financiële situatie van een klant.
  
  
• Deskresearch: Naast digitale middelen zien wij onze handmatige deskresearch als een van de best scorende activiteiten om de werkelijke situatie van een debiteur te achterhalen.
  
  
• Feiten boven fictie: Wij ontleden elk AI-verweer objectief om de juridische fantasie van de feitelijke betalingsachterstand te scheiden.

Empathie als onvervangbaar vangnet

Het weerleggen van een foutieve AI-brief is slechts één deel van de oplossing. Achter een complexe brief schuilt vaak een kwetsbare situatie die een algoritme niet kan herkennen. Sociaal incasseren betekent dat we verder kijken dan de tekst van een bezwaarschrift.

Wanneer onze systemen of medewerkers signaleren dat een debiteur verstrikt is geraakt in financiële problemen, schakelen we direct ons Special Care-team in. Dit team van ervaren specialisten is getraind om persoonlijke aandacht te geven aan kwetsbare groepen, zoals ouderen of mensen met meervoudige schuldenproblematiek. Zij bieden maatwerk en hulp die ChatGPT simpelweg niet kan bieden.

Technologie is een krachtig hulpmiddel, maar het oplossen van menselijke problemen blijft mensenwerk. Door kritisch te blijven op AI-gebruik en de menselijke maat centraal te stellen, zorgen we voor een resultaat dat eerlijk is voor zowel de opdrachtgever als de debiteur.