TNO, FGW en het ISSC ontwikkelen samen ethische chatbot: ‘Belangrijk dat de communicatie aansluit bij de gebruiker’
Bij de ICT-helpdesk van het ISSC komen dagelijks tientallen vragen binnen van medewerkers en studenten. Een samenwerking tussen TNO, het LUCL en het ISSC moet duidelijk maken of een speciaal ontworpen chatbot hier ondersteuning bij zou kunnen bieden.
Het idee voor de chatbot komt van hoogleraar Stephan Raaijmakers, die is gespecialiseerd in communicatieve AI. ‘Ik ben bij TNO de wetenschappelijk trekker van een generatief AI-programma, Grail Generative Responsible AI League’, vertelt hij. ‘Daarin onderzoeken we voor externe opdrachtgevers het verantwoord gebruik van AI, waarbij we rekening houden met zaken als bias, ethiek, beheersbaarheid en privacy. Het leek mij een mooie casestudy om een ethische chatbot te ontwikkelen voor de helpdesk van het ISSC.’
Sectorplangelden
Sectorplangelden maakten het project vervolgens mogelijk, licht informatiemanager Rob Goedemans toe. ‘Het gebeurt niet zo vaak dat we als facultair instituut en servicecenter een samenwerking aangaan met een externe partij. We hebben besloten om deze bijzondere samenwerking juist in dit geval aan te gaan, omdat we vinden dat we juist als Faculteit Geesteswetenschappen een verhaal te vertellen hebben in de ethische AI-ontwikkeling. Bovendien was TNO voor ons een interessante samenwerkingspartner.’
‘Daarbij is het goed om op te merken dat “ethisch” binnen dit project een andere betekenis heeft dan in het dagelijks taalgebruik’, vult coördinator ICT en Onderzoek Auke Ruhe aan. ‘In dit project gaat het meer om meebewegen met de klant. Hoe train je een large language model zo dat het vriendelijk, beleefd en beknopt is? Daarom is er voor een vrij klein taalmodel gekozen, dat goed te nudgen is met ALICE, ons eigen rekencluster.’
Aansluiting zoeken bij de klant
Kwartiermaker AI Julian van der Kraats begeleidde dit traject namens het ISSC. ‘Het ISSC heeft een veilige omgeving waarin je met AI kunt werken en een database waarin weinig persoonlijke gegevens zitten. Dat maakte ons heel geschikt voor dit experiment’, legt hij uit. Het doel is uiteindelijk om de klanttevredenheid hoog te houden, ook met de inzet van een chatbot. ‘Customer support gaat deels over technische hulp, maar misschien voor een nog groter deel om communicatie. Een antwoord moet aansluiten bij de individuele klant. Commerciële chatbots hebben die vriendelijkheid vaak wel, maar hoe ze onder de motorkap precies werken en op welke ‘ethische waarden’ ze zijn gebaseerd is onduidelijk. Met dit project willen we kijken of we dat zelf bij kunnen sturen, zodat we zelf bots kunnen aanpassen aan onze eigen normen en waarden qua omgang met elkaar.’
Inmiddels zijn de eerste tests met het nieuwe model geweest. ‘We hebben inmiddels een werkende chatbot opgeleverd. Daarnaast is er een rapport met de lessen die we hebben geleerd’, zegt Kraats. ‘Dat willen we zo breed mogelijk delen met andere universiteiten en organisaties.’ Of de chatbot ook daadwerkelijk wordt ingevoerd, wordt begin volgend jaar besloten. Kraats: ‘We gaan eerst een pilot draaien. Afhankelijk van de resultaten daarvan besluiten we hoe we verdergaan en hoe dat wordt gefinancierd.’