Een interview over chatbots, AI, conversation design en ChatGPT. Maaike Groenewege is deze keer te gast. Zij is conversation designer, taalkundige en coach bij haar bedrijf Convocat. Maaike geeft concrete tips waar je op moet letten bij de implementatie van een chatbot. Ook vertelt ze wat haar opvalt aan de ontwikkeling van chatbots in Nederland. Een kijkje in de conversation design keuken.
Veel leesplezier.
Welkom Maaike! Jij bent conversation designer, taalkundige en coach. Kun je vertellen wat dat inhoudt en wat je zoal doet bij bedrijven?
“Mijn primaire taak is conversation design. Dat betekent dat ik dialogen ontwerp voor chat, voice assistence en eigenlijk alle interfaces die gebruik maken van taal, de zogenaamde conversational user interfaces. De flow hoe je een klant begeleid van vraag naar antwoord. Maar ook, welke woorden gebruik je, wat is de brand voice van jouw organisatie en hoe sluit jouw chatbot of voice assistence daar zo goed mogelijk op aan?”
“Het taalkundige aspect komt erbij kijken als ik aan de slag ga met vraagherkenning. Vaak wordt gezegd dat onder de motorkap Artificial Intelligence al het werk doet. Toch is het een uitdaging om de juiste vraag. bij het juiste antwoord te laten landen. Daar zijn echt mensenhandjes bij nodig. Wat er onder de motorkap in zo’n chat meedraait is een taalmodel. Dat taalmodel heeft goede voorbeelden nodig van vragen, zodat het zelf kan bepalen wat de juiste antwoorden zijn. Dat vind ik hartstikke leuk om te doen en daar helpt mijn taalkundige achtergrond bij.”
“Het coachen doe ik de laatste tijd steeds meer, omdat ik het heel erg leuk vind om mensen die net de arbeidsmarkt op komen een handje te helpen om hun weg te vinden in het conversational landschap.”
Bij chatbots wordt veel de term AI (Artificial Intelligence) genoemd en het lijkt alsof chatbots alles zelf kunnen. Je hoeft het maar op je website te zetten en het draait vanzelf. Wij weten dat in de praktijk er veel mensenhandjes aan te pas komen. Wanneer denk jij dat we in Nederland echt met AI te maken gaan krijgen op het vlak van chatbots?
“Dat is best een complexe vraag. Wat is AI nou precies? Als ik terugkijk werkte ik 20 jaar geleden stiekem ook al een beetje aan AI. Dat was rulebased AI, het voeden van een set van regels aan een algoritme, eigenlijk een soort van programmeren. Beslisbomen kun je zien als een hele simpele vorm van AI. Maar als ik kijk naar het beeld dat de meeste mensen hebben, dan zien zij AI als ‘de robots komen en we hoeven niets meer zelf te doen’.”
“Als ik kijk naar AI in chatbots wordt het veel gebruikt voor spraakherkenning en onderliggende slimme algoritmes. De meest bekende AI is de vraagherkenning van het taalmodel (national language processing). Het lastige is dat AI gaat pas zelf iets gaat doen als het getraind wordt op hele grote hoeveelheden data. Ondanks dat we in de meeste organisaties duizenden klantvragen krijgen, is dat voor zo’n AI eigenlijk nog onvoldoende om daar zelf dingen uit te generaliseren. Op de werkvloer zie je dat de set van klantvragen zo beperkt is dat je eigenlijk zelf die vragen moet gaan trainen aan je chatbot.”
“Daarnaast komen innovaties, zoals large language models, over het algemeen eerst beschikbaar in het Engels, voordat ze ook voor het Nederlands geschikt zijn. Als taalgebied zijn we misschien net iets te klein zijn om meteen mee te kunnen liften op alle innovaties. Al is onlangs ChatGPT als taalmodel uitgekomen en die spreekt wel Nederlands. Dus dat is heel interessant.”
“Om terug te komen op de vraag ‘Wanneer gaan we meer AI zien in Nederland?’ Ik denk dat we in veel subprocessen al AI toepassen. Bijvoorbeeld bij het automatisch samenvatten van transcripten, analyseren, sentiment- en topicanalyse. Daar kun je nu al AI-technologie op loslaten. Dan kijk je meer naar de losse componenten en wat je dat kan opleveren binnen je klantcontact.”
Welke ontwikkelingen zie je op het gebied van chatbots in Nederland?
“Ik zie dat de meeste van mijn klanten beginnen op projectbasis met een vrij kleine FAQ [Freqently Asked Questions] chatbot. Vaak naar aanleiding van een urgent probleem. waardoor customer support het opeens heel druik krijgt. Dan zie je dat als zo’n chatbot begint te groeien klanten er meer vertrouwen in krijgen. Het aantal vragen groeit en vervolgens ontstaat een vraag naar schaalbaarheid. ‘Hé, we willen meer’.”
“We willen groter, willen integreren met andere kanalen, we willen een live-integratie of een integratie met telefoon. Dan komt er een soort tweede golf waarin veel vragen opkomen. ‘Hoe gaan we dit doen?’ Niet alleen technologisch of qua use cases, maar ook qua team. Vaak ontstaat er een klein basisteam, wat een permanent bestaansrecht krijgt binnen de organisatie.”
“Ik zie nu bij sommige klanten het begin van een derde golf. We willen niet alleen vragen beantwoorden, we willen ook transactionele dialogen, we willen integreren in de mijn-omgeving, we willen misschien zelf wel conversational applicaties gaan bouwen. Dan is de vraag: ‘Welke technologie hoort erbij?’ Nemen we nog steeds een apart platform? Gaan we kijken of we binnen onze ICT-systemen een integratie of landschap kunnen bouwen? Dat is interessant, want dan gaat het verder dan alleen je conversational interface op je website of op de telefoon.”
Wat zie je op het gebied van voice?
“Voice op het telefoniekanaal bloeit in Nederland als nooit tevoren. Vaak is er een mix aanwezig van telefonie en IVR. Dan is de vraag willen we bijvoorbeeld de IVR vervangen door voice met vraagherkenning? Hoe doen we dat? Hoe gaan we van oud naar nieuw? Hoe migreer je? Welke use cases kun je isoleren zodat je die in één keer kunt overzetten en waar kan je een knip maken?”
Wat zijn volgens jou de grootste fouten wanneer je start met een chatbot of voicebot?
“Het allerbelangrijkste is om goed helder te hebben welk probleem je wilt oplossen met je conversational oplossing. Sommmige kleinere klanten raad ik zelfs af om met een chatbot te beginnen. Zij zeggen in zo’n geval: ‘het webformulier loopt niet lekker en nu willen we het in een chatbot want dan gaat het beter.’ Vaak is een optimalisatie van het webformulier een betere oplosing. Wees je ervan bewust dat conversational ‘an sich’ niet per definitie een oplossing is.
Waar is het in dat geval handig om op te letten bij de start?
“Veel organisaties importeren FAQ content van de website in de chatbot en starten daarmee. Dat werkt niet altijd goed. Mijn advies zou zijn maak eerst een goede klantvraaganalyse: Welke vragen krijg je nu al binnen bij de servicedesk, bij medewerkers en bij je adviseurs? Wat is zijn de top-tien vragen en van wie krijgen zij die binnen? De tweede tip is: kijk dan of er antwoordpotentieel via de chatbot inzit. Want als een chatbot dat antwoord maar gedeeltelijk kan geven en je moet vervolgens nog steeds door naar een klantadviseur dan kan het zijn dat je daarmee niet het doel bereikt wat je voor ogen hebt. Begin met een analyse op de top 10 vragen die een chatbot zelfstandig kan afhandelen. Kijk hoe die het doen. Mijn derde tip is: Wacht niet te lang met live gaan. Op het een moment dat je live gaat, dan komen de echte klantvragen binnen en krijg je letterlijk aangereikt wat je klanten willen weten. En dat is vaak toch nét anders dan je in je projectvoorbereiding had bedacht. Mijn ervaring is dat je vanaf livegang veel sneller en gerichter meters kunt maken.”
Dan gaat het pas beginnen. Landen de vragen inderdaad op het juiste antwoord en wat kun je daaraan verbeteren?
“Absoluut! Dan begint het pas. Wat je bij een chatbot gaat zien, is dat het niet zozeer het toevoegen van nieuwe content is, maar veel meer een verschuiving naar de klant- en vraaganalyse. Op welke manieren stellen mensen vragen? Welke actuele vragen poppen op? Hoe kun je daar snel op inspelen, dat is de kunst. Het gaat er uiteindelijk om dat je die klant helpt en niet om je eigen verhaal naar buiten te brengen.”
Over actualiteiten gesproken, wat is ChatGPT?
“ChatGPT is wat ze noemen een large language model. Het is getraind met content van het hele internet tot 2021. Dat betekent dat als jij een vraag stelt aan ChatGPT het spontaan een antwoord geeft waarvan jij denkt van ‘hoe krijgt ie dat nou voor elkaar’. Je kan hele gesprekken met ChatGPT houden over elk mogelijk onderwerp. Je krijgt een conversatie die heel natuurlijk overkomt.”
“ChatGPT zit zo goed in elkaar dat ik op een gegeven moment niet meer door had dat ik met een machine aan het praten was. Dat is geweldig. Tegelijkertijd was het ook een beetje eng en zorgelijk.”
Betekent dit dat de robots het uiteindelijk over gaan nemen?
“Als je LinkedIn en Twitter moet geloven, dan zijn we inderdaad niet ver van dat moment. Ik ben daar zelf wat sceptisch in. Als je kijkt naar hoe ChatGPT werkt, dan is het antwoord wat het geeft eigenlijk een soort geavanceerde auto ‘aanvuller’. Op basis van het woord wat het genereert gaat het kijken welke woorden in de hele internetcollectie daarbij het meest worden gebruikt. Dus als jij bijvoorbeeld iets zegt als ‘witte’, dan zal het waarschijnlijk ‘sneeuw’ teruggeven, omdat dat waarschijnlijk in die hele grote dataset het meest gebruikt wordt. Wat is de ‘best guess’. Het betekent dus dat ChatGPT geen weet heeft van wat het zegt. Het is een algoritme. Het is vrij gemakkelijk te verleiden en in staat om zaken te zeggen die niet waar zijn. Mijn grootste zorg is dat feitelijke correctheid bijna optioneel wordt en dat waarheid niet meer gegarandeerd is.”
Hoe is dat op te lossen? Want het klinkt supergaaf om zo’n advanced model te hebben, wat veel potentie biedt.
“Als ik kijk waar de kracht van ChatGPT ligt, is dat het heel natuurlijk door allerlei conversaties heen kan bewegen. Daar waar ik als conversation designer letterlijk flows bouw en aan elkaar klik zijn dat toch nog steeds handmatig gebouwde flows met een bepaalde volgorde, zelfs met natural language processing.”
“ChatGPT kun je als het ware een instructie geven hoe je een klant van vraag naar antwoord kunt leiden. Bijvoorbeeld: leg dit uit in vijf stappen. ChatGPT zou je dus kunnen gebruiken om je conversaties supernatuurlijk te laten klinken. Om het echt bruikbaar te maken heb je wel de juiste antwoorden nodig, dus de content komt nog steeds van jouw organisatie. Om te voorkomen dat ChatGPT zelf antwoorden gaat verzinnen op basis van jouw content (het blijft een auto-aanvul algoritme), heb je een feitenmodel nodig van jouw content. Daar hebben we al technologie voor: een knowledge graph.”
“Een Knowledge Graph, of semantisch web, is een netwerk van objecten en begrippen in jouw organisatie die onderling met elkaar verbonden zijn. Bijvoorbeeld ‘klant’ <-> rekening. Voor al deze objecten beschrijft de graph hoe ze met elkaar zijn verbonden. Bijvoorbeeld klant opent rekening, klant wijzigt rekening , klant heft rekening op. Door deze graph aan ChatGPT te voeden, weet het hoe jouw wereld eruit ziet, en kan het z’n antwoorden daarmee correct en betrouwbaar maken. Het mooie is dat knowledge graphs en large language models informatie met elkaar kunnen uitwisselen. Je kunt ze dus laten samenwerken.”
Weet jij of ChatGPT van plan is om met dergelijke modellen te gaan werken, om het daarmee nog slimmer te maken?
“Chat GPT is gebouwd en ontwikkeld door OpenAI. Dat bedrijf biedt dit soort modellen aan als een soort van component dat je kunt integreren. Dus eigenlijk alles wat daarin ontwikkeld wordt, is open, toegankelijk, en benaderbaar door andere systemen en daarmee ook integreerbaar. Dus als innovatieproject kun je binnen je bedrijf kijken wat er mogelijk is met je al bestaande Knowledge Graphs en ChatGPT.”
Wanneer je als bedrijf een goedwerkende chatbot hebt en je overweegt over te stappen op zo’n nieuw model om te kijken of het je verder brengt. Welke rollen heb je dan in je team nodig? Wat voor soort mensen gaan dit bouwen?
“Daar ben ik ook een beetje over aan het nadenken. Ik denk zeker dat je mensen nodig hebt die data snappen maar ook die de wereld snappen. Taalkundigen en taxonomiebouwers zijn mensen die gewend zijn om dingen te categoriseren en metadata te definiëren. Daarnaast is het belangrijk om iemand te hebben als een soort van ambassadeur, want dit zijn grote projecten. Als bedrijf moet je niet willen dat één afdeling dit doet. Het moet een groter podium hebben voordat het ook rendement oplevert. Ook een goede businessanalist die kan onderzoeken waar de waarde zit is heel belangrijk, evenals techneuten om het te bouwen.”
Er is nog wel wat werk aan de winkel om het werkelijk toe te passen.
“Zeker, maar het leuke is dat het nu nog gratis toegankelijk is. Ik verwacht dat het binnen niet al te lange tijd wel achter een paywall verdwijnt, maar je kan er nu nog zelf bij. Het is zo laagdrempelig op dit moment dat je zelf aan de slag kunt. Het is echt fascinerend.”
Wat wil je meegeven aan mensen die werkzaam zijn of starten binnen Conversation Design?
“Blijf leren, want het vak verandert waar je bij staat. Het zou mij niet verbazen als de wereld van Conversation Design zoals we die nu kennen er over twee jaar totaal anders uitziet. Dat is niet iets om bang voor te zijn. Zorg wel dat goed weet wat er om je heen gebeurt en zoek elkaar op zodat je ook gebruik kunt maken van elkaars kennis en daar verder in kunt groeien.”