“We proberen AI menselijk gedrag bij te brengen”

Foto Gerd Altmann (Pixabay)
22 - 06 - 2021 ► 13:26



Kunstmatige intelligentie is in opkomst. Het maakt steeds meer deel uit van onze samenleving. Zo kun je Siri vragen een goed restaurant voor je op te zoeken. Stephan Raaijmakers is bijzonder hoogleraar Communicatieve AI aan de Universiteit Leiden en legt uit wat het precies inhoudt. 

“Artificial Intelligence (AI) richt zich op het nabootsen van menselijke intelligentie, en het uitvoeren van taken waar zulke intelligentie voor nodig is. Voorbeelden hiervan zijn het nemen van complexe beslissingen, herkennen van objecten in beeld en het interpreteren van tekst en spraak. AI leert een voorspellend model uit voorbeelddata en maakt daarbij gebruik van complexe, technische architecturen.

Neurale netwerken (deep learning) domineren nu de AI. Deze netwerken zijn geïnspireerd door het menselijk brein. Ze zijn over het algemeen voor de mens lastig te begrijpen. Wel kunnen er nuttige analyses mee uitgevoerd worden.

Om AI effectief met de mens te laten samenwerken, zijn er communicatieve interfaces nodig. Dit gebeurt bijvoorbeeld via natuurlijke taal (tekst of spraak), grafische interfaces, of een combinatie hiervan. Communicative AI (CAI) onderzoekt welke interfaces en communicatievormen voor welke gebruikers en omstandigheden het meest geschikt zijn. We proberen daarbij de AI echt menselijk communicatief gedrag bij te brengen.

Het idee is dat AI en de mens gezamenlijk tot een oplossing en wederzijds begrip komen. We zoeken naar toepassingen die verder gaan dan Siri of Google Now: de ‘chatbots’ van de nieuwe generatie, waar een echt gesprek mee gevoerd kan worden.”

Wat is de toegevoegde waarde van CAI voor de maatschappij?

“We zien dat met name de op deep learning-gebaseerde AI de mens in veel toepassingen voorbijstreeft. Een voorbeeld hiervan is het diagnosticeren van ziektebeelden in medische data. Ook het herkennen van spraak in ruizige omstandigheden doet AI beter dan de mens.

Tegelijkertijd is er nog weinig inzet van AI in precies die situaties waar AI beter scoort dan de mens. Dit heeft deels te maken met het ‘black-box’ karakter van AI. Het wordt vaak niet begrepen.

Communicatieve AI kan bijdragen aan het vergroten van het vertrouwen in AI, en daarmee de nadruk op begrijpelijkheid iets verminderen. Verder kunnen communicatieve interfaces een hoop bedrijfsprocessen ondersteunen. Voorbeelden hiervan zijn het boeken van een reis, of een robot die een brandend huis in gaat en communiceert met de brandweer buiten.

AI kan mogelijk ook bijdragen aan het hanteerbaar maken van grote problemen voor de mensheid. Denk aan milieu, klimaat en gezondheid. Uiteraard is het aan de mens om die eventuele door AI voorgestelde oplossingen dan ook echt te benutten. Ook daarbij speelt communicativiteit een rol.”

Zijn er ook eventuele gevaren aan CAI? 

“Een van de gevaren bij AI is adaptiviteit. AI leert doorgaans uit voorbeelden. In extreme gevallen kan dit zich ontwikkelen in een ongewenste richting, en dan kan de AI ontsporen.

Het bekendste voorbeeld hiervan is de Twitter chatbot Tay van Microsoft. In een paar dagen na de lancering ontwikkelde een coöperatieve chatbot zich tot een racistische entiteit. Het systeem leerde van kwaadwillende Twitteraars. Het is kort daarna offline gehaald.

Hier speelt een biasprobleem op. We moeten er zeker van zijn dat de voorbeelddata waar de AI op getraind wordt biasvrij is, en dat de algoritmen zelf geen bias hebben. Goede checks bij AI en de mens zijn dus heel belangrijk.

Communicativiteit kan een rol spelen bij het beheersbaar maken van AI. Het aangaan van een dialoog met een AI-systeem kan veel duidelijk maken.”

Lisa Pieters



Geen reacties mogelijk.

artikelen van Lisa Pieters:
“We proberen AI menselijk gedrag bij te brengen”
Onderwijssucces door drie jaar brugklas
Sociaal krediet in China: hoe het echt zit