‘Waarom krijg ik juist dit boek aanbevolen?’ Het is een logische vraag die Boekbot-appgebruikers stellen. Binnen het onderzoeksproject Verantwoorde AI in de bibliotheek (VAIB) doet TU/e-postdoconderzoeker Tiffany Matej Hrkalovic hier onderzoek naar. Zij kijkt naar de interactie tussen bibliotheekbezoekers, appgebruikers en Boekbot. Haar doel is duidelijk: ze wil dat na haar onderzoek gebruikers nog meer tevreden zijn over Boekbot én dat ze beter begrijpen hoe AI werkt. Tiffany deelt haar eerste onderzoeksresultaten.
De nadruk op transparantie en de vraag wie verantwoordelijkheid draagt voor AI-systemen wordt steeds groter door wetgeving van de Europese Unie. ‘Makers van AI-systemen werken vaak met black boxes. Maar het is één ding om te bouwen, het is iets anders om ook verantwoordelijkheid te nemen voor de antwoorden die eruit komen. Dan is ‘wij weten het ook niet precies’ niet het juiste antwoord’, begint Tiffany. Naast dat de wetgeving hier behoefte aan heeft, geldt dat ook voor gebruikers. Iets waar Tiffany meteen enthousiast over was toen ze aansloot bij Boekbot. ‘Als onderzoeker met een achtergrond in psychologie vind ik vooral de gebruiker belangrijk. Ik wil dat mensen begrijpen wat er gebeurt, zodat ze uiteindelijk zelf de controle houden.’
Dus was het een logische stap om voor het eerste deel van haar onderzoek in gesprek te gaan met die gebruikers. Ze organiseerde open gesprekken met verschillende groepen bibliotheekbezoekers, zonder vaste vragenlijsten vooraf. ‘Je kijkt eerst of het probleem dat je denkt te zien, ook echt bestaat. Want alles wat we in dit project doen, is uiteindelijk gericht op de gebruikers.’ De gespreksdeelnemers gingen tijdens de sessie zelf aan de slag met Boekbot, zodat ze hun ervaringen konden delen.
Persoonlijk
Uit die gesprekken kwam meteen één duidelijke behoefte naar boven: gebruikers willen weten waarom een boek wordt aanbevolen. ‘Ze willen het gevoel krijgen dat Boekbot de vraag begrijpt en hun voorkeur serieus neemt. Dat vraagt om een reactie als: “Je vraagt om een sciencefictionboek met een romantische ondertoon. Daarom raad ik je dit boek aan.” Zeker fanatieke lezers willen dat Boekbot reageert alsof het een gesprek is, zodat de boekaanbeveling persoonlijk voelt.’ Ook willen gebruikers weten waar die aanbeveling vervolgens vandaan komt. Komt het uit het systeem dat de bibliotheekcatalogus gebruikt? Is het gebaseerd op online boekentips? ‘Die transparantie geeft vertrouwen’, zegt Tiffany.
Uitvoerbare oplossingen
Nu de uitkomsten van het eerste onderzoeksdeel duidelijk zijn, is het tijd voor de volgende stap: Boekbot zichtbaar transparanter maken, terwijl de app al in gebruik is. ‘Daarom leg ik verschillende aanpassingen voor aan de Boekbot-collega’s en mijn wetenschappelijk begeleider. Samen kijken we naar de uitvoerbaarheid. Er zijn namelijk genoeg voorbeelden van mensen met goede bedoelingen die toch een slecht product maken. Dat wil ik voorkomen’, lacht ze. ‘En het leuke is: die combinatie van wetenschappelijke kennis met creativiteit levert goede en praktische oplossingen op.’
En juist daarom werkt Tiffany met zoveel plezier aan het onderzoek. ‘Ik vind het geweldig. Het gebeurt niet vaak dat je met onderzoek de hele cirkel mag meemaken: aan een AI-systeem werken, met de gebruikers praten, oplossingen bedenken en die weer implementeren.’ De komende maanden doorloopt ze de andere fases van haar onderzoek met als eindpunt: een tevreden gebruiker die vindt dat een aanpassing echt hielp én een gebruiker die beter begrijpt hoe een AI-systeem werkt. ‘En dan bedoel ik niet Boekbot alleen, we moeten blijven werken aan AI-geletterdheid. Het gaat erom dat we mensen helpen AI beter te gebruiken.’Ben je benieuwd naar de rest van Tiffany’s onderzoek? Na het afronden van elk onderzoeksdeel geeft Tiffany weer een update. Houd www.biebvandetoekomst.nl dus in de gaten!
Geef een reactie