Matthew Noe: Amerikaanse blik op AI in de bibliotheek

Matthew Noe is op verschillende manieren actief geweest binnen de American Library Association en al jaren betrokken bij Graphic Medicine. Graphic Medicine is het snijvlak tussen stripboeken en het zorgsysteem. Het interview beschrijft een Amerikaans perspectief, niet alle ontwikkelingen zijn op dit moment actueel in Nederland.

Ik volg je op BlueSky en uit je berichten begrijp ik dat je tegen het gebruik van AI in openbare bibliotheken bent, om algemene redenen (zoals de manier waarop bedrijven als OpenAI hun data hebben verzameld, het energieverbruik), en meer bibliotheekspecifieke redenen (zoals de onbetrouwbaarheid van Generatieve AI (GenAI: een vorm van kunstmatige intelligentie die in staat is om nieuwe content te genereren op basis van bestaande data). Zou je iets meer kunnen uitleggen over dat laatste?

“In theorie werken onze bibliotheken op basis van een gedeelde set kernwaarden en gedeelde professionele ethiek; in de VS is dit vastgelegd in de documenten ALA Core Values en ALA Code of Ethics  Een deel van deze waarden hebben specifiek betrekking op het gebruik van GenAI in de bibliotheekpraktijk. Neem bijvoorbeeld twee onderdelen van onze Code of Ethics: We behoren de hoogste kwaliteit van dienstverlening aan onze bezoekers te bieden, en we moeten prioriteit geven aan accurate, onbevooroordeelde informatiebronnen. Maar GenAI-tools zijn niet gebouwd om vragen te beantwoorden; ze zijn gebouwd om de meest waarschijnlijke stukjes informatie te vinden en die te leveren, vaak met de schijn dat ze een vraag beantwoorden. De data waarop ze zijn getraind, zit bovendien vol ingebouwde vooroordelen. We kunnen geen hoge kwaliteit van dienstverlening leveren als we het werk overlaten aan chatbots, en we kunnen geen accurate informatie bieden als we tools aanraden die geen idee hebben wat accurate informatie überhaupt betekent.”

Wat is het grootste gevaar van het gebruik van AI in bibliotheekdiensten, bijvoorbeeld met betrekking tot hoe we klanten kunnen helpen bij het doorzoeken van onze collecties?

“Voor mij is het grootste directe gevaar hetzelfde als we bij elke zogenaamd “tijdwinnende” technologie zien: een afname van het aantal bibliotheekmedewerkers. Beweringen dat deze tools ons zouden helpen ons werk beter te doen, dat we sneller en efficiënter zouden zijn, zijn deels waar. Maar het gaat altijd, altijd, gepaard met minder personeel. Wat GenAI verder ook is, het is zonder twijfel een middel dat politiek en bestuur argumenten biedt om het personeelsbestand te verkleinen.

Je noemde het doorzoeken van de catalogus in je vraag. Als we AI laten bepalen hoe boeken gecatalogiseerd moeten worden, dan zitten we binnen de kortste keren met catalogi vol vooroordelen. Op dit moment weten we in de VS dat sommige van deze tools zijn ontwikkeld door individuen en bedrijven die tegen de rechten van queer-personen zijn, bijvoorbeeld. Wat gebeurt er als zulke tools mogen bepalen of een boek voor een jong publiek op een plek terechtkomt waar dat publiek het kan vinden of juist niet? Voorstanders zullen zeggen: “natuurlijk laat je een mens het controleren!” Maar is dat echt het scenario waar we in terecht gaan komen? Ik betwijfel het.

Laatste punt. Ik denk dat er een zorg is op de langere termijn die we minstens moeten benoemen: bibliotheken, en bibliotheekmedewerkers, behoren wereldwijd tot de meest vertrouwde instellingen en beroepsgroepen. Zal dat zo blijven als we ons gaan richten op een technologie waarvan we weten dat die onbetrouwbaar is? Bibliotheken wereldwijd kampen al met flinke bezuinigingen, en dat is iets dat bij elke gehypete technologie lijkt te versnellen. Wat gebeurt er als we het vertrouwen verliezen?”

Wat denk je dat de schade aan ons publieke imago kan zijn als we GenAI gaan implementeren in onze diensten en processen?

“We lopen ook het risico dat we niet langer worden gezien als behulpzaam, als een plek waar iedereen welkom is en waar toezicht in elk geval minder aanwezig is. Als ik als bezoeker naar de bibliotheek ga, verwacht ik met echte mensen te praten, hulp te krijgen van iemand die een praatje maakt en samen met mij nadenkt over het probleem. Als ik plotseling wordt doorgestuurd naar een serie chatbots, zoals je krijgt bij de meeste klantenservices van bedrijven, dan zal ik veel minder plezier beleven aan het bezoek en misschien zelfs minder geneigd zijn om te komen. Onze expertise, onze ervaring en ons menselijk vermogen om meerdere perspectieven te zien en een beslissing te nemen die past bij onze lokale gemeenschap is essentieel en kan niet worden vervangen door GenAI.”

Bibliotheken in de VS staan momenteel onder druk, dat dringt ook in Europa door. Kun je iets zeggen over de relatie tussen AI en de bedreigingen voor de bibliotheken?

“Ik snap jullie zorgen in Europa, want ik denk niet dat dit begon bij of zal eindigen met bibliotheken in de VS. Je hebt misschien op sociale media opmerkingen gezien dat AI een autoritair project is, en daar ben ik het volledig mee eens. De manier waarop deze tools je in staat stellen om normen te versterken die jij belangrijk vindt, de manier waarop het autoriteit en expertise kan nabootsen die het niet bezit, en de geforceerde invoering in naam van ‘vooruitgang’, het zijn allemaal dingen die je zou verwachten van mensen die de samenleving willen domineren. En we hebben al gezien dat het wordt ingezet om bibliotheken schade toe te brengen. We weten al dat groepen die boeken aanvallen, ChatGPT hiervoor hebben ingezet. We hebben gezien hoe bestuurders van schooldistricten en rechtse activisten deze tool gebruiken om boeken te genereren die ze willen verbieden, hun “rechtvaardigingen” te schrijven en anderen voor hun doelen te mobiliseren. Zulke gerichte aanvallen, specifiek op boeken door of over mensen van kleur en queer-personen, blijven toenemen, en de daders zetten deze technologie in om lokale districten te overspoelen, in de hoop dat die de werklast niet aankunnen.

Een gedachte-experiment dat ik soms doe, is me een wereld voorstellen waarin we de grootste problemen met GenAI hebben opgelost. Het verbruikt geen water meer, is niet meer gebouwd op gestolen data en spuugt geen vooroordelen meer uit (nou ja, minder dan voorheen). Dan stel ik mezelf de vraag: ‘Ben ik nu wél okay met deze technologie?’ Het antwoord blijft: ‘eigenlijk niet’. Want in dat denkbeeldige scenario blijft de wereld een plek met arbeidsproblemen, blijft efficiëntie betekenen dat we de menselijke controle en dienstverlening opgeven, de persoon die een beslissing neemt in plaats van de machine. Als je per se GenAI wilt gebruiken, dan moet je een van de oudste regels uit de computerwereld toepassen: machines mogen geen beslissingen nemen. Alleen mensen mogen dat.”

Verboden boeken

Wil je meer weten over verbannen boeken? Probiblio organiseert van 22 tot 28 september de Week van het Verboden Boek. Lees meer en doe mee.

De Lonkende Leestafel is de community van ondernemende bibliotheekprofessionals. In deze interviewreeks gaan we in gesprek met avontuurlijke types.