Interview met prof. dr. Pim Haselager

Interview met prof. dr. Pim Haselager, hoogleraar bij het Donders Institute for Brain, Cognition, and Behavior (afdeling Kunstmatige Intelligentie) aan de Radboud Universiteit in Nijmegen. Zijn leeropdracht betreft de maatschappelijke implicaties van Kunstmatige Intelligentie en neurotechnologie.

 

Kun je iets vertellen over je achtergrond en interesse in AI?

Van huis uit ben ik psycholoog (Vrije Universiteit) en filosoof (Universiteit van Amsterdam). Ik zou ooit natuurkunde gaan studeren, maar was tijdens het schaken gefascineerd geraakt door ons vermogen om te denken en wilde begrijpen hoe dat werkte. Binnen de psychologie en neuroscience vond ik het doen van empirisch onderzoek belangrijk, het onderzoeken hoe de bedrading werkt, wat neuronen doen. Tegelijkertijd hoorde ik over computermodellen en waren er bij filosofie enkele docenten die vanuit de wetenschapsfilosofie naar die modellen en AI keken. Die filosofische en (neuro)psychologische kanten vond ik een mooie combinatie. En toen ben ik later in Nijmegen terecht gekomen bij de opleiding Cognitiewetenschap die vervolgens over ging in de opleiding Kunstmatige Intelligentie. In het begin waren we helemaal niet zo groot, want niemand wist wat AI was, maar inmiddels loopt het de spuigaten uit en kunnen we het aantal studenten nauwelijks aan.

Het is momenteel natuurlijk een enorme hype. Het voegt ook allerlei niet-wetenschappelijke aspecten toe, waaronder geopolitiek en commerciële zaken. Hoe zorgen we er nu voor dat we die technologie gecontroleerd gaan inzetten? Daar wordt nu te weinig aandacht aan besteed, omdat er te veel haast is en te veel geld mee gemoeid is. Er is een Keltisch feest waarbij ze als ritueel een wiel in de brand steken en dat wordt de heuvel afgerold om in de rivier terecht te komen. Wat we nu met AI aan het doen zijn, is eigenlijk dat we zo’n wiel hebben gemaakt en in de hens hebben gestoken, ondertussen hebben we er vuurpijlen aan bevestigd en ook nog wat cirkelzagen en nu laten we dit naar het dorpsplein rollen en zien we wel of het goed afloopt.

 

Wat zijn op dit moment volgens jou de grootste risico’s of gevaren waar we ons als psychologen bewust van moeten zijn als we gaan werken met AI?

Ik ben zoals ik dat zelf altijd zeg “professioneel paranoia”. Als ik nadenk over technologie dan wil ik nadenken over de gevaren ervan. Niet om “nee” te zeggen tegen die technologie, maar om te bedenken hoe je daar verstandiger mee omgaat. Een gewaarschuwd mens telt voor twee. Ik wil de risico’s graag opdelen in risico’s voor zorgontvangers, zoals patiënten/cliënten, en de zorgverleners, zoals psychologen.

Zorgontvangers

Risico op ondermijning van de eigen autonomie

We hebben onderzoek gedaan naar technologie die in huis kan ondersteunen bij dagelijkse bezigheden, bijvoorbeeld bij ouderen. Die technologie kan je dan helpen herinneren aan een afspraak of wanneer je moet eten. Dat is heel mooi en kan autonomie ondersteunend zijn, maar het gevaar van dat soort systemen is dat het ook autonomie kan ondermijnen. Zorgverzekeraars kunnen dan bijvoorbeeld gaan meedenken over wat je eet of drinkt. Mijn persoonlijke nachtmerrie is een ijskast die weigert open te gaan omdat ik al 2 biertjes gedronken heb. Met andere woorden: wie bepaalt wat de richtlijnen zijn voor gezond leven? Ondersteuning kan manipulatie worden. Er bestaat zoiets als zelfdeterminatie. Dus hoe ontwikkel je een systeem dat die zelfdeterminatie zoveel mogelijk ondersteunt?

Impact op cognitieve ontwikkeling en sociale vaardigheden

Iets anders fundamenteels wat we nu heel erg zien, zeker bij de jeugd,  is de neiging om alles te bespreken met een chatbot en die chatbot te zien als je “bestie”. Er zijn onderzoeken die aangeven dat kinderen, pubers of jongvolwassenen zich vaak veiliger voelen bij een chatbot dan bij andere mensen. Maar wat doet dat met je cognitieve ontwikkeling en je sociale vaardigheden? Het effect op onze cognitieve weerbaarheid of sociale interactie kan enorm zijn.

Risico van verslaving

Chatbots zijn vaak gezelliger dan radio of tv. Ze zeggen altijd iets terug en vaak precies wat je wilt horen. Die chatbot vindt jou altijd geweldig. Ik heb weleens geprobeerd ruzie te zoeken met een chatbot, onmogelijk. Alle negatieve dingen die ik over de chatbot zei, vond de chatbot weer scherp geformuleerd, dat had ik goed gezien. Zo zijn chatbots ook ontworpen. Dat is om ons te exploiteren. Onze tijd is hun verdienmodel. AI en chatbots kunnen daarmee een vorm van verslaving worden. Dus daar moet je paal en perk aan stellen, je moet als samenleving mensen daarin beschermen. We hebben ook snelheidsborden of een veiligheidsdop op bleekmiddel.

Zorgverleners

Automation bias en risico op vaardigheidsverlies

De mens als soort is over het algemeen liever lui dan moe. Denken doet zeer, denken kost energie. Als je dingen cognitief kunt offloaden dan maakt dat het leven makkelijker. Zo werkt het ook met AI. Hoe meer wij onze complexe denkprocessen kunnen uitbesteden aan iets anders hoe liever we dat willen. Medische besluitvormingsondersteunende systemen (decision support systems) komen dan met een suggestie voor een diagnose of behandeling. De eerste keer ben je wellicht nog geneigd dit te controleren, maar na de honderdste keer of op vrijdagmiddag zo vlak voor het weekend zijn we toch sneller geneigd maar te vertrouwen op wat AI zegt. Dat is net als met zelfrijdende auto’s. Aanvankelijk zit je heel oplettend je handen nog aan het stuur te houden en je ogen op de weg, maar na honderden kilometers ga je het systeem vertrouwen en is het ook wel handig om tegelijkertijd iets anders te kunnen doen. Dit beïnvloedt op termijn je vaardigheden; je wordt geen betere chauffeur in een zelfrijdende auto. Dus hoe meer je gaat leunen op AI, hoe meer je je eigen capaciteiten ondermijnt. Het brein is een spier: use it or lose it.

Juridische verantwoordelijkheid

De AI-wetgeving zegt dat er sprake moet zijn van effectief menselijk overzicht. Dat betekent dat als er iets fout gaat mensen niet naar de machine kijken, maar vooral naar jou, want jij bent als mens verantwoordelijk. Jij zit daar om de klappen op te vangen. En dat werkt ook weer beide kanten uit. Niet alleen wanneer je een foutieve suggestie van AI hebt opgevolgd, maar óók als je ingaat tegen een aanbeveling van AI en je blijkt het zelf fout te hebben en AI zat juist goed. Dan heb je dubbel zoveel uit te leggen, want AI zei toch dat het A was, dus hoezo zeg jij dan B. Je maakt jezelf als mens dus kwetsbaarder door tegen het systeem in te gaan. Dat is een grote uitdaging voor organisaties en directies. Als je AI gaat introduceren in je besluitvormingsketen dan moet je ook heel goed nadenken en duidelijk hebben voor de professionals hoe verantwoording geregeld is. Alle professionals moeten weten hoe zij verantwoording kunnen afleggen die legitiem maakt waarom ze gedaan hebben wat ze gedaan hebben in afwijking van AI. Als je dat niet specificeert als organisatie vind ik dat je AI eigenlijk nog niet mag inzetten.

Privacy en geopolitiek

Als je patiëntengegevens invoert in een prompt waar gaat dat dan naar toe? Bij welke servers komt dit terecht? Als je AI tijdens een gesprek laat meetypen dan betekent het wel dat je voortdurend wordt afgeluisterd. Wie heeft eigenlijk toegang tot die gesprekken en hoe kan dit misbruikt worden?

Hierin speelt de geopolitieke discussie ook een rol. Hoe afhankelijk maken wij onszelf van datacentra en servers in andere landen, zoals de VS? Hoe kwetsbaar maak je jezelf daarmee voor de grillen van de politieke leiders van zo’n land?

Overige zorgen

Als ik op de universiteit een onderzoek wil doen dan moet ik langs de Medisch Ethische Toetsing Commissie. En nu experimenteren we op wereldschaal met de geestelijke gezondheid van mensen. Dat is toch raar. Daarom ben ik wel blij met de Europese wetgeving. Het is goed dat we een soort van kader hebben om de ernstigste uitwassen te vermijden.

Mensen hebben ook de illusie dat ze met AI hun werk sneller gedaan krijgen en tijd over houden. Maar dat is natuurlijk ook maar tijdelijk. Want als je efficiënter gaat werken dan moet je van je baas vanzelf ook meer gaan doen.

 

Als er zoveel risico’s zijn, heeft het dan wel zin dat we binnen ons werkveld de mogelijkheden van AI verkennen? Kunnen we daar niet beter mee stoppen? 

Nee, ik geloof echt dat het goed is om AI te onderzoeken, uit te proberen op een veilige manier en te kijken naar wat het zowel biedt aan mogelijkheden als gevaren. Dit is geen technologie die je zomaar kunt negeren. Je moet wel écht goed nadenken over wat je doet, maar juist daarom is het ook belangrijk om dat juist NU te doen. Homo sapiens is heel goed in het bedenken van nieuwe technologie en heel slecht in het verstandig gebruik maken ervan. Bij auto’s heeft het 70 jaar geduurd voordat we de problemen als files en milieuvervuiling serieus begonnen te nemen. We moeten in verband met AI er veel eerder bij zijn. We zijn nu eigenlijk al heel erg laat. Ik vind het ook belangrijk om dit te verweven in de educatie aan jongere generaties. Je moet hen ook bij die discussies betrekken. Je moet dit intergenerationeel oppakken.

 

Waar zie jij momenteel de kansen binnen ons werkveld?

Zorgverleners moeten vaak veel rapportage doen ten koste van daadwerkelijke patiëntenzorg. Die administratie kan natuurlijk voor een groot deel worden overgenomen. Dat maakt al heel veel uit. Maar je rapportages aan een arts zijn bijvoorbeeld ook van een ander niveau dan een rapportage aan een patiënt. En tussen patiënten onderling kunnen ook weer grote verschillen zitten in taalbegrip op basis van bijvoorbeeld intelligentie of land van herkomst. Maar ook vanuit culturele aspecten kun je bepaalde terminologie niet altijd rechtstreeks gebruiken, want soms kan dat schokkend overkomen. Daar zou AI goed bij kunnen helpen.

 

Waar zouden we absoluut de grens moeten trekken binnen ons werkveld?

Bij complexere zaken waarbij het gaat om duiding, interpretatie, begrip en empathie, snappen wat er aan de hand is. Dat is een fundamentele zwakke plek van AI en op dit vlak moeten we de rol van AI geminimaliseerd houden. AI kan wel woorden achter elkaar plakken, maar begrijpt niet waar die woorden over gaan. Mensen vatten de betekenis van woorden, maar computers niet. Er zijn voorbeelden bekend waarbij gedachten en gevoelens door de chatbot als een soort van echokamer steeds verder versterkt werden en uiteindelijk hebben geleid tot zelfmoord. Of waarbij iemand uitspreekt morgen zelfmoord te willen gaan plegen en van de chatbot als reactie krijgt “well, I hope you enjoy the experience”. Dat is voor kwetsbaren heel riskant.

 

Heb je nog een slotboodschap? Iets wat je mee zou willen geven?

Ik denk dat het heel erg belangrijk is voor professionals om hun stemmen te laten horen in de discussie rondom verantwoord gebruik van AI. Wat wil je als professional nou liever uitbesteden aan AI en wat vooral ook niet? Geef dit niet uit handen aan AI-bedrijven, de directie, de zorgverzekeraars etc. Voer hierover zelf de discussie binnen de organisatie waar je werkt en betrek jezelf bij onderzoek. Dat is cruciaal.