Laten we anders praten over AI: Voorbij Hallucinaties en de Terminator. 

Waarom heeft Hollywood ervoor gezorgd dat gesprekken over AI lastig zijn geworden? En waarom is het voor techbedrijven voordelig om een taalmodel dat incorrecte informatie geeft hallucinaties te noemen? Deze week schrijf ik een artikel over hoe de termen die we gebruiken als we het over AI hebben vaak afleiden van waar het eigenlijk om zou moeten gaan: technologie op een manier inzetten die nuttig is voor de samenleving.

Een afbeelding van een T800 Terminator zoals die ook in de Terminator Trilogy voorkomt.

Discussies over kunstmatige intelligentie (AI) kenmerken zich vaak door een algemene benadering, met een focus op AI in brede termen. Opmerkelijk genoeg domineert de neiging van mensen om AI menselijke eigenschappen toe te schrijven, zoals het omschrijven van fouten in generatieve modellen als ‘hallucinaties’. Hoewel dit AI mogelijk herkenbaarder en begrijpelijker maakt, leidt het vaak af van de daadwerkelijke maatschappelijke impact van AI en algoritmes.

Menselijke samenwerking excelleert van nature, gedreven door een brein dat afgestemd is op het herkennen van emoties. Het zien van een huilende baby wekt een verzorgingsinstinct op, terwijl een puppy algemeen als schattig geldt. Dergelijke instinctieve reacties op emoties verankeren zich diep in de menselijke natuur. In de entertainmentwereld wordt AI vaak afgebeeld als een mens met bepaalde gekke karaktereigenschappen. In 1984, deels vanwege de kosten en deels vanwege de beperkingen in de kwaliteit van stop motion animaties, koos men in een film als ‘The Terminator‘ voor acteur Arnold Schwarzenegger om AI uit te beelden.

Maar wat is dan wel de juiste manier om over AI te praten? Edsger Dijkstra, een computerwetenschapper, zei ooit: “De vraag of een machine kan denken is even irrelevant als de vraag of een onderzeeër kan zwemmen.” Dit is een relevante opmerking in de context van AI. Een onderzeeër is uiterst nuttig om onderwater van A naar B te gaan zonder gezien te worden. Maar of het gaat om varen of zwemmen is eigenlijk niet relevant. Wanneer het gaat over kunstmatige intelligentie neigt het gesprek vaak snel naar vragen als “Wat is intelligentie?” en “Is het al zelfbewust?”. Vragen waarvan het antwoord bij mensen vaak al lastig vast te stellen was. Hoewel de komst van nieuwe vormen van AI kan helpen betere antwoorden te geven op deze vragen dan mogelijk is met natuurlijke taal, vind ik het belangrijker om te spreken over specifieke vormen van AI en hoe deze nu al daadwerkelijk invloed hebben op onze wereld. Denk aan aanbevelingssystemen die geoptimaliseerd zijn voor winstmaximalisatie en die informatiestromen in de samenleving verstoren. Of aan fraudeclassificatie algoritmen bij de overheid die verkeerd zijn ingesteld en discriminatie veroorzaken. Of aan generatieve AI-modellen die materiaal gebruiken dat auteursrechtelijk beschermd is.

Bij de discussie over fraudedetectie-algoritmes die discrimineren binnen overheidsinstanties, leidt het debat over de definitie van AI of algoritmen vaak af van het cruciale onderwerp: discriminatie. Discriminatie is onacceptabel en ongrondwettelijk, ongeacht of het door mensen of machines wordt uitgevoerd. Het is van essentieel belang om ons te concentreren op het voorkomen van vooroordelen in algoritmische besluitvorming en te waarborgen dat de systemen die we inzetten rechtvaardig en onpartijdig zijn. Deze discussie zou zich op ethiek en rechtvaardigheid moeten richten, niet op technische definities. Demissionair minister Dijkgraaf greep bij DUO in toen bekend werd dat het algoritme studenten met een migratieachtergrond vaker liet controleren dan anderen. Naar mijn inzien een goede reactie. Een andere mogelijke reactie was geweest om in gesprek te gaan wie er verantwoordelijk is, en of een algoritme verantwoording kan dragen. Hoewel dat een interessant gesprek is, doet het niet onder aan het feit dat er werd gediscrimineerd. De stekker eruit trekken en opnieuw beginnen was dus beter dan verstrikt raken in abstracte begrippen en ambtelijk jargon.