Ik lees NOS.nl vrijwel elke dag. Maar af en toe krab ik me achter de oren bij hun IT-artikelen. Zo nu weer met dit artikel.
Het ding is, AI is geen pure "black box", al voelt het voor leken vaak wel zo. En AI is geen "onbeheersbare macht". AI is in de basis een systeem dat met waarschijnlijkheden patronen herkent en toepast, onder andere om menselijke taal te begrijpen en te genereren.
AI is een term waar we bijna fysiek kokhalsneigingen van krijgen. We weten het nu wel. Maar toch blijkt dat veel mensen het nog niet begrijpen. Dan is het goed om te weten dat het allemaal niet zo magisch is als het lijkt. Verre van zelfs.
Even kort, maar wel de diepte in
Ik ga heel kort heel diep, dus hou je vast. Maar dan hebben we dat deel ook gehad. Het zit zo, AI is geen black box in de zin dat er geen inzicht of controle is over het systeem als geheel. Integendeel, op systeemniveau is er veel controle. AI is een parapluterm voor heel veel vormen. En belangrijker nog, AI wordt gestuurd door keuzes van makers, via data, modelarchitectuur en beperkingen die ze inbouwen. Dat begint al bij de data waarmee je het traint en loopt door tot de code en configuratie die bepalen hoe het zich gedraagt.
Die “enge stoomtrein” is vooral framing
AI wordt nu neergezet als de enge stoomtrein uit 1800, die met donderend geraas langsraast en bijna duivels is. Mensen hebben altijd moeite gehad met abrupte veranderingen. Maar zo impactvol is het niet eens. In 2018 maakten softwareschrijvers al NLP voor input en NLG voor output. Voor wie dat niet kent, NLP probeert menselijke taal te begrijpen en NLG probeert menselijke taal te genereren als antwoord.
De reden is simpel. Mensen communiceren met computers in taal. En NLP en NLG zijn manieren om een oude roestbak zoals een computer, met al zijn nullen en enen, iets te laten begrijpen en terug te laten praten op een manier die voor mensen logisch voelt.
De buitenkant versus de binnenkant
Maar dat is slechts de interfacing-laag, in lekentaal de buitenkant. Van binnen werkt het grotendeels nog hetzelfde in de zin dat het draait om data, modellen en code. NLP en NLG zijn de buitenste schil zodat een computer beter met mensen kan praten. Intern wordt AI gestuurd door een combinatie van aangeleerde patronen en door mensen ingestelde beperkingen en kaders.
In de praktijk bestaan er allerlei vormen van routing en sturing, die bepalen hoe invoer verwerkt wordt en hoe een antwoord tot stand komt. Afhankelijk van het systeem kan invoer langs verschillende onderdelen gaan, of direct door één model worden verwerkt tot een antwoord. Daarna gaat er een laag “poedersuiker” overheen om het om te zetten in een zin die voor mensen prettig leest.
Maar die laag is alleen voor jou als gebruiker. Die bepaalt de feiten niet. De inhoud van zo’n antwoord komt voort uit getrainde modellen, data en code, en dus uiteindelijk uit keuzes van mensen.
De mythe van de black box
Lang verhaal kort, het is geen ondoorgrondelijke magie, maar ook geen volledig transparant systeem op detailniveau. Die mediaterm is populair geworden omdat hij lekker eng klinkt. Maar er is niets mystieks aan. Het lijkt een beetje op hoe mensen “geluk” definiëren. Wat ze niet begrijpen, noemen ze geluk. In werkelijkheid zijn er vaak gewoon meer factoren dan ze zelf kunnen overzien of doorrekenen.
Waar het wél mis kan gaan
Wat men echt moet begrijpen, is dat programmeurs en hun leidinggevenden keuzes maken. Moet een AI medisch advies geven? Nee, natuurlijk niet. Nooit zelfs. Als jij intikt “heb ik geelzucht of falen mijn nieren?”, dan kan een computer niet even meten wat er echt met je aan de hand is. Daar heb je een arts voor nodig, met opleiding, ervaring en fysieke tests.
Net zo goed als dat je AI niet moet vragen of het behang in je slaapkamer mooi is. Dat is deels een gebruikersprobleem, AI kan niet in je slaapkamer kijken. Maar ook een programmeurprobleem, waarom laat je een AI daar überhaupt op antwoorden?
De echte verantwoordelijkheid
Er is geen magische black box die alles bepaalt. Er is een gebrek aan zinnige keuzes, door gebruikers en door programmeurs. En de marketeers boven die programmeurs zijn misschien nog wel het meest schuldig. Vertel mensen niet dat AI magie is. Dat is het niet. Het is wiskunde.
AI heeft absoluut nut. Maar hoe AI tot antwoorden komt, hangt af van de data die je invoert, de vrijheid die mensen het geven en de gecontroleerde systemen erachter. De data en randvoorwaarden worden door mensen bepaald, en daarmee kun je het gedrag van een AI in grote lijnen sturen.
Je kunt een AI prima africhten als een brave hond. Gevaarlijke AI ontstaat alleen als incompetente mensen het ontwerpen of verkeerd inzetten.
Tot slot
Mijn punt is simpel. Het is te makkelijk om AI eng te vinden, terwijl wat de meeste mensen zien vooral een systeem is dat zinnen genereert op een manier die lijkt op een gesprek. De inhoud in die zinnen komt uit achterliggende technieken die op systeemniveau beheersbaar zijn, ook al is niet elke individuele stap volledig inzichtelijk.
Het echte risico zit niet in de zinnen-generator, maar in de keuzes van makers. Slechte keuzes leveren slechte uitkomsten op, soms gedreven door winst. Vraag dus gewoon aan je softwarepartner om iets fatsoenlijks te bouwen, in plaats van een juridische ramp.