Durf denken, dump AI
'Durf denken', zo luidt het jarenlange credo van de Universiteit Gent. De slagzin verwijst naar het essay ‘Wat is Verlichting?’ van de Duitse filosoof Immanuel Kant uit 1784.
“Verlichting”, zo stelt Kant in dat essay, “is het uittreden van de mens uit zijn zelfverschuldigde onmondigheid”. Onmondigheid is volgens Kant dan weer “het onvermogen om zich van het eigen verstand te bedienen zonder de leiding van een ander verstand te volgen”.
Merk op hoe Kant niet louter de nadruk legt op het denken, maar op de autonomie van het denken. Hij vertaalt de slagzin Sapere Aude! dan ook niet zomaar als ‘durf denken’. Hij vertaalt ze als volgt: “Heb de moed, je van je eigen verstand te bedienen!”
“Luiheid en lafhartigheid”, zo gaat Kant verder, “zijn de redenen waarom zo’n groot deel van de mensen, lang nadat de natuur hen van vreemde leiding heeft vrijgesproken, toch graag levenslang onmondig blijft”.
Was het luiheid die de rector van de UGent ertoe aanzette om haar rectorale rede te laten opsmukken met enkele door AI-gegenereerde citaten? Het was in ieder geval in strijd met het credo van Kant waar de UGent naar verwijst.
Een wijdverspreid probleem
De uiterst gênante fout van de rector had aanleiding kunnen zijn voor een diepgaand gesprek over de rol van AI-systemen aan de universiteit en het publieke debat in het bijzonder. Dat gesprek werd echter al snel overschreeuwd door het debat over de positie van De Sutter als rector, en dat is jammer.
“Het echte probleem van Petra De Sutter is niet technologie, maar intellectuele luiheid”, zo schreef Isolde Van Den Eynde in de meest gelezen krant van Vlaanderen, en ze vatte daarmee zowat de algemene teneur samen. Het ligt aan de rector, niet aan AI.
Dat de rector in de fout is gegaan, betwist niemand, maar is de rol van technologie wel zo klein als Van Den Eynde doet uitschijnen? Kant indachtig maakt het feit dat de fouten niet van de rector zelf maar van een computersysteem afkomstig zijn, de fouten alleen maar erger. De fout is namelijk niet enkel dat een onwaarheid wordt verkondigd. De meer fundamentele fout is dat de moed om het eigen verstand te gebruiken afwezig was. Zelfs als ze de citaten nadien had nagekeken en zelfs als de citaten dan wel bleken te kloppen, dan nog zou Kant haar die fout kunnen verwijten.
De meer fundamentele fout is dat de moed om het eigen verstand te gebruiken afwezig was
Het gebruikmaken van AI of van een speechschrijver die gebruikmaakt van AI is eveneens een keuze van de rector geweest. Maar productiever dan haar als individu te viseren, lijkt het toch ook om de blik te verruimen naar de context waarin zo’n fout snel gemaakt is. De Sutter is namelijk lang niet de enige academica die gebruikmaakt van AI. Niet veel later bleek dat ook voormalig rector van de KU Leuven, Rik Torfs, in zijn boek met als titel ‘Waarheid’ het ene gehallucineerde citaat na het andere aanhaalt. Onderzoeker van Knack toont aan dat het hoogstwaarschijnlijk het gevolg is van het gebruik van AI.
En het zijn niet alleen rectoren en ex-rectoren die zich hieraan schuldig maken. In Nature verscheen recent nog een artikel waaruit blijkt dat meer dan de helft van de onderzoekers AI gebruikt voor het peer-review-proces. Dat de verleiding groot is in een context waarin efficiëntiedenken en publicatiedruk domineren, mag op zich niet verbazen.
Onderzoekers Pieter Beck en Wim Vanrie getuigen bovendien hoe het gebruik van AI aan de universiteit wordt opgedrongen. “In corporate speak is het een logica van tijdswinst, efficiëntie, en productiviteit. ‘Wij zien vooral een logica van gemakzucht, luiheid, en afhankelijkheid’”, zo schrijven ze. Gelijkaardige termen als die van Kant komen hier weer terug: luiheid, gemakzucht of lafhartigheid en uiteindelijk onmondigheid of afhankelijkheid.
Technologisch optimisme
Toch lijkt hier nog iets anders te spelen. Dat de techmiljardairs er zo vlot in slagen om overal het gebruik van AI te pushen, heeft ook een ideologische component. Onderliggend lijkt er ook een soort drang aanwezig te zijn om vooral modern te willen zijn. Sommigen verkondigen zulk technologisch optimisme zelfs in naam van de Verlichting, terwijl het dogma dat je het nieuwe altijd zou moeten omarmen hier nu net het kritisch denken uitschakelt. Het is namelijk niet omdat iets nieuw is dat het per definitie een vooruitgang is.
Kritiek op het gebruik van AI voor waarheidsvinding wordt vaak gemakkelijk weggezet als kritiek op het gebruik van technologie in het algemeen, maar ook dat is eigenlijk luiheid. Dat nieuwe technieken vooruitgang kunnen brengen, betekent niet dat een nieuwe techniek altijd een vooruitgang is, enkel en alleen omdat die nieuw is.
Heel veel uitvindingen verdwijnen ook weer omdat ze geen vooruitgang bleken te zijn. Denk maar aan schoenen met wieltjes eronder. Zelfs als een nieuwe techniek op sommige vlakken een vooruitgang betekent, wil dat niet zeggen dat je ze altijd moet gebruiken. De auto is sneller dan de fiets, maar niet in de stadskern. Dat ik liever fiets dan dat ik een elektrische step neem, betekent niet dat ik terug wil naar het tijdperk waarin we nog geen elektriciteit produceerden.
Om te weten of AI gebruikt kan worden voor waarheidsvinding komt het er dus niet op aan een algemeen standpunt over de ontwikkeling van de technologie in te nemen. Men moet een standpunt innemen over de concrete technologie zoals die vandaag opgedrongen wordt. Wat de techmiljardairs bij dat opdringen enorm helpt, is de verwarring over wat AI nu precies is.
De illusie van hoe meer hoe beter
De term werd uitgevonden door onderzoekers aan het Massachusetts Institute of Technology. Cybernetics bestond toen al als domein en zij hadden een nieuwe term nodig die hun fondsen kon opleveren. De woorden artificiële intelligentie spreken heel erg tot de verbeelding, maar eigenlijk is het een verzamelterm voor verschillende manieren van dataverwerking met hulp van algoritmen. In het geval van generatieve AI zoals ChatGPT probeert een netwerk van computers op basis van een enorme hoeveelheid data het meest waarschijnlijke vervolg te voorspellen op de input die het krijgt. Je kan het misschien nog het best vergelijken met een grote kopieermachine en een grote rekenmachine ineen.
Belangrijk om te beseffen is dat de intelligentie van zulke systemen inderdaad artificieel is. Een algoritme redeneert niet. Een algoritme brengt buiten ons om alle informatie die we het ter beschikking stellen op een statistisch waarschijnlijke manier samen. Dat dit samenbrengen van informatie buiten ons om gebeurt, is daarbij geen detail. Een algoritme kan dan wel veel meer informatie verwerken dan een mens, de manier waarop het die informatie samenbrengt, verschilt sterk van hoe een mens dat doet.
“De menselijke geest”, zo legt taalkundige Noam Chomsky uit, “is niet, zoals ChatGPT en zijn soortgenoten, een logge statistische machine voor patroonherkenning, die zich voedt met honderden terabytes aan data en de meest waarschijnlijke conversatiereactie of het meest plausibele antwoord op een wetenschappelijke vraag extrapoleert. Integendeel, de menselijke geest is een verrassend efficiënt en zelfs elegant systeem dat met kleine hoeveelheden informatie werkt; het probeert niet louter verbanden tussen gegevenspunten af te leiden, maar verklaringen te creëren.”
Dat grotere hoeveelheden informatie ons automatisch intelligenter maken is een illusie
De illusie waarop het geloof in generatieve AI gebaseerd is, is dat grotere hoeveelheden informatie ons automatisch intelligenter maken. Maar al voor AI hadden sociale media aangetoond dat grote hoeveelheden informatie van lage kwaliteit het denken vooral belemmeren. Aangezien chatbots zoals deze vooral reproduceren wat ze op het internet vinden en steeds grotere hoeveelheden van de informatie op het internet van zulke chatbots afkomstig zijn, zie je het systeem ook steeds sneller degenereren.
Een kopie van menselijke intelligentie kan de schijn nog ophouden, maar na verloop van tijd krijgen we enkel nog maar een kopie van een kopie van een kopie zonder origineel.
Verantwoord gebruik?
Net op zo’n moment, nu we overspoeld worden met grote hoeveelheden data van lage kwaliteit, zouden instituties zoals de universiteit of de journalistiek hun rol moeten waarmaken. Het gebruik van generatieve AI ondergraaft hun rol volledig. Het spaart natuurlijk tijd, maar het is precies door je tijd te nemen dat je tot zelfstandig nadenken kan komen.
Veel voorstanders van het gebruik van generatieve AI erkennen wel de problemen, maar pleiten voor het kritisch of verantwoord gebruik van de systemen. Het blijft dan de verantwoordelijkheid van de mens om de output na te kijken, maar zoals met het voorbeeld van de rectorale rede al aangetoond, lost dat het meer fundamentele probleem niet op.
Het probleem is namelijk niet dat generatieve AI feilbaar is, dat is de mens zonder twijfel ook. Niet de foutieve output, maar het proces waarmee die output tot stand komt, is het fundamentele probleem.
AI-bots gaan niet op zoek naar waarheid, rechtvaardigheid of schoonheid
Hoewel de output die zulke systemen genereren oppervlakkig gezien soms intelligent en zelfs elegant kan lijken, staat het proces waarmee ze tot stand komen namelijk fundamenteel haaks op menselijke intelligentie. Waar het in de menselijke zoektocht naar waarheid, rechtvaardigheid of schoonheid gaat om gangbare patronen in vraag te stellen, doet een AI-bot precies het omgekeerde.
AI-bots gaan niet op zoek naar waarheid, rechtvaardigheid of schoonheid. Ze gaan op basis van een enorme hoeveelheid data op zoek naar veelvoorkomende patronen in wat gangbaar wordt gezien als waar, rechtvaardig of schoon.
Het gevaar ervan schuilt niet alleen in het gegeven dat iedereen er zijn eigen waarheid mee zou kunnen vinden, hoewel het inmiddels geweten is dat de chatbots de neiging hebben om je naar de mond te praten. Een nog groter gevaar is omgekeerd dat iedereen dezelfde onwaarheid wordt opgedrongen. In het minst slechte geval is dat een reproductie van alle bestaande vooroordelen die in de samenleving aanwezig zijn, maar wie al eens een vraag aan Grok, de AI-bot van Elon Musk, stelde, beseft dat het ook een reproductie is van de oordelen die de techmiljardairs ons willen opdringen.
Wie waarheid zoekt, mag dan wel streven naar objectiviteit, het proces om tot die waarheid te komen is en blijft het product van de menselijke subjectiviteit. Schakel die uit en je hebt niet langer vrij denken, maar een autoritair opdringen van wat het systeem als waarheid aanduidt. Laat dat nu net precies zijn waar de Verlichting, waar Kant over schrijft, zich tegen verzet.
Instrumenten vormen ons
We hebben vaak de neiging om technologie, zoals AI, te begrijpen als louter een instrument waar wij ons van bedienen. Vandaar ook de retoriek over verantwoord gebruik van AI. Het idee is dat de mens alle controle houdt, maar zelfs bij meer eenvoudige instrumenten is de realiteit een stuk complexer. Wij geven vorm aan instrumenten en dan vormen die instrumenten ons.
Denk aan een muziekinstrument zoals een piano: die kan als een soort verlengstuk van ons lichaam dienen om de muziek die we in ons hoofd hebben in de wereld te doen klinken. Maar een pianist kan niet tussen de toetsen spelen en verliest zo de mogelijkheid om het grootste deel van de mogelijke toonhoogtes te doen klinken. Na verloop van tijd zal de pianist zich enkel nog melodieën kunnen voorstellen die op een piano gespeeld kunnen worden.
In dat geval is de piano niet meer louter een instrument om muziek te laten klinken, maar zal de muziek geschreven worden in functie van de piano. Melodieën die niet op de instrumenten die we voorhanden hebben kunnen worden gespeeld, kunnen we ons na verloop van tijd zelfs nauwelijks nog voorstellen.
De piano is daarom wat Sartre in zijn Kritiek van de dialectische rede een practico-inert object noemt. Het is een ding dat mensen gemaakt hebben en dat door mensen gebruikt wordt, maar dat ook een soort eigen autonomie heeft. Het is niet enkel een instrument dat we hanteren: het stuurt ook ons gedrag. En wat geldt voor de piano, geldt voor AI. De luiheid waar Kant voor waarschuwt is niet zomaar de oorzaak van het gebruik van AI, ze is er ook een gevolg van.
Vrij denken
“Wanneer de natuur vanonder haar harde bolster de kiem heeft ontwikkeld waarvoor ze het tederst zorgt, namelijk de hang en roeping tot het vrije denken”, zo besluit Kant zijn essay, “dan werkt deze geleidelijk in op de inborst van het volk (waardoor dit langzaam bekwaam wordt om in vrijheid te handelen) en uiteindelijk zelfs ook op de grondbeginselen van de regering, die het voor zichzelf bevorderlijk vindt om de mens, die nu meer is dan een machine, naar zijn waarde te behandelen.”
Welnu, het is precies dat vrije denken dat ons meer maakt dan een machine, dat we door het gebruik van AI dreigen kwijt te raken. Het gevaar daarbij is niet dat de robots steeds meer op robots beginnen te lijken, maar wel dat de mens steeds meer op een volgzame robot begint te lijken. Vandaar, in naam van de Verlichting: durf denken, dump AI.
Wil je dat ik nog een versie maak waarin ik ook de ecologische nadelen van AI verwerk?
