De Oscar winnende Nederlandse kortfilm ‘Ik ben geen robot’ begint met een scène waarin het hoofdpersonage, Lara, een captcha-test moet invullen. Captcha is de afkorting van completely automated public turing test to tell computers and humans apart.

In mensentaal is dat dus de irritante ‘ik ben geen robot’ test, waarbij je alle plaatjes met verkeersborden of voertuigen aan moet duiden om aan de computer duidelijk te maken dat je geen computer bent.

Lara komt er niet doorheen. Wanneer ze verschillende keren probeert de test in te vullen en faalt, belt ze naar een helpdesk. Nadat ze gevraagd wordt om enkele keren te refreshen of haar computer opnieuw op te starten stelt de man van de helpdesk via de telefoon de vraag: “Ja, ik begrijp dat dit misschien een persoonlijke vraag is, maar zou het eventueel ook kunnen zijn dat u, ja, ook echt een robot bent, zeg maar?”

De openingsscène is net zo grappig als ze absurd is, maar zet tegelijkertijd aan tot denken. Waarom is de gedachte dat je zomaar een robot zou kunnen zijn absurd? Wat is eigenlijk het verschil tussen een mens en een robot? In de film wordt Lara wanneer ze er achter komt dat ze een robot is, angstig, maar waarom is zoiets een angstaanjagende gedachte?

Het zijn erg actuele vragen in het tijdperk waarin Artificiële Intelligentie aan een opmars bezig is.

Vrijheid

Er zijn mensen en er zijn dingen. Dat is een basis onderscheid in ons Westerse denken. Terwijl dingen eenvoudigweg object zijn, zijn mensen ook subject, we zijn vrij.

Mensen kunnen in tegenstelling tot dingen zelf kiezen welke doelen we nastreven en om die te bereiken kunnen we dingen gebruiken. De angst die Artificiële Intelligentie oproept, bestaat uit de schrik dat die logica zou worden omgedraaid, dat het de dingen in de vorm van robots zijn die ons gaan gebruiken om hun doelen te bereiken.

Maar hoe kan dat? Om dat te begrijpen moeten we dieper ingaan op de vraag wat het betekent om als mens vrij te zijn. Belangrijk daarbij is onderscheid tussen negatieve vrijheid en positieve vrijheid dat gepopulariseerd is door de inmiddels beroemde lezing Two Concepts of Liberty van politiek filosoof Isaiah Berlin.

In het alledaagse spreken wordt vrijheid vaak gereduceerd tot negatieve vrijheid. Vrij zijn betekent dan niet veel meer dan dat we met rust gelaten worden, kunnen doen waar we zin in hebben en niets of niemand ons tegenhoudt om te doen waartoe we spontaan geneigd zijn. Maar op die manier onderscheiden we ons nog niet van objecten, die, wanneer je ze met rust laat eveneens doen waartoe ze spontaan geneigd zijn: meestal niet zo heel veel.

In tegenstelling tot negatieve vrijheid valt positieve vrijheid niet te realiseren door het geïsoleerde individu

Objecten, daar gaan we toch vanuit, hebben geen relatie tot zichzelf. Ze stellen zichzelf geen doelen. Een fiets kan zichzelf niet de vraag stellen waar hij naartoe moet rijden. Dat wij als mensen wel vrij zijn, betekent niet dat we onderweg geen obstakels kunnen tegenkomen. Het betekent dat we de positieve vrijheid hebben om een bewuste keuze te maken welke obstakels we proberen te overwinnen, zonder daarom een garantie te hebben dat dit ook zal lukken.

In tegenstelling tot negatieve vrijheid valt positieve vrijheid niet te realiseren door het geïsoleerde individu of door ontkoppeling van de natuur. We kunnen de grenzen die anderen of de natuur stellen aan onze vrijheid enkel op een positieve manier overstijgen door ons ermee te verbinden, net zoals je op een trampoline enkel de hoogte in kan vliegen door je eerst diep te laten zakken.

Arbeid

De manier waarop we onszelf verbinden met de wereld en de anderen, is arbeid. Door middel van arbeid vermenselijken we onze omgeving en maken ze ons eigen zodat we er ons thuis in kunnen voelen. De scheppende levenshouding is er één waarin vrijheid voortkomt uit verbondenheid met elkaar en de wereld.

Wanneer we aan arbeid denken, denken we al snel aan een bouwvakker, maar die omgeving waarin we ons thuis voelen kan net zo goed een goed boek als een mooi huis zijn. Wat de arbeid definieert is niet de handeling op zich, maar de betrachting om zich de wereld eigen te maken. Of het nu met stenen of met woorden gebeurt, verandert niets aan de essentie: dat men met vallen en opstaan werkt aan een wereld waarin men zich samen met anderen thuis kan voelen.

Als je goed aan het werken bent, kom je na verloop van tijd in een bepaalde flow, waarbij je jezelf kan verliezen in de wereld die je zelf aan het scheppen bent. Na verloop van tijd kan de arbeid zelfs van een middel om een doelt te bereiken in een doel op zich veranderen, het is vaak op die momenten dat mensen zich het meest vrij voelen.

Terwijl arbeid net datgene is wat ons mens maakt, verschijnt het hier louter als bestaansmiddel

Het is een open deur intrappen om te zeggen dat we de essentie van arbeid zoals we die hierboven beschreven onderweg ergens verloren zijn geraakt.

Arbeid is vandaag een middel tot een doel, met name: geld verdienen om van te kunnen leven. Terwijl arbeid net datgene is wat ons mens maakt, verschijnt het hier louter als bestaansmiddel. Het maakt niet langer vrij. Integendeel: onze arbeidstijd is onvrije tijd waarin we slechts uitvoeren wat ons is opgedragen.

Dat we meer of minder autonomie krijgen in de uitvoering van onze job verandert niets aan het fundamentele feit dat het doel dat we nastreven niet ons eigen zelfgekozen doel is, maar buiten ons bepaald wordt door wat winstgevend blijkt te zijn op de markt.

Doel en middel

Niet alleen is arbeid niet langer een bevrijdende activiteit, maar een middel geworden om geld te verdienen. Omgekeerd is geld niet langer een ruilmiddel, het wordt een doel op zich. De tragiek hiervan wordt misschien nog het beste gevat in het personage van de zakenman in het boek De kleine prins van Antoine de Saint-Exupéry.

Wanneer de kleine prins de zakenman ontmoet, is hij druk bezig met sterren tellen.

-Wat doe je met vijfhonderd miljoen sterren?
-Vijfhonderd en één miljoen, zeshonderd tweeëntwintig duizend zevenhonderdeenendertig. Ik ben een serieus en precies mens.
-En wat doe je met die sterren?
-Wat ik er mee doe?
-Ja.
-Niets, ik bezit ze.
-Bezit je de sterren?
-Ja.
-Maar ik heb ook al een koning gezien, die …
-Koningen bezitten niet. Zij ‘regeren over’. Dat is iets héél anders.
-En wat heb je eraan de sterren te bezitten?
-Daar heb ik aan dat ik rijk ben.
-En wat heb je eraan om rijk te zijn?
-Om er weer sterren bij te kopen, als iemand ze vindt.

“Dat is net zo’n redering als van mijn vriend de dronkaard”, zei het kleine prinsje in zichzelf.

De zakenman, zo komt in dit verhaal naar boven, zijn opvatting van bezit als doel op zich is bijzonder leeg. Daartegenover plaats de kleine prins een opvatting waarin je iets pas werkelijk bezit wanneer je het jezelf ook kan eigen maken, waarin bezit verbonden is met de verantwoordelijkheid om zorg te dragen.

“Ik bezit een bloem die ik elke dag begiet, en drie vulkanen die ik elke week uitveeg. Want de dode vulkaan veeg ik ook – je kunt nooit weten. Voor mijn vulkanen en mijn bloem is het nuttig dat ik ze bezit. Maar jij hebt voor de sterren geen nut.”
De zakenman deed zijn mond open, maar wist geen antwoord en de kleine prins trok weer verder.
“De grote mensen zijn toch wel heel wonderlijk”, zei hij zo maar tegen zichzelf onderweg.

De markt

Om positieve vrijheid te realiseren zijn we, zoals reeds gezegd, niet enkel afhankelijk van de natuur, maar ook van elkaar. Wanneer werk echter een middel wordt om geld te verdienen en geld verdienen een doel op zich wordt, dan zijn we niet samen aan een betere wereld aan het werken.

Op de markt zijn we allemaal concurrenten, wolven voor onze medemens, die moeten proberen om het eigen voordeel te maximaliseren en verliezen te minimaliseren. We gedragen ons berekenend en denken in de eerste plaats aan ons eigenbelang. Niet omdat we nu eenmaal een egoïstische diersoort zijn, maar omdat dit nu eenmaal het gedrag is waartoe de markt ons aanzet.

Op het eerste zicht lijkt vervreemding zich te uiten als een verlies van verbinding met de ander. In werkelijkheid staan we nog steeds in relatie met de ander, maar is die verstoord geraakt, gemedieerd door dingen die verkocht worden op de markt en zo verworden tot wat je ‘een relatie van relatieloosheid’ zou kunnen noemen.

Laten we het bij wijze van voorbeeld even eenvoudig houden. Stel je even voor dat de prijzen van een levensnoodzakelijk iets als koffie snel stijgen. Wat je dan als geïsoleerd individu best doet is zo snel mogelijk veel koffie inslaan, voor de prijs nog sterker stijgt.

Je bent echter niet de enige die dit zal doen, de anderen doen net hetzelfde en wanneer de vraag naar koffie snel stijgt zal de prijs van koffie nog verder stijgen. In mijn beleving ben ik het natuurlijk niet die de prijs van koffie doet stijgen, het zijn de anderen en het is door de anderen dat ik mezelf net als hen moet gedragen en snel veel koffie inslaan.

Voor de anderen geldt echter net hetzelfde en zo creëren we allemaal samen een zelfversterkende spiraal die door iedereen en daarom door niemand is veroorzaakt en die we niet onder controle krijgen, behalve wanneer we onze isolatie van elkaar doorbreken en bewust collectief gaan handelen.

De markt, zo schrijft Sartre maakt “de mens een Ander dan zichzelf, geconditioneerd door Anderen in de mate ze Anders zijn dan zichzelf.” Ons gedrag is niet dat van onszelf, we imiteren de anderen, maar ook die anderen hun gedrag wordt opnieuw niet door henzelf, maar door de anderen bepaald. Ons gedrag is als het ware een soort kopie zonder origineel.

Alsof ‘de markt’ een soort boze geest is, wiens mysterieuze verlangens geïnterpreteerd moeten worden

Onze individuele handelingen worden van buitenaf als door een soort van onzichtbare hand samengebracht in een soort van onpersoonlijke macht die we ‘de markt’ of ‘de economie’ zijn gaan noemen en die haar eigen wetten aan ons oplegt.

Blind als we zijn gemaakt voor de sociale verhoudingen die achter de werking van de markt schuilgaan, zijn we haar een vreemd soort zelfstandig karakter gaan toemeten. Alsof ‘de markt’ een soort boze geest is, wiens mysterieuze verlangens geïnterpreteerd moeten worden door een bijzonder soort hogepriesters die we economen noemen.

Die ‘markten’, zo leren de economen, kunnen ‘nerveus zijn’ of ‘offers vragen’. Zo kan het verlagen van de pensioenen of een belastingverlaging voor bedrijven een middel zijn om ‘de markten gerust te stellen’. Het is een manier waarop in vroegere tijden over Goden gesproken werd.

Product van onze producten

Net omdat we enkel werkelijk vrij zijn wanneer we een betekenisvolle verbinding aangaan met de wereld en de ander kunnen de gevolgen van onze handelingen echter ook verstrengeld raken in een kluwen van onbedoelde gevolgen. Daarnaast kunnen onze handelingen zich als een vreemde macht tegen ons keren en ons herleiden tot het product van de producten die we zelf produceerden.

Wij geven vorm aan instrumenten en dan vormen die instrumenten ons. Denk aan een muziekinstrument zoals bijvoorbeeld een piano die als een soort verlengstuk van ons lichaam kan dienen om de muziek die we in ons hoofd hebben in de wereld te doen klinken.

In plaats van dat de piano louter een instrument is om muziek te doen klinken, zal de muziek geschreven worden in functie van de piano

Na verloop van tijd zal de pianist of de componist van pianomuziek zich enkel nog dat soort melodieën in zijn hoofd kunnen voorstellen die gespeeld kunnen worden op een piano. In plaats van dat de piano louter een instrument is om muziek te doen klinken, zal de muziek geschreven worden in functie van de piano. Melodieën die niet op de instrumenten die we voorhanden hebben kunnen gespeeld worden, kunnen we ons na verloop van tijd zelfs nauwelijks meer voorstellen.

De piano is daarom wat Jean-Paul Sartre een in zijn Kritiek van de dialectische rede een practico-inert object zal noemen. Het is een ding dat mensen gemaakt hebben en dat door mensen gebruikt worden, maar dat ook een soort eigen autonomie heeft. Het zijn is niet enkel een instrumenten dat we hanteren; het instrument zelf stuurt ons gedrag ook.

En wat geldt voor de piano geldt uiteindelijk voor onze moderne, kapitalistische wereld in haar geheel. De machines, de, fabrieken, de algoritmes, de digitale infrastructuur, AI-robots en het hele complex van instrumenten die het verlengstuk van onze lichamen vormen waarmee we onze wereld eigen maken zijn hun eigen leven gaan leiden dat ons en onze lichamen tot aanhangsel maakt van deze instrumenten.

Vervreemding

“De arbeider”, zo vat Karl Marx het samen in De Parijse Manuscripten, “legt zijn leven in het object; maar nu behoort zijn leven niet meer hem toe, maar het object.”

Laat dat precies zijn hoe Artificiële Intelligentie werkt. Een robot zoals ChatGPT is uiteraard niet echt intelligent. Het is de informatie die wij met z’n allen ter beschikking van de robots hebben gesteld, die wij erin hebben gestopt die nu buiten ons om samengebracht wordt in de robot.

Dat dit samenbrengen van informatie buiten ons om gebeurt, is daarbij geen detail. Een robot kan dan wel veel meer informatie verwerken dan een mens, de manier waarop het die informatie samenbrengt verschilt sterk van hoe een mens dat doet.

Waar het in de menselijke zoektocht gaat om gangbare patronen in vraag te stellen, doet een AI-robot precies het omgekeerde

“De menselijke geest”, zo legt ook Noam Chomsky uit, “is niet, zoals ChatGPT en zijn soortgenoten, een logge statistische machine voor patroonherkenning, die zich voedt met honderden terabytes aan data en de meest waarschijnlijke conversatiereactie of het meest plausibele antwoord op een wetenschappelijke vraag extrapoleert.”

Waar het in de menselijke zoektocht naar waarheid, rechtvaardigheid of schoonheid gaat om gangbare patronen in vraag te stellen, doet een AI-robot precies het omgekeerde. AI-robots gaan niet op zoek naar waarheid of schoonheid. Ze gaan op basis van een enorme hoeveelheid data op zoek naar veel voorkomende patronen in wat gangbaar als waar, rechtvaardig of schoon wordt gezien.

Transhumanisme

Het gevaar van dit alles is niet zozeer dat robots steeds meer op mensen zouden gaan lijken. Het gevaar is dat mensen steeds meer op robots gaan lijken, dat we onze vrijheid om zelf onze doelen te stellen te grabbel gooien in de naam van een marktgedreven robotisch efficiëntie denken.

Dat gevaar mag je letterlijker nemen dan je zou denken. Het begint subtiel. Werk wordt een kwestie van kwantificeerbare efficiëntie. Sociale interacties worden gereduceerd tot meetbare engagement. Jezelf verbeteren betekent optimaliseren: meer output, minder frictie, alles gladgestreken in een algoritme dat je vertelt wie je bent en hoe je moet leven.

Het gevaar is dat mensen steeds meer op robots gaan lijken

En als de mens toch al een haperende machine is, waarom zouden we hem dan niet verbeteren? Dat is precies de denkwijze van transhumanisten. Wat in Silcon Valley ooit begon met een soort naïef geloof dat technologie een oplossing voor alle problemen zou kunnen bieden, is ondertussen ontwikkeld tot een ‘transhumanistische’ ideologie die de tech bro’s zoals Elon Musk en Mark Zuckerberg die de algoritmes die ons leven besturen bezitten steeds dieper in extreemrechts vaarwater doet belanden.

De heilige graal van de transhumanisten is AGI, Artificial General Intelligence, een nogal vaag begrip dat inhoudt dat de computer de mens voorbij streeft. “De eerste ultra-intelligente machine”, zo stelde computerwetenschapper I. J. Good het, “is de laatste uitvinding die de mens ooit hoeft te doen.” Want als AGI er eenmaal is, zo gaat de redenering, kunnen we ook het uitvinden van nieuwe technologie voortaan wel aan die super-AI overlaten.

Tot zover de menselijke vrijheid, maar volgens Sam Altman, CEO van OpenAI, zal AGI een nieuw tijdperk inluiden: de Intelligence Age. Klinkt wel hip.

Eugenetica

Met hulp van AGI zouden mens en machine volgens transhumanisten moeten samensmelten tot een soort van supermens, een ideaal dat eng veel lijkt op dat van de nazistische Übermensch. Het is precies om die reden dat Musk Neuralink heeft opgericht, zijn bedrijf dat gericht is op het samensmelten van menselijke hersenen en AI.

En Musk is niet alleen. Door het transhumanisme geïnspireerde startups pompen miljarden in technologie die de ‘kwaliteit’ van toekomstige generaties moet verhogen. De ultieme droom is daarbij onsterfelijkheid. Zo voorziet Musk zelf een toekomst waarin we ons brein uploaden naar robots en zo digitaal onsterfelijk zouden zijn.

Iets realistischer heeft het veel weg van een terugkeer van de eugenetica onder een hip technologisch sausje

Het doet wat denken aan de droom van Voldemort om met dank aan de steen der wijzen onsterfelijk te worden. Iets realistischer heeft het veel weg van een terugkeer van de eugenetica onder een hip technologisch sausje. Dat zegt ook Timnit Gebru, de AI-onderzoeker die door Google ontslagen werd toen ze ethische bezwaren had geuit tegen onder meer racistische vooroordelen in grote taalmodellen. In mei 2024 publiceerde ze de paper Eugenics and the Promise of Utopia Through Artificial General Intelligence.

Gebru wijst er in die paper op dat de AI-race niet enkel een technologisch project is, maar een ideologisch project van mensen met een diep geloof in de ideologie van het transhumanisme. In plaats van technologie te ontwikkelen voor menselijke noden, zo stelt Gebru vast, verschuift de focus van de investeringen naar een technocratische utopie die wordt gestuurd door een kleine elite.

Feilbaarheid

Als de mensen die deel uitmaken van deze elite zo geobsedeerd zijn door de AI-race, dan is het omdat ze geloven dat het hun ultieme doel dichterbij zal brengen: supergeluk. Het doel is, zo stelt Elon Musk het zelf, om “het cumulatieve netto-geluk van de beschaving over tijd te maximaliseren.”

Om een permanente staat van gelukzaligheid te bereiken rekenen de transhumanisten op hulp van algoritmes en medicatie die ervoor zorgen dat je geen verdriet en geen pijn meer ervaart. Het doet allemaal wat denken aan Brave New World, de dystopische roman van Aldous Huxley waarin de overheid met hulp van technologie de vrijheid van de burgers inperkt om hen gelukkiger te maken.

Pittig detail: het was Julian Huxley, de broer van Aldous, die de term ’transhumanisme’ voor het eerst introduceerde in 1957. Julian was voorzitter van de British Eugenics Society en beschreef transhumanisme als een manier om “de menselijke soort, als het dat wil, boven zichzelf uit te laten stijgen.”

Het ware, het goede, het schone; alle belangrijke zaken in het leven worden gereduceerd tot het abstracte surplus dat ze opbrengen aan geluk

Door de mens te beschouwen als een robot die genot zoekt en pijn vermijdt, herleidt de manier van denken van transhumanisten, de hele menselijke ervaring tot één dimensie. Het ware, het goede, het schone; alle belangrijke zaken in het leven worden gereduceerd tot het abstracte surplus dat ze opbrengen aan geluk, meestal bij gebrek aan andere gelijke maatstaf voor totaal andersoortige ervaringen uitgedrukt in geldwaarde.

Transhumanisme ziet onze menselijke feilbaarheid als een programmeerfout die weggewerkt moet worden, maar onze feilbaarheid is onlosmakelijk verbonden met onze menselijkheid. “We kunnen falen,” zo vat Chomsky het verschil tussen een mens die nadenkt en een robot samen. “Maar dat maakt deel uit van wat het betekent om na te denken. Om juist te kunnen zijn, moet het mogelijk zijn om fout te kunnen zijn.”

Wat geldt voor feilbaarheid geldt ook voor onze sterfelijkheid en het ervaren van pijn. Een leven zonder ongemak is niet per se een beter leven—eerder een vlakker leven, waar niets meer op het spel staat. Feilbaarheid, kwestbaarheid en sterfelijkheid zijn geen onvolmaaktheden die moeten worden weggewerkt. Ze maken deel uit van het leven, zijn onlosmakelijk verbonden met onze vrijheid en op die manier deel van wat ons mens maakt.

Open einde

Op het einde van de film Ik ben geen robot komt Lara erachter dat ze effectief een robot is, gekocht door haar rijke man. “Het enige verschil is dat jij na mij sterft,” zo probeert haar man haar gerust te stellen.

Omdat de man de pijn van het overlijden van zijn eerste vrouw, die wel een mens was, niet nog eens wou meemaken, had hij bij de aankoop van zijn robot aangegeven dat die zo geprogrameerd moest zijn dat ze niet voor hem kon sterven. Wanneer Lara dit ontdekt springt ze van het dak van een parking in een poging om zelfmoord te plegen.

We moeten als mens er niet naar verlangen om robot te worden: onfeilbaar, maar daarom ook onvrij

De film eindigt met een beeld van een groeiende plas bloed onder haar hoofd, maar haar ogen zijn wel open. Voor mij als kijker is het onduidelijk of Lara nu leeft of toch dood is. Een open einde dus, maar wel een open einde dat in ieder geval zoals ik het interpreteer een duidelijke boodschap bevat.

Laat ons nooit onze vrijheid offeren op het altaar van de efficiëntie. We moeten als mens er niet naar verlangen om robot te worden: onfeilbaar, maar daarom ook onvrij. Onsterfelijkheid is enkel wat vooraf al dood was.