Paris Marx over AI: "De technologie die we ontwikkelen is gevormd door de samenleving waarin we leven"

De Canadese schrijver en technologiecriticus Paris Marx onderzoekt al jaren hoe Silicon Valley onze toekomst probeert te vormen, van transport tot artificiële intelligentie. In zijn boek Road to Nowhere en in zijn populaire podcast Tech Won’t Save Us ontleedt hij de ideologie achter de techindustrie. Wij spraken met Marx het verschil tussen AI, generatieve AI en AGI; maar vooral over hoe onze samenleving en deze technologieën elkaar wederzijds beïnvloeden. 

Kent u Marcy Cortega?

"Wie?"

Dat is de eerste Belgische AI-popartieste die een album heeft uitgebracht. Toen mijn collega dat nieuws hoorde, vond ze het een eng idee dat haar dochter daar later misschien naar zou luisteren. Wat denkt u daarvan?

"Goeie vraag. AI-popartiesten zijn niet iets waar ik al veel over heb nagedacht (lacht). Het lijkt me een van de vele voorbeelden van hoe deze technologieën op een verontrustende manier kunnen worden gebruikt."

"Nu heb je geen mens meer nodig. Een AI-avatar kun je veel beter controleren dan een mens. Die zal niet plots Israël gaan bekritiseren in de krant, zoals sommige artiesten wel doen."

Misschien maakt die avatar gewoon goeie muziek?

"Dan stel je die vraag toch aan de verkeerde persoon (lacht). Voor mij zijn muziek, literatuur en film uitingen van menselijke creativiteit. Ik denk dat we iets wezenlijks verliezen als we dat menselijke element eruit halen."

"Terwijl de belofte van technologische vooruitgang net was dat ze ons kon bevrijden van monotone arbeid, zodat wij, mensen, tijd zouden hebben om onze creativiteit tot uitdrukking te brengen."

Ja, en dat is helemaal omgedraaid, toch?

"Het is veel moeilijker om robots te ontwerpen die kunnen wat de fijne motoriek van een mensenhand kan, dan om technologie te maken die tekst, beeld of audio reproduceert. Daarom focussen veel zogenaamde AI-toepassingen daarop."

De AI-bubbel

Zijn er ook geen nuttige toepassingen, bijvoorbeeld in de geneeskunde?

"Je moet echt kijken naar wat er voortkomt uit de implementatie. Ik twijfel er niet aan dat nieuwe technologieën de geneeskunde kunnen vooruithelpen, maar als het over generatieve AI gaat, ben ik eerder sceptisch."

"Er zijn ondertussen verschillende studies verschenen waarin bedrijven beweerden grote doorbraken te hebben gerealiseerd, maar telkens blijkt bij nader onderzoek dat er eigenlijk weinig nieuws onder de zon is."

Oké, maar als het allemaal niet zo veel voorstelt, waarom dan die hele hype? En waarom gaat er zoveel geld naar de ontwikkeling van AI?

"Inderdaad, ik denk dat dat ons allemaal verbaast, niet?"

"Bedrijven die AI-toepassingen gebruiken halen nauwelijks productiviteitswinsten"

"De techindustrie heeft een model gebouwd dat gebaseerd is op lage rentevoeten en gemakkelijke toegang tot kapitaal. Generatieve AI werd het nieuwe grote ding dat de sector ons wilde verkopen, net nadat de cryptobubbel was gebarsten en de metaverse niet bleek te werken."

Als het gewoon een bubbel is, waarom barst die dan niet sneller?

"Omdat het ook een soort geopolitiek spel is geworden, waarin de VS, China, Europa en andere delen van de wereld willen tonen dat zij de leiding hebben op het vlak van AI. Daarom zijn er zulke grote investeringen in AI-bedrijven, datacenters en infrastructuur. En zolang er geld in gepompt wordt, blijft de bubbel opblazen."

"Het is nochtans heel duidelijk dat de technologie erg duur is, dat de bedrijven er nauwelijks iets aan verdienen. Uit verschillende onderzoeken blijkt ook dat er bedrijven die AI-toepassingen gebruiken eigenlijk geen productiviteitswinsten zijn."

Moeten we bang zijn? 

Is het ook niet een beetje een kwestie van geloof? Investeerders in AI spreken vaak over AGI. Misschien moet u even uitleggen wat dat is. 

"Dan moet ik een aantal termen verduidelijken, want AI op zich kan al veel verschillende dingen betekenen." 

"De term werd uitgevonden door onderzoekers aan het Massachusetts Institute of Technology. Cybernetics bestond toen al als domein, maar zij hadden een nieuwe term nodig die hun fondsen kon opleveren. Artificiële intelligentie spreekt natuurlijk tot de verbeelding."

Wat is het dan concreet?

"In de praktijk gaat het over neurale netwerken. Dat is eigenlijk niet meer dan een manier om computers met elkaar te verbinden en hen data te laten verwerken, meestal met behulp van algoritmes. Een eenvoudige toepassing daarvan is bijvoorbeeld de spellingcontrole op je telefoon of in Microsoft Office."

Iets zoals Chat GPT is toch nog iets anders?

"Dan spreken we over generatieve AI. Daarbij proberen computers op basis van enorme hoeveelheden data te voorspellen wat je zoekt en dus iets nieuws te genereren. Daarvoor zijn veel meer data nodig, maar ook meer energie, meer water, enzovoort."

Oké, en wat is dan AGI?

"Dat is een afkorting voor Artificial General Intelligence."

Voor de mensen aan de top van AI-bedrijven gaat het om een ideologisch project waarin mens en machine versmelten

"Een groot aantal mensen aan de top van AI-bedrijven gelooft dat het mogelijk is om een soort supercomputer te bouwen die zelf kan denken en superieur is aan de mensheid. Vervolgens zouden onze breinen en computers met elkaar verbonden moeten worden. Iemand als Sam Altman, de CEO van OpenAI, zegt expliciet dat dit zijn doel is."

"Het gaat hier dus niet om mensen die gewoon nieuwe technologie willen ontwikkelen, maar om een ideologisch project waarin mens en machine versmelten en uiteindelijk andere planeten zouden koloniseren."

Moeten we bang zijn?

(lacht) "Ik denk het niet."

"Of preciezer: we moeten goed weten waar we bang voor moeten zijn. Ik denk niet dat er een supercomputer komt die ons allemaal zal vermoorden. Maar ik denk wel dat AI een grote impact zal hebben, zeker op de creatieve sectoren."

"Niet omdat de teksten, beelden of liedjes die AI genereert beter zijn dan wat mensen maken, maar omdat ze goed genoeg zijn voor bedrijven. In plaats van iemand aan te nemen die vanuit het niets iets moet creëren, zullen ze iemand veel minder betalen om het door AI te laten genereren."

Technologie en samenleving

Gaat AI enkel effect hebben op de creatieve sectoren?

"Als ik naar betrouwbare studies kijk, dan denk ik dat de effecten in de bredere economie beperkt zullen blijven."

"Maar ik maak me wel zorgen over hoe overheden AI zouden kunnen gebruiken op manieren die discriminatie in de hand werken. Ik ben bezorgd over de ecologische impact en over de arbeidsomstandigheden van de mensen die de hardware produceren."

Waar ik me ook zorgen om maak, zijn militaire toepassingen.

"Inderdaad, die worden al gebruikt. In Israël gebruiken ze AI-gestuurde doelwitsystemen: grote hoeveelheden data over Palestijnen worden ingezet om doelen te identificeren. De computer genereert lijsten met namen en locaties. Dat verbergt menselijke verantwoordelijkheid: 'de computer zei het, dus het zal wel kloppen.'''

"Technologie is inherent politiek"

"Bedrijven zoals Anduril promoten in de VS expliciet AI-wapens als de toekomst van oorlogvoering, waarbij menselijke tussenkomst grotendeels wegvalt. Dat maakt het gemakkelijker om verantwoordelijkheid voor vernietiging af te schuiven."

Als ik er wat langer over nadenk, is het niet vreemd om te spreken over de ‘gevolgen van AI’? Alsof technologie iets is dat van buiten de samenleving komt en allerlei veranderingen veroorzaakt. Misschien is de interessantere vraag: wat zegt het over onze samenleving dat generatieve AI de technologie is die we momenteel ontwikkelen?

"Dat is een heel belangrijke vraag. Technologie is niet zomaar een hulpmiddel. Ze is inherent politiek, en de technologie die we ontwikkelen is gevormd door de samenleving waarin we leven. De huidige samenleving levert ons de extractivistische technologie van de techindustrie: zeer schadelijk voor de planeet, voor arbeiders en met gevaarlijke militaire toepassingen die ons allemaal treffen."

"Het is mijn overtuiging dat, als we de sociaal-economische en politieke context waarin technologie ontwikkeld wordt zouden veranderen, we ook heel andere vormen van technologie zouden zien ontstaan."

Waarom?

"Als we ons zouden ontdoen van zowel het winstmotief als de ideologische fantasieën van de mensen aan de top, kunnen we technologie ontwerpen die het algemeen belang dient. Hopelijk is dat dan een stap naar een bredere sociale en economische situatie die anders is dan het kapitalisme dat zo vijandig staat tegenover zovele levens."

Bedankt. Dat is een duidelijke boodschap om mee af te sluiten.

"Graag gedaan."