Nicholas Carr pleit voor mensgerichte automatisering
Boekrecensie - Jack van der Weide

Nicholas Carr pleit voor mensgerichte automatisering

De samenleving computeriseert. De Amerikaanse schrijver Nicholas Carr, die internationale bekendheid verwierf met zijn essay “Is Google Making Us Stupid? What The Internet Is Doing To Our Brains”, laat zien dat er allerlei voordelen zijn aan die automatisering. Maar in zijn nieuwe boek “The Glass Cage. Automation and Us” belicht hij vooral de schaduwkanten ervan. Kennis en kunde raken in het gedrang.

vrijdag 23 januari 2015 11:06




Aan het begin van de negentiende eeuw kwam in Engeland
een groep wevers en textielarbeiders in opstand tegen wat we nu zouden noemen
de automatisering van hun bedrijfstak. Ze waren bang dat de kleinschalige,
lokale huisindustrie het zou moeten afleggen tegen de grote textielfabrieken.
’s Nachts drongen ze daarom deze fabrieken binnen en saboteerden of vernielden
er de machines. Tegen de bendes, die bekendstonden onder de naam Luddieten
(naar een waarschijnlijk mythische wever annex machinesaboteur genaamd Nedd
Ludd), werd uiteindelijk het leger ingezet. De meeste Luddieten kwamen om of
belandden in de gevangenis.

Nicholas Carr is geen hedendaagse
Luddiet die tegen de bierkaai van de automatisering vecht. In zijn boek De glazen kooi. Wat automatisering met ons
doet
wil hij echter de keerzijde laten zien van de steeds verder gaande
computerisering van onze samenleving. Doorheen zijn hele boek benadrukt Carr
voortdurend ook de voordelen van automatisering – processen gaan sneller, er
worden minder fouten gemaakt, en alleen al de financiële baten zijn aanzienlijk.
Maar die voordelen hebben een schaduwkant: door de besturing, soms in
letterlijke zin, over te dragen aan computers, raken we niet alleen op veel
gebieden de grip kwijt maar gaan ook fundamentele menselijke kennis en kunde
verloren.

Noodsituatie

Carr licht een aantal vakgebieden specifiek uit,
waaronder die van piloten, van artsen en van architecten. In de wereld van de
luchtvaart speelt automatisering – de term stamt pas van vlak na de Tweede
Wereldoorlog – vrijwel vanaf het begin een belangrijke rol. Vliegtuigen waren
altijd al machines waarmee de mens moest zien om te gaan. In 1914 vond boven
Parijs de eerste vlucht plaats met een, toen nog uiterst primitieve,
automatische piloot. In de decennia die volgden zien we een ontwikkeling naar
steeds geavanceerdere systemen, met als consequentie een geleidelijke afname
van het aantal mensen in de cockpit en een sterk veranderende rol van de
piloot. Was die laatste aanvankelijk nog de man die zelf het vliegtuig
controleerde door middel van zijn stuurknuppel, gaandeweg veranderde zijn
functie en moest hij zich in toenemende mate bezighouden met alle wijzertjes en
vervolgens schermen en displays in de
cockpit.

De voordelen van die ontwikkeling
zijn overduidelijk: de veiligheid nam toe, men was niet meer afhankelijk van
een stoere piloot aan wiens al dan niet vakkundige handen de machine en vooral
de passagiers moesten worden toevertrouwd. Er ging echter ook fundamentele
kennis verloren – kort door de bocht: piloten weten nauwelijks meer hoe ze een
vliegtuig moeten besturen op het moment dat de computers het om wat voor reden
dan ook laten afweten. Carr beschrijft uitgebreid de casus van een Amerikaans vliegtuigongeluk uit 2009, waarbij
vijftig mensen omkwamen en waarbij duidelijk werd dat de piloot in een
noodsituatie onvoldoende op zijn taak berekend was.

Hout en karton

Wat het gevolg is van de rol die computers in de
medische wereld zijn gaan spelen, zullen veel mensen aan den lijve hebben
ondervonden. Al bij een bezoekje aan de huisarts valt op dat deze de laatste
jaren steeds meer bezig is met zijn computerscherm en steeds minder met de
patiënt. Het elektronisch patiëntendossier is een populair onderwerp van
discussie, maar misschien nog wel belangrijker dan het aspect van de privacy is
het feit dat dergelijke dossiers vaak ook beslissingsondersteunende software
omvatten die, aldus Carr, met behulp van checklist op het scherm en vragen aan
de arts deze laatste probeert te begeleiden en suggesties doet tijdens het
consult of onderzoek. De voordelen liggen voor de hand, maar in feite zijn dit
ook de nadelen: de arts kan zich meer en meer verlaten op de computer als het
gaat om het herkennen van symptomen, maar verliest daardoor de vaardigheden die
hem tot een goede arts maken. Juist in het contact met de patiënt, in het
opmerken van bepaalde kleine signalen of aanwijzingen, zit veel informatie
verborgen over de kwaal of aandoening, of over het ontbreken daarvan. Een
computer kan dit niet herkennen, en de gecomputeriseerde arts dreigt daar ook minder
goed in te worden.

De architectuur is een vakgebied waar
niet, zoals in de luchtvaart of de medische wereld, levens op het spel staan,
maar hier gaat het vooral om esthetiek. Een van de voorbeelden is het werk van
de architect Frank Gehry, wiens gebouwen zonder computers nooit verwezenlijkt
hadden kunnen worden. Voor het omzetten van het ontwerp in bouwtekeningen, voor
de precieze fabricage van speciale materialen in de juiste vorm, was een
computersysteem nodig dat oorspronkelijk ontwikkeld was voor het ontwerpen van
straalvliegtuigen, CAD (computer-aided
design
). En waar Gehry nog begint met tekeningen en modellen van hout en
karton, verlaten veel jonge architecten zich vrijwel volledig op hun
CAD-systeem. Het zogeheten parametrisch ontwerpen heeft een hoge vlucht
genomen, gebouwen kunnen vrijwel automatisch door de computer worden
gegenereerd. Ook hier het inmiddels bekende nadeel: architecten verliezen hun
kernkwaliteiten, verliezen het vermogen om origineel te denken, om een paar
strepen op papier te zetten en maar te zien waar die toe leiden.

Joystick

Carr geeft enkele voorzichtige suggesties om de
nadelen van de huidige vorm van automatisering enigszins aan te passen, zonder
de voordelen te verliezen – dus zeker niet: alle computers de deur uit. Zijn
alternatief baseert hij op de ergonomie, door hem gedefinieerd als “de kunst en
de wetenschap van het aanpassen van gereedschappen en werkplekken aan de mensen
die ze gebruiken”. In al hun complexiteit zijn computers natuurlijk in essentie
gereedschappen die de mens moeten helpen, maar in de loop van de tijd lijken de
rollen zich te hebben omgedraaid en lijkt de mens steeds meer tot een (vaak
onhandig) verlengstuk van de computer te zijn geworden. Het is die verhouding
die volgens Carr dient te worden aangepakt, wat nog niet eenvoudig is omdat de
verhouding ook het uitvloeisel is van een ideologie die het logische en
mechanische hoog waardeert – gebieden waarop computers excelleren.

Het gaat Carr er dus niet om de klok
terug te draaien en automatisering af te schaffen, maar om ‘de menselijke
factor’ meer te betrekken bij het ontwerpen bij het ontwerpen van machines en
systemen: technologiegerichte automatisering versus mensgerichte
automatisering. De luchtvaartindustrie levert opnieuw een goede illustratie.
Fabrikant Airbus heeft gekozen voor een op technologie gefocuste benadering,
met een minimale, joystick-achtige stuurknuppel naast de stoel van de piloot –
de piloot wordt benaderd als operator en nauwelijks meer als vliegenier.
Daartegenover staat de benadering van concurrent Boeing, waarin de nadruk veel
meer op de menselijke piloot ligt. De stuurknuppel, hoewel computergestuurd, is
nog steeds ouderwets groot en is zo geprogrammeerd dat hij weerstand en andere
voelbare feedback geeft. De piloot is op die manier meer berokken bij het
vliegproces en blijft dus alert.

Drassige laagte

Net als in Het ondiepe. Hoe onze hersenen omgaan
met internet
doet Nicolas Carr in dit boek een groot aantal
observaties, vrijwel altijd geïllustreerd met voorbeelden, die zijn centrale
gedachte keer op keer moeten bewijzen: door de manier waarop automatisering
zich met name de laatste jaren ontwikkelt, winnen we niet alleen tijd,
effectiviteit en veiligheid, maar dreigen we ook essentiële vaardigheden te
verliezen. Die boodschap komt over, althans op mij. Niet elk voorbeeld zal voor
elke lezer even sprekend zijn. Zo zijn Carrs eigen ervaringen met het leren
rijden in een handgeschakelde wagen, voor mij als rijbewijsloze minder
overtuigend. Veel interessanter vond ik bij voorbeeld de connectie die hij legt
met het mij vagelijk bekende onderzoek over de paradox van werk: mensen zeggen
liever andere dingen te doen dan te werken, maar blijken vaak het gelukkigst te
zijn tijdens hun werk en weten zich met hun vrije tijd in veel gevallen geen
raad. Iets vergelijkbaars is op te merken in onze houding ten opzichte van
computers. We geloven en zeggen dat computers ons veel vervelend werk uit
handen nemen, maar verliezen door automatisering steeds meer mogelijkheden om
op te gaan in een flow: “Maar al te
vaak bevrijdt automatisering ons van datgene wat ons een vrij gevoel geeft.”

In veel besprekingen van The Glass Cage wordt Carrs schrijfstijl
geroemd. Dit is iets wat ik de andere recensenten niet kan nazeggen. Tegenover
de vele positieve zaken die ik over de inhoud van het boek te zeggen heb, stond
de moeite die ik vaak had om dóór te blijven lezen. Wellicht is de vertaling
hier debet aan – ik heb de Amerikaanse versie van het boek niet ingekeken. Wel
zag ik op internet dat het laatste hoofdstuk, waarin Carr nog eens vanuit een
andere invalshoek zijn mening geeft over de relatie tussen mens en machine,
getiteld is ‘The Love That Lays the Swale in Rows’ – een regel uit een
gedicht van Robert Frost. In het Nederlands is dit geworden: ‘De liefde die de
drassige laagte op rijen legde’. Waarschijnlijk is gebruikgemaakt van een
bestaande vertaling, of heeft de vertaler voor deze gelegenheid gewoon zijn
best gedaan. Maar Frost verdient beter, en Carr eigenlijk ook.

Nicholas Carr, De
glazen kooi. Wat automatisering met ons doet (The Glass Cage. Automation and Us, vert. uit het Amerikaans door
Huub Stegeman), Maven Publishing, Amsterdam, 2014, 334 blz., ISBN 978 94 9184
534 5.

dagelijkse newsletter

take down
the paywall
steun ons nu!