Technology assessment in het spoor van Hannah Arendt

Civis Mundi Digitaal #126

door Erik Jansen

De discussie over de snelle ontwikkelingen in techniek en wetenschap (zoals nanotechnologie, genetisch gemodificeerde organismen, diepe breinstimulatie, stamceltherapie) en wat de maatschappelijke implicaties daarvan zijn, is en blijft een moeizame zaak. De wetenschapper leeft in twee werelden. De dagelijkse leefwereld van het woord waar je met elkaar kunt praten en vragen kunt opwerpen over het nut en de risico’s van nieuwe technologie. En de wereld van het laboratorium waar de wetenschapper experimenten bedenkt om via een geïsoleerde benadering een bevestiging te verkrijgen van zijn ideeën. Die twee werelden raken elkaar nauwelijks. Op de ‘snelweg’ van het onderzoek ontrafelt de wetenschapper de wetenschappelijke vragen, zoals de quantum effecten van de elementaire deeltjes, of speurt met nieuwe scanners en microscopen naar de werking van het brein, de eiwitfabriekjes in de cel, of analyseert met bio-informatica de expressie van de genen. Maar hij komt er niet aan toe te bedenken wat de maatschappelijke gevolgen allemaal kunnen zijn. Daarvoor is een brede discussie nodig, bijvoorbeeld in de vorm van een burgerberaad. Lieve Goorden schetst aan de hand van de filosofie van Martin Heidegger en Hannah Arendt, hoe we ons ten opzichte van de nieuwe ontwikkelingen in de technologie moeten verhouden.

Onze houding ten opzichte van de natuur

De oude Grieken waren al geïmponeerd door de grote verscheidenheid in de natuur. Plato veronderstelde dat achter die complexiteit zich een wereld van ideale vormen bevond en dat ieder object in de wereld kon worden teruggebracht tot een instantie van één van die ideale vormen. Pythagoras herkende getalsverhoudingen in de natuur, zoals de harmonische intervallen in de muziek. Archimedes zocht empirisch via observaties en experimenten naar vaste verbanden en ‘wetten’. Zo sprak hij nadat hij het principe van de hefboom ontdekt had, “geef mij een steunpunt buiten de aarde en ik til de aarde op”. Volgens Hannah Arendt was dit het scharnierpunt van de geschiedenis, het punt dat de mens zag, dat hij de aarde en de natuur kon gebruiken en zich technieken kon toeëigenen om zijn leven aangenamer te maken.

René Descartes deed twee belangrijke stappen. Hij maakte ten eerste een scheiding tussen geest en lichaam. Alleen de mens had een geest en de natuur niet. Door de scheiding van geest en lichaam kwam ook het eigen lichaam zonder geest te staan en werd zo toegevoegd aan de te onderzoeken en te exploiteren wereld. Het menselijk lichaam bleek een organisme, net als dat van de andere dieren. Ten tweede ontwikkelde hij de analytische meetkunde waarmee hij posities en richtingen kon uitdrukken in getallen en daarmee kon rekenen. Zo kon hij de natuurwetten uitdrukken in wiskundige taal. Isaac Newton voltooide het wiskundige begrip van beweging en versnelling, en de onderlinge aantrekkingskracht van objecten, en postuleerde daarmee de zwaartekracht. Met de ontdekking van de warmtewetten en van de elektriciteitswetten ontstond een technologische gereedschapskist, waarmee de mens het leven een stuk aangenamer kon maken; aanvankelijk nog zonder een diepgaand begrip van de elementaire krachten en de complexiteit van het leven zelf. De afgelopen decennia is het onderzoek zich daarop gaan richten, op de genetische aanleg van de mens en op het bewustzijn.

Het leven

De aandacht voor de bron van het leven heeft geleid tot onderzoek naar het ontrafelen van het DNA en de werking van de eiwit construerende machientjes in de cel. Het DNA blijkt een lange maar relatief simpele reeks van instructies te zijn, genen genoemd, waarbij ieder gen staat voor een quartaire code in de vorm van specifieke sequenties van A,T,G,C-basenparen. Genen coderen voor instructies voor het aanmaken van eiwitten en daarmee voor de erfelijke eigenschappen. Alle vormen van leven in de natuur, bomen, planten, eencelligen, gebruiken in principe hetzelfde DNA-mechanisme. Vanuit die elementaire genetische instructies ontstaat een natuurlijke verscheidenheid, die, zoals wij het waarnemen, vele malen complexer is dan de relatief simpele genetische code zelf.

We zijn nog niet in staat zelf nieuw DNA te ontwikkelen, maar wel om (delen van) het DNA uit een bacterie te halen, het DNA te kopiëren en dan weer terug te zetten, waarna de bacterie doorleeft.

We kunnen ook (trans)genen van het ene dier overzetten naar het DNA van een ander dier. Daarmee kunnen we nieuwe erfelijke eigenschappen toevoegen aan bepaalde organismes en gewassen. We kunnen ook bij een varkensembryo de genen voor het hart wegnemen en door menselijke stamcellen in het varkensembryo te brengen, een menselijk hart laten groeien. Zo kunnen we kunstmatig menselijke organen kweken, die overgezet kunnen worden naar de mens [1]. Als we nu ook nog zouden begrijpen hoe de mitochondriën en de andere ondersteunende onderdelen van de cel werken, dan kunnen we ook zelf leven opwekken.

Het idee om als mens zelf in te grijpen in de natuur wordt voor het eerst genoemd in de utopie van Francis Bacon, Nuova Atlantis (1626), waar geleerden zich in het huis van Salomon bezighielden met het verfijnen van de natuur, zoals het kweken van fruitbomen die ook in andere jaargetijden vruchten voortbrengen. Francis Bacon ontwikkelde ook een model voor de moderne ‘research universiteit’ met een taakverdeling in het verkennen van de ideeën, de planning en uitvoering van experimenten, en de valorisatie van de resultaten.

Wij kunnen dus nu gerichter sleutelen aan de natuur, veel gerichter dan de natuur zelf, die slechts via de inefficiënte omweg van toeval en selectie de evolutie stuurt, of beter gezegd laat gebeuren. Maar welke waarborgen hebben we dat het niet een keer goed misgaat? Veel technieken verlaten het laboratorium voordat duidelijk is wat alle consequenties zijn.

Bewustzijn

Er is nog een andere wetenschappelijke ‘frontier’ die ons bezighoudt en dat is het bewustzijn. Anders dan Descartes begrijpen we nu dat het bewustzijn wél gelocaliseerd is in de fysieke hersenen en dat er een nauw verband is met de zintuigen en met het geheugen. Maar hoe het precies werkt en hoe het bewustzijn (zo rond de eerste levensjaren) zich manifesteert, is vooralsnog een raadsel. Laten we eerst kijken naar de werking van de hersenen en waar ‘intelligentie’ vandaan komt.

Binnen de Artificial Intelligence (AI) zijn twee modellen populair voor het simuleren van intelligentie. Het eerste model, ‘expertsystemen’, werkt met logische operaties op gegevens in het geheugen. Het deduceert uit meerdere gegevens nieuwe conclusies. Het tweede model beschouwt de hersenen als een netwerk van onderling verbonden neuronen. De sterkte van de verbinding tussen de neuronen wordt ‘geleerd’ door het netwerk veel verschillende gevallen van input en output aan te bieden en de verbindingen zo te tunen dat er een goede correlatie ontstaat tussen input en output. Eenmaal getraind, kan het netwerk voor veel andere variaties van de input, nieuwe conclusies trekken.

Dit netwerkmodel komt aardig overeen met de structuur van de hersenen zelf en is ook erg snel. Echter, in dit netwerkmodel is niet helemaal duidelijk, hoe bijvoorbeeld onze herinneringen worden opgeslagen. Maakt het voor ieder nieuw gegeven een nieuw stukje netwerk aan? Het brein is wel plastisch, maar zo plastisch is het mogelijk niet. Het expertsysteem model is aan de andere kant ook niet erg realistisch, want ook dan is niet geheel duidelijk hoe informatie wordt gecodeerd en hoe het weer zo snel beschikbaar komt dat we in real-time kunnen denken, en herinneringen zo levendig kunnen terughalen. Als basisarchitectuur maakt het neurale netwerk de meeste kans, maar er blijven nog vele vragen open.

Tot zover hoe de hersenen werken en intelligent gedrag voortbrengen. Het bijzondere van het bewustzijn is dat het zichzelf bewust is van het eigen denken. Een computer kan ook logische operaties uitvoeren maar een computer is volledig geprogrammeerd door het computerprogramma en combineert mechanisch gegevens tot nieuwe resultaten zonder besef van wat er gebeurt en of de resultaten wel of niet voldoen. Dat kan het bewustzijn wel. Het kan reflecteren op de juistheid van haar beslissingen en het kan haar gedachten onder woorden brengen. Vooralsnog is het echter onduidelijk hoe het bewustzijn ontstaat. Is het puur een opschalen naar meer neuronen en meer verbindingen of vindt er een kwalitatieve verandering plaats in de hersenen op het moment dat een peuter zich van zichzelf en van zijn emoties bewust wordt?

Intelligentie in objecten

We kunnen niet alleen sleutelen aan het leven, we kunnen ook objecten zoals robots uitrusten met intelligentie en, wie weet, binnenkort met bewustzijn. Het zal daarvoor de capaciteit moeten hebben om al doende te leren en steeds slimmer te worden en emoties te tonen. De robots zullen hun eigen intelligentie moeten ontwikkelen, want de wereld is te complex om te “programmeren”. Omgekeerd kunnen we door het gedrag van artificiële neurale netwerken te analyseren, beter gaan begrijpen hoe de menselijke hersenen werken.

In plaats van een duale scheiding tussen de mens en de dingen zullen we dus binnenkort kunnen ervaren dat beide zijden veel gemeen hebben. Dat zal nog sterker worden als we de huidige simulatie van intelligentie in robots in de vorm van software kunnen vervangen door neuronen met dezelfde architectuur als het menselijk brein, bijvoorbeeld door neuronen op chips te implementeren die zichzelf kunnen configureren.

Techniekfilosofie

Voor reflectie op deze onderwerpen gaat Lieve Goorden, docente en schrijfster over Technologie en Maatschappij, te rade bij Martin Heidegger en Hannah Arendt. Was de mens van oorsprong ingebed in de natuur en onderdeel daarvan, met de moderne technologie is de mens een gebruiker van de natuur geworden en is hij de natuur gaan exploiteren voor zijn eigen nut. Nu de mens ook ontwerper van het leven wordt, hoopt Heidegger dat de mens zich meer bescheidener en terughoudender zal gaan opstellen. Want begrijpen we eigenlijk het leven wel? Alles wat we nu zien als ‘voorhanden’, is maar een schim van het leven (het ‘Zijn’) zelf, als je het afzet tegen het ontstaan en de inbedding in andere verbanden. De waarnemingen die wij doen, zijn onze indrukken. De wiskunde die wij leggen over de verschijnselen van de natuur, is onze vereenvoudigde blik. We weten alleen dat het werkt! Maar doet het ook recht aan de complexiteit van het leven? Kunnen wij het leven wel begrijpen als we alleen onze eigen vooronderstellingen op het leven projecteren? Kunnen wij onszelf wel analyseren als onze perceptie geheel gevormd wordt door onze eigen beperkte technologie en onze vereenvoudigde abstractie methoden van het ‘rekenende’ denken? Volgens Heidegger komen we onszelf tegen, en we weten niet wat we wel en niet zien en ook de ‘zinsamenhang’ van het leven kunnen wij niet vatten. We kunnen alleen het leven zien als ons geschonken, en we kunnen alleen ‘zorgend’ luisteren naar de dingen die tot ons komen in de natuur, de kunst, en in de taal en onze verhalen.

De menselijke conditie

Lieve Goorden citeert veel uit het boek De menselijke conditie [1] waarin Hannah Arendt onze houding ten opzichte van de wetenschappelijke en technologische ontwikkelingen in navolging van Heidegger uitgebreid behandelt. Hannah Arendt analyseert nog een derde aspect van het denken van René Descartes: het aspect van de twijfel. Hoe weten we dat onze kennis zeker is als onze zintuigen en onze denkmodellen slechts verschijnselen registreren op hun eigen manier die niet hoeven te corresponderen met hoe ze in werkelijkheid zijn (we zien iedere dag de zon in het oosten opgaan en in het westen weer ondergaan).

Vanaf Descartes is een onzekerheid geslopen in ons denken en zijn eigen al te simpele remedie van “ik denk, dus ik ben”, is geen afdoende antwoord op die twijfel. Het vermogen van introspectie verschafte Descartes de schijnzekerheid van “ik-ben”. Maar de stilzwijgende veronderstelling is hier dat ons bewustzijn slechts datgene kan kennen wat het zelf voortbrengt. Echter, de zekerheid die de introspectie ons biedt, schrijft Arendt, is een innerlijk vermogen dat niet langer op de wereld is betrokken maar alleen op onszelf. En dat vermogen komt in de plaats van het gezond verstand en van onze gemeenschapszin. Wat de mensen bij introspectie gemeen hebben is niet de wereld, maar de structuur van hun bewustzijn. (p. 84 van [2]).

Sinds het verlaten van de premoderne en christelijke opvattingen van de wereld als natuurlijke en eeuwige habitat van de mens en ‘in Gods hand’, is er een fundamentele twijfel in ons leven gekomen. Wat begrijpen we van de natuur? Van de complexiteit en de interactie bijvoorbeeld in een ecosysteem? Het is niet alleen louter de genetische informatie die het leven stuurt, er is tevens een complex ecosysteem, dat het gedrag van levende wezens mede bepaalt. De genetische code kan niet zónder de complexiteit van die omgeving. De complexiteit aan de buitenkant van het leven is in schril contrast met de elementaire mechanismes in de cel rond genen. Zo is het bewustzijn veel complexer dan de neuronen in ons brein suggereren. De natuur zelf toont zich alleen in zijn verscheidenheid en complexiteit. Het weet de eenvoud van de ‘genetische codering’ en ‘neuronen’ aan de binnenkant heel goed te verbergen voor de buitenwereld. Hoe kunnen wij een Beatlesliedje herkennen zonder dat we enig besef hebben van hoe onze herinneringen en herkenning werken? Wij hebben geen besef dat we deurtjes openen en laatjes uittrekken. Waarom verbergt de natuur al die onderliggende complexiteit? Wij moeten dan ook verwonderd zijn over de schoonheid van de natuur en hoe fantastisch de menselijke taal en gedachten zijn.

Burgerberaad

In navolging van Hannah Arendt pleit Lieve Goorden om de impact van nieuwe technologieën, zoals genetisch-gemodificeerde gewassen, breed binnen de maatschappij te bediscussiëren in burgerberaden. Ondanks dat ze zelf een aantal van die gesprekken voor de Vlaamse en Nederlandse overheid heeft opgezet, gaat ze nauwelijks in op hoe deze burgerberaden moeten worden georganiseerd. Ze geeft wel enkele impressies van de belangstelling van burgers voor die discussies en van de emoties rond die onderwerpen, maar een echte analyse of blauwdruk van hoe een burgerberaad moet verlopen en wat ervan mogen verwachten komt ze helaas niet. De wetenschap en het bedrijfsleven nemen in deze discussies ook niet altijd het voortouw [3].

Net als bij veel andere auteurs die meerdere publicaties omwerken tot één boek, bevat het boek veel herhaling. Sommige onderwerpen komen wel drie keer langs. De rol van Hannah Arendt op het aspect van ‘technology assessment’ komt ook niet geheel uit de verf, behalve dat Hannah Arendt vooral het open gesprek prefereert met zo min mogelijk vooropgezette ideeën en meningen.

Noten

[1] Hetty Helsmoortel, De geknipte genen, Borgerhoff & Lamberigts, 2020.

[2] Lieve Goorden, De essentie van Arendt, ISVW Uitgevers, 2019.

[3] Een uitzondering vormt Stephen Hawking, die met een honderdvijftigtal prominente figuren als Bill Gates en Elon Musk in 2015 in een open brief zijn vrees uitsprak dat boosaardige kunstmatig intelligente wezens ooit de wereld van ons zouden kunnen overnemen. https://en.wikipedia.org/wiki/Open_Letter_on_Artificial_Intelligence