Filosofische aspecten van kunstmatige intelligentie

Civis Mundi Digitaal #113

door Piet Ransijn

 

Inhoudsopgave

Themagedeelte Kunstmatige Intelligentie

Inleiding: de erfenis van Alan Turin, Richard Starmans 

Over oude en nieuwe allegorieën van de denkende machine
De omgekeerde triptiek van data, informatie en kennis, Richard Starmans 

Onderweg naar een heideggeriaanse AI, Hans Weigand 

Kunstmatige intelligentie en de grensvervaging tussen mens en machine
Enkele antropologische kanttekeningen, René Munnik 

Inductiemachines, Bram van Dijk

Comparatieve filosofie

Succesvol falen, Alberto Giacometti als zenmeester, Michel Dijkstra

Filosofie van wetenschap en techniek

Virtual reality: het nieuwe Jeruzalem revisited, René Munnik

Filosofie van politiek en cultuur

Coornhert: weet of rust, Hans Achterhuis

Filosofie en onderwijs

De Eendagsschool, Gerard Drosterij & Bob van Geffen

Berichten en boekbesprekingen

Het rebelse denken van Enrique Dussel, Peter de Wind 

Ideeën en macht, Rijk Schipper 

Machiavelli’s lef, Donald Loose 

En blauw zal alles zijn, Eric Bolle

Hoe onuitsprekelijk is het onuitsprekelijke? Eric Bolle

No exit? Boëthius’ paradoxale gevangenisfilosofie, Christiaan Caspers

 

Overzicht van het themagedeelte over kunstmatige intelligentie

‘De erfenis van Alan Turing’ is de titel van de inleiding van Richard Starmans. Hij is verbonden aan de Universiteiten van Utrecht en Tilburg. Daarna gaat Starmans in op een aantal recente ontwikkelingen in het technologiedebat over AI (artificial intelligence), kansen en bedreigingen, utopieën en dystopieën die kunnen opdoemen, veranderende mensbeelden en maatschappijvisies. Maar vooral op inhoudelijke ontwikkelingen binnen het domein van AI, in probabilistische (statistische) richting en/of op weg naar een verklarende wetenschap. Aan bod komt ook het verband tussen AI en data, ethische verantwoording en de combinatie en integratie van AI met menselijke intelligentie in hybride systemen.

Hans Weingand, eveneens van de Tilburgse Universiteit, gaat vervolgens in op de kritiek op een aantal aannames en postulaten van de AI die geïnspireerd zijn door de filosofie van Heidegger en kunnen leiden tot een Ai die overeenstemt met diens filosofie. “Een Heideggeriaanse AI” is een AI die fysiek aanwezig is in de wereld, gefundeerd is in taal, leert van ervaring, interactief kan handelen en zich vandaaruit verder kan ontwikkelen in de richting van een systeem met eigen verantwoordelijkheid, zoals zal worden toegelicht.

René Munnik, die als filosoof was verbonden aan de universiteiten van Tilburg en Twente, gaat in op de grensvervaging tussen mens en machine, die al eeuwenlang aan de gang is. Of er verschil is wordt bepaald door mensen, die de gangmakers blijven bij het op elkaar inlopen van mensen en machines.

Bram van Dijk, filosoof te Leiden, beschouwt mensen en computers als inductiemachines. Inductie is het afleiden van meer algemene uit specifieke gegevens, dat bijv. een belangrijke rol speelt bij het herkennen van patronen in bijv. taaluitingen. Deductie is het omgekeerde.

 

https://fr.accentsconagua.com/articles/design/how-to-create-a-human-cyborg-photo-manipulation-in-adobe-photoshop.html

 

Inleiding: mensen en computers groeien naar elkaar toe

Turing was een baanbrekend onderzoeker op het gebied van informatica, computerwetenschap en kunstmatige intelligentie. Hij bedacht twee experimenten om het onderscheid tussen mens en computer te bepalen. Als het ons mensen niet meer lukt dit onderscheid te maken, slaagt de computer voor de Turing-test en is het verschil met menselijke intelligentie moeilijk meer aan te geven of te operationaliseren.

Mensen en computers groeien als het ware naar elkaar toe. Verschillen verminderen. “Beschouwen we de mens vanuit de computer of de computer vanuit de mens? Enerzijds bouwen mensen computers “naar eigen evenbeeld”. Anderzijds worden computers gebruikt “om de menselijke intelligentie en cognitie te begrijpen...” (p2). Er blijkt een wisselwerking te zijn.

Dit roept filosofische vragen op naar de grondslagen van de informatica en het wezen van de mens in onderscheid met een computer of een geavanceerde machine. Verder ook ethische kwesties bij de sturing van computers en de mate van beslissingsbevoegdheid ervan, alsmede “apocalyptische visioenen van futurologen”, waarbij computers “de mens zullen domineren of zelfs vervangen (p3).” Kunstmatige intelligentie is van meet af aan nauw verbonden met filosofische bezinning daarop. Bij informatica was dat niet het geval en kwam dat pas later. Ook ging kunstmatige intelligentie altijd vergezeld van “torenhoge ambities en hooggespannen verwachtingen” (p4). Dit werkte filosofische discussies in de hand wat betreft de haalbaarheid, wenselijkheid, het grondslagenonderzoek en de mogelijke ethische en maatschappelijke implicaties.

 

Mensen en computers reiken elkaar de hand https://freeday.ai/career/ai-developer-2/

 

Sturende kwesties

Een aantal kwesties die technologische, wetenschappelijke en filosofische componenten hebben, vragen al jaren de aandacht:

Is AI vooral een ‘smart technologie’ of is het ook een empirische wetenschap die menselijke cognitie en daaruit voortvloeiend gedrag kan begrijpen, verklaren, voorspellen en verbeteren?

Moet kennis symbolisch worden weergegeven in logische taal of subsymbolisch in probabilistische netwerken in termen van waarschijnlijke, statistische verbanden (waarbij taal afhankelijk is van de context)?

Ligt bij intelligentie de nadruk op ‘high-level’ cognitieve functies, zoals redeneren, argumenteren, problemen oplossen en plannen of op ‘low-level’perceptie, zoals herkennen van patronen, gezichten, klanken en geluiden?

Gaat het daarbij vooral om opslag en combineren van veel data of om redeneren op basis van een beperkt aantal axioma’s of gegegevens?

Is weergave van kennis van de wereld en de omgeving überhaupt nodig?

Is intelligentie gesitueerd (embodied) in een veranderen omgeving of is non-embodied AI voldoende?

Is intelligentie een algemene kwaliteit of gaat het om specifieke vaardigheden en deeltaken?

 

Het nieuwe technologiedebat over AI

Ontwikkelingen op het gebied van informatica en AI gaan snel. Bijv. wat betreft self-driving cars, virtual reality, drones en automatische wapens, gezichtsherkenning en surveillancetechnologie, (sociale) robotica, enz. Dit wordt in de media breed uitgemeten in een publiekelijk gevoerd technologiedebat over kansen en bedreigingen, haalbaarheid en wenselijkheid. Het gaat gepaard met veranderende mens- en maatschappijvisies, waarbij utopieën en dystopieën niet van de lucht zijn. Het debat betreft volgens Starmans vooral een vijftal  thema’s:

Het verband tussen data, informatie en AI. ‘Informatie’, waaraan betekenis kan worden toegekend, is een rijker begrip dan (ruwe) data. Kennis en (kunstmatige) intelligentie gaat nog verder. De laatste jaren was er een data-explosie, die zijn repercussies heeft op AI-ontwikkelingen en data-verwerking.

De probabilistische wending naar statistische methoden en kansberekening. Dankzij verbeterde computers kunnen deze worden toegepast. “Dit alles leidde... tot een notie van computational intelligence, die vooral gestalte kreeg in de opkomst van machine learning, knowledge discovery in databases en pattern recognition” (p9).

De opkomst van explainable AI als verklarende wetenschap. De vaak weinig transparante en moeilijk te begrijpen conclusies van computers leidde tot een behoefte aan verklaringen waarom en hoe computers tot conclusies komen en hoe dit in zijn werk gaat, in plaats van de adviezen ‘domweg’ te volgen. In hoeverre is AI wetenschappelijk te onderbouwen en te verklaren? In hoeverre kan smart technology een verklarende wetenschap zijn of zich daartoe ontwikkelen?  Als AI zich ontwikkelt tot een empirische wetenschap, dan heeft deze raakvlakken met de gedragswetenschappen, met name wat betreft mens-machine-interactie.

De verantwoording van AI-ontwikkelingen en de opkomst van responsibele AI: het terrein van de ethiek. Wat is goed? “Wil, kiest, besluit of recommandeert het autonome en ondoorgrondelijke systeem iets omdat het ‘goed’is, of is iets ‘goed’ omdat het... systeem dit wil, kiest, besluit of recommendeert?” Met andere woorden: lijkt het op de wil van een autoritaire baas of de leider die  bepaald wat ‘goed’ is, of is de leider onderworpen aan ethische richtlijnen?

Hybride intelligentie, d.w.z. de combinatie van menselijke en niet-menselijke intelligentie bij technologische ontwikkelingen. Deze worden vaak geassocieerd worden met hubris of overmoed, zoals in mythen en verhalen naar voren komt: Prometheus, de val van Icarus, de Toren van Babel, enz.

 

Antithesen en synthesen

“Op [deze] verschillende niveaus worden thesen en antithesen tot synthesen omgesmeed... symbolische en subsymbolische technieken, de logica... versus de pobalistische invalshoek..., high-level cognition versus low-level perception, storage en retrieval [van data] versus redeneren... ‘embodied AI’ en ‘non-embodied AI’..., menselijke actoreen en artificiële agents... Met name binnen de man-machine interaction kunnen de oude dystopieën rond technologisch determinisme, allesoverheersende robots en een dreigende technologische singulariteit worden ontmanteld... Voor velen kan AI-data science een opmaat zijn tot onrecht, discriminatie, machtsmisbruik, verlies aan werkgelegenheid, menselijke identiteit en waardigheid, etc.” (p12,13).

Kennis en informatie lijken meer en meer te worden vervangen door data en data-analyse en verwerking ervan. Voor sacrale kennis en gnosis is al haast helemaal geen plaats meer in de vloedgolf van data. Voor filosofie, vooral ethiek en epistemologie, ligt op dit gebied een taak en nog bijna braak terrein, waar grote mogelijkheden liggen. Naast bedreigingen ook de nodige kansen.

 

In hoeverre begrijpt een computer of een robot hoe hij werkt? https://dokter.ai/

 

Kritiek op AI vanuit de filosofie van Heidegger

Kritiek op AI sloot vaak aan bij de filosofie van Heidegger en streefde ernaar (de grondslagen van) AI in overeenstemming te brengen met diens filosofie: een “Heideggeriaanse AI”. In de kritiek komen de volgende drie bezwaren naar voren:

Intelligentie zou vooral bestaan uit het representeren en manipuleren van de wereld met symbolen. De vooronderstelling dat menselijke kennis symbolisch is, is echter onvolledig. “De meeste kenneis is juist impliciet... We kennen de wereld primair door onze omgang met de wereld, niet door symbolen” (p14).

Er wordt geen onderscheid gemaakt tussen beschrijving en uitvoering, terwijl beschrijving van gedrag geen uitvoering inhoudt. De beschrijving is niet de werkelijkheid (The map is not the territory). Er dient een onderscheid te worden gemaakt tussen modellering, toepassing en het bouwen van de technologie daarvoor.

Waarnemen van beschrijvingen en deze overbrengen via (symbool)taal onderscheiden zich van er iets mee doen. Bij Heidegger staat de mens als actor centraal, niet als waarnemend subject.

 

Relevante kernthema’s in de filosofie van Heidegger

Het bewustzijn is altijd betrokken op iets volgens Husserl. Het staat volgens Heidegger “in de wereld”, het is een “Dasein”. “De cartesiaanse scheiding tussen subject en object is daarom onnatuurlijk” (p15). In en door zijn handelen is de mens betrokken op de wereld en zijn objecten, die hij niet alleen maar waarneemt, maar waar hij ook iets mee doet. Er is een wederzijdse betrokkenheid en openheid van het Dasein en de wereld in een fundamenteel open bestaan (Dasein). Daardoor verandert en ontwerpt hij deels zijn bestaan: “Dasein is Design”.

“Taal (Rede) is in essentie de ontvouwing van het verstaan van mogelijkheden... Het [Dasein] bouwt voort op relaties en betekenissen die er al zijn... De wereld is een wereld vol relaties... vooral telische relaties,” met een doel (p15). Het Dasein is een Mitsein. Deze zijnswijze gaat verder dan representatie en manipulatie van symbolen, die de basis is van symbolische (of symbool-gedreven) AI. Ook deze vorm van AI heeft echter zeker zijn toepassingsmogelijkheden en kan een hulpmiddel kan zijn bij het praktisch handelen in de wereld en het Dasein.

“Een Heideggeriaanse AI”, die dus overeenstemt met de filosofie van Heidegger heeft de volgende kenmerken:

is fysiek aanwezig in de wereld,

biedt mogelijkheden tot handelen en ervaringsgerichte praktische omgang met de wereld, waardoor het leert van ervaring,

is gefundeerd in taal,

kan interactief handelen,

kan zich vandaaruit verder ontwikkelen in de richting van een systeem met eigen verantwoordelijkheid.

Er zijn verscheidene pogingen gedaan AI verder te ontwikkelen volgens deze principes, die overeenkomen met het menselijke Dasein in de wereld, waardoor AI daarbij meer aansluit. Het Dasein van AI hoeft echter niet hetzelfde te zijn als het menselijke Dasein en staat anders in de wereld, zoals ook dieren anders in de wereld staan.

 

https://www.sociaalweb.nl/nieuws/philadelphia-test-sociale-robot-en-start-uniek-robotplatform

 

Sociale robots

Sommige systeembouwers richten zich op “flexibele interactie” en onderlinge afstemming  van mens en AI en computernetwerken onderling, aansluitend bij de systeembiologie van Maturana (zie CM 110, Capra deel 2). Er wordt zelfs gerept  van “artificiële empathie... In de sociale robotica wordt veel aandacht gegeven aan emoties, vanuit de aanname dat die wezenlijk zijn voor sociale interactie” (zie CM 112 over robotica). “De geest is onlosmakelijk verbonden met de omgeving. Het is geen ding, maar een proces, iets wat gebeurt in interactie” (p17).

Sociale robotica roept de vraag op wanneer emoties echt zijn of ‘fake’ en worden gesimuleerd, zoals te verwachten valt bij een robot. Als emoties meer als interactief dan als subjectief worden beschouwd, in de zin van het herkennen van en reageren op emoties, biedt dit perspectieven voor de interactie met robots, die mogelijk meer empathisch geprogrammerd kunnen worden.

Aanvankelijk werd er dus kritiek geleverd vanuit Heigdeggers filosofie. Later werd deze een uitgangspunt om AI meer in overeenstemming met zijn filosofische uitgangspunten te maken.

 

Grensvervaging tussen mens en machine

Alan Turing stelde reeds de vraag of machines (computers) kunnen denken, of dit kunnen leren, en de vraag hoe we mensachtige of androïde computers dan van mensen kunnen onderscheiden (de Turing-test). Volgens René Munnik blijft de mens degene die uiteindelijk het onderscheid maakt en die bepaalt of er verschil is en wat het verschil is.

Een ander wezenlijk verschil zou zijn, dat de mens een ‘innerlijk’ heeft en “mental states” kent. De preciese omschrijving daarvan is een andere kwestie. Een computer heeft ook een intern functioneren, dat zich aan het bevattingsvermogen van velen onttrekt. Een computer zou zelfreflectie missen, hoewel er al zelflerende computers zijn. Zelfbewegende automaten zijn er allang, sinds de 17^e eeuw. Toen werd door La Mettrie e.a. het lichaam beschouwd als machine (L’homme machine, 1747).

Het (gemechaniseerde) mensbeeld wordt vaak afgestemd en aangepast op grond van de vigerende technologie. Na de ontdekkingen op het gebied van de elektriciteit van Galvani en Volta (zie CM 110) “begon de mens steeds meer op een elektrisch apparaat te lijken” (p21). De driftenleer van Freud doet ook mechanisch aan en doet soms denken aan een stoommachine, die het ego onder druk zet. Tegenwoordig wordt gesproken van een “geïnformatiseerd mensbeeld” en worden mensen met computers vergeleken en omgekeerd. Verschillen worden minder.

Als computers (“androïde machines”) mensachtig worden, vraagt  Munnik zich af, wat zijn dan “de  consenquenties... voor het bereik van de Universele Verklaring van de Rechten van de Mens... Vallen zij daar ook onder? Moet de UVRM geamendeerd worden?” (p22). Dat zal dan toch door mensen moeten worden gedaan.

 

https://nl.freepik.com/vectoren/zelfreflectie

 

Permanente verdergaande zelfreflectie

Onder invloed van de techniek verandert het mensbeeld. Maar steeds bleek de onvolledigheid van het gemechaniseerde en ‘geïnformatiseerde’ mensbeeld. Eerst was er een reactie van o.m. de kantiaanse antropologie “van de mens als vrij en autonoom subject”, die het rijk van de natuur en het rijk van de vrijheid bewoont. Dit mensbeeld werkte door tijdens de Romantiek (zie CM 111 e.v.).

Daarna zagen we de nadruk op de zelfbeschikking en autonomie van de mens, die model staat voor “intelligente systemen... met een hoge mate van handelingsspontaniteit (Kant) en autonomie. In die zin weerspiegelen ze het moderne zelfbegrip van de mens als autonoom subject.” En wel in de vorm van in computertechnologie geobjectiveerd zelfbegrip (p23). Mensachtige machines weerspiegelen wat wij denken te zijn en doen ons dan realiseren dat wij zo toch niet helemaal zijn en dat er iets meer is dat een mens tot mens maakt: “een oproep tot verdergaande metafysische [zelf]reflectie... of zelfuitleg”.

Deze zelfreflectie “verhoudt zich bovendien tot de verhouding [met zichzelf...] De mens valt nooit volledig met zichzelf samen. Deze permanente staat van zelfvervreemding is er de oorzaak van dat er niet zoiets bestaat als een definieerbare menselijke natuur; de mens is per definitie ondefinieerbaar en voortdurend naar zichzelf op zoek. Dat is zowel zijn noodlot als zijn grandeur” (p24). In de mystiek en mystieke kunst vindt de mens zichZelf in het ondefinieerbare, het onuitsprekelijke, zie de boekbespreking over kunst en mystiek in dit nr.

In (informatie)technologie objectiveert de mens zijn zelfbegrip. Maar “met geen enkele gefixeerde gestalte, geen enkel geobjectiveerd zelfbegrip, kunnen we ons volledig identificeren” volgens bovenstaand inzicht in zijn ondefinieerbaarheid. “Tegen de tijd dat kunstmatig intelligente systemen de Turingtest glansrijk doorstaan en sprekend op mensen lijken, zijn mensen alweer verder op zoek naar zichzelf” (p24).

 

Inductiemachines

Het themagedeelte over AI eindigt met een artikel over inductiemachines van Bram van Dijk van het Creative Intelligence Lab van universiteit van Leiden. Inductie betekent uit specifieke input algemene patronen of wetmatigheden (kunnen) afleiden. Daarbij hoort het herkennen van patronen en het generaliseren van input. Dat gebeurt bijv. bij taal. Hoe gebeurt dat bij mensen en bij computers? Wat houdt het begrijpen van taal in? Wat speelt zich af in de breinen van manouvrerende mensen? En “onder de motorkap” van KI? Dit zijn vragen bij “de opmars van KI in taalonderzoek. De taalmodellen in de KI zijn inductiemachines”. We begrijpen niet precies hoe taal en taalbegrip werkt, maar we kunnen er wel op een pragmatische manier over denken en taal toepassen, zowel bij mensen als computers.

 

https://docplayer.nl/58477291-Wie-gaan-het-nieuwe-jeruzalem-binnen.html

 

Virtual reality en het Nieuwe Jeruzalem

René Munnik gaat in op dit onderwerp in de rubriek ‘filosofie van wetenschap en techniek’. De Jezuïetenpater Zuccarone schrijft in 1670 over gelukzaligen, die zich na de opstanding uit de dood in onzichtbare “glorieuze lichamen” voortbewegen van de aarde naar het hemelse Jeruzalem. Het is enigszins te vergelijken met de hemel in Divina Commedia van Dante en andere theologische en mystieke teksten.

In hoeverre worden deze eschatologische visie benaderd door de moderne informatietechnologie en met name door de virtual reality: “een volledig door de computer gegenereerde zintuiglijke werkelijkheid, waarin je belevenissen kunt genieten die zich tegelijk nergens en overal afspelen en waarin je jezelf een willekeurige (lichaams)identiteit kunt aanmeten” (p35). Aldous Huxley gaf er in Brave New World een voorproefje van. Deze technologie lijkt ruimte en tijd te overwinnen en maakt lichamelijkheid buitengewoon plastisch.

In hoeverre lijken de bewoners van deze digitale wereld op hemelbewoners? Volgens de christelijke geloofsbelijdenissen en theologie is het hemelse Nieuwe Jeruzalem niet alleen een spirituele maar ook een lichamelijke aangelegenheid in een verheerlijkt lichaam. Het is de vraag of dat een gedematerialiseerd lichaam is. In elk geval wel een subtiel(er), fijnstoffelijk of vergeestelijkt lichaam. Volgens Thomas van Aquino kan zo’n lichaam niet meer lijden, wordt het niet door materiële belemmeringen tegengehouden, is het zo snel als de geest dat wil of denkt en is het lichtend en schitterend. Ook Ruusbroec bevestigt deze kenmerken, die tot op zekere hoogte overeenkomen met huidige technische ontwikkelingen en de “weerstand en weerbarstigheid van de stoffelijke werkelijkheid doorbreken,” zoals in cyberspace (p38).

Verbeelding wordt er zintuiglijke werkelijkheid, maar blijft verbeelding. “Cyberspace realiseert een... Nergensland,” de letterlijke betekenis van Utopia. Wensdromen zijn er om te zetten in “geregisseerde belevenissen en opwindende avonturen”. Het biedt de consumptiemaatschappij een nieuwe virtuele dimensie van nog meer intense genietingen. Maar het is virtueel, niet echt, zinsbegoocheling, spel. “In een virtuele realiteit hebben de dingen geen gewicht. En wanneer het géén consequentieloos spel is, dan komt het door de band die het heeft met de echte werkelijkheid” (p39).

Bij de voorstellingen van het Nieuwe Jeruzalem wordt het geluk geput uit de visio beatifica... de zalige aanschouwing van de Werkelijkste Werkelijkheid: God. Maar daarvan is in cyberspace niets terug te vinden; ze is niets anders dan een te genieten werkelijkheid, waarin woorden als ‘waarheid’ en ‘werkelijkheid’ nu juist tot verlegenheid leiden.”

Munnik vergelijkt het met de passage van Nietzsche over de dood van God (Fröhliche Wissenschaft, aforisme 125): “Waarheen bewegen wij ons? Weg van alle zonnen? Rennen wij niet zonder ophbouden? En terug, zijwaarts, voorwaarts, naar alle kanten? Is er nog een boven en een onder? Dwalen wij niet door een oneindig niets? Gaapt de lege ruimte ons niet aan?” (p39). “De beweging ontbeert... iedere oriëntatie; ze is letterlijk zinloos geworden.”

Het leven vindt hier geen bestemming, zoals bij de Middeleeuwse theologen en mystici en andere wijsheidstradities, maar wordt gekenmerkt door een voortgezet hedonisme en “de bestemmingsloosheid... van een smakelijk opgediend nihilisme.”