Kerstmis met Chat GPT. De toekomst van Artificial Intelligence

Civis Mundi Digitaal #141

door Maarten Rutgers

Al vele jaren is er steeds berichtgeving over de wondere mogelijkheden die er zullen ontstaan wanneer Artificial Intelligence (AI) zich tot grote hoogten ontwikkeld heeft. Altijd weer heeft dit tot lovende en juichende, naast sceptische reacties geleid. In het eerste geval worden ons gouden bergen beloofd, in het tweede geval valkuilen en rampen. Het is verleidelijk de waarheid in het midden te zoeken, waar echter blijkt dat ook hier de kritische kanttekeningen overheersen. De voorstanders lijken er op voorhand van uit te gaan dat machine-intelligentie een overtreffende trap van menselijke intelligentie is, waaraan wij als mensen ons zullen uitleveren of, zoals anderen beweren, gelukzalig in op zullen gaan. In diverse artikelen in CM is aandacht besteed aan deze ontwikkelingen. Hier vanuit een ander perspectief opnieuw aandacht ervoor.

 

Generatieve AI

Het achter ons liggende jaar heeft voor grote opschudding gezorgd met de opkomst van bijvoorbeeld ChatGPT en andere soortgelijke programma’s. Het blijkt dat vele mensen met groot enthousiasme van deze mogelijkheden gebruik maken. Anderzijds zijn er bedrijven, maar ook overheidsinstanties die het gebruik verbieden. Hoe er mee zal worden omgegaan op scholen en universiteiten is nog niet overal duidelijk. Het gemak waarmee nu plotseling complete verslagen, rapportages en nog veel meer tot stand komen zonder dat de opsteller er veel voor heeft hoeven doen, is een sta-in-de-weg. Eigen werk is van belang, zoals we de laatste jaren bij diverse plagiaatvraagstukken hebben gezien.

Maar ook, hoe goed is eigenlijk een tekst van ChatGPT? Hierover lopen de meningen uiteen. Enerzijds is meestal het taalgebruik, de syntaxis en de spelling wel in orde. De inhoud is een ander verhaal. Naarmate de inhoud ingewikkelder is, zijn de beoordelingen matiger. Fouten komen vaker voor en nuanceringen zijn meer dan eens niet aanwezig. Ook het verschil tussen causaliteit en correlatie is voor de software te ingewikkeld. Er is enerzijds een samenhang te zien met de data die gebruikt zijn om de software te ‘trainen’, anderzijds wordt door de software slechts een waarschijnlijkheidsberekening gemaakt – AI is altijd probabilistisch[1] – waardoor de uitkomsten relatieve waarde hebben en ze de werkelijkheid hoogstens benaderen.

Chatbots rekenen slechts. Of het digitaal gecreëerde resultaat überhaupt zinvol of ethisch verantwoord is, kunnen ze dus niet beoordelen. “Het ontbreekt hen aan begrip voor waarheid en moraliteit. Dit gebrek aan kennis wordt achter elegant geformuleerde zinnen verborgen[2].” Nieuws brengen ze nooit naar voren. Ze kunnen het niet[3].

 

AI biedt voordelen

Natuurlijk zijn er terreinen waar de software het goed doet. Veel data doorzoeken en ordenen, snel rekenen en tot op zekere hoogte beeldherkenning gaat de software goed af. De kwaliteit hangt af van de kwaliteit en de logica van de ingevoerde data. En dus komen er steeds weer missers of fouten boven tafel. De mens kan niet blindvaren op de uitkomsten van AI. “Als we ten minste het wantrouwen ten opzichte van AI-inhouden tonen dat we bij onze medemensen passend vinden, hebben we al veel gewonnen[4].”

Het grootste gevaar is wel dat door de systemen toegang te geven tot steeds meer data, de controle over de kwaliteit van deze data geen eenvoudige zaak is. Er kan welhaast niet worden vermeden dat fakenews of anderszins bewerkte data ook als basis worden gebruikt. De hiermee bereikte resultaten – sommige eenvoudig als onzin te typeren, andere zelfs door experts moeizaam als fantasie te duiden – worden als digitale hallucinaties gekenmerkt[5]. Een ander nadeel is dat AI gehackt worden kan, maar ook om andere dan de genoemde redenen slecht of foutief kan werken.

Duidelijk is dat repetitieve taken eenvoudiger en sneller door AI gedaan kunnen worden. AI wordt niet moe, kan verschillende dingen tegelijkertijd doen, kan zeer grote hoeveelheden gegevens aan en reageert snel. Daarbij zijn de vrijheidsgraden van het programma beperkt, omdat er begrenzingen zijn aan softwaredesign en ontwikkeling. De ontwikkelaar bepaalt uiteindelijk de reikwijdte. Een nieuwe generatie kwantumcomputers zou dit kunnen veranderen.

Nadeel is dat de ontwerpers intussen niet meer weten hoe de door hen ontwikkelde software functioneert. Het is een black box geworden. Manuela Lenzen[6], filosofe en wetenschapspubliciste, vooral over AI, wijst op een uitspraak van Stuart Russell, hoogleraar computerwetenschap en leider van het Center for Human-Compatible Artificial Intelligence aan de Universiteit van California in Berkeley: “steeds krachtiger machines leiden er alleen maar toe, dat je steeds sneller de foutieve antwoorden krijgt.”

 

Metaforen

Lenzen is kritisch. Ze beschrijft hoe in de wereld van AI en dus nu ook in de lekenwereld mentale concepten hun ingang hebben gevonden. Hieruit ontstaan misverstanden. Begrippen als leren, waarnemen, gedrag, motivatie en veel meer zijn begrippen uit de menselijke wereld. We gebruiken ze voor AI omdat we geen betere alternatieven hebben dan metaforen voor onze menselijke manier van functioneren. Deze manier van gebruik maken van begrippen die samenhangen met menselijke intelligentie voor hetgeen computerprogramma’s tot stand brengen, wordt wishful mnemonics genoemd[7]. Het is een van de vier grote denkfouten rond AI die Melanie Mitchell[8], hoogleraar complexiteit in Sante Fe, beschrijft. Alle vier hinderen ze ons aan verder komen met de ontwikkeling van AI. Ik ga er hier verder niet op in.

In hoeverre deze begrippen omtrent ons functioneren van toepassing kunnen zijn voor activiteiten van computers is derhalve een stevig discussiepunt. Lenzen: “Hoe preciezer je er naar kijkt, des te sneller verdampen deze vertrouwde begrippen echter in een wazige mist van betekenissen, blijken ze veel te onnauwkeurig te zijn en worden ze vaak geheel uiteenlopend benut.”

Dan levert het ook nog de nodige filosofische discussie op, waardoor er geen uniforme betekenis wordt afgesproken. En: “wat je niet precies kunt formuleren, is ook in je hoofd niet duidelijk.” Voor haar kan er dan ook geen sprake van dat computers kunnen leren. Ze maken, wanneer ze genoeg gegevens hebben aangereikt gekregen, minder fouten, maar dat is nog geen leren. Ook zijn ze niet intelligent, als we al zouden weten wat intelligentie inhoudt. De taal die de computer kent bestaat uit enen en nullen. Een uiterst eenvoudige taal. De computer komt bij tekst niet verder dan het volgende woord in de zin te voorspellen. Daarbij maken ze gebruik van op internet te vinden teksten.

Daarnaast herkennen ze patronen, hoe verloopt in de meeste gevallen de zinsopbouw, en kunnen daarmee zinnen voorspellen. Creatieve nieuwe teksten brengen ze (nog) niet voort, wellicht ook nooit[9]. Mensen communiceren en denken in veel complexere talen[10]. Het is de vraag of de computer ooit het niveau van de mens bij het denken bereikt. Blijft de vraag wat is denken.

Desalniettemin worden we in de media regelmatig overspoeld door overtrokken of volledig onwaarschijnlijke uitlatingen over prestaties van AI, ook van deskundigen. Maar, door het aangekondigde succes worden alle problemen plots opgelost. Dit solutionisme kwam al uitvoeriger aan de orde in de delen 12A/B in CM 126. Lenzen sluit haar boek af met: “kunstmatige systemen tonen ons, juist omdat ze zo anders zijn als wij, waarom het bij de menselijke intelligentie gaat.” Ze roepen als het ware de vraag naar mens zijn op; wie is de mens?

Ook vanuit andere hoek komt er kritiek. Bruce Sterling, sciencefictionschrijver en Google-consultant, in een interview[11]: “we proberen computers iets te laten doen, wat ze niet kunnen: denken.” Ze bedenken dus ook nooit wat nieuws, alles wat ze doen is rekenkracht tonen en gebruiken. Alle pogingen tot nu toe om aan te tonen dat AI intelligent is, hebben gefaald[12].

Ralf Otte, hoogleraar industrieautomatisering en AI in Ulm, schrijft ze rationele intelligentie toe, een soort basisintelligentie, die in verhouding tot intelligentie van levende wezens zeer gering moet worden geacht. Nieuwe ontwikkelingen kunnen hierin verbetering brengen, maar menselijke intelligentie is het nog in de verste verte niet[13]. We moet hierbij niet vergeten dat de door hem gebruikte indeling in typen intelligentie niet door iedereen wordt onderschreven.

 

Controle op AI?

Het is wel de vraag hoe AI gecontroleerd en gereguleerd wordt, door wie en welke doelen gediend worden. Na de roep om overheidsregulering is er intussen een voorstel voor Europese wetgeving. Dit is complexe materie en daarmee voer voor discussie op alle mogelijke niveaus[14]. Niet iedereen is tevreden over hetgeen er nu ligt; het is wel voor het eerst ter wereld dat er wetgeving is. De ontwikkelaars van AI vinden het te ver gaan. Enkele Nederlandse deskundigen vinden het daarentegen een gemiste kans.

Het had veel beter en steviger gekund. Daarom roepen ze de Nederlandse overheid op om in actie te komen en ervoor te zorgen dat in ons land een scherpere en betere regulering tot stand komt[15]. Om hier uitspraken over te doen is andere deskundigheid dan alleen over AI noodzakelijk, aldus Vincent Müller[16], hoogleraar ethiek en filosofie van AI in Erlangen. Een nog niet geringe opgave, maar wellicht in het licht van de ontwikkelingen op een eerder tijdstip ingezet dan bij vroegere disruptieve technische ontwikkelingen.

Of het nog veel zal uitmaken is de vraag, want de voorstanders van verder gebruik, maar vooral verdere ontwikkeling spreken allang van de volgende belangrijke fase die binnenkort bereikt zou kunnen worden. Het zou de fase moeten zijn waarin AI zodanig ontwikkeld is dat het voor de mens aantrekkelijk wordt zodanig samen te smelten met de techniek dat menselijk leven zonder ziekte, zonder lijden, zonder dood tot de mogelijkheden gaat behoren. Zack Kass, AI-expert en voormalig manager bij Open-AI, zegt in een recent interview[17] openlijk: “er bestaat een goede kans dat ik eeuwig zal leven.”

 

Human enhancement

Op dit moment wordt in deze gedachtegang gesproken van een fase waarin human enhancement, menselijke verbetering aan de orde is. Verbetering die wezenlijk verder gaat dan in de beginfase van sleutelen aan de mens waarin het begrip gebruikt werd voor plastisch chirurgische ingrepen, vervanging van lichaamsdelen en organen e.d. Het gaat nu om het vernieuwen van de mens als totaal wezen.

De vervolgfase, de transhumane fase moet uiteindelijk leiden tot voortleven als posthumaan wezen, versmolten met de AI-intelligentie en daarmee een veel omvangrijker intelligentie bezittend. Of je dan nog van mens moet of kan spreken laten de voorstanders open. Het gaat om werkelijkheid wordende sciencefiction. Dit zou dan de volgende fase van de evolutie op aarde moeten zijn. En later zelfs het gehele heelal. Er is hier nog wel het een en ander op af te dingen[18]. En vooral ook, het gedachte tijdpad is wel heel snel, voor sommigen zou het al halverwege deze eeuw zover kunnen zijn.

Interessant eraan is dat er inherent een heilsverwachting aan gekoppeld is, hoewel het transhumanisme als wetenschappelijke ontwikkeling tevoorschijn komt. De kern van deze denkwijze heeft een religieuze grondstructuur. Transhumanisme leidt tot posthumanisme als oplossing voor alle bekende en onbekende bestaande menselijke problemen. In deze ontwikkeling horen ook implantaten om de cognitieve mogelijkheden te vergroten en neural engineering om het menselijk bewustzijn te veranderen en te verruimen, thuis. Je zou kunnen stellen dat transhumanisme niets anders is dan in technologische terminologie verpakte spiritualiteit, die tegelijkertijd alle spiritualiteit verloochent.

 

Werktuig

AI is slechts als werktuig van de mens te beschouwen en als zodanig te gebruiken. Het is de mens die bepaalt wat hij ermee doet[19]. Een waarschuwende vinger is op zijn plaats. Ook bij andere ontwikkelingen liet de mens het liever op zijn beloop, werd ingepalmd door de mooie vooruitzichten, in slaap gesust door korte termijn voordelen of heeft de mensheid zich verslapen en alle stopmomenten over het hoofd gezien.

Wat kunnen we met ChatGPT. Als voorbeeld: Kerstmis, het thema dezer dagen. ChatGPT levert bij het alleen maar intikken van deze term in de Engelstalige versie een aardige beschrijving van een tijdloos feest met religieuze betekenis dat mensen samenbrengt, traditie en moderniteit verknoopt, mensen betekenis verleent, oproept tot reflectie en herinnert aan de kracht van liefde.

De Nederlandse versie is meer direct. Het gaat over 25 december, een christelijk feest, waarbij kerstbomen, lichtjes, traditionele gerechten en de uitwisseling van cadeautjes een rol spelen. Het is allemaal niet onjuist, wel redelijk banaal, maar er moet door de mens worden nagedacht wat hij van deze beschrijving vindt en wat hij in eigen teksten kan gebruiken. Het is slechts een simpel voorbeeld, maar geeft al aan in hoeverre er bij teksten door de mens zelf het nodige gedaan moet worden. Voor ingewikkelder opgave bij teksten, maar zeker bij andere gebruiksmogelijkheden, is de menselijke inbreng van het grootst mogelijke belang. Laten we hier niet te licht over denken.

 

Tot slot

Het voorbeeld Kerstmis was niet voor niets gekozen. We moeten ons realiseren dat als het aan enkele transhumanistische groeperingen ligt er over ongeveer 20 jaar geen enkele reden meer zal zijn Kerstmis de plaats te geven die het nu inneemt in onze samenleving. De woordvoerder van deze gedachtegang Zoltan Istvan[20], sciencefiction auteur, journalist en ondernemer, wil nog wel aannemen dat er een kans is dat in de toekomst “Kerstmis verlaagd wordt tot een willekeurige commerciële en culturele vakantie, waarop winkels en big business gedijen”, maar zijn eigen opvatting, die hij meer dan luid en duidelijk uitdraagt, is dat in deze nabije toekomst “redelijke mensen AI-Dag zullen vieren, het moment in de geschiedenis waarop de Verlosser van de beschaving werkelijk werd geboren.”

Voor veel voorstanders van AI en transhumanisten gaat hij hier te ver in zijn ongebreidelde drift om transhumanisme als de absoluut zekere en onafwendbare ontwikkeling van de mensheid aan de man te brengen. Het geeft echter ook aan dat de waarschuwende vinger die eerder al werd opgestoken een duidelijke rol moet spelen.

Het beoogde of verwachte verdwijnen uit de samenleving van Kerstmis, waar toch ook de commerciële en extroverte omgang ermee al ingang heeft gevonden, in de hoop dat AI de dan ontstaande leegte met waardevolle inhoud kan vullen, een soort Heilandsgevoel oproepend, doet niets goeds voor de toekomst met AI vermoeden.

 

Noten



[1]   Rahman M.M: Should I Be Scared of Artificial Intelligence? Academia Letters, augustus 2021 (https://doi.org/10.20935/AL2536)

[2]   Fuster Th: Der Kampf Mensch contra Maschine geht in eine neue Runde: Doch das Ende der Arbeit wurde schon oft ausgerufen. NZZ, 8 februari 2023

[3]   Steketee H: Een jaar gesprekken met ChatGPT: ‘Ik vraag me af of hij dat IQ van 155 wel verdient’. NRC, 21 december 2023

[4]   Triebe B: Zwischen Fortschritt und Verderben: So bleiben wir die Meister der künstlichen Intelligenz. NZZ, 6 december 2023

[5]   Fuster Th: Der Kampf Mensch contra Maschine geht in eine neue Runde: Doch das Ende der Arbeit wurde schon oft ausgerufen. NZZ, 8 februari 2023

[6]   Lenzen M: Der elektronische Spiegel. Menschliches Denken und künstliche Intelligenz. CH Beck, München, 2023

[7]   Kaeser E: Chat-GPT und Co: Echt intelligente Maschinen sind weiter weg als es scheint. NZZ, 26 augustus 2023

[8]   Mitchell M: Why AI Is Harder Than We Think. arXiv:2104.12871, 2021

[9]   Zweig K.A: Droht KI den Menschen zu ersetzen? APuZ 73 (42): 9-16, 14 oktober 2023

[10]  Sidler F: Der Mensch denkt. Und der Computer? – Überlegungen zum menschlichen Reflektieren und maschinellen Schlussfolgern. NZZ, 17 november 2023

[11]  Dröge Ph: Bruce Sterling: ‘Artificial Intelligence is de tulpenmanie van nu”. FD, 29 november 2022

[12]  Mitchell M: How do we know how smart AI systems are? Science, 13 juli 2023

Mitchell M: AI’s challenge of understanding the world. Science, 10 november 2023

[13]  Otte R: Intelligenz und Bewusstsein. APuZ 73 (42): 4-8, 14 oktober 2023

[14]  Ruschemeijer H: Regulierung von KI. APuZ 73 (42): 29-34, 14 oktober 2023

[15]  Dijck J. van, Helberger N., Prins C: Nederland moet doen wat de EU nalaat: de burgers beschermen. NRC, 21 december 2023

[16]  Müller V.C: Wir streiten, ob künstliche Intelligenz uns ausrotten wird. Aber das ist keine kluge Reaktion. NZZ, 28 april 2023

[17]  Fulterer R., Ferber M: «Es gibt eine gute Chance, dass ich ewig leben werde», sagt der KI-Experte und Ex-Open-AI-Manager Zack Kass. NZZ, 25 november 2023

[18]  Hubner E: Menschlicher Geist und Künstliche Intelligenz. Verlag Freies Geistesleben, Stuttgart, 2020

[19]  Fuster Th: Der Kampf Mensch contra Maschine geht in eine neue Runde: Doch das Ende der Arbeit wurde schon oft ausgerufen. NZZ, 8 februari 2023

[20]  Istvan Z: AI Day Will Replace Christmas as the Most Important Holiday in Less Than 25 Years. Huffpost, 24 december 2013 (https://www.huffpost.com/entry/ai-day-will-replace-christmas_b_4496550)