Citaten over AI

Civis Mundi Digitaal #135

door Piet Ransijn

Bewustwording maakt ons alert op beïnvloeding

https://www.binnenvaartkennis.nl/tag/bewustwording/

Waar de idealen van OpenAI toe leiden

“Vrij toegankelijke artificiële intelligenie (AI) waarbij iedereen onder de motorkap kan kijken. Dat was het ideaal waarvoor in 2015 in San Francisco een nieuwe club werd opgericht: OpenAI, een laboratorium voor AI zonder winstoogmerk. “Alles wat de groep ontwikkeld wordt beschikbaar voor iedereen,” zei mede oprichter Sam Altman destijds… Zeven jaar later is OpenAI het meest prominente AI-lab ter wereld. Eerst kregen we internet. Toen kwam de iPhone. Nu is er ChatGPT… De hele wereld is verbluft over het AI-systeem dat moeiteloos…  een essay schrijft… [Het] zou weleens de opvolger van zoekmachines kunnen zijn… Het kan ook… informatie opdiepen… en concepten uitleggen op een manier die mensen makkelijk begrijpen.”

“OpenAI werd opgericht door een groep rijke investeerders… Onder hen Elon Musk… En GTP3 wordt door techreus Microsoft gefinacierd en verhandeld… ‘Ik denk dat de beste verdediging tegen misbruik isom zo veel mogelijk mensen instaat te stellen om AI te bebruiken,’ zei Musk… “Maar waar zijn de idealen waarmee ze zijn opgericht: open technologie, een tegenwicht tegen Big Tech?’ Die zijn ver te zoeken ziet Jelle Zuidema, onderzoeker taaltechnologie (UvA)… Oprichtingsidealen van transparantie, openheid en samenwerking zijn uitgehold door een felle competitiviteit en toenemende druk om steeds meer financiering te vinden.”

“’Wat is er open aan Open AI?’ vraagt techfilosoof Marleen Stikker… ‘’De software en de modellen zijn niet open voor onderzoek en hergebruik’… want de systemen zijn te groot… te groot om te controleren… Het lab concurreert met techbedrijven  en die wedloop staat volgens critici een veilige, verantwoorde ontwikkeling van AI in de weg.”

“Ook al zou AI de beste bedoelingen hebben,” zegt hoogleraar Tamar Sharon… onderzoeksgroep Digitalisering en Samenleving van de Radboud Universiteit, ‘dan nog vertegenwoordigenm ze de mensheid op geen enkele manier. OpenAI dient de agenda van hun investeerders: Silicon Valley-miljardairs die technologie pushen als oplossing voor alle problemen van de mensheid. Hun eigen technologie, wel te verstaan, die zij aan ons verkopen… Open AI is opgericht door een groepje miljardairs.” De idealen van OpenAI zijn ongeloofwaardig… ‘Veel AI wordt aangedreven door menselijke arbeid in lagelonenlanden: tienduizenden onderbetaalde krachten die door de datasets heenspitten. En Large Language Models als ChatGPT hebben een gigantische ecologische voetafdruk: ze slurpen energie… allerminst beneficial voor de mensheid.’

“Inmiddels begint het verdienmodel van OpenAI duidelijk te worden… Vorige maand bleek uit een uitgelekte presentatie voor investeerders dat OpenAI in 2023  verwacht 200 miljoendollar inkomsten te genereren. En in 2024 een miljard. De idealen van OpenAI zijn volgens Marleen Stikker van meet af aan ‘een rookgordijn’ geweest voor de commerciële belangen van de investeerders… ‘Pas op als zij het hebben over ‘de mensheid’… Meestal bedoelen ze die van de toekomst, zoals zij die zelf voor hen zien.’”

NRC 2 januari 2023 ’Wat is er open aan Open AI?’

https://www.quest.nl/tech/technologie/

a37488501/kunstmatige-intelligentie-ai-gevaarlijk-in-film-voor-de-mensheid-slimmer/          

Leiden gevaren op lange termijn af van risico’s op korte termijn?

“’Beperking van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risoco’s die de hele samenleving raken zoals pandemieën en kernoorlogen.’ Inmiddels hebben 350 mensen van wie er velen aan AI werken deze verklaring ondertekend... In maart verscheen al een bezorgde open brief waarin werd opgeroepen tot een pauze... De bedrijven die AI ontwikkelen zouden ‘verstrikt zijn in een uit de hand gelopen race om steeds krachtiger digitale breinen te ontwikkelen en in te zetten, die niemand kan begrijpen, voorspellen of betrouwbaar onder controle kan houden’... Ondertekend door niemand minder dan de topmannen van drie bedrijven die voorop lopen... [ook] twee zogenoemde ‘peetvaders van AI’.”

“Alle banen ‘ook de bevredigende’ kunnen geautomatiseerd worden... We kunnen ‘de controle over onze beschaving verliezen’... En op de achtergrond duikt steeds het vage schrikbeeld op van computersystemen... die de echte mens overvleugelen. [Daarnaast is het vooral zaak] “aandacht te vragen voor wat de AI-bedrijven nú al voor negatieve effecten teweegbrengen [... naast] het verspeiden van doemscenario’s als afleidingsmanoevre... om iedereen af te leiden van hun praktijken: diefstal van data, verkwisting van energie, versterking van vooroordelen, vervuiling van het eco-informatiesysteem... concentratie van kennis, geld en macht in de hand van een klein aantal bedrijven en hun topmannen en de maatschappelijke ongelijkheid die daardoor versterkt wordt...

De voormannen van de AI betogen op hun beurt dat... dat AI de mensheid juist kan vooruithelpen... Maar het Amerikaans Congres is al jaren verdeeld... over de regulering  van de technologiesector... Het Europees parlement is vergevorderd met een wetsontwerp met regels voor AI (zoals verplichte risico-analyse en transparantie over de gebruikte data)”

‘AI ontwikkelen én ervoor waarschuwen. Hoe oprecht is dat?’ NRC 1 juni 2023 Analyse risico’s AI

Gevolgen vragen een zorgvuldige afweging en wetgeving

https://www.ai-ris.nl/generatieve-ai

Duizelingwekkende gevolgen in goede banen leiden

“Gunstig of ongunstig, de mogelijke gevolgen van AI voor de samenleving zijn duizelingwekkend... Niet langer wordt alleen de fabrieksarbeid vervangen... nu zijn ook de kenniswerkers aan de beurt. Van advocaten tot programmeurs, van marketeers tot beleidsmedewerkers... Dat zou omgerekend neerkomen op wereldwijd 300 miljoen voltijdsbanen. Maar wie plukken daar straks de vruchten van?... Werkers... of slechts een kleine groep techondernemers en investeerders?...

Veel antwoorden zullen uiteindelijk te herleiden zijn tot een kwestie van macht. Macht over het eigendom van de nieuwe informatie en inzichten, de inhoud van die informatie en de financiële vruchten daarvan. Veel technisch-economische revoluties baarden, zeker aanvankelijk, monopolies of oligopolies... Oproepen tot een pauze in AI oogt sympathiek maar is misschien ook naïef – alsof deze grensoverschrijdende ontwikkeling nog te stoppen is. Beter is het om de mogelijke gevolgen in beeld te krijgen. Om na te streven dat de revolutie iedereen ten goede komt. En vooral om te voorkomen dat AI de samenleving overkomt, zonder dat deze daarop afdoende is voorbereid.”

‘De revolutie van AI vraagt om een strategisch antwoord’ NRC 11 april 2023 Commentaar Kunstmatige intelligentie

https://twitter.com/XRobservatoryNL

Is er een reëel existentieel risico of is dit een bliksemafleider?

“’De opkomst van AI biedt kansen, maar ook enorme risico’s met zich mee.’ Zo begint de tekst van de petitie. [Control AI door een groot aantal prominenten ondertekend]. ‘Daarom doen wij een oproep aan de Nederlandse politiek: neem controle over deontwikkeling van AI. Zorg dat de mens bepaalt hoe een toekomst met AI eruit ziet. Niet andersom... De controle niet langer aan de techindustrie over te laten, maar in eigen hand te nemen: ‘Neem een leiden rol in Europa en voer via EU-wetgeving hoogstaande regulering van AI-toepassingen door,” zo luidt de tekst.”

“Wij denken ook: wie controleert de toekomstige superintelligentie?... In de tekomst kan AI zichzelf toegang verschaffen tot... banken, vliegtuigen,  of zelfs kernwapens... ook als het er maar een paar zijn, is dat levensgevaarlijk... 262 leiden AI wetenschappers vinden het [extinction] risico reëel. En inmiddels hebben ook VN-baas Guterres, het Witte Huis en de Britse premier Sunak het existentiële risoco van AI erkend. [Trouw-columnist en informaticus] Nasrullah ziet hierin vooral een succesvolle strategie van de techindustrie... om het gesprek over de gevaren van AI in het heden te ontlopen door de aandacht te verleggen naar de risico’s van een toekomstige superintelligentie... Techbedrijven verplaatsten de bezorgdheid over AI graag naar de verre toekomst, waarin hun huidige belangen niet in het geding zijn... naar mythologische risico’s... een probleem dat bestaat in een fantasiewereld... Met andere woorden x-risk, zoals existentieel risico kortweg genoemd wordt, is een bliksemafleider die Big Tech gebruikt om aan regulering in het heden te ontsnappen... Wat [anderen] betreft kunnen verschillende zorgen naast elkaar bestaan... Het gaat erom hoe krijg je het op de politieke agenda? Existentieel risico is niet iets waar ik me mee bezighoud... Maar dit werkt kennelijk wel. Pers en politiek zijn nu eindelijk wakker geschud. ” [besluit essaysist Maxim Februari]

NRC 24 juni ‘Sterft de mensheid uit door AI? ‘Dat is science fiction’’. Over de petitie Control AI.

https://www.profinnovant.com/guide-complet-du-behaviorisme/

Algoritmische psychomacht

“Voor een goed begrip van algoritmische psychomacht [schiet het begrip biopolitiek van Foucault tekort]... Volgens de Franse techniekfilosoof Bernhard Stiegler heeft een verschuiving plaatsgevonden van de biopolitiek naar, wat hij noemt, de ‘psychopolitiek’. Hij stelt dat er momenteel een strijd om de geest woedt, waarbij onze aandacht en verlangens voortdurend worden gevangen en geleid in de richting van meer consumptie (denk aan de gepersonaliseerde advertenties op internet  die het menseliojke bestaan reduceren tot het niveau van onmiddelijke behoeftebevrediging).”

“In de algoritmische psychomacht gebeurt iets vergelijkbaars...  We worden gedisciplineerd [...door] digitale technieken die aanhaken op het bewustzijn en ons verlangen. Dit latste gebeurt door personen op gezette tijden een psychologische prikkel te geven waardoor ze op een onopvallende, maar zeer krachtige manier in de gewenste richting worden gestuurd. In de literatuur staat dit bekend als ‘nudging’. Nudges, een Engels woord voor zetje of duw, wijzen burgers op een zachte manier in de goede richting... In het geval van de algoritmische psychomacht... is het mogelijk om gedragssturing te personaliseren.”

“Wanneer nudging wordt gecombineerd met big data en algoritme... kun je spreken van ‘hypernudging’... In veel gevallen zullen hypernudges manipulatieve trekjes hebben, omdat de prikkel de vorm aannneemt van een instructie en er wordt gestuurd op cognitieve processen waarover personen nauwelijks of geen controle hebben... Maar de inzet van hypernudges wordt discutabel wanneer hiervoor op grote schaal persoonlijke gegevens worden verzameld, zonder dat personen dit weten of hiervoor toestemming hebben gegeven.”

“Met psychomacht en hypoernudges dient een volgende ontwikkeling zich aan om ons gedrag te modelleren. Een die George Orwell 1984 in herinnering roept... Wanneer we waarde hechten aan ons  mentale leven, dan zal de bescherming tegen ongewenste invloeden van buitenaf stevig moeten worden verbeterd. Hierbij kan worden gedacht aan een recht op mentale integriteit en bescherming hiervan door het recht op mentale privacy.”

NRC 2 juni, Marc Schuilenburg, hoogleraar Digitale Surveillance Erasmus Universiteit, ’Na uw lichaam pakt AI nu uw ziel’.

Bespreking van Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the Frontier of Power. Profile Books, 2019