Begeleidingsethiek voor technische toepassingen

Civis Mundi Digitaal #142

door Erik Jansen

Bespreking van Daniël Tijink en Peter-Paul Verbeek, De techniek staat voor iets, samen richting geven aan techniek en samenleving. Boom, 2023.

 

De toeslagenaffaire heeft een enorme kater achtergelaten in de politiek. Hoe kon het gebeuren dat duizenden ouders als fraudeur zijn aangemerkt, vaak om reden van een kleine administratieve omissie, of omdat hun buitenlandse naam als potentieel fraude risico werd aangemerkt. Een centrale rol speelde een AI-toepassing, de Fraude Signalering Voorziening (FSV), een zelflerend algoritme waarmee burgers op basis van een aantal discriminerende factoren op een zwarte lijst van potentiële misbruikers werden gezet.

Om dit soort ontsporingen in de toekomst te vermijden zou het goed zijn als alle nieuwe technologie aan een “kwetsbaarheid” onderzoek zou worden onderworpen. Niet alleen door de makers zelf, maar vooral ook door de gebruikers en de mogelijk gedupeerden.

Volgens Daniël Tijink, projectleider Ethiek en digitalisering bij ECP, Platform voor de informatiesamenleving, en Peter‑Paul Verbeek, voorheen hoogleraar filosofie van mens en techniek aan de Universiteit van Twente, en nu hoogleraar filosofie en ethiek van wetenschap en techniek, en rector magnificus aan de Universiteit van Amsterdam, zou een sessie van een dagdeel voldoende moeten zijn om in samenspraak met ontwerpers, gebruikers en beslissers, een eerste analyse te maken van de ‘ethische’ consequenties van bepaalde toepassingen. In dit boekje wordt kort verslag gedaan van de “Aanpak BegeleidingsEthiek” (ABE), de methode die in Twente voor dit doel is ontwikkeld. Inmiddels heeft het ECP-platform tientallen ABE-sessies gefaciliteerd, zoals rond cameratoezicht in voetbalstadions, sociale media-monitoring door de politie, thuis-monitoring van hartpatiënten, data-analyse onderzoek naar criminele ondermijning, effectiviteits-algoritmes bij therapeutische behandelingen, intelligente snelheidsbeperkers, etc.

 

De rol van de technologie
Velen zullen de schuld van de Toeslagenaffaire toeschrijven aan het te ver doorvoerde fraudebeleid door de politiek, of door de veel te strikt opgelegde wettelijke formalisering van de procedures waar ambtenaren en rechters niet van mochten afwijken, of aan het neoliberale wantrouwen in het algemeen tussen overheid en burgers, waarbij de burgers eerder als zelfzuchtige ‘cliënten’ worden gezien, dan als rechtgeaarde burgers. In deze zienswijze is de techniek hooguit een tool, een stuk gereedschap dat goed of verkeerd kan worden toegepast. Toch is er goede reden om de rol van de technologie nader te bekijken.

Techniek heeft een enorme impact op mens en maatschappij. Dat zie je aan de groeiende welvaart en de gevolgen voor de planeet, aan het transport en de daaruit voortkomende globalisering, aan de automatisering en de vervanging van werknemers door robots en door AI-programma’s. Veel van die ontwikkelingen voltrekken zich autonoom en hebben een enorme impact op de economie, op de werkgelegenheid, maar ook op culturele en sociale processen zoals de individualisering en het gevoel gezien te worden door de overheid. De politiek beperkt zich in de meeste gevallen tot regulerende wetgeving voor die toepassingen waar onduidelijkheid bestaat over mogelijke schadelijke effecten voor de gezondheid of waar marktregulering gewenst wordt geacht.

Moderne technologie, en zeker internet, IT en AI, dringt ondertussen diep door in de leefwereld van mensen, waar de technologie gaat functioneren als een “intermediair” tussen burger, overheid en bedrijfsleven. De fysieke winkel en het fysieke loket worden vervangen door de webwinkel, het digitale loket, de helpdesk, en het blauw op straat verdwijnt ten gunste van camera’s. Waar de technologie zich vroeger beperkte tot fysieke apparaten, daar is de techniek, en zeker de digitale technologie, nu onderdeel geworden van onze omgeving (immersie). Het biedt een intelligente interface met onze omgeving (interactie, augmentatie) en is behulpzaam bij communicatie en coöperatie (zoom, etc.). Technologie dringt zo door in ons huishouden, het onderwijs, de bankwereld, en de zorg.

 

Morele vragen
Niet alleen verandert technologie onze omgeving, maar wij veranderen ook door de techniek. De toename van de dienstensector, de automatisering van huishoudelijke taken, de toegenomen mobiliteit, maakt bijvoorbeeld mensen minder afhankelijk van anderen en daardoor wordt het steeds eenvoudiger om alleen te wonen en te leven, of ons 24/7 onder te dompelen in het werk, al of niet als zzp-er, of om relaties te onderhouden op afstand. Omgekeerd zijn ‘mobieltjes’ wellicht schadelijk voor de concentratie op school, waarom nu een verbod op het gebruik tijdens de lesuren is ingesteld. Ook kunnen vragen gesteld worden bij de sociale media, vooral in het opwekken van haat tegen medeleerlingen, doctoren, politie, politici, etc.

Vanuit het perspectief van de ‘technologische bemiddeling’ staan technologieën niet meer tegenover de mens, maar worden deel van de relatie met de wereld: het technologisch medium bemiddelt de manier waarop de mensen hun doel kunnen verwerkelijken. Dit heeft morele implicaties, zoals vragen over privacy, over beveiliging van persoonsgegevens, maar ook over toegankelijkheid. Waar jongeren nieuwe technologie snel oppikken, verliezen oudere mensen vaak de aansluiting of kunnen uit de knoppen en de verschillende bedieningsmodes geen wijs meer. Zo vraagt de ‘berichtenbox’ van de overheid een ingewikkelde inlogprocedure via de Digid-app en al of niet bevestiging via een sms, etc. Vaak weet je niet waar je de code nu moet intypen, in de browser, op de scanner, of op de mobiel.

Maar ook het gebruik van nieuwe technologie roept ethische vragen op. Zo verruimt prenatale diagnose met echoscopie het zicht op de gezondheid van de foetus en stelt ouders voor het dilemma al of niet tot beëindiging van de zwangerschap over te gaan. Ook het zichtbaar maken van het zich ontwikkelende leven creëert een vroegtijdige binding tussen de ouders en het kind die er vroeger in het stadium van de vroege zwangerschap nog niet zo expliciet was.

 

Toetsing
Het wel of niet toestaan van nieuwe medische technologie of AI-toepassing bij de rechtspraak, vraagt een brede maatschappelijke afweging. Het vakgebied ‘technology assessment’ doet onderzoek naar nieuwe technologieën en adviseert beleidsmakers over de gewenste inbedding. Voor dit onderzoek is in Nederland het Rathenau Instituut actief.

Daarnaast is er behoefte aan een afweging van nieuwe technologie binnen een specifieke context. Het gaat dan niet zozeer om een ‘ja’ of ‘nee’, maar meer om het ‘hoe’. Daarvoor is een discussie tussen ontwikkelaars (IT-ers en leveranciers), gebruikers (professionals en werknemers die de technologie gebruiken in hun werk), beleidsmakers (managers en beslissers), en burgers (cliënten, bewoners, omwonenden, patiënten) gewenst.

Door de groep in Twente is de Aanpak BegeleidingsEthiek (ABE) ontwikkeld, die binnen een sessie van een halve dag de genoemde vier groepen (ca. 20 deelnemers) bij elkaar brengt voor een discussie die uit drie fasen bestaat:

1. Casus. Informatie over de concrete technologie en de relevante context.
Dit is veelal een introductie over de nieuwe technologie en een uitleg over de context van de toepassing; welke factoren en belangen spelen daarin mee.

2. Dialoog. Inventarisatie van invalshoeken en betrokkenen.
De deelnemers proberen te inventariseren welke personen allemaal betrokken zijn bij de toepassing en welke mogelijke effecten de toepassing op hen zal hebben. Het kan best zijn dat een deel van de betrokkenen feitelijk niet aan tafel zitten. Dan wordt iedere aanwezige gevraagd ook hun belangen in de overweging mee te nemen. Na de inventarisatie van de effecten, worden de ‘waarden’ die voor die betrokkenen een rol kunnen spelen benoemd, zoals ‘autonomie’, ‘plezier in het werk’, ‘vertrouwen’, ‘efficiëntie’, ‘veiligheid’, etc.

3. Handelingsopties.
In deze fase worden de deelnemers verdeeld over drie kleinere groepen die de volgende vragen gaan beantwoorden:

-      Hoe kan de technologie ethischer worden (her)ontworpen?

-          Hoe kan de omgeving ethischer worden ingericht?

-          Hoe kunnen we ons ethischer gaan gedragen?

Alle drie de groepjes presenteren hun resultaten in een plenaire sessie aan de rest van de groep en vervolgens wordt de sessie afgesloten met een reflectieronde. De aanbrenger van de case en vervolgens alle deelnemers reflecteren over de nieuwe inzichten die de discussie gebracht heeft. De moderator (voorzitter) schetst de vervolgstappen en de probleemeigenaar vertelt hoe de resultaten zullen worden meegenomen in de verdere besluitvorming. Belangrijk is de verslaggeving van de sessie die openbaar ‘gepost’ wordt op de ABE-website https://begeleidingsethiek.nl/  Een mooi voorbeeld is de sessie “Generative AI in de zorg” bij het LUMC, (verslag).

 

Nabeschouwing
De ABE-methode is een compacte en effectieve methode en het boekje biedt een helder geschreven en praktische handleiding voor de sessies, voorafgegaan door een algemene inleiding over de veranderende rol van de ethiek: van ‘beoordelen’ naar ‘begeleiden’. Vandaar ook de naam ‘begeleidingsethiek’. De aanpak moet vooral een afwegingsproces van ‘binnenuit’ zijn met alle betrokkenen, om de toepassing van nieuwe technologie zo ethisch mogelijk in te richten (al beseffen de auteurs dat voor ontwikkelaars en beslissers het woord “ethiek” wel een beetje een jeukwoord is).

Politieke en machtsfactoren worden zoveel mogelijk buiten de deur gehouden. Dat zal overigens niet altijd makkelijk zijn, want de ontwikkelaars en de beslissers hebben ongetwijfeld hun eigen belangen. Maar het is beter als het ‘ontwerpproces’ niet verward wordt met het ‘besluitvormingsproces’. Vergelijkbare overwegingen zien we bij de initiatieven voor het politieke ‘burgerberaad’. Goed om de omvang van het probleem en de mogelijke politieke strategieën in kaart te brengen, maar minder geschikt als besluitvormingsprocedure.