De surveillance maatschappij
Deel 2: Huidige ontwikkelingen en de toekomst
Civis Mundi Digitaal #127
door Piet Ransijn
Deel 1 ging over de opkomst van het surveillance kapitalisme. Deel 2 over het vervolg, voor zover het te volgen is.Ontwikkelingen op het gebied van informatietechnologie gaan snel. Haast niet bij te houden. Computers en internet zijn tegenwoordig verweven met ons dagelijks leven. “Zij weven zich in het weefsel van ons alledaagse leven tot zij er niet meer van te onderscheiden zijn,” schreef Mark Weiser in zijn artikel The Computer in the 21th Century (Zuboff, p197).
Ook letterlijk worden sensors in het weefsel van onze kleren geweven om gegevens over onze hartslag en andere parameters van ons fysieke functioneren te verzamelen. Overal kunnen sensors worden geplaatst, behalve in kleding in allerlei gebruiksartikelen, in de auto, de (werk)omgeving, enz. Ze kunnen alom aanwezig zijn.
De bedoeling daarvan is dat er overal gegevens verzameld kunnen worden, die te gelde gemaakt kunnen worden door toekomstig gedrag en toekomstige markten te voorspellen en te vormen door gedragsverandering. Het hele leven wordt zo ‘gedataficeerd’, vastgelegd in gedragsgegevens. Die worden zonder toestemming overal verzameld om ons gedrag te kunnen voorspellen en te kunnen beheersen. Gedragsverandering is een volgende fase, zodat het “tot de gewenste commerciële resultaten leidt... De digitale infrastructuur wordt omgevormd van een ding dat we hebben tot een ding dat ons heeft” (p201,202).
Het computergestuurde alziend oog.
Gedragscontrole: nu en in de toekomst
Zuboff vergelijkt deze ontwikkeling met een project onder leiding van R Stuart MacKay waarbij in 1964 dieren, met name bedreigde reuzenschilpadden, werden uitgerust met sensors zonder dat zij het merkten. Het was bedoeld om hen te beschermen, in hun belang. Dat geldt niet voor de informatietechnologie van het surveillance kapitalisme, die in het belang is van commerciële bedrijven. De dieren werden verder met rust gelaten, ook al werden ze gevolgd in hun ontoegankelijke omgeving. Dat geldt nu niet voor de mensen van wie overal gedragsgegevens kunnen worden verzameld. Bij mensen wordt dit gebruikt voor gedragsverandering, zonder toestemming en zonder dat ze het merken. “Ontworpen om ons te lokken naar bepaalde plekken omwille van de winst van anderen” (p216).
Zuboff verwijst naar het visionaire boek uit 1967 The Year 2000 van Herman Kahn, die model stond voor Dr Strangelove in de gelijknamige film. Hij meende dat een nucleaire oorlog gewonnen kon worden. Kahn beschrijft ook andere dystopische “nachtmerrie scenario’s”. Namelijk “vormen van beheersing en controle “die door velen gevreesd en gehekeld zullen worden, [maar nu] gemeengoed worden... Hoe heeft de nachtmerrie banaal kunnen worden? Waar is onze verbazing en verontwaardiging?... Dit is niet de automatisering van de samenleving... maar de vervanging van de samenleving door machinegedrag gedicteerd door economische imperatieven [die...] sociale relaties vermijden ten gunste van geautomaliseerde machinale processen die gedrag afdwingen dat commerciële doelstellingen dient” (p219,220).
Zuboff geeft het voorbeeld van een auto die niet start wanneer de afbetalingstermijn verstreken is of al rijdend de dichtstbijzijnde restaurants toont, enz. Zo zijn allerlei ‘smart’ methoden mogelijk: computerschermen die om de zoveel tijd uitgaan, stoelen die gaan schudden als je er te lang op zit en beweging nodig is. En vooral apparaten die niet goed werken als ze niet zijn aangesloten op de servers van de bedrijven die gegevensverzamelen van gebruikers. Zogenaamd om ze van dienst te kunnen zijn, maar vooral om hun eigen belangen te dienen.
https://www.praxistraining.be/nieuw/item/212-wisdom-of-the-week-niet-twijfelen
Onvermijdelijkheid?
Moderne utopia’s verschillen van de romantische fantasieën en sprookjes uit vroeger tijden door hun onvermijdelijke deterministische en totalitaire karakter. Dat begon al bij Marx met zijn onvermijdelijke revolutie. Volgens het boek The New Digital Age: Transforming Nations, Businesses and our Lives van voormalig Google CEO Eric Schmidt en Jared Cohen zal “spoedig iedereen verbonden zijn... informatietechnologie zal overal zijn, zoals elektriciteit... Veel veranderingen zullen onvermijdelijk zijn.”
“Vragen van individualiteit, morele redenen, sociale normen en waarden, privacy, beslissingsrechten, politiek en recht nemen de vorm aan van gedachten achteraf en toevoegingen die kunnen worden opgelost met correcte protocollen en tegemoet gekomen kunnen worden met nog meer technologische oplossingen... De antwoorden op zulke vragen worden verdronken in de dreun van alle dingen die continu worden... geregistreerd, geteld, gecontroleerd en beoordeeld” (p222).
We zijn een wereld aan het maken waarin we overal en continu in de gaten worden gehouden, worden bijgestuurd en aangestuurd tot koopgedrag, nog meer klikgedrag en schermverslaving. Maar waarom zou dit onvermijdelijk zijn? “De meeste consumenten voelen geen behoefte aan alle [aangeboden] extra’s... zoals de “new smart sensor tech”, die in Silicon Valley zijn ontworpen om nog meer gedragsgegevens te verzamelen” (p223).
“Het beeld van technologie als een autonome kracht met onvermijdelijke acties wordt al eeuwenlang gebruikt om de vingerafdrukken van de macht te verwijderen en de verantwoordelijkheid [... en] verzet te ontlopen. De retoriek van onvermijdelijkheid is een achterbakse misleiding om ons hulpeloos en passief te maken... om macht te beschermen” (p224).
“Mensen maakten het, maar kunnen het niet beheersen.” Dit lijkt vooral te gelden voor de moderne technologie. “Op die manier geven we ons over aan technologisch determinisme... Google wil dat zijn regels eenvoudig de vereisten weergeven van een autonoom proces, iets dat mensen niet kunnen beheersen. [Maar...] mensen maakten het en kunnen het beheersen. Zij kiezen er veeleer voor dit niet te doen... Onvermijdelijkheid... verhuld achter de schermen van de realpolitik van het surveillance kapitalisme... voortgebracht door mensen die de belangen van het ongeduldige kapitaal dienen... Het leidt de aandacht van de ambities van de opkomende economische orde... Onvermijdelijkheid sluit de keuze uit van vrijwillige deelname. Het laat geen ruimte voor de menselijke wil als auteur van de toekomst. Dit roept vragen op:... Zal de onvermijdelijkheid... nieuwe vormen van dwang oproepen die ontworpen zijn om onrustige bevolkingen rustig te houden, die niet niet in staat zijn hun hunkering naar een toekomst van eigen keuze te smoren?” (p225,226).
Het doordringen tot ontoegankelijke regionen buiten het bewustzijn om verbindt zich met een overal registrerende omgeving en met de boodschap van onvermijdelijkheid. Dit transformeert de publieke ruimte in de slimme stad: de ‘smart city’ waar “computers overal werkzaam zijn maar nergens te bespeuren, altijd buiten bereik van het bewustzijn” (p227). Het begit met verkeersmanagement en systemen met ‘flow software’, camera’s in straten en op openbare plaatsen, overal verbonden met de servers van Big Tech. Overal “verworden mensen tot dingen en gedragsgegevens... om ons gedrag te beïnvloeden en te manipuleren, geleid door plannen en belangen van zelf-geautoriseerde commerciële actoren” (p230). En het eindigt in een soort nachtmerrie, zoals eerder voorzien door Hermann Kahn.
Donkere wolken boven de ‘smart city’.
https://innovationorigins.com/nl/voor-een-smart-city-moet-je-de-stad-verdichten-en-niet-uitbreiden/
Renderen van data
Genoemde ontwikkelingen zijn gediend met “wetteloze ruimte” en gebrek aan privacybescherming en regulering. Techbedrijven willen dat alle data vrij toegankelijk blijven en vrijelijk onteigend kunnen worden. Zuboff spreekt van het verschaffen en verwerken van data. Met het Engelse ‘render’ bedoelt zij dat er ”iets gemaakt wordt van iets anders”. Het heeft ook het aspect van ‘sur-render’ overgeven. In het Frans; ‘rendre’, (terug)geven, verschaffen. Het betreft een proces met twee kanten: degene die geeft en degene die neemt.
Gegevens verzamelen en beschikbaar stellen gebeurt zonder toestemming buiten ons bewustzijn om. Er zijn echter andere uitgangspunten mogelijk dan die van het surveillance kapitalisme. Die gebaseerd zijn op de notie dat iedere individu een doel in zichzelf is. Geen middel tot het doel van anderen (zoals in de ethiek van Kant, die door het surveillance kapitalisme in de verdrukking komt, zie CM 116). Bijv. de uitgangspunten van het “Aware Home project ontwikkeld door Georgia Tech...
- Het is aan het individu alleen te beslissen welke ervaringen verschaft worden als data
- het doel van deze data is het leven van het individu te verrijken
- het individu is de enige arbiter wat betreft hoe de data worden gedeeld en gebruikt...
Er kan verwerking zijn zonder surveillance kapitalisme [maar...] er kan geen surveillance kapitalisme zijn zonder verwerking.” (p233,234).
Als consumenten niet willen instemmen met het verschaffen van gegevens van bijv een ‘slim bed’ over hun hartslag en slaapgedrag, worden hen extra’s, service en garantie van effectiviteit en veiligheid van het product onthouden. Zij worden zo gegijzeld om in te stemmen. “‘Slim’ (smart) is een mooi woord voor gegevens verschaffen... Ieder slim object is een soort marionet... een poppetje dat danst aan het lijntje van verborgen economische motieven.” Onder het mom van: “hoe meer we weten van consumenten en hun gedrag, des te betere service we kunnen verlenen” (p237).
https://www.sijthoff-leiden.nl/agenda/lezing-5g-dringend-of-dwingend/
Een dwingend netwerk
Echter “het netwerk van dingen ontwikkelt zich reeds in een netwerk van dwang.” Het surveillance kapitalisme dringt door in steeds intiemere gebieden. “We worden gedwongen om producten te kopen die we ons nooit kunnen toeëigenen, terwijl onze betalingen het surveillance kapitalisme financieren... zonder dat de makers wettelijke verantwoordelijkheid hebben wat betreft de gegevens” (p238,239).
“Het net wordt breed uitgeworpen in de wateren van het dagelijks leven,” dat steeds dieper wordt onderzocht qua “persoonlijkheid, emoties en endomorfines” (p240). Het begint met je smartphone die altijd exact kan nagaan waar je je bevindt. Verder kunnen je email, je app-berichten en je internetgedrag worden uitgekamd. Er kunnen sensors in onze kleding worden geweven en in gebruiksartikelen worden gemonteerd, opdat ons gedrag steeds meer toegankelijk is. In de gaten houden van vooral oudere en zieke mensen om gezondheidsredenen (‘health monitoring’) vindt ook steeds meer ingang. “In de VS zijn de meeste gezondheids- en fitnesstoepassingen niet onderworpen aan gezondheids- en privacywetten” (p247).
Bestaande wetten schieten tekort wat betreft de nieuwe digitale mogelijkheden evenals zelfregulering. Big Tech doet zijn uiterste best regulering te voorkomen en “zijn vrijheid op een wetteloos gebied te behouden” (p251). Mensen worden dom en onwetend gehouden wat betreft detectie en data verzamelen en verwerken. Verzet ontbreekt, evenals privacybescherming. Er wordt uitgegaan van stilzwijgende toestemming. Databeheer werd gewoon aangekondigd, zoals ooit het in bezit nemen van nieuw ontdekt land door imperialisten en kolonisten (zie deel 1).
https://www.mirinfotech.com/wp-content/uploads/2014/12/Digital-Personal-Assistant-Cartoon.jpg
De persoonlijke digitale assistent
Met de “persoonlijke digitale assistent”, die haast alles van je weet, doet een diepere vorm van renderen zijn intrede en een mogelijjkheid om nog meer winst te maken uit gepersonaliseerde data. Dat is de prijs van een zogenaamd effectiever leven met zo’n assistent. “Wat rijke mensen hebben is ook wat de middenklassen en de armen willen. Wat hebben de rijke mensen nu?... Persoonlijke assistenten... De rusteloze ambitie van de lagere kringen om zichzelf te verheffen tot degenen boven hen” vormt een drijfveer tot expansie van het surveillance kapitalisme. Dat men wordt getraceerd en gemonitord neemt men op de koop toe. “Want de voordelen in termen van gemak, veiligheid en service zullen zo groot zijn... dat continu motoring de norm zal zijn,” aldus Google’s hoofdeconoom Hal Varian (p256). “De honger naar nieuwe noodzakelijkheden wordt geconstrueerd als gelegenheid om te onteigenen” (p257).
De persoonlijke assistent is een Trojaans paard, bedoeld om je leven over te geven en te gelde te maken onder het mom van persoonlijke assistentie. Daarbij wordt “prioriteit gegeven aan commerciële drijfveren... Er was een tijd dat je Google zocht, maar nu zoekt Google jou... Als ieder zijn of haar individuele Google wil hebben... dan moet Google ieder individu hebben” (p258,259,261).
Zo is er ook speelgoed dat kinderen bespioneert, hun stemmen en geluiden opneemt, enz. Er wordt reclame gemaakt met het “verbonden huis” (‘connected home’), dat constant wordt gesurveilleerd. Overal sensors, zogenaamd om de bewoners ten dienste te kunnen zijn. “Alleen zijn wordt opgeheven... Zo wordt het dagelijks leven het canvas voor de explosie van een nieuwe altijd aanwezige markt-kosmos... waaraan geen ontsnappen meer mogelijk is” (p266,268).
Uitverkoop van ons innerlijk
Onder het mom van personalisatie wordt het renderen verdiept. Het Facebook profiel is een persoonlijk profiel, dat daarvoor kan worden gebruikt. Een onderzoeker merkte op “dat de vele dingen die men kan doen, zeker niet behoren te worden gedaan door bedrijven zonder toestemming” en dat “het publiek ‘bloody stupid’ is” (p275). Het laat zich van alles welgevallen dat eigenlijk onmiddellijk gestopt dient te worden.
Met behulp van persoonlijke profielen kan bijv. worden nagegaan welke verkoopstrategie of gedragsveranderingsstrategie het meest effectief is voor een persoon, hoe mensen te overtuigen of over te halen. Zo kan ook stemgedrag worden beïnvloed en de democratie nog meer worden bedreigd.
Er wordt technologie ontwikkeld die emoties kan lezen met “emotie-analyse” of “emotiedetectie” (p281, 286). Dat kan bedrijven helpen om de verkoop op klanten af te stemmen. Het kan worden beschouwd als een nieuwe fase van onteigening, waarbij ook onze emoties worden onteigend en worden gedeeld met bedrijven, die ze te gelde maken. “‘Emotie [detectie] als dienst’ wordt verruimd van observatie tot modificatie” (p289). De Britse mensenrechtenadvocate Susie Alegre heeft dit aan de kaak gesteld in haar boek Freedom to think: the long struggle to liberate our minds en in een interview: ‘Big Tech bedreigt de vrijheid om te denken wat je wil’ (NRC 4 juli).
De vraag is nu “hoe kunnen we ons ervan verzekeren dat de nieuwe affectieve technologieën het menselijke leven beter maken?” Hoe kunnen we voorkomen dat onze eigenste gedachten niet de doelen van anderen dienen? Hoe kunnen we ons innerlijk heiligdom beveiligen? Wat gebeurt er met onze vrije wil en “de wil om te willen.” Hoe diep laten we het surveillance kapitalisme binnendringen in ons leven, onze persoonlijkheid en onze gevoelens? “Ben ik ermee ingenomen of beschaamd [ertoe] te hebben bijgedragen?” (p290,291).
https://www.youtube.com/watch?v=VIHpS0M5w_I
Experimenten met diergedrag vormden de basis van gedragsmanipulatie
Gedragsmanipulatie: dansen op de muziek van Big Tech
Het gaat niet om data verzamelen en verwerken. Het gaat om interventie, actie en controle, het veranderen en automatiseren van gedrag in een actieve economie. Daarbij gaat het om drie processen: 1. afstemmen en regelen, 2. hoeden, zoals een herder zijn vee een bepaalde kant op hoedt, en 3. conditioneren.
Afstemmen heeft vaak te maken met het trekken en leiden van de aandacht en te maken keuzes door bijv. structureren van situaties die de aandacht een bepaalde kant op richten. Zoals in een klaslokaal alle stoelen gericht zijn op de docent. Zo kun je ook zorgen dat gezond voedsel of snoepgoed de aandacht trekt of mensen daarheen geleid worden. Er wordt ook wel gesproken van “keuze-architectuur”. Daarbij gaat het om keuzes die een bijdrage leveren aan de architect, niet het individu... de commerciële belangen van een bedrijf,” niet de consument (p293,294).
Hoeden of ‘herding’
https://www.marketingfacts.nl/berichten/onbewuste-beinvloeding-is-dat-nog-wel-zo-2020/
Hoeden komt neer op het beheren of beheersen van de omgeving. Bijv. hekken plaatsen bij het hoeden van vee. Bij het surveillance kapitalisme gaat het bijv. om uitschakelen van gedragsalternatieven, zoals een auto die niet start als de verzekering niet is betaald. Conditionering is een vorm van gedragsverandering die bekendheid kreeg door de Harvard behaviorist B F Skinner. Hij breide het stimulus-response model uit met ‘reinforcement’ van het gewenste gedrag door straf en beloning om zo gedragspatronen te vormen. Hij noemde dat “operante controle”. Skinners werk was gericht op “gedragstechnologie”. “Conditionering op grote schaal is essentieel voor de nieuwe wetenschap van massale manipulatie van menselijk gedrag” volgens een vooraanstaand datawetenschapper (p295).
“Het is niet mogelijk om surveillance kapitalisme voor te stellen zonder de verbindtenis van gedragsverandering met de technologische middelen om de toepassing daarvan te automatiseren. Deze verbindtenis is essentieel voor de actie-economie... Surveillancekapitalisten verklaren dat zij het recht hebben het gedrag van anderen te veranderen om winst te maken met methoden die het menselijk bewustzijn, individuele beslissingsrechten en complexe zelfregulerende processen omzeilen, welke we samenvatten in termen van autonomie en zelfbepaling”(p296,297). Het gaat erom de mensen te laten dansen op de muziek die door Big Tech is gecomponeerd.
‘Likes’ en positieve reïnforcement beïnvloeden ons gedrag
https://www.customertalk.nl/nieuws/bewuste-en-onbewuste-be%C3%AFnvloeding-van-de-keuzes-van-klanten/
Beïnvloeding van stemgedrag, koopgedrag, nieuwsaanbod, emoties, enz.
Zuboff beschrijft een onderzoek naar significante beïnvloeding van stemgedrag met boodschappen via Facebook. Dergelijke beïnvloeding vindt niet alleen plaats bij stemgedrag, maar vooral ook bij koopgedrag en ander gedrag. Het toont “de ongekende macht van internetbedrijven om te overtuigen, te beïnvloeden en uiteindelijk gedrag [om] te vormen... Facebook kan verkiezingen stilletjes beïnvloeden, gebruik makend van middelen die gebruikers niet kunnen opsporen noch controleren... Dit is een bedreiging van ‘collectieve rechten’ die... het democratisch proces kan ondermijen” (p300).
Ook collectieve emoties kunnen worden beïnvloed en blijken ‘besmettelijk’ te zijn (zoals Emile Durkheim, Gustave Le Bon en Sigmund Freud als veel eerder vaststelden). “Dit ‘besmettelijke’ effect berust hoofzakelijk op empathie: het vermogen deel te hebben aan de mentale en emotionele toestand van een andere persoon... en het perspectief van een ander over te nemen... De geslaagde... Facebook experimenten zijn het resultaat van effectieve exploitatie van de natuurlijke empathie bij de gebruikerspopulatie... Als Facebook emoties en stemgedrag kan aanpassen, wat kan zij dan nog meer doen?”
Big Tech beïnvloedt ook continu de nieuwsverschaffing. “Het experiment was slechts een uitbreiding van de standaardpraktijken van gedragsveranderting van Facebook... De Facebookstudie schildert een dystopische toekomst, waarbij onderzoekers ontkomen aan ethische restricties bij samenwerking met bedrijven” (p301,302).
Voor academisch onderzoek gelden namelijk wettelijke regels, de zgn. “Common Rule”. Daaronder valt bijv. geínformeerde instemming. Die regels gelden niet voor bedrijven. Met name niet voor de standaardpraktijken van Facebook, dat “routinematig gedrag van gebruikers manipuleert op grote schaal, gebruik makend van middelen die niet te ontcijferen zijn en daardoor niet te bestrijden” (p303). Er zijn dringend regels nodig. Dergelijke beïnvloeding mag niet op de koop toe worden genomen. Maar zelfs als er regels zijn, kan het bedrijf in het geheim doorgaan met zijn praktijken.
Bewustwording maakt ons alert op beïnvloeding
https://www.binnenvaartkennis.nl/tag/bewustwording/
Bewustzijn, autonomie en zelfbepaling
Als mensen zich ervan bewust zijn, wordt onbewuste beïnvloeding belemmerd. “Er is geen autonoom oordelen zonder bewustzijn. Instemming en weigering, participatie of terugtrekken, verzet of medewerking: geen van deze zelfregulerende keuzen kunnen bestaan zonder bewustzijn... ‘Zelfbewustzijn stelt ons in staat tot zelfregulering’. Iedere bedreiging van de menselijke autonomie begint met een aanval op het bewustzijn: ‘het neerhalen van ons vermogen om onze gedachtren, emoties en wensen te reguleren’,” aldus twee hoogleraren “in een essay over de centrale rol van zelfbewustzijn bij zelfbepaling.”
Meer bewuste mensen zijn minder vatbaar voor beïnvloeding. Dat geldt ook bij betrokkenheid. Ook betrokken mensen zijn minder gemakkelijk te overtuigen om iets te doen dat afwijkt van hun betrokkenheid of principes. “Het menselijk bewustzijn op zich is een bedreiging voor surveillance winsten, daar bewustzijn het grotere project van gedragsverandering in gevaar brengt... Het woord autonomie komt uit het Grieks en betekent letterlijk ‘regulering door het zelf’. Het staat tegenover heteronomie, dat ‘regulering door anderen’ betekent... Het surveillance kapitalisme gebruikt alle middelen om autonoom handelen te vervangen door heteronoom handelen” (p307). Het staat haaks op de menselijke autonomie.
“Niet eerder in de geschiedenis hebben bedrijven met ongekende macht en rijkdom de vrije toepassing gehad van een actie-economie die wordt ondersteund door een aldoordringende wereldwijde architectuur van alomaanwezige computerkennis en controle die wordt geconstrueerd en gehandhaafd door alle vergevorderde wetenschappelijke kennis die met geld te koop is.” Dit stelt het surveillance kapitalisme in staat menselijk gedrag in het geheim te veranderen om winst te maken. Het haalt ons weg van ons eigen gedrag en de zeggenschap daarover. We leven in een tijd van “geautomatiseerde gemanipuleerde gedragsverandering” (p308).
Onderdeel van dit proces zijn verslavende spelletjes en “’gamification’ als een benadering van gedragsmanipulatie die het onderwerp is van intense belangen... Spelletjes zullen in toenemende mate worden gebruikt als methodologie naar keuze om het gedrag te veranderen” (p312,313).
Skinner bij zijn duivenhok https://www.famouspsychologists.org/b-f-skinner/
Reacties op eerdere pogingen tot collectieve gedragsmanipulatie
Er zijn in de jaren 1970 pogingen ondernomen tot collectieve gedragscontrole onder leiding van de CIA, “in strijd met ethische overwegingen en in overtreding wat betreft fundamentele burgerlijke vrijheden” (p321). In 1971 publiceerde Skinner zijn pleidooi voor gedragscontrole in Beyond Freedom & Dignity. Het riep toen een storm van controverse op, o.a. van Noam Chomsky, die zich nog steeds roert. “Veel studenten verwezen naar het boek als Toward Slavery and Humilation, toen ik in het midden van de jaren 1979[MR3] psychologie studeerde aan Harvard, waar Skinner doceerde” (p322).
“Het grondwettelijke recht van de regering om het gedrag en het denken van burgers te ‘controleren’ werd betwist” (p323). Daaruit zijn wetten en regels voortgekomen wat betreft onderzoek naar gedrag, de eerdergenoemde ’Common Rule’. Ook gedragsverandering door regeringen werd verworpen. Maar “nu floreert het weer onder de vlag van het surveillance kapitalisme... vrij van democratische verplichtingen, wettelijke beperkingen, morele en sociale overwegingen... [onder] een verzwakte staat waarin gekozen functionarissen afhankelijk zijn van bedrijfskapitaal en in iedere verkiezing weinig zin vertoonden om gedragsmanipulatie als marktproject te bestrijden, laat staan te gaan staan voor de morele imperatieven van het autonome individu” (p325-26). De tijden zijn veranderd.
“Waar is... de democratie nu de de dreiging vanuit je telefoon komt, je digitale assistent, je Facebook login? Wie staat er nu op voor vrijheid?... De eigenaars van het het surveillancekapitaal worden in staat gesteld tot hun afkondigingen en overrompelingen door de weigering van de staat democratisch toezicht te houden op hun geheime gebied... Ons wordt de controle onthouden over de kennis die uit onze ervaringen wordt afgeleid. De kennis, de macht en het gezag berust bij het surveillancekapitaal, waarvoor wij slechts ‘menselijke natuurlijke hulpbronnen’ zijn” (p326,327).
Het surveillance kapitalisme had de tijd mee, had het geld en kreeg de mensen mee
Hoe heeft het surveillance kapitalisme het voor elkaar gekregen?
Het surveillance kapitalisme komt voort uit de imperatief tot winstmaximalisatie en intensivering van productiemiddelen, groei en concurrentie. Die hebben nu geleid tot lucratieve predictieproducten voor toekomstige markten in een wetteloze digitale ruimte. Steeds meer geavanceerde geautomatiseerde gedragsmanipulatie dient mensen ertoe aan te zetten die producten te kopen. Er zijn grote aantallen mensen die hier niet van gediend zijn en meer bescherming van privacy willen. Zuboff verwijst naar diverse peilingen. Hoe komt het dan dat het surveillance kapitalisme erin is geslaagd dit te omzeilen? Daarvoor noemt zij de volgende redenen, waarvan sommige uitvoerig zijn beschreven:
- het surveillance kapitalisme kende zijn weerga niet. We waren er niet op voorbereid
- De invasie werd afgekondigd. Rechten werden stilzwijgend toegeëigend. “Strategieën en tactieken hielden ons onwetend omtrent de praktijken”
- De historische context van het neoliberalisme belemmerde overheidsregulering. De ‘war on terror‘ belemmerde wetgeving wat betreft privacy en werkte surveillance in de hand
- Big Tech beschemde zijn vrijheid door lobbying, de draaideur naar de regering, en beïnvloeding van de publieke opinie, wetenschappers en belangenorganisaties
- De onteigeningscyclus werd gegarandeed door gewenning van consumenten en bestrijding van wettelijke regulering
- Mensen werden afhankelijk gemaakt van het surveillance kapitalisme door exploitatie van hun behoeften. Mensen kunnen niet meer zonder smartphones, internetfaciliteiten, enz.
- Er zijn ‘fellow travelers’, partners, medewerkers en klanten die delen in de opbrengsten en belangen gemeen hebben met het surveillance kapitalisme
- Als je niet meedoet met social media als Facebook hoor je er niet meer bij
- Mensen kijken op tegen surveillancekapitalisten en zien hen als rolmodellen
- Zij zien hen als succesvolle en innovatieve leiders van de toekomst met een vooruitziende blik
- Sociale overreding, retoriek en reclame voor digitale assistentie, enz.
- De “dictatuur van geen alternatieven”, terwijl die er wel zijn
- De retoriek van onvermijdelijkheid, die afleidt van doelgerichte intenties
- De ideologie van menselijke beperkingen, zwakheid en irrationaliteit versus berekende rationaliteit van computers, waar je van op aan kunt
- Onwetendheid en onbekendheid met het verborgen domein van het surveillance kapitalisme. Asymmetrische verdeling van kennis
- De snelheid waarmee het surveillance kapitalisme zich ontwikkelt is haast niet te volgen en te reguleren
Wettelijke regelingen schieten tekort. “’we hebben wetten nodig die de fundamentele legitimiteit van het surveillance kapitalisme verwerpen... waaronder het doen renderen van menselijke ervaring als gedragsgegevens... het gebruiken van predictieproductie... gedragsmanipulatie,” enz. (p343).
Zuboff wijst op de val van de Berlijnse Muur (en het communisme) door massaal verzet. Zo dienen we ons ook te verzetten tegen het surveillance kapitalisme. “Als het industriële kapitalisme de natuur gevaarlijk ontwrichtte, welke ravage kan dan het surveillance kapitalisme aanrichten wat betreft de menselijke natuur?” (p345) Het bedreigt onze humaniteit, onze democratie en onze vrijheid. Het industriële kapitalisme is aangepast door sociale wetgeving. Dat is ook noodzakelijk bij het surveillance kapitalisme. De vraag is: “Wat voor beschaving voorspelt het?... Hoe zal het onze samenleving transformeren?
De menselijke vrije wil is het orgaan dat de toekomst bepaalt. Het claimt een niet ingevulde, onbepaalde, open toekomst. Wij dienen het echter te willen om onze toekomst zelf te bepalen. “Als we onze wil en beloften samenbundelen, scheppen we de mogelijkheid tot collectieve actie gericht op een gedeelde toekomst, verbonden met de vastberadenheid om onze visie in de wereld te verwerkelijken” (p332). Dat is iets anders dan overgeleverd te zijn aan geautomatiseerde computerpocessen.