Afgelopen vrijdagavond, nadat mijn vrouw en ik onze jongens naar bed hadden gebracht, zijn we eens even gaan zitten voor de nieuwe Netflix-documentaire The Social Dilemma. In de documentaire komen een aantal bekende auteurs, geleerden, tech leiders en activisten naar voren. Deze film helpt de groeiende invloed van algoritmische technologie te verklaren, vooral als het gaat om sociale media.
De film wordt geleid door Tristan Harris, voormalig design-ethicus en voorzitter van het Center for Humane Technology. In The Social Dilemma wordt onderzocht hoe algoritmische technologieën ontworpen zijn. Ze hebben één doel: een perfect samengestelde en verslavende online wereld opbouwen met als doel winst voor de bedrijven die erachter zitten. In deze online wereld maken bedrijven winst door elke digitale interactie te volgen. Dat wordt vaak ook wel surveillancekapitalisme genoemd.
De film richt zich deels op de technologie van kunstmatige intelligentie (AI). Deze technologie zit achter de tools die onze social-media feeds, e-mail platformen en de meeste van onze ‘smart’ apparaten aansturen. Zoals Harris uitlegt, zijn onze zorgen over AI vaak gecentreerd op het moment dat de technologie onze menselijke kracht zal overwinnen en ons zal overtreffen in verschillende taken (‘de singulariteit’; kunstmatige intelligentie die zichzelf blijft verbeteren). Daarentegen wordt er nauwelijks gekeken naar hoe het onze zwakte al heeft overwonnen, met name door verslaving te bevorderen en verdeeldheid te voeden. Veel van deze systemen controleren wat je ziet in je sociale-media-feed, wanneer je meldingen ontvangt en zelfs wat je typt. Dit alles om je gedrag te veranderen of het nu gaat om wat je koopt of wat je bekijkt.
Wake-Up Call
De film onderzoekt hoe tech reuzen als Google, Facebook, Twitter en anderen in staat zijn om onze wil om te buigen voor hun bedrijfswinst. Doordat ze onze online ervaring perfect samenstellen, maken deze bedrijven gigantisch veel winst. Maar dit samenstellen creëert op haar beurt wel sociale bubbels die onze mentale gezondheid en sociale structuur in gevaar brengen, en die zaken als angst en groepspolarisatie versterken.
The Social Dilemma is een belangrijke wake-up call over de macht en invloed van algoritmische technologieën.
Harvard professor Shoshana Zuboff heeft een prominente rol in de film. In haar recente boek The Age of Surveillance Capitalism onderzoekt zij de negatieve sociale effecten van algoritmische technologie. Ze verwoordt treffend dat enkele van de meest fundamentele ethische vragen van deze nieuwe ‘smart’ economie zijn: ‘Wie beslist’ waaraan we worden blootgesteld? ‘Wie beslist wie er mag beslissen’ over deze dingen? En met welk doel worden dergelijke beslissingen genomen?
The Social Dilemma is een belangrijke wake-up call over de macht en invloed van algoritmische technologieën. Het is een film die christenen zouden moeten bekijken en gebruiken, eenvoudigweg omdat deze middelen ons al diepgaand vormen – in veel gevallen op onmiskenbaar onchristelijke manieren. Maar ironisch genoeg maken de filmmakers gebruik van dezelfde technieken die ze in het licht willen brengen om bekendheid te geven aan de film via sociale media en zelfs via de Netflix-aanbevelingen.
Een ongemakkelijke stilte
The Social Dilemma is nuttig omdat het zich richt op een aantal fundamentele ethische problemen van sociale-media-algoritmen. Met name op het feit dat deze algoritmen in dienst staan van bedrijven met een winstoogmerk. Toch slaagt het er niet in het kern van het probleem aan te pakken. In de openingsscène stelt de interviewer verschillende deskundigen een eenvoudige vraag: ‘Wat is nu het eigenlijke probleem?’ Velen antwoorden door een ongemakkelijke stilte. Anderen rommelen met halfbakken antwoorden. Op een gegeven moment geeft Harris toe dat er zoveel problemen zijn dat hij niet weet waar hij moet beginnen.
Ook al wordt deze vraag gesteld om de nieuwsgierigheid van de kijker te wekken, het vat tegelijk een grote tekortkoming van de film samen. De geïnterviewde experts richten zich op de vele symptomen die gepaard gaan met sociale media en de buitensporige invloed ervan. Maar ze benoemen niet de onderliggende oorzaak van het probleem. Het christelijke wereldbeeld bevat in feite het antwoord op de vraag die deze leiders onbeantwoord lieten: de diepgewortelde aard van zonde die alle aspecten van de mensheid besmet – en dus ook onze technologische hulpmiddelen.
Het christendom roept ons op om ons leven te richten op het liefhebben van God en de naaste. Daarentegen richt de zonde ons op persoonlijke autonomie en het dienen van onszelf. De ik-gerichtheid van de zonde leidde ons naar persoonlijk samengestelde digitale werelden, die ongekend verslavend en populair zijn. Nu pas zien we in welke schade door deze technologieën wordt aangericht. De roep om verandering wordt steeds sterker, en terecht. Maar ware verandering zal er niet komen totdat we erkennen dat deze technologieën niet zijn ontstaan en niet functioneren in een moreel neutraal vacuüm – maar in een samenleving die doortrokken is van zonde.
Ware verandering zal er niet komen totdat we erkennen dat deze technologieën niet zijn ontstaan en niet functioneren in een moreel neutraal vacuüm – maar in een samenleving die doortrokken is van zonde.
De meeste experts in de film stellen dat onze zielen een oneerlijke strijd hebben te voeren tegen technologie. Het grootste deel van de mensheid wordt eenvoudigweg overweldigd door de macht van een paar tech bedrijven. In die opvatting zit waarheid. Toch kunnen we niet zomaar afstand doen van onze eigen verantwoordelijkheid en de schuld voor nepnieuws, polarisatie en andere misstanden volledig op technologie afschuiven. We moeten ook erkennen dat deze hulpmiddelen in feite functioneren als benzine die op een maatschappij wordt gegoten die al in vuur en vlam staat.
Het is waar dat algoritmische technologieën tot veel in staat zijn. Ze kunnen niet alleen reageren op ons gedrag, maar deze ook daadwerkelijk veranderen. En op die manier worden we steeds meer gevormd om op een uiterst zorgelijke manier te leven. Maar we zijn geen machteloze pionnen en ons onlinegedrag is geen uitgemaakte zaak – hoe geheimzinnig algoritmen ook zijn. We zijn niet slechts onschuldige slachtoffers in een AI-gedreven maatschappij die uiteenvalt. Mensen kiezen ervoor om deze middelen te creëren, en evenzo kunnen wij ervoor kiezen hoe we deze gebruiken – of niet. In feite, met wat we weten over de aard van de zonde en onze kwetsbaarheid voor verleiding, staan wij als christenen voor een groot dilemma. Misschien is de vraag niet hoe we de sociale media moeten hervormen, maar of ze überhaupt hervormbaar zijn.
Hoe nu verder?
De film eindigt met praktische aanbevelingen van de geïnterviewden over hoe we de uitdagingen van sociale media kunnen aanpakken. Deze omvatten het uitschakelen van meldingen op je apparaten en het beperken van de tijd die op sociale platforms wordt doorgebracht, met name voor kinderen en tieners. Sommigen experts bieden aanbevelingen voor overheidsbeleid op dit gebied. Zo wordt er opgeroepen tot het beter reguleren van sociale media, betere privacywetgeving en wetgeving om concurrentie te bevorderen.
Hoe gebruiken we technologie? Om onze eigen ‘ik’ te dienen, of om onze autonomie op te offeren om God en anderen te dienen?
Christenen zullen verschil van mening hebben over het nut van deze voorstellen. Misschien zullen ze het niet eens zijn over wat de beste manier om hier mee om te gaan. Maar we moeten niet vergeten dat het echte ‘sociale dilemma’ niet in Den Haag of in Silicon Valley plaatsvindt, maar in ons eigen hart en onze eigen huizen. Het draait ten diepste om de beslissingen die we elke dag nemen. Hoe gebruiken we technologie? Om het grootste gebod op te volgen (Mattheüs 22:36-39) of om het te negeren? Om ons eigen ‘ik’ te dienen of om onze autonomie op te offeren om God en anderen te dienen?
