Je apparaten beoordelen je. Gedraag je dienovereenkomstig.

Een illustratie van een meter. Duimen omhoog aan de ene kant, duimen naar beneden aan de andere.


De kans is groot dat je ‘Nosedive’ hebt gezien, de beruchte Black Mirror-aflevering van een wereld waarin gewone mensen elkaar beoordelen op basis van hun sociale interacties. Op de populaire show – die gericht is op de alomtegenwoordige aard van technologie in ons leven en een dystopisch beeld van de toekomst schetst – worden deze beoordelingen teruggekoppeld naar een uitgebreid algoritme, dat individuele sociale kredietscores berekent die de sociaal-economische status bepalen.

In deze fictieve wereld voorkomt het hebben van een lage score dat je je dagelijkse leven niet meer kunt voortzetten. U kunt geen auto huren, een hotel boeken of vluchten betalen.

Maar dit verhaal komt alarmerend dicht in de buurt van mensen voor wie het Chinese sociale kredietstelsel in ontwikkeling is. Gebouwd om het westerse model van financiële kredietscores te repliceren, werkt het Chinese systeem op een vergelijkbare manier, behalve dat het goed gedrag beloont (en slecht bestraft), meer dan alleen tijdige schuldaflossingen.

Het is gemakkelijk om een ​​staat te vermanen voor het uitoefenen van een te grote invloed op het gedrag van zijn burgers. Maar dat zou een belangrijk punt missen. De bredere kracht die dit unieke sociale kredietmodel in de eerste plaats mogelijk maakt, is de verspreiding van gezichtsscanners, digitale apparaten, algoritmen voor machine-learning en big data-modellen. Ze zijn hier om te blijven en na verloop van tijd intelligenter te worden.

Surveillance is een duistere en mysterieuze kracht

Technologie heeft het vermogen om onze sociale contracten fundamenteel te transformeren en kan, misschien, leiden tot een eliminatie van de natiestaat in zijn huidige vorm.

Als je dit leest, is de kans groot dat je geen fan bent van surveillance. U waardeert uw privacy en u wilt liever dat de overheid niet 24/7 weet wat u doet. Maar dat komt omdat we de keuze hebben (althans sommigen van ons) om te leven in een wereld waar onze rechten tot op zekere hoogte worden gerespecteerd.

Hoe zou ons gedrag veranderen als we in een panopticon leefden? Geboren uit de geschriften van de Britse filosoof Jeremy Bentham, verwijst een panopticon naar een gebouw met een observatietoren in het midden van een cirkel van gevangeniscellen.

Een panopticon moet de indruk wekken dat je acties op elk moment kunnen worden gevolgd. Elke gevangene die uit zijn gevangeniscel kijkt, kan de centrale uitkijktoren zien. Er is geen manier om betrouwbaar te weten of een bewaker ze op hetzelfde moment bekijkt, maar er is ook geen manier om het te vermijden.

Bentham geloofde in het idee dat kracht zichtbaar, maar toch donker en mysterieus moet zijn. Hij betoogde dat de relatie van een individu met de samenleving ervan afhing: door middel van surveillance zouden we ons moeten conformeren aan maatschappelijke normen op het gebied van ethiek, moraal en werkhouding.

Sociale credits zijn er al

Bentham stierf in de vroege 19e eeuw, maar zijn werk en ideeën leven voort. En hoewel het panopticon als een model voor gedragshandhaving niet echt van de grond kwam, kunnen we zeker stellen dat het alleen de tools zijn die verschillen.

Laten we bijvoorbeeld Uber-beoordelingen nemen. Het bedrijf bevestigde eerder dit jaar dat het renners met lage ratings zou gaan verbieden. Chauffeurs met lage beoordelingen hebben vergelijkbare gevolgen: ze kunnen in sommige staten niet voor Uber Black rijden en kunnen minder ritverzoeken ontvangen.

De boodschap hier is eenvoudig maar direct: wees beleefd, vriendelijk of word afgesneden. Als dat geen gedragscontrole is, weet ik niet wat het is.

En dit is verre van de enige manifestatie van technologie die onze levensstijlkeuzes verandert. Verzekeringsmaatschappijen willen uw Fitbit-gegevens, zodat ze kunnen controleren hoe gezond u bent en eventueel uw premies kunnen aanpassen. Slimme tandenborstels sturen gegevens terug naar uw tandartsaanbieder, dus als u niet vaak genoeg tanden poetst, maak u dan klaar om meer geld op te hoesten.

We gaan ook op deze modellen vertrouwen. Zou u ooit een product kopen van een eBay-verkoper met een lage rating? Hoe vaak lees je beoordelingen online voordat je een nieuwe service probeert?

Natuurlijk weerspiegelt elk van deze voorbeelden slechts een klein gebied van monitoring, niet de brede slag van een door de overheid beheerd sociaal kredietstelsel. Maar deze schijnbare terughoudendheid bestaat voor het grootste deel omdat technologiebedrijven binnen hun beperkte reikwijdte opereren. Als al deze datapunten aan elkaar werden gelast, zou dit een even breed bewakingssysteem kunnen voeden.

Het is een moreel dilemma. Onze verslaving aan technologie en de gegevenspunten die we willen opgeven, maken algoritmen slimmer en technologiebedrijven rijker. Hoewel het gemakkelijk is om te klagen over een gebrek aan privacy, is het feit dat technologie ons alleen beter zal dienen als het meer over ons weet. Het is een deugdzame of vicieuze cirkel, afhankelijk van hoe je het bekijkt.

Er is ook een term voor: surveillance-kapitalisme, bedacht door Shoshana Zuboff van Harvard Business School.

Is privacy een onvermijdelijk slachtoffer van technologie?

Wat is het nut van de staat als sociale kredietstelsels zich overal in de samenleving verspreiden? Gecentraliseerde krachten om de vrijheid te handhaven en de grondrechten te garanderen zijn essentieel voor samenlevingen – of toch? Als we weten dat de apparaten in onze zakken dagelijkse acties kunnen opnemen, zou dat niet automatisch leiden tot gedragsveranderingen?

Is anarchisme de volgende grote sociale beweging? Volgens professor Andreas Wittel is het zeker mogelijk dat “digitale technologieën mogelijk nieuwe mogelijkheden bieden voor grootschalige vormen van anarchistische organisaties.”

Velen van ons zijn zich bewust van de privacyrisico’s van technologie. Toch vragen we Alexa om dingen voor ons te kopen en Siri om autoroutes te bekijken. We spelen onze muziek op Spotify, bestellen ons eten via Uber Eats en splitsen onze cheques via Venmo.

Technologie is er om te blijven en privacyoverwegingen zullen deze niet van de kaart wissen. De vraag waarmee we moeten worstelen is of het ons zal blijven dienen, of zal het uiteindelijk andersom zijn?

Kim Martin Administrator
Sorry! The Author has not filled his profile.
follow me
    Like this post? Please share to your friends:
    Adblock
    detector
    map