Politiek onder algoritmische goddelijke macht

In het vorige hoofdstuk suggereerde ik dat het algoritme is gaan functioneren als een nieuw priesterschap: een bemiddelaar van oordeel, kalm, technisch en vaak moeilijk uit te dagen. Hier wil ik die gedachte doortrekken naar de politiek.

Gedurende het grootste deel van de tocht die ik in dit boek heb afgelegd, had macht een zichtbaar gezicht. Ik kon me koningen en priesters voorstellen, partijleiders en topbestuurders. Hun gezag leek verbonden met paleizen, parlementen, hoofdkantoren en heiligdommen—plaatsen die men kon benoemen, benaderen of zelfs vanbuiten in protest kon omringen. Terwijl ik de lange beweging volgde van god-koningen naar rijken, van priesterorden naar Rede, Natie, Markt en de bestuurlijke staat, begon ik te zien dat de maskers vaker veranderden dan de structuur. Macht bleef, in zekere zin, belichaamd. In het digitale tijdperk heeft zich echter iets stillers verzameld rond het oude theater van verkiezingen, toespraken en vlaggen: een vorm van heerschappij verankerd in datacentra, cloudcontracten, aanbevelingssystemen, score-instrumenten en platformbeleid.

Ik gebruik de uitdrukking algoritmische goddelijke macht om deze nieuwere constellatie te beschrijven. Daarmee bedoel ik niet dat code letterlijk heilig is. Ik bedoel dat zij vaak wordt behandeld alsof zij helderder ziet dan wij, meer weet dan enig mens ooit zou kunnen weten, en eerlijker oordeelt omdat haar uitspraken komen in de taal van data. Haar gezag is infrastructureel eerder dan ceremonieel. Gewoonlijk spreekt zij niet via een koninklijk decreet. Zij spreekt via rangschikkingen, toestemmingen, drempels, toegangsregels en geautomatiseerde aanbevelingen.

De formele politiek gaat aan de oppervlakte nog altijd door. Er wordt campagne gevoerd, over begrotingen gedebatteerd, wetten aangenomen. Toch worden veel van de beslissingen die nu het dagelijks leven vormgeven steeds vaker genomen binnen technische systemen die de meeste burgers nooit inspecteren en die maar weinig verkozen ambtsdragers volledig begrijpen. Het oude vocabulaire van links en rechts blijft bestaan, maar veel van de gewone ervaring wordt al elders gesorteerd—binnen feeds, modellen, dashboards en private digitale architecturen. Een nieuwe machtslaag heeft zich over oudere instellingen gelegd en ze strakker aangetrokken zonder ze volledig te vervangen. Om deze ordening natuurlijk te laten aanvoelen, zijn nieuwe politieke verhalen verschenen. Ze putten uit oude angsten—misdaad, verspilling, wanorde, gevaar—maar brengen die angsten naar een nieuw altaar: het altaar van data en code.

Datagedreven neutraliteit als dekmantel

In eerdere tijdperken rechtvaardigden machthebbers beslissingen door zich te beroepen op doctrine, deskundig oordeel of nationale noodzaak. Tegenwoordig hoor ik steeds vaker hetzelfde legitimerende gebaar in een ander accent: de data tonen het aan, het model beveelt het aan, het beleid is evidence-based. Overheden gebruiken nu voorspellende instrumenten om politiewerk aan te sturen, uitkeringsaanvragen te beoordelen, scholen te waarderen en risico’s te sorteren. Voor veel mensen klinkt dat als vooruitgang, en ik begrijp waarom. Wie zou openlijk onwetendheid verkiezen boven bewijs?

De moeilijkheid begint wanneer datagedreven wordt behandeld alsof het identiek is aan neutraal. Meten is nooit onschuldig. Elk systeem beslist wat wordt meegeteld, wat wordt genegeerd, wat als schade wordt geclassificeerd en wiens gedrag toezicht verdient. Een gezondheidssysteem kan kosten en wachttijden tellen en daarbij waardigheid of vertrouwen over het hoofd zien. Een school kan toetsresultaten registreren en tegelijk nieuwsgierigheid, solidariteit of burgerschapsvorming missen.

Daardoor draagt de data die een model binnenkomt vaak de sporen van oudere macht. Sommige gemeenschappen worden overmatig gemeten en overmatig gepoliceerd; andere worden standaard als veilig behandeld. Wanneer modellen van zulke registraties leren, kunnen zij geërfde patronen reproduceren en die vervolgens aan ons teruggeven als louter feiten. Er ontstaat een feedbacklus: een gebied dat al in het vizier ligt krijgt meer patrouilles omdat eerdere registraties het riskant doen lijken, en die extra surveillance genereert vervolgens precies de data die het oordeel lijken te bevestigen.

Doorheen dit boek heb ik gezien hoe goddelijke macht haar taal herhaaldelijk verlegt terwijl haar gewoonte behouden blijft. Ooit zei zij: Gods wet staat boven de politiek. Later zei zij: de Rede vereist dit, of economische noodzaak laat geen keuze. Nu zegt zij vaak: het model staat boven de politiek. Voor mij is die continuïteit opvallend. Menselijke keuzes worden nog altijd vermomd als onpersoonlijk noodlot.

Platformen als onzichtbare regeringen

Socialemediabedrijven, zoekmachines en online marktplaatsen beschrijven zichzelf vaak als neutrale doorgeefluiken. Zij zeggen dat zij slechts content hosten, gebruikers verbinden of tonen wat het relevantst is. In dat verhaal zijn zij zoiets als wegen of leidingen: infrastructuur zonder wil. Ik vind die beschrijving diep onvolledig.

In de praktijk besturen platformen de aandacht, en aandacht is inmiddels een van de beslissende voorwaarden van het openbare leven. Deze systemen beslissen wat mag verschijnen, wat wordt verwijderd, wat wordt versterkt en wat uit beeld wegzakt. Hun servicevoorwaarden en moderatieregels stellen werkelijke grenzen aan expressie, en toch worden die grenzen doorgaans privaat geschreven en gehandhaafd via een mengsel van menselijke arbeid en geautomatiseerde systemen. Wat op een platform als publieke uiting geldt, is daarom niet simpelweg een spontaan sociaal feit; het wordt gevormd door onzichtbaar beleid.

Zij beslissen ook wat eerst wordt gezien, door wie en met welke intensiteit. Aanbevelingssystemen rangschikken posts, nieuws, video’s en zoekresultaten volgens doelen die zich zelden laten herleiden tot louter democratische waarden. Een klein deel van het materiaal krijgt het grootste deel van de aandacht; de rest wordt in de praktijk onzichtbaar. Wie kan betalen, testen en zijn boodschap verfijnen, wint vaak een buitenproportionele aanwezigheid. Anderen spreken, maar grotendeels de stilte in.

Dus hoewel platformen in traditionele zin geen wetten uitvaardigen, kan ik mezelf er niet van overtuigen dat zij politiek gewichtloos zijn. In een wereld waarin zichtbaarheid bepaalt wie kan deelnemen, oefenen degenen die de zichtbaarheid beheren een diepgaande vorm van heerschappij uit. Eerdere vormen van goddelijke macht bouwden tempels, triomfbogen en kathedralen om aandacht te verzamelen en geloof te vormen. Vandaag vervult de feed op een telefoon vaak een vergelijkbare functie, en code speelt de rol van toneelmeester.

Surveillance als veiligheid en zorg

Naarmate dataverzameling zich uitbreidt via telefoons, camera’s, browsers, sensoren en apps, wordt zij vaak gerechtvaardigd in de taal van bescherming en dienstverlening. Men vertelt ons dat zij de veiligheid, het gemak, de efficiëntie, de gezondheid of de zorg verbetert. De vertrouwde geruststelling is eenvoudig: als je niets verkeerd hebt gedaan, waarom zou je dan bang zijn om bekeken te worden?

Ik ben aan die eenvoud gaan twijfelen. Data die voor het ene doel worden verzameld, blijven zelden beperkt tot dat doel. Locatiegegevens die voor verkeersbeheer worden verzameld, kunnen helpen om protestactiviteit in kaart te brengen. Financiële gegevens of communicatiegegevens die in naam van terrorismebestrijding zijn samengebracht, kunnen worden ingezet voor andere vormen van toezicht. Gezondheids- of bewegingsgegevens die tijdens een crisis zijn verzameld, kunnen blijven voortbestaan lang nadat de noodtoestand voorbij is. De geschiedenis suggereert op zijn minst dat bevoegdheden die voor één noodzaak zijn opgebouwd, vaak in andere domeinen worden uitgenodigd.

De lasten van surveillance zijn ook ongelijk verdeeld. Degenen die toch al als riskant worden beschouwd—arme gemeenschappen, migranten, minderheden, activisten—worden vaak intensiever bekeken. Ondertussen kunnen machtige actoren nog steeds ondoorzichtigheid bewaren via geheimhoudingsregels, propriëtaire systemen, offshoreconstructies of geheime programma’s. De oude muur die ooit beslissingen achter steen verborg, is in sommige gevallen een digitale muur geworden.

De leus niets te verbergen, niets te vrezen veronderstelt een stabiele juridische en politieke wereld. Maar wetten veranderen, normen verschuiven en opvattingen die ooit werden geduld, kunnen later verdacht worden. Middeleeuwse gelovigen kregen ooit te horen dat God alles zag. De moderne burger krijgt steeds vaker te horen dat het systeem alles ziet—en dat alleen de schuldigen daartegen bezwaar zouden moeten maken—terwijl degenen die kijken zelf vaak veel minder zichtbaar blijven.

Degenen aan de verkeerde kant van het scherm

Wanneer ik vraag wie aan de scherpe rand van algoritmische politiek staat, denk ik niet eerst aan degenen die de systemen ontwerpen. Ik denk aan degenen wier leven het gemakkelijkst in verdachte cijfers kan worden vertaald. Kredietscores, verzekeringsprijzen, fraudedetectie-instrumenten, klantensegmentatie en geschiktheidssystemen sorteren allemaal mensen op basis van patronen ontleend aan eerder gedrag en groepsstatistieken. Een postcode, een gemiste betaling, een adres dat met risico wordt geassocieerd, of een geschiedenis van instabiliteit kan stilletjes iemands mogelijkheden vernauwen.

Wat mij het meest verontrust, is hoe weinig deze systemen zijn toegerust om te vragen waarom. Waarom is een buurt arm? Waarom stopten betalingen tijdens een crisis? Waarom duiken bepaalde groepen vaker op in risicodata? Het systeem onderzoekt vaak niet de sociale geschiedenis onder het patroon. Het zet geschiedenis eenvoudig om in waarschijnlijkheid en waarschijnlijkheid in verminderde kansen. De datadubbelganger van een persoon—de databaseversie van het zelf—kan dan de toegang tot banen, leningen, uitkeringen of diensten sterker bepalen dan enig relaas dat die persoon in zijn eigen stem kan geven.

Waar straatpolitiek en digitale systemen elkaar ontmoeten, kan de druk toenemen. Voorspellende politietools kunnen meer agenten sturen naar plaatsen die al verzadigd zijn met politieaanwezigheid. Als de onderliggende registraties eerdere vooringenomenheid of ongelijke controle weerspiegelen, kan het systeem het patroon versterken in plaats van corrigeren. Meer patrouilles leiden tot meer staandehoudingen, meer staandehoudingen leiden tot meer registraties, en die registraties worden vervolgens gebruikt om nog meer patrouilles te rechtvaardigen.

Online kunnen op engagement gerichte platformen ook worden gebruikt op manieren die al kwetsbare groepen verder blootstellen. Desinformatie verspreidt zich snel. Gecoördineerde intimidatie kan worden gericht op activisten of minderheden. Content die invloedrijke belangen uitdaagt, kan minder zichtbaar worden door moderatiebeslissingen of veranderingen in de ranking die gewone gebruikers noch helder kunnen zien noch gemakkelijk kunnen aanvechten. Zich uitgesproken uiten, vooral vanuit een gemarginaliseerde positie, betekent steeds vaker weten dat iemands digitale sporen strategisch door anderen kunnen worden gelezen.

Ik denk niet dat deze druk alleen op individuen neerkomt. Hele landen, vooral in het mondiale Zuiden, kunnen afhankelijk worden van digitale systemen die zij niet bezitten en standaarden die zij niet hebben geschreven. Kerninfrastructuren—clouddiensten, communicatienetwerken, betaalsystemen, platformecosystemen—kunnen worden gecontroleerd of zwaar gevormd door grote buitenlandse bedrijven. Data die door burgers worden gegenereerd, stromen dan naar buiten, worden elders verwerkt en keren terug in gemonetiseerde of bestuurlijke vorm.

Een staat kan op papier soeverein blijven, met een eigen parlement, rechtbanken en symbolen. Maar als het alledaagse sociale en economische leven via elders gevestigde platformen verloopt, kan feitelijk gezag naar buiten wegdrijven. In die zin kan algoritmische macht er imperiaal uitzien zonder vlaggen of directe bezetting nodig te hebben. Haar reikwijdte strekt zich uit via afhankelijkheid van infrastructuren die moeilijk te vervangen zijn. Het tribuut is dan minder waarschijnlijk graan of goud dan data, toegang en naleving.

Billijkheid vandaag: rechten op papier, code in de praktijk

Veel van de formele verworvenheden van de twintigste eeuw bestaan nog steeds. Grondwetten beloven gelijkheid voor de wet, behoorlijke rechtsgang en vrije meningsuiting. Verkiezingen blijven bestaan, rechtbanken blijven bestaan, en de taal van rechten is niet verdwenen. Ik wil die prestaties niet ontkennen. Ze doen ertoe.

Toch is veel feitelijke macht gemigreerd naar verborgen systemen. Modellen die als bedrijfsgeheim worden beschermd, helpen bepalen wie inzetbaar, kredietwaardig, verzekerbaar of riskant is. Op engagement gerichte platformen helpen beslissen wat zichtbaar wordt in het openbare leven. Technische comités, raden van bestuur en ontwikkelaars op afstand beïnvloeden welke maatstaven meetellen, welke schade wordt erkend en welke vormen van reactie als legitiem worden beschouwd. Het resultaat is dat rechten in principe kunnen overleven terwijl de voorwaarden om die rechten te leven steeds meer elders worden vastgesteld.

Als een lening wordt geweigerd, als een cv nooit een mens bereikt, als een buurt zich vult met politielichten, als posts stilletjes bereik verliezen, als een heel land wordt afgesneden van sleuteltechnologieën, is er meestal wel een formele beroepsweg. Maar de ervaring waarmee veel mensen worden geconfronteerd lijkt minder op discussiëren met een beslisser en meer op botsen tegen een blinde muur. Zo werkt het systeem nu eenmaal. Het algoritme heeft de keuze gemaakt. Medewerkers zijn verplicht geautomatiseerde richtlijnen te volgen.

Het probleem is, zoals ik het zie, niet alleen uitsluiting; het is ook het verdwijnen van een aan te spreken autoriteit. Tegelijk leren culturele instellingen mensen vaak mislukking te internaliseren. Als je content onopgemerkt blijft, was je misschien niet overtuigend genoeg. Als je score daalt, ontbrak het je misschien aan discipline. Als je gemeenschap als riskant wordt geclassificeerd, ligt de fout misschien in je gewoonten of cultuur. Verantwoordelijkheid zinkt naar binnen, terwijl de macht om de voorwaarden te vormen naar buiten wegdrijft in code, kapitaal en bestuur op afstand.

Daarom voelt de taal van billijkheid voor mij instabiel in het digitale tijdperk. Zij krimpt al te gemakkelijk in tot procedurele consistentie: dezelfde maatstaf toegepast op iedereen, dezelfde lage score gelijkmatig uitgedeeld, hetzelfde ondoorzichtige proces op schaal toegediend. Maar gelijke behandeling binnen een vervormde structuur is niet noodzakelijk rechtvaardigheid. De oudere morele vraag keert terug: niet alleen werd de procedure consequent toegepast, maar is de ordening zelf instemming waard?

Politiek in het doolhof

Politiek onder algoritmische goddelijke macht voelt voor mij minder als het ontvangen van een zichtbaar bevel en meer als het bewegen door een doolhof waarvan de muren al zijn geplaatst. Paden gaan open of dicht volgens modellen die volhouden dat zij slechts aanbevelen, niet regeren. Doodlopende paden, tolpoorten, toestemmingen en sluiproutes worden steeds vaker gebouwd niet alleen via openbaar debat, maar via software-updates, ontwerpkeuzes en bedrijfsplannen.

In zo’n wereld is de eerste daad van verzet verrassend basaal: opmerken dat het doolhof bestaat. We moeten opnieuw leren dat systemen gemaakt zijn, niet gegeven; dat platformen kiezen, niet slechts weerspiegelen; dat data eerdere beslissingen en sociale geschiedenissen meedragen, geen zuiver noodlot. Alleen dan kan de politiek weer verbreden. Alleen dan kunnen we niet alleen vragen welke leiders we moeten verkiezen, maar ook welke infrastructuren we willen aanvaarden, welke vormen van afhankelijkheid we willen weigeren, en welke delen van onze digitale wereld vanaf de grond opnieuw moeten worden opgebouwd.

Dat, zo lijkt het mij, maakt deel uit van de lange zoektocht naar een betere morgen. En het brengt nog één verdere implicatie met zich mee. Als dit doolhof gebouwd is, dan was het nooit onvermijdelijk. Het had ook anders gebouwd kunnen worden. Het kan alsnog herbouwd worden. De volgende vraag is dan wat voor soort eeuw had kunnen ontstaan—en nog steeds kan ontstaan—als de heersende verhalen van onvermijdelijkheid hadden gefaald.