De gloed in de donkere kamer
Wanneer ik nadenk over het tijdperk van de algoritmen, keer ik steeds terug naar een reeks alledaagse kamers in de nacht. In een daarvan zit een vrouw aan haar keukentafel, verlicht door het zachte gezag van de website van een bank. De taal is kalm. Het proces lijkt neutraal, efficiënt, bijna vriendelijk. Ze vult haar gegevens in en drukt op verzenden. Ergens ver van haar leven ontwaken servers, modellen vergelijken haar met miljoenen anderen, en binnen enkele seconden verschijnt een oordeel. De toelichting waarin ze de vorm van haar leven probeerde uit te leggen—zorgarbeid, onzekere banen, onderbrekingen die plichten waren in plaats van mislukkingen—telt eigenlijk niet mee. Het antwoord arriveert als een vlakke zin. Er is geen echt gesprek om aan te gaan, en vaak geen zinvol beroep mogelijk.
In een andere stad ververst een man zijn inbox steeds opnieuw. Software heeft zijn cv al gelezen, de trefwoorden geteld, zijn functietitels gesorteerd en hem bij de afvallers geplaatst voordat enig mens hem heeft ontmoet. Elders opent een tienermeisje haar telefoon en heeft het gevoel dat ze zich vrij beweegt door nieuws, grappen, geruchten, muziek en advertenties, terwijl een onzichtbaar systeem stilletjes de gang vernauwt waarlangs haar aandacht zich kan verplaatsen.
Wat mij in elk geval treft, is steeds hetzelfde: er staat nu een vorm van macht tussen mensen en de beslissingen die hun leven vormgeven, maar die macht verschijnt niet als macht. Ze verschijnt als het platform, het model, het systeem, wat de data laten zien. Na het langdurige afbrokkelen van gedeelde bescherming dat in het vorige hoofdstuk werd geschetst, is dit een van de manieren waarop macht terugkeert. Onzekerheid wordt niet langer zozeer publiek opgevangen als wel privé gescoord, gerangschikt en beheerd.
Het officiële verhaal van neutrale instrumenten
Volgens het officiële verhaal zijn algoritmen slechts instrumenten. Men zegt dat het rationele hulpmiddelen zijn, statistische assistenten die menselijke zwakte corrigeren. Mensen zijn, zo luidt het verhaal, partijdig, moe, emotioneel, inconsistent; algoritmen zouden zuiverder zijn—preciezer, beter schaalbaar, onpartijdiger. Kredietscores worden gepresenteerd als eerlijke manieren om leningen toe te wijzen. Wervingssystemen worden geprezen om hun efficiëntie. Aanbevelingsmotoren worden verkocht als oplossingen voor informatieoverload. Risicomodellen worden behandeld als neutrale gidsen. Wanneer er schade uit voortvloeit, nemen veel mensen, begrijpelijkerwijs, aan dat het model eenvoudigweg de werkelijkheid heeft onthuld. Het algoritme wordt voorgesteld als een spiegel, niet als een rechter.
Ik denk niet dat dit verhaal volledig onwaar is. Instrumenten kunnen helpen, en menselijk oordeel is vaak gebrekkig. Maar ik ben gaan inzien dat het verhaal van neutraliteit te veel verhult. Eerdere tijdperken rechtvaardigden beslissingen door zich omhoog te beroepen—op goden, koningen, het lot, de markt. Ons tijdperk beroept zich vaak op de data. Die houding voelt oud, ook wanneer de machinerie nieuw is: iemand met macht beweert niet zelf te kiezen, maar slechts te gehoorzamen aan een hogere orde die door tekens spreekt.
Van schrijvers en orakels naar servers en feeds
In mijn lezing van de geschiedenis loopt hier een lange continuïteit doorheen. Vroege rijken hadden schrijvers die levens omzetten in tekens op klei, en die tekens legden de wereld niet alleen vast; ze hielpen haar ook besturen. Priesters, juristen en uitleggers stonden tussen gewone mensen en de regels die huwelijk, erfenis, handel, schuld en gezag beheersten. De meeste mensen ontmoetten macht niet rechtstreeks, maar via specialisten die het leven in oordelen vertaalden.
Vandaag zijn de tabletten en de wierook veranderd in servers en koelingsventilatoren. Degenen die algoritmen en de infrastructuren eromheen ontwerpen, nemen in zekere zin een vergelijkbare plaats in. Zij vertalen angsten, gewoonten en verlangens in code, en die code keert naar ons terug als ranglijsten, beperkingen, aanbevelingen, patrouillepatronen en gecureerde feeds. Ik bedoel niet dat programmeurs letterlijk priesters zijn. Ik bedoel dat zij vaak deelnemen aan systemen die aanspraak maken op een hogere, objectievere blik dan de mensen wier levens worden gesorteerd. Die gelijkenis is van belang voor mijn betoog.
Gehoorzaamheid als voorspelbaarheid
Oudere goddelijke orden eisten vaak zichtbare gehoorzaamheid. Mensen bogen, marcheerden, tienden af, knielden, salueerden. In het algoritmische tijdperk neemt onderwerping volgens mij een subtielere vorm aan. Het ideale subject is niet langer eenvoudigweg de gehoorzame mens. Het is de voorspelbare mens.
Een vast inkomen, een stabiel adres, een vertrouwde carrièreladder, herkenbare voorkeuren, leesbare gewoonten: dat zijn de kenmerken waarop systemen het prettigst rusten. Wie niet past—door ziekte, handicap, migratie, zorgarbeid, gefragmenteerde werkgeschiedenissen, trauma of gewone pech—kan voor het systeem gaan verschijnen niet als mens in complexe omstandigheden, maar als ruis, onregelmatigheid of risico. Deuren sluiten zich geruisloos. Niemand lijkt volledig verantwoordelijk. En juist die geruisloosheid verontrust mij. De orde presenteert zich niet als een wil, maar als een feit.
De voornaamste leugens van het algoritmische tijdperk
Ik gebruik het woord leugens zorgvuldig. Ik bedoel niet dat ieder individu dat erbij betrokken is, oneerlijk is. Ik bedoel dat bepaalde verhalen met zo veel zelfvertrouwen worden herhaald dat ze gaan functioneren als theologie. Ze verbergen auteurschap, maken van morele kwesties technische kwesties, en vragen ons menselijke ontwerpen als lotsbestemming te behandelen.
De eerste en vertrouwdste bewering is neutraliteit. Omdat algoritmen in cijfers en code spreken, worden ze vaak behandeld als gezuiverde rede. Als de uitkomst oneerlijk lijkt, worden we aangemoedigd te denken dat de wereld zelf wel oneerlijk moet zijn, niet het instrument. Toch leren modellen van data die door oudere machtsverhoudingen zijn gevormd. Als werving lange tijd bepaalde profielen boven andere heeft bevoordeeld, kan een wervingssysteem die patronen erven en ze verdienste noemen. Als voorspellende politiezorg steunt op registraties uit zwaar gecontroleerde gebieden, kan zij eerdere aandacht terug naar dezelfde plekken sturen en herhaling als bewijs uitleggen. Oude onrechtvaardigheid kan verharden tot data, en data kunnen terugkeren met het masker van objectiviteit.
Het tweede verhaal zegt dat welke vooringenomenheid er ook bestaat, die kan worden genezen door meer data toe te voegen. Dat vind ik te eenvoudig. De diepste keuzes worden meestal gemaakt nog voordat de data het systeem binnenkomen: wat geldt als succes, welke variabelen ertoe doen, wat het model moet optimaliseren, wiens ongemak telt, welke schade zichtbaar is. Als die voorafgaande keuzes eng of ongelijk zijn, verfijnen extra data de onrechtvaardigheid vaak eerder dan dat ze haar genezen. Een systeem kan preciezer worden zonder rechtvaardiger te worden.
Het derde verhaal zegt: dezelfde formule geldt voor iedereen, dus het proces is eerlijk. Maar identieke regels komen niet neer op identieke levens. Een score van een school met veel middelen en een score van een ondergefinancierde school zijn niet eenvoudig uitwisselbare feiten. Ontbrekende buitenschoolse activiteiten in het dossier van een arm kind onthullen geen gebrek aan karakter. Een onregelmatig inkomen in een beschadigde lokale economie bewijst geen onverantwoordelijkheid. Wanneer ongelijke geschiedenissen worden verwerkt alsof het gelijke invoer is, wordt ongelijkheid bevroren en omgedoopt tot onpartijdigheid. Voor mij voelt dit als een oude zet in nieuwe kleren: formele gelijkheid gebruikt om een ongelijke ondergrond te verbergen.
Het vierde verhaal behandelt voorspelling als passieve beschrijving. Een prognose, zo wordt ons verteld, zegt slechts wat waarschijnlijk is. Maar veel systemen zijn op die manier niet passief. Een kind dat als weinig kansrijk wordt bestempeld, kan minder veeleisend werk krijgen, minder vertrouwen, minder kansen. Een buurt die als hoog risico wordt aangemerkt, kan meer toezicht krijgen en daardoor juist meer van de data produceren die het label bevestigen. Een werkzoekende die als weinig kansrijk wordt gerangschikt, krijgt misschien nooit het gesprek dat het patroon had kunnen doorbreken. In zulke gevallen helpt voorspelling de toekomst voort te brengen die ze beweert slechts waar te nemen. Dit is een van de gevaarlijkste machten van het moderne model: ontwerp verhardt tot lot.
Aan de verkeerde kant van de sortering
De eerste gezichten die ik zie aan de verkeerde kant van deze zogenaamd neutrale instrumenten zijn kinderen. In veel schoolsystemen begint de sortering vroeg. Leesniveaus, gestandaardiseerde toetsen, gedragsrapporten, cognitieve beoordelingen en beslissingen over niveaugroepen beginnen het pad van een kind vorm te geven lang voordat dat kind veel kans heeft gehad zich te ontplooien. Wie als gevorderd wordt aangemerkt, krijgt vaak rijkere taken, meer vertrouwen en meer ruimte. Wie traag of weinig kansrijk wordt gelabeld, kan richting smallere routes met minder middelen en lagere verwachtingen worden geduwd.
Vaak meten deze oordelen evenzeer vroege blootstelling aan taal, veiligheid, rust, voeding en steun als iets dieps of vaststaands in het kind. Zodra een label zich vastzet, kan het de werkelijkheid gaan scheppen die het beweert slechts te beschrijven. Lagere verwachtingen brengen minder kansen. Minder kansen brengen magere resultaten. Latere uitkomsten lijken dan het oorspronkelijke oordeel te bevestigen. Tegen de adolescentie kan wat door instituties is gevormd op lotsbestemming gaan lijken.
Volwassenen komen op de arbeidsmarkt een vergelijkbaar proces tegen, al gebeurt het vaak op afstand. Sollicitaties worden gescand op trefwoorden, diploma’s en patronen die samenhangen met eerdere aanwervingen. Levens getekend door ziekte, zorgarbeid, migratie, informeel werk, ongebruikelijke kwalificaties of een carrièreswitch kunnen verdwijnen voordat iemand het verhaal erachter hoort. Wat terugkomt, is vaak stilte, of een korte afwijzing zonder echte uitleg. Deze systemen worden doorgaans verkocht als efficiënt en minder bevooroordeeld dan oudere discretionaire methoden. Soms verminderen ze misschien bepaalde vormen van willekeur. Maar ze kunnen ook oude aannames in nieuwe infrastructuur bevriezen en het scala aan levens dat als veelbelovend geldt vernauwen. Wie wordt uitgesloten, krijgt te horen het cv te verbeteren, strategischer te netwerken of zichzelf beter in de markt te zetten. Veel zeldzamer vragen we ons af of het sjabloon zelf niet te nauw is gebouwd.
Op het niveau van plaats kan een vergelijkbare logica zich hechten aan hele buurten. Risicoinstrumenten, leenmodellen en datagedreven veiligheidspraktijken kunnen gebieden op basis van historische registraties als hoog risico classificeren. Daarna kunnen meer toezicht, meer staandehoudingen, strengere controle, restrictievere kredietverlening of hogere leenkosten volgen. Omdat deze systemen op het verleden steunen, kunnen ze oude schade voortdragen—desinvestering, geconcentreerde handhaving, geblokkeerde kansen—en het daaruit voortvloeiende patroon vervolgens behandelen alsof het een natuurlijke eigenschap van de plek zelf is. De schaduw van enkelen kan zich uitstrekken over velen. Wat zich presenteert als helderder zicht, kan ook de projectie zijn van geërfde patronen op degenen die het minste macht hebben om zich ertegen te verzetten.
Rechtvaardigheid in een algoritmische wereld
Daarom denk ik niet dat de overgang van vaste hiërarchie naar vaste sortering een einde heeft gemaakt aan onrechtvaardigheid. Hij heeft haar verfijnd. Niemand krijgt altijd ronduit te horen dat zijn plaats permanent is. Scores kunnen stijgen, aanvragen kunnen opnieuw worden ingediend en in theorie is er nog een kans. Toch heeft het mechanisme nog altijd de neiging sommige mensen vroeg te meten, hen laag te plaatsen en hen dicht bij de bodem te houden, terwijl het de taal van eerlijkheid spreekt. Men zegt dat de race voor iedereen dezelfde is, maar de baan helt nog steeds. Wanneer iemand wijst op ongelijke lasten of ongelijke startlijnen, beroept het antwoord zich vaak op consistentie, data-integriteit of het gevaar van het belonen van onderpresteren. Genade begint op een procedurefout te lijken.
Oudere orden eisten op zichtbare manieren gehoorzaamheid: tribuut aan heersers, rituele conformiteit, gedisciplineerde arbeid, onderwerping aan de bevelen van het marktleven. In het algoritmische tijdperk neemt gehoorzaamheid steeds vaker een andere vorm aan. Zij ziet eruit als voorspelbaarheid. De ideale burger is niet noodzakelijkerwijs de wijste, vriendelijkste of creatiefste, maar degene wiens leven binnen herkenbare patronen past. Een pad van school, stabiel werk, hypotheek, routinematige consumptie en pensioen is voor instituties gemakkelijk te lezen. Het beweegt soepeler door controlepunten, platforms en kredietsystemen heen. Een leven dat van die verwachtingen afbuigt—onregelmatig inkomen, migratie, ziekte, zorg, ongewoon werk, haperende digitale toegang—kan wrijving oproepen. Er is meer bewijs nodig. Beslissingen vertragen. Toegang vernauwt. Geen enkele individuele ambtenaar hoeft zich zelfs openlijk vijandig te voelen. Het systeem is eenvoudigweg onrustig bij wat het niet goed kan classificeren.
Wat mij het meest verontrust, is dat deze vorm van onrechtvaardigheid moeilijker te benoemen is dan oudere vormen. In meer openlijk hiërarchische werelden stond overheersing vaak duidelijk in wet, status en ritueel geschreven. Vandaag verbergen de treden zich in toetsen, ranglijsten, dashboards, meetwaarden en modellen. Daarom kondigt de wereld zich voor velen die herhaaldelijk onderaan belanden niet in duidelijke woorden aan als oneerlijk. Zij komt veeleer binnen als een hardnekkig gevoel dat het leven vreemd, koppig en misschien onzichtbaar moeilijk is. Dat gevoel is, ben ik gaan geloven, een van de emotionele signaturen van onze tijd.
Het nieuwe priesterschap
Op elk moment in deze geschiedenis wordt verzet moeilijker wanneer gezag zich presenteert als louter weerspiegeling. Tegen een koning kan men zich verzetten. Tegen een wet kan men protesteren. Maar hoe ga je in discussie met een platform, een rangschikkingssysteem of een statistisch model dat volhoudt slechts de werkelijkheid te weerspiegelen? Ondoorzichtigheid en uitputting worden deel van de structuur van heerschappij. Mijn stelling is niet dat moderne sortering en oudere kasteorden identiek zijn. Het is dat de nieuwere orde vaak een vergelijkbare functie bewaart terwijl zij het oudere vocabulaire afwerpt. Open erfelijke rang wordt onaanvaardbaar, en toch blijven duurzame lagen van voordeel en nadeel bestaan. Goddelijke macht, die ooit sprak als God, toen als Rede, daarna als de Markt of de Expert, spreekt nu vaak eenvoudigweg als het systeem.
Daarom betrap ik mezelf erop dat ik aan het algoritme denk als aan een nieuw priesterschap. Niet omdat het wierook brandt of de Schrift citeert, maar omdat het oordeel bemiddelt, leven in vonnissen vertaalt en om vertrouwen vraagt op basis van een superieure visie die gewone mensen niet kunnen inspecteren. Het staat tussen de persoon en de beslissing op manieren die kalm, technisch en vaak zeer moeilijk aan te vechten zijn. De taal is bescheiden—waarschijnlijkheid, scoring, aanbeveling—maar de maatschappelijke kracht kan immens zijn.
Wat hier opkomt, is niet alleen een nieuwe manier om leningen, banen, klaslokalen, buurten en aandacht te beheren. Het is een nieuwe laag van heerschappij. Zodra zo veel beslissingen worden gefilterd door systemen die administratief eerder dan ideologisch lijken, begint particuliere sortering het openbare leven zelf te hervormen. Daar moet deze reis zich vervolgens naartoe wenden: naar politiek onder algoritmische goddelijke macht.