Bovendien brengt het vertrouwen op AI het risico met zich mee dat de menselijke keuzevrijheid volledig wordt opgegeven en dat de menselijke intelligentie en socialiteit worden afgevlakt. Naarmate de beslissingsbevoegdheid wordt overgedragen aan algoritmen, zullen mensen passieve knooppunten worden binnen een systeem dat menselijk denken vervangt door AI-informatieverwerking - "Bots R Us" - waardoor autonomie, creativiteit en oprechte afwegingen worden uitgehold.
Geopolitiek gezien, dreigt AI ongeëvenaarde systemen van ideologische en politieke dominantie en samenhang te creëren. Het dominante wereldbeeld is het wereldbeeld dat de AI domineert. De AI-wedloop is niet gericht op bevrijding, maar op een hybride posthumane orde waarin vrijheid achterhaald is en vrije wil, volgens Yuval Noah Harari, "tot het verleden behoort."
In Discipline and Punish (1975) beschreef Michel Foucault de uitbreiding van de staatsmacht door middel van dergelijke surveillancetechnieken als "panoptisme" (195-230). Panoptisme verwijst naar een transformatie in de uiting en uitoefening van macht die plaatsvond tijdens de overgang van de premoderne naar de moderne periode. Deze verandering omvatte een verschuiving van voornamelijk lijfstraffen — marteling, vierendeling, brandmerken en andere wrede rituelen om lichamelijke pijn toe te brengen — maar ook de decentralisatie van de macht, de uitbreiding ervan en de penetratie ervan in de gehele samenleving — de effecten ervan bleven niet langer beperkt tot gevangenen, krankzinnigen of anderen die waren opgesloten. Het nieuwe "disciplinaire" regime omvatte de hervormde gevangenissen en andere plaatsen van opsluiting, maar ontsnapte ook aan de grenzen van instellingen om universeel te worden toegepast op de gehele bevolking. De hele samenleving werd onder het pantoptisme een disciplinaire samenleving.
Panopticon
Hij die onderworpen wordt aan zichtbaarheid en zich daarvan bewust is, neemt de verantwoordelijkheid voor de beperkingen van de macht op zich; hij laat zich spontaan door deze beïnvloeden; hij verankert in zichzelf de machtsrelatie waarin hij tegelijkertijd beide rollen vervult [die van waarnemer en waargenomene]; hij wordt het principe van zijn eigen onderwerping (202-203).Foucault legt uit hoe de disciplinaire technologieën die met de opkomst van het panoptisme werden toegepast, minder dwingend, lichter en minder belastend voor het lichaam zijn geworden, maar tegelijkertijd volkomen alomtegenwoordig.
Het toeval wil dat het panopticum, in ieder geval in de VS, eigendom zal zijn van en beheerd zal worden door Palantir, het softwarebedrijf dat vernoemd werd naar de legendarische zichtstenen uit The Lord of the Rings. Enerzijds werd het Maven AI-platform van Palantir door het Pentagon tot officieel "vastleggingsprogramma" uitgeroepen, waardoor het werd geïncorporeerd als het fundamentele inlichtingensysteem op het slagveld voor het richten van aanvallen, het toewijzen van middelen en besluitvorming in realtime. Maven maakt gebruik van geavanceerde kunstmatige intelligentie en machine learning - technologieën die gigantische datastromen verwerken om patronen te detecteren en objecten met meedogenloze efficiëntie te identificeren - om satellietbeelden, dronebeelden, radarsignalen en inlichtingenrapporten te verwerken. Het spoort militaire doelen op - voertuigen, gebouwen, wapenvoorraden - en automatiseert vervolgens grote delen van de zogenaamde "kill chain," de militaire volgorde van het lokaliseren, volgen en aanvallen van een doelwit, waarbij beslissingen van detectie tot vernietiging met angstaanjagende snelheid worden genomen.
Tragisch genoeg kwam dit mechanisme tijdens de eerste uren van Operatie Epic Fury tot uiting. Een Amerikaanse aanval verwoestte de Shajareh Tayyebeh-basisschool voor meisjes in Minab, in het zuiden van Iran, waarbij tussen de 165 en 180 mensen omkwamen, voornamelijk meisjes van zeven tot twaalf jaar. Het gebouw was al lang niet meer in gebruik voor militaire doeleinden, maar werd door verouderde inlichtingen nog steeds als legitiem doelwit aangemerkt. De door AI aangestuurde snelheid van Maven maakte het onmogelijk om het doelwit door mensen te laten controleren, waardoor een schoolplein binnen enkele seconden in een lijkenhuis veranderde. Uit onderzoek van het Amerikaanse leger bleek dat het Amerikaanse leger schuldig was aan het "ongeluk." Het Pentagon "onderzoekt" nu de rol van zijn eigen platform in deze gruweldaad.
Commentaar: Of erger nog: de mogelijkheid bestaat dat AI-technologie als "excuus" werd gebruikt - en dat de meisjesschool doelbewust werd vernietigd.
De software van Palantir werd ook in Gaza ingezet door het Israëlische leger (IDF), met verwoestende gevolgen. Het bedrijf sloot in januari 2024 een officieel "strategisch partnerschap" met het Israëlische ministerie van Defensie - inclusief een bestuursvergadering in Tel Aviv - met als uitdrukkelijk doel geavanceerde technologie te leveren voor "oorlogsgerelateerde missies." Palantirs Gotham en kunstmatige-intelligentieplatform werden gebruikt om enorme hoeveelheden inlichtingen, satellietbeelden, onderschepte communicatie en gedragsgegevens samen te voegen tot door AI gegenereerde dodenlijsten, waardoor de "kill chain" met meedogenloze snelheid werd geoptimaliseerd en snelle doelselectie en aanvallen mogelijk werden gemaakt. VN-speciaal rapporteur Francesca Albanese noemt juist dit partnerschap als reden om te veronderstellen dat Palantirs instrumenten het "onrechtmatige gebruik van geweld" door Israël hebben vergemakkelijkt, wat heeft bijgedragen aan een onevenredig groot aantal burgerslachtoffers en het schrikbeeld van medeplichtigheid aan oorlogsmisdaden oproept. Kortom, dezelfde preventieve logica die een meisjesschool in Iran met de grond gelijk heeft gemaakt, werd op veel grotere schaal in Gaza in de praktijk getest en verfijnd — Palantirs AI-ogen turen in elke hoek van het slagveld en vellen een vonnis voordat een mensenhand de trekker overhaalt.
Anderzijds heeft het ministerie van Binnenlandse Veiligheid een raamovereenkomst ter waarde van een miljard dollar gesloten om Palantirs Gotham- en Foundry-platforms binnen het hele ministerie te implementeren, waarbij gegevens van verschillende instanties worden samengevoegd voor het identificeren van dreigingen, casemanagement en operationele coördinatie.
Palantir sloot in april 2025 een contract van 30 miljoen dollar met ICE voor de ontwikkeling van ImmigrationOS — een door AI aangestuurd systeem voor het beheer van het volledige immigratieproces. Dit sluit aan bij andere grote contracten uit het Trump-tijdperk voor het bedrijf: een potentiële software- en dataovereenkomst ter waarde van 10 miljard dollar met het Amerikaanse leger, meer dan 180 miljoen dollar aan overeenkomsten met de Amerikaanse belastingdienst (IRS) sinds 2018 (met recente projecten die belastinggegevens ordenen in doorzoekbare databases, controledoelwitten selecteren en fraude opsporen), en lopende werkzaamheden met het ministerie van Volksgezondheid en Sociale Zaken en het CDC — waaronder een project van 443 miljoen dollar om één gedeeld dashboard te creëren dat volksgezondheidsgegevens uit meerdere systemen samenbrengt.
Als we rekening houden met de verwevenheid van Palantir met meer dan 30 andere federale instanties, wordt het patroon overduidelijk: Palantir beheert een feitelijke hoofddatabase, waarin enorme hoeveelheden gegevens - over gezondheid, belastingverplichtingen, financiële transacties, reisgegevens, immigratiestatus en gedragspatronen - worden samengesmolten tot een panoptisch geheel. Omdat de instrumenten van Palantir interoperabel zijn, breidt het Palantir-panopticon zich noodzakelijkerwijs uit. Gezondheidsdossiers vloeien over in immigratiedossiers, in belastinggegevens en in voorspellende politiewerkzaamheden. De AI-logica van het slagveld migreert naadloos naar de binnenlandse wetshandhaving.
Bovendien is het niet alleen een database. Het gaat ook om zwermen AI-agenten die gedrag voorspellen en acties in gang zetten. De inlichtingencapaciteiten voor "misdaadpreventie" die in Gotham inherent aanwezig zijn - patroonherkenning, detectie van afwijkingen en voorspellende analyses - worden nu opgeschaald voor binnenlandse toepassingen, waardoor de gehele bevolking wordt omgevormd tot knooppunten binnen een zich steeds verder uitbreidende, allesomvattende dreigingsmatrix.
Wanneer één enkele entiteit de onmisbare infrastructuur wordt voor zowel militaire targeting als binnenlandse datafusie, hebben we niet langer uitsluitend te maken met de versmelting van de staat en het bedrijf. We hebben ook te maken met staatscontrole over de explosieve groei van kunstmatige intelligentie. We hebben te maken met een AI-dictatuur - uiteraard volgens de voorwaarden van de heersende klasse.
Binnen het Palantir-panopticon dient de centrale toren niet als wachthuisje, maar als serverpark. De gevangenen zijn geen veroordeelden, maar burgers. En de controle is permanent, doordringend en wordt op zijn minst door AI "versterkt." Foucault zou het onmiddellijk hebben herkend als het hoogtepunt van een techno-biopolitieke regeringsvorm, als het volmaakte panoptisme. Ik zie het als zodanig en als de vervulling van de waarschuwing die ik zes jaar geleden in Google Archipelago heb gegeven: de digitale goelag zou nooit beperkt blijven tot het internet als zodanig. Het was altijd voorbestemd om het besturingssysteem van de corporatieve staat zelf te worden. Dat wil zeggen, we bevinden ons niet langer op het internet. We zitten erin. Het Palantir-panopticon komt hier niet naartoe. Het is hier al. En als het eenmaal volledig ontwaakt is, zal het nooit meer zijn ogen sluiten.
Zie: https://mrectenwald.substack.com/p/the-palantir-panopticon?triedRedirect=true
Commentaar: Lees ook: Welkom bij de Palantir-wereldorde