Ik vroeg Grok om een versplinterde versie van “De volharding der herinnering" van Salvador Dali te tekenen. Dit is het resultaat.
Versplinternet (zoals gedefinieerd door Grok):
Het versplinternet verwijst naar de fragmentatie van het internet in afzonderlijke, vaak geïsoleerde netwerken omwille van politieke, culturele, technologische of commerciële redenen. Het beschrijft een scenario waarbij het internet niet langer een verenigd wereldwijd systeem is, maar in plaats daarvan in aparte "splinters" of subnetwerken wordt opgedeeld. Dit kan gebeuren door overheidscensuur (zoals de Chinese Great Firewall), regionale regelgeving (zoals de Algemene verordening gegevensbescherming (GDPR) in de EU) of techbedrijven die ommuurde tuinen creëren (zoals het ecosysteem van Apple).
De term benadrukt hoe deze scheidslijnen de universele toegang tot informatie beperken en digitale grenzen creëren, vaak als weerspiegeling van reële geopolitieke spanningen of uiteenlopende waarden op het gebied van privacy, veiligheid en vrijheid van meningsuiting.
Elon stelde een belangrijke vraag. Dit is geen zwarte humor of sarcasme; dit is de realiteit van vandaag:
© Elon Mus/X
Het tijdschrift Fast Company publiceerde onlangs een artikel over botfarms, waarin gedetailleerd wordt beschreven hoe deze geautomatiseerde systemen steeds geavanceerder worden en sociale media en andere online platforms kunnen manipuleren. Volgens Fast Company worden botfarms gebruikt om duizenden bots in te zetten die menselijk gedrag nabootsen, vaak om gebruikers te misleiden, te bedriegen of te bestelen. Deze botfarms kunnen valse betrokkenheid op sociale-media creëren om verzonnen narratieven te promoten, waardoor denkbeelden populairder lijken dan ze in werkelijkheid zijn.
Ze worden door overheden, financiële influencers en mensen uit de entertainmentindustrie gebruikt om specifieke narratieven wereldwijd kracht bij te zetten. Botfarms kunnen bijvoorbeeld worden gebruikt om de illusie te wekken dat een groot aantal mensen enthousiast of boos is over een bepaald onderwerp, zoals een volatiel aandeel of roddels over beroemdheden, waardoor algoritmes van sociale media worden misleid om deze berichten aan een groter publiek te tonen.
© Fast Company
Welkom in de wereld van mindcontrol via sociale media. Door vrije meningsuiting kracht bij te zetten met valse meningsuiting, kunnen de hersenen worden verdoofd zodat ze zowat alles geloven. Geef je zalige onwetendheid op en slik de rode pil. Je staat op het punt om te ontdekken hoe jouw denken door moderne meesters in misleiding wordt gemanipuleerd.
De manier waarop informatie in onze geest wordt gepompt, is geautomatiseerd. Leugens zijn het probleem van gisteren. Het probleem van vandaag is het gebruik van botfarms om de algoritmes van sociale media zodanig te manipuleren dat mensen geloven dat die leugens waar zijn. Een leugen die vaak genoeg wordt herhaald, wordt waarheid
© Robert Malone
Ik weet dus het een en ander over dit onderwerp en word regelmatig geïnterviewd over dit of dat aspect van de PsyWar-technologie die momenteel wordt ingezet door het "NepNieuws," de farmaceutische industrie, de Amerikaanse regering, de WHO, de VN en een groot aantal andere actoren.
Maar hetgeen Tim te berde bracht, opende mijn geest voor aspecten van het huidige landschap die Jill en ik niet in het boek hebben behandeld. In het bijzonder gaf hij geweldige voorbeelden van de effecten en het gebruik van "small rooming" - ook wel bekend als vrijheid van meningsuiting maar niet van reikwijdte (wat expliciet een kernbeleid van "X" is dat algoritmisch wordt afgedwongen). Maar wat mijn bewustwording pas echt vergrootte, was zijn bespreking van de manier waarop AI-gestuurde bots worden ingezet.
Om zijn argumenten te verduidelijken, begon hij met het voorbeeld van een bepaalde influencer die vroeger verbonden was aan de Daily Wire. Ik zal geen namen noemen om onschuldigen te beschermen en het risico op rechtszaken wegens laster te verkleinen. Ooit plaatste deze influencer content met milde tot gematigde kritiek op het Israëlische beleid en de Israëlische maatregelen in reactie op de Hamas-invasie van 7 oktober 2023. Het kwam erop neer dat de influencer zich buiten hetgeen waagde wat destijds het Overton Window was van het toelaatbare publieke debat over dit onderwerp. De reactie op sociale media volgde onmiddellijk en was opvallend positief. Duizenden likes en nieuwe volgers.
Dus, met de indruk dat er een gevoelige snaar was geraakt, plaatste de influencer berichten waarin hij nog krachtigere uitspraken deed en wederom stroomden de positieve reacties binnen op de sites waar deze meningen waren geplaatst. De influencer voelde zich aangemoedigd en gesterkt en ging door, gemotiveerd door het groeiende aantal nieuwe volgers. En daarmee overschreed de influencer een aantal grenzen naar iets wat door velen als "haatzaaierij" wordt aangeduid. Het resultaat was dat hij van alle platforms gegooid werd, ook door The Daily Wire en andere conservatieve mediasites, en algemene censuur.
Het zit zo: de meerderheid van de nieuwe "volgers" die de influencer aanmoedigden, waren geen echte mensen. Het waren bots. Legers van bots, die speciaal waren ingezet om de influencer tot zelf-delegitimatie te drijven door het promoten en bevorderen van wat de meesten als haatdragende taal beschouwden. Missie geslaagd en weer een invloedrijke conservatieve stem uitgeschakeld.
Kun je dat Grokken?
Terug naar het zeer alarmerende artikel van Fast Company.
Het kunstmatig opdrijven van websiteverkeer door botfarms wordt gebruikt om opvattingen op sociale media populairder te laten lijken dan ze in werkelijkheid zijn. Een botfarm bestaat uit honderden en duizenden smartphones die door één computer worden bestuurd. In datacenter-achtige faciliteiten gebruiken rekken met telefoons nepaccounts voor sociale media en mobiele apps om te delen en te reageren. De botfarm zendt gecoördineerde likes, commentaren en doorplaatsingen van berichten uit om het te laten lijken alsof veel mensen opgewonden of boos zijn over iets als een volatiel aandeel, een wereldwijd schandaal of roddels over beroemdheden - ook al is dat niet het geval.Als een van de toonaangevende social media-inlichtingenbedrijven ter wereld het al moeilijk vindt om onderscheid te maken tussen echte accounts en bots - met name AI-bots - dan houd je jezelf voor de gek als jij denkt dat het voor jou makkelijk is om dat verschil te ontwaren.
Meta noemt dit "gecoördineerd inauthentiek gedrag." Het misleidt het algoritme van het sociale netwerk om het bericht aan meer mensen te tonen, omdat het systeem denkt dat het trending is. Omdat de nepaccounts de Turingtest doorstaan, worden ze niet opgemerkt.
....
"Het is ontzettend moeilijk om onderscheid te maken tussen authentieke en niet-authentieke activiteiten," zegt Adam Sohn, directeur van Narravance, een bedrijf dat informatie over bedreigingen van sociale media verzamelt en grote sociale netwerken als klant heeft. "Het is al moeilijk voor ons, en wij zijn hierin een van de beste ter wereld."
In hun artikel zet Fast Company een fascinerend verhaal uiteen dat speelt ten tijde van de Grote Depressie, en onder andere over het vermogen van de familie Kennedy gaat, waarvan ik dacht dat het gewoon afkomstig was van smokkel tijdens de Drooglegging.
Misleiding van de publieke perceptie is nauwelijks een nieuw verschijnsel. Maar vroeger was het een zeer handmatig proces. Slechts enkele maanden voor de beurscrash van 1929 werd Joseph P. Kennedy, de vader van JFK, rijker door het manipuleren van de kapitaalmarkten. Hij maakte deel uit van een geheim handelsclubje van rijke investeerders die gecoördineerde aankopen en een mediahype gebruikten om de koers van Radio Corp. of America-aandelen kunstmatig tot astronomische hoogten op te drijven.Lees die laatste zin nog eens. "Het zijn geen echte mensen. Het is allemaal nep."
Daarna dumpten Kennedy en zijn rijke vriendjes hun RCA-aandelen met een enorme winst, de koers kelderde en de rest kon fluiten naar hun centen. Nadat de markt was gecrasht, benoemde president Franklin D. Roosevelt Kennedy tot de eerste voorzitter van de Securities and Exchange Commission, waardoor de wolf tot herder was gemaakt.
Vandaag de dag gebruiken beursmanipulators botfarms om het verkeer van valse berichten over "populaire" aandelen op te drijven op Reddit, Discord en X. Botnetwerken richten zich op berichten die doorspekt zijn met ticker symbols en gecodificeerde jargonzinnen als "c'mon fam," "buy the dip," "load up now" en "keep pushing." De zelfbenoemde financiële influencers achter deze zwendelpraktijken maken miljoenen winst door legers van avatars, sokpoppen [namen voor een tweede identiteit die mensen op een platform gebruiken] en bots te coördineren om nauwelijks verhandelde aandelen te hypen, zodat ze na een koersstijging hun winsten kunnen opstrijken.
"We ontdekken zo veel gevallen waarin er geen sprake is van nieuwsberichten," zegt Adam Wasserman, de financiële man van Narravance. "Er is geen technische graadmeter. Er zijn gewoon bots die berichten plaatsen als 'dit aandeel gaat enorm stijgen' en 'beste aandeel, ik stap uit m'n pensioenregeling.' Maar het zijn geen echte mensen. Het is allemaal nep."
Pas op, medeconsument van sociale - en zakelijke media. Consumeer deze informatie op eigen risico. De werkelijkheid die je daar tegenkomt, is allemaal verzonnen. Sommigen kunnen zichzelf wijsmaken dat ze invloedrijke spelers zijn, maar in feite is iedereen slachtoffer. De hele structuur van waarheid en realiteit is slachtoffer. En AI-gestuurde bots worden nu het belangrijkste instrument om de leugens te verzinnen.
Als er geen betrouwbare informatie is, zal hetgeen we denken waarschijnlijk minder belangrijk worden dan hoe we ons voelen. Daarom gaan we terug van het tijdperk van de wetenschap - toen kritisch denken en op bewijs gebaseerd redeneren centraal stonden - naar iets dat lijkt op het Edwardiaanse tijdperk, dat meer door emotionele redeneringen en eerbied voor autoriteit werd aangedreven.En hier is de muizenval waar onze influencer die voorheen bij de "Daily Caller" werkte, in trapte:
Toen Twitter microbloggen introduceerde, was dat bevrijdend. We dachten allemaal dat het een kennisversterker was. We zagen hoe het een pro-democratische beweging aanwakkerde die het Midden-Oosten en Noord-Afrika overspoelde, de zogenaamde Arabische Lente, en hoe het de nationale verontwaardiging over raciale onrechtvaardigheid in Ferguson, Missouri, aanwakkerde en de kiem legde voor Black Lives Matter.
Terwijl Twitter-oprichters Evan Williams en Jack Dorsey dachten dat ze een platform voor politiek en sociaal activisme aan het bouwen waren, werd hun vertrouwens- en veiligheidsteam zwaar geschoffeerd. "Het is alsof ze nooit echt Lord of the Flies hebben gelezen. Mensen die geen kennis hebben van literatuur of geschiedenis, hebben geen flauw idee wat er zou kunnen gebeuren," zegt techjournaliste Kara Swisher in Breaking the Bird, een CNN-documentaire over Twitter.
Wat de meeste likes en reacties krijgt, en wat het meest doorgeplaatst wordt, wordt verder verspreid. Emotioneel geladen berichten die de meeste betrokkenheid oproepen, komen bovenaan de nieuwsfeed. 'Een woedende fan is een betrokken fan' is een strategie. "Manipulatie op sociale media is erg geraffineerd geworden," zegt Wendy Sachs, regisseur-producent van October 8, een documentaire over de studentenprotesten op campussen die uitbraken op de dag na de Hamas-aanval op Israël van 7 oktober. "Het wordt betaald en gefinancierd door buitenlandse regeringen die verdeeldheid onder het Amerikaanse volk willen zaaien."
Kwaadwillende actoren creëren viraliteit door bots op te zetten die maanden, soms jaren, in gemeenschappen rondzwerven voordat ze geactiveerd worden. De bots krijgen profielfoto's en biografieën. Andere trucs bestaan onder meer uit het laten plaatsvinden van botactiviteiten in lokale tijdzones, het gebruik van vingerafdruktechnieken op Amerikaanse apparaten zoals het instellen van de interne klok van de smartphone op de tijdzone waarin een denkbeeldige "gebruiker" vermoedelijk woont en het instellen van de taal van de telefoon op Engels.
Met behulp van AI-gestuurde persona's met interesses als cryptocurrency of honden volgen bots echte Amerikanen en maken ze kruiscontact met andere bots om hun geloofwaardigheid op te bouwen. Dit wordt ook wel 'social graph engineering' genoemd, waarbij brede interessegemeenschappen worden geïnfiltreerd die zich op bepaalde vooroordelen richten, zoals links of rechts georiënteerde politieke denkbeelden.
....
"Botaccounts sluimeren en op een gegeven moment worden ze wakker en beginnen ze synchroon berichten te plaatsen, wat ze volgens onze waarnemingen ook echt doen," zegt Valentin Châtelet, onderzoeksmedewerker bij het Digital Forensic Research Lab van de Atlantic Council. "Ze liken hetzelfde bericht om de betrokkenheid kunstmatig te vergroten."
Bothandlers bouwen herhaalbare patronen van activiteiten [workflows] met genoeg willekeur om ze natuurlijk te laten lijken. Ze stellen ze zodanig in dat ze willekeurige berichten opnieuw delen of commentaar geven op trending berichten met bepaalde trefwoorden of hashtags, die vervolgens door het algoritme worden gebruikt om de home feed van de bot te personaliseren met soortgelijke berichten. De bot kan dan commentaar geven op berichten in de home feed, bij het onderwerp blijven en dieper in de gemeenschap doordringen.
Deze workflow is repetitief, maar door de constante updates op het sociale mediaplatform ziet de botactiviteit er natuurlijk uit. Omdat sociale mediaplatforms vaak worden bijgewerkt, lijken geprogrammeerde bots spontaan en natuurlijk.
Softwarebots plaatsten spam, ook wel bekend als copypasta, wat een blok tekst is dat herhaaldelijk wordt gecopy-pasted. Maar de botfarmers gebruiken AI om unieke, gepersonaliseerde berichten en commentaren te maken. Door platforms als ChatGPT, Gemini en Claude te integreren in een visueel flow-building platform zoals Make.com, kunnen bots met geavanceerde logica en voorwaardelijke paden worden geprogrammeerd en diepe integraties gebruiken met behulp van grote taalmodellen om te klinken als een 35-jarige libertaire onderwijzer uit het noordwesten of een MAGA-automonteur uit de Dakota's.
De snelheid waarmee AI beelden creëert, is veel hoger dan de snelheid waarmee algoritmes voor sociale netwerken zich ontwikkelen. "Sociale media-algoritmen ontwikkelen zich niet snel genoeg om bots en AI te overtreffen," zegt Pratik Ratadiya, een onderzoeker met Masters in computerwetenschappen die bij JPL en Apple heeft gewerkt en momenteel de machine learning-afdeling bij Narravance leidt. "Je hebt dus een heleboel accounts, influencers en statelijke actoren die precies weten hoe ze het systeem kunnen bespelen. In het kat-en-muisspel winnen de muizen."
Op 7 oktober 2023, toen Hamas zijn dodelijke terreuraanval op Israël uitvoerde, overspoelde een gecoördineerde desinformatiecampagne - aangedreven door Russische en Iraanse botnetwerken - sociale media met valse beweringen die suggereerden dat de aanval een inside job zou zijn geweest. Berichten op X in het Hebreeuws met teksten als "Er zitten verraders in het leger" en "Vertrouw je commandanten niet" werden overspoeld met retweets, commentaren en likes van botaccounts.
Naast de spontane pro-Palestijnse stemming op het internet, promoten Russische en Iraanse botfarms verkeerde informatie om de verdeeldheid in het Westen aan te wakkeren. Hun doel is om liberalen tegen conservatieven op te zetten. Ze vergroten het door Hamas gepresenteerde conflict uit als een kwestie van burgerrechten, in plaats van de werkelijke agenda van de terroristische organisatie, namelijk de vernietiging van de staat Israël en de uitbreiding van de sharia en het islamitisch fundamentalisme. De sociale media-berichten die door Russische en Iraanse actoren voor gecoördineerde verspreiding worden geselecteerd, hebben de neiging om Palestijnen uitsluitend als slachtoffers te presenteren, waarbij simplistische slachtoffer-dader- of kolonisator-autochtoon-narratieven worden gepromoot - valse dualiteiten die niet worden verspreid om te informeren, maar om democratische samenlevingen van binnenuit op te stoken en te verdelen.
Het opdrijven van berichten door botfarms kan niet ongedaan worden gemaakt. Dezelfde misleidende krachten gebruikten botfarms om berichten te stimuleren over een rapport van de New York Times, waarin Israël onterecht de schuld kreeg van een bom die een ziekenhuis in Gaza trof waarbij naar verluidt 500 Palestijnen omkwamen. Later bleek dat de ontploffing in werkelijkheid was veroorzaakt door een verkeerd afgeschoten raket van jihadisten. De New York Times paste de kop twee keer aan. Maar je kunt misleidende massa-invloed niet terug in de fles stoppen.
In het geval van de oorlog in Gaza zijn botfarms misschien niet de enige schuldigen. "Het algoritme van Twitter is behoorlijk geniepig," zegt Ahmed Fouad Alkhatib, schrijver en analist over Gaza en senior fellow bij de Atlantic Council. "Ik denk echt dat het optimaliseert voor haat en verdeeldheid om betrokkenheid en inkomsten te stimuleren." Misschien is Twitter gewoon botfarm-vriendelijker?
In het geval van de pro-Palestijnse campusprotesten, die barstten los voordat het Israëlische dodental van de Hamas-aanval zelfs maar was vastgesteld. Hoe kon dat zo snel gebeuren? Radicale islamitische terroristen liepen nog steeds vrij rond in Israël. De film October 8 onderzoekt hoe universiteitscampussen zich minder dan 24 uur na het grootste bloedbad onder Joden sinds de Holocaust tegen Israël keerden.
"We denken dat het meeste wat we online zien echt is. Maar het meeste wat we zien, is misleidend", zegt Ori Shaashua, voorzitter van Xpoz en AI-ondernemer achter een groot aantal andere techondernemingen. Shaashua's team analyseerde de verhouding tussen bots, avatars en mensen. "Het is niet logisch als 418 sociale media-accounts berichten plaatsen die binnen twee uur 3 miljoen keer bekeken worden," aldus Shaashua.
Commentaar: Overigens, in het punt dat Fast Company maakt om te illustreren hoe op sociale media gebeurtenissen zoals het bombarderen van ziekenhuizen door Israël kunstmatig worden verspreid, zaten de botfarms (Russisch en Iraans, oooh eng!) dichter bij de waarheid dan de redacteuren wellicht prettig zouden vinden. En de October 8-"documentaire" is een masterclass over de manier waarop Israël desinformatie de wereld instuurt.
Sociale media is als een goed wapen te beschouwen, nuttig, maar potentieel gevaarlijk.
Slotbetoog
Het zijn niet alleen de bots die de algoritmes door grootschalige verspreiding van berichten bespelen. Ook algoritmes spelen met ons. We worden subtiel gemanipuleerd door sociale media. We weten het. Maar we blijven scrollen. - Fast Company, Eric SchwartzmanWord wakker. De "werkelijkheid" die je op sociale media en "nepnieuws"-media denkt te ervaren, is verzonnen. Je wordt gemanipuleerd door een grote verscheidenheid aan partijen en wat jij als "waarheid" beschouwt, lijkt in niets op de waarheid.
Pas op voor luidruchtige stemmen die proberen op je emoties in te spelen. Zelfs mensen waarvan je denkt dat ze aan jouw kant staan. Velen daarvan worden "gesponsord" door bedrijven die jouw gedrag en meningen willen manipuleren.
Wees voorzichtig en blijf trouw aan je eigen ziel. Het kan het enige zijn dat tussen je denkvermogen en de gedachten en emoties staat die zo actief aangeprezen worden om je geest naar de wil van anderen te plooien.
Vergeet nooit dat het bij 5e-generatie oorlogsvoering niet langer om grondgebied gaat. Het strijdtoneel is controle over je geest. Bij succesvolle 5e generatie oorlogsvoering zouden degenen die beïnvloed worden niet moeten kunnen ontwaren wie hen manipuleert.
Zie: https://www.malone.news/p/psywar-ai-bots-manipulate-your-feelings
Commentaar: Ondanks het citeren van een voorbeeld van social media-manipulatie dat nogal wat te wensen overlaat, brengt Malone uitstekende punten naar voren. Gebruikers van sociale media, let goed op!