apple surveillance

"Onder Zijn Oog," zegt ze. Het juiste afscheid. "Onder Zijn Oog," antwoord ik, en ze knikt even.


Inmiddels zult u waarschijnlijk wel vernomen hebben dat Apple voornemens is om een nieuw en bijzonder opdringerig bewakingssysteem in te voeren op veel van de meer dan één miljard verkochte iPhones, die allemaal gebruikmaken van de eigen, take-it-or-leave-it-software van de computergigant. Dit nieuwe offensief zou moeten beginnen met de lancering van iOS 15 - vrijwel zeker half september - waarbij de telefoons van de Amerikaanse gebruikersgroep als eerste doelwit worden aangewezen. Er is ons verteld dat andere landen gespaard zullen blijven, maar niet voor lang.

Het viel u misschien op dat ik niet heb vermeld welk probleem Apple denkt op te lossen. Waarom niet? Omdat het er niet toe doet.

Na het lezen van duizenden en duizenden opmerkingen over dit groeiende schandaal, is het mij duidelijk geworden dat velen begrijpen dat het er niet toe doet, maar dat nauwelijks iemand bereid is om het ook echt te zeggen. Eerlijk gezegd, als dat nog mag, gaat het altijd zo wanneer iemand van institutionele betekenis een campagne lanceert om een onverdedigbare inbreuk op onze privé-ruimten te verdedigen. Ze bombarderen zichzelf tot moraalridder om vervolgens op lage, plechtige toon te oreren over hun morele missie, alvorens vurig het gevreesde spook van de Vier Ruiters van de Infopocalyps op te roepen, met de waarschuwing dat alleen een dubieus amulet - of een verdachte software-update - ons kan redden van de meest bedreigende leden van onze soort.

Plotseling wordt iedereen met een principieel bezwaar gedwongen zijn bezorgdheid te laten voorafgaan door verontschuldigend keelgeschraap en het vestigen van betrouwbaarheid: Ik heb een vriend verloren toen de torens instortten, maar... Als ouder begrijp ik dat dit een echt probleem is, maar...

controle op uitlatingen door mensen
Als ouder wil ik u zeggen dat het soms niet uitmaakt waarom de man in het nette pak iets doet. Wat telt zijn de gevolgen.

Het nieuwe systeem van Apple zal, hoe men het ook probeert te rechtvaardigen, voorgoed herdefiniëren wat van u is, en wat van hen.

Hoe?

De taak die Apple met zijn nieuwe surveillancesysteem wil uitvoeren - voorkomen dat hun cloud-systemen worden gebruikt om digitale smokkelwaar op te slaan, in dit geval onrechtmatige beelden die door hun klanten worden geupload - wordt traditioneel uitgevoerd door het doorzoeken van hun systemen. Hoewel het voor iedereen nog steeds problematisch is om de privébestanden van een miljard mensen te doorzoeken, vormt het feit dat ze alleen de bestanden kunnen zien die u ze hebt gegeven, een cruciale beperking.

Dat gaat nu echter veranderen. In het nieuwe ontwerp zal uw telefoon deze zoekopdrachten namens Apple uitvoeren nog voordat uw foto's de iCloud-servers hebben bereikt, en - blablabla - als er genoeg "verboden inhoud" wordt ontdekt, zal de rechtshandhaving worden ingelicht.

apple billboard
Ik ga hier met opzet niet in op de technische en procedurele details van Apple's systeem, waarvan sommige behoorlijk slim zijn, omdat ze, net als onze man in het nette pak, alleen maar afleiden van het meest urgente feit - het feit dat Apple over slechts enkele weken van plan is de grens tussen welke apparaten voor u werken en welke apparaten voor hen werken, weg te vagen.

Waarom is dit zo belangrijk? Zodra het precedent geschapen is dat zelfs een "pro-privacy" bedrijf als Apple producten kan maken die hun gebruikers en eigenaars verraden, zal Apple zelf alle controle verliezen over hoe dat precedent wordt toegepast. Zodra het publiek voor het eerst hoorde van het "spyPhone"-plan, onderzochten deskundigen de technische zwakheden ervan en de vele manieren waarop het zou kunnen worden misbruikt, voornamelijk binnen de kaders van Apple's ontwerp. Hoewel deze moedige pogingen om de zwakke punten te onderzoeken overtuigend bewijs hebben opgeleverd dat het systeem ernstige gebreken vertoont, slaan zij de plank ook volledig mis: Apple mag dan beslissen of zijn telefoons al dan niet overtredingen van hun eigenaren voor de overheid in het oog houden, het is de overheid die mag beslissen wat een overtreding is... en hoe er mee om te gaan.

Apple ministerie van buza
Apple zegt dat het systeem in zijn eerste versie (v1.0) een beperkte focus heeft: het controleert alleen foto's die bedoeld zijn om naar de iCloud te worden geupload (hoewel dat voor 85% van de klanten IEDERE foto betekent) en controleert ze niet verder dan een eenvoudige vergelijking met een database van specifieke voorbeelden van eerder geïdentificeerd kinderpornomateriaal (CSAM).

Een ondernemende pedofiel met een kelder vol iPhones besmet met CSAM kan zich bij Apple volledig vrijstellen van deze scans door simpelweg de schakelaar "Disable iCloud Photos" om te zetten, een omzeiling die duidelijk maakt dat dit systeem nooit is ontworpen om kinderen te beschermen, zoals men u wil doen geloven, maar om hun merk te beschermen. Zolang dat materiaal maar buiten hun servers gehouden wordt, en Apple dus uit de krantenkoppen blijft, kan het Apple niet schelen.

Dus wat gebeurt er als, uiterlijk over enkele jaren, een politicus daarop wijst en er - ter bescherming van de kinderen - wetsvoorstellen worden aangenomen door de wetgevende macht om deze "Disable"-omleiding te verbieden, waardoor Apple in feite gedwongen wordt om foto's te scannen waarvan geen back-up is gemaakt in de iCloud? Wat gebeurt er als een partij in India eist dat ze gaan scannen op memes die verband houden met een separatistische beweging? Wat gebeurt er als het Verenigd Koninkrijk eist dat er wordt gescand op een collectie afbeeldingen van terroristen? Hoe lang hebben we nog voordat de iPhone in uw broekzak stilletjes meldingen begint te maken over het aantreffen van "extremistisch" politiek materiaal, of over uw aanwezigheid bij een "verstoring van de openbare orde"? Of gewoon over het feit dat uw iPhone een videoclip bevat met, of misschien wel of misschien niet, een wazig beeld van een voorbijganger die volgens een algoritme lijkt op "een vermeende verdachte persoon"?

Als Apple aantoont dat het in staat en bereid is om continu, op afstand, elke telefoon te doorzoeken op bewijs voor één bepaald type misdaad, dan zijn dit vragen waarop het geen antwoord zal hebben. En toch zal er een antwoord komen - en het zal komen van de ergste wetgevers van de ergste regeringen.

Dit is geen hellend vlak. Het is een afgrond.

Apple 1984
Een bijzondere frustratie voor mij is dat ik sommige mensen bij Apple ken, en zelfs sommige mensen bij Apple leuk vind - slimme, principiële mensen die beter zouden moeten weten. Eigenlijk, die beter weten. Elke beveiligingsexpert in de wereld schreeuwt zichzelf nu schor, en smeekt Apple te stoppen, zelfs die experts die onder meer normale omstandigheden stellig pleiten voor censuur. Zelfs sommige overlevenden van kinderuitbuiting zijn er tegen. En toch, zoals de OG ontwerper Galileo ooit zei, beweegt het.

Geconfronteerd met een zinderende stortvloed van wereldwijde veroordelingen heeft Apple gereageerd, niet door de bezorgdheid weg te nemen of veranderingen aan te brengen, of, nog verstandiger, door het plan gewoon helemaal te schrappen, maar door hun man-in-het-nette-pak software baas in te zetten, die lijkt op de goed verzorgde schurk uit een film over Wall Street, om citaten te geven aan, jawel, de Wall Street Journal over hoe het bedrijf spijt betuigt voor de "verwarring" die het heeft veroorzaakt, maar dat het publiek zich geen zorgen hoeft te maken: Apple "voelt zich heel goed over wat het aan het doen is. "

verklaringen van Apple
Noch de boodschap, noch de boodschapper berust op een vergissing. Apple stuurde zijn Senior Vice President voor Software, die eruit ziet als een soort Ken van Barbie, om met de Journal te spreken, niet om de gebruikers van het bedrijf te beschermen, maar om de investeerders van het bedrijf gerust te stellen. Zijn rol was om de valse indruk te wekken dat dit niet iets is waar u, of wie dan ook, boos over zou moeten zijn. En, in het verlengde daarvan, was zijn rol om ervoor te zorgen dat dit nieuwe "beleid" zou worden geassocieerd met het gezicht van een andere Apple topman dan CEO Tim Cook, voor het geval de uitrol, of de fall-out, resulteert in het rollen van koppen binnen het bedrijf.

Waarom? Waarom zet Apple zoveel op het spel voor een CSAM-detectiesysteem dat als "gevaarlijk" is bestempeld en "gemakkelijk opnieuw kan worden gebruikt voor controle en censuur" door dezelfde computerwetenschappers die dit reeds op de proef hebben gesteld? Wat zou het waard kunnen zijn om de fundamentele idee van Apple dat een iPhone toebehoort aan de persoon die deze draagt, in plaats van aan het bedrijf dat het heeft gemaakt, op beslissende wijze te doorbreken?

Apple: "Ontworpen in Californië, Geassembleerd in China, Gekocht door U, Eigendom van Ons."

Het enige antwoord op deze vragen waar de optimisten op terug blijven komen is de waarschijnlijkheid dat Apple dit doet als voorbode van het eindelijk overstappen op "end-to-end" encryptie voor alles wat zijn klanten opslaan in de iCloud - iets wat Apple eerder van plan was te doen, voordat het terugkrabbelde in een ontstellende vertoning van lafheid, nadat de FBI in het geheim had geklaagd.

Voor degenen die hiermee onbekend zijn: wat ik hier beschrijf als end-to-end-encryptie is een enigszins complex concept, maar in het kort komt het erop neer dat alleen de twee eindpunten die een bestand delen - bijvoorbeeld twee telefoons aan weerszijden van het internet - in staat zijn het bestand te ontcijferen. Zelfs als het bestand zou worden opgeslagen en geserveerd vanaf een iCloud-server in Cupertino, dan nog is dat bestand voor Apple (of een andere tussenpersoon in een net pak) niet meer dan een onleesbare klodder willekeurige rommel: het bestand wordt pas een tekstbericht, een video, een foto, of wat dan ook, als er een sleutel aan gekoppeld is die alleen u en degenen met wie u het wilt delen, bezitten.

encryptie in uitvoering
end-to-end encryptie
Dit is het doel van end-to-end encryptie: een nieuwe en onuitwisbare lijn trekken in het digitale zand tussen uw gegevens en hun gegevens. Het stelt u in staat een dienstverlener te vertrouwen om uw gegevens op te slaan zonder hen in staat te stellen deze te begrijpen. Dit zou betekenen dat zelfs van Apple zelf niet meer kan worden verwacht dat het met zijn grijpgrage handjes in uw iCloud-account rommelt - en dus ook niet kan worden verwacht dat het die gegevens overhandigt aan elke overheid die een stempel op een stukje papier kan zetten, hetgeen precies de reden is waarom de FBI (alweer: in het geheim) heeft geklaagd.

Als Apple deze oorspronkelijke visie had gerealiseerd, zou dat een enorme verbetering van de privacy van onze toestellen hebben betekend, waarmee in feite het laatste woord zou zijn gezegd in een dertig jaar durend debat over het vaststellen van een nieuwe industrienorm - en, in het verlengde daarvan, de nieuwe wereldwijde verwachting dat partijen die toegang willen tot gegevens van een toestel, die gegevens ook van dat toestel moeten krijgen, in plaats van het internet en zijn ecosysteem in een spionagemachine te veranderen.

Helaas moet ik hier melden dat de optimisten het opnieuw bij het verkeerde eind hebben: Het voorstel van Apple om hun telefoons te laten informeren over hun eigenaren en deze te verraden markeert het begin van een duistere toekomst, één die zal worden geschreven in het bloed van de politieke oppositie van honderd landen die dit systeem tot het uiterste zullen uitbuiten. De dag nadat dit systeem in werking is getreden, maakt het niet meer uit of Apple ooit end-to-end encryptie mogelijk maakt of niet, omdat onze iPhones hun inhoud al zullen melden voordat onze sleutels zelfs maar worden gebruikt.

Ik kan geen ander bedrijf bedenken dat zo trots, en zo publiekelijk, spyware heeft verspreid op zijn eigen apparaten - en ik kan geen gevaarlijker bedreiging bedenken voor de veiligheid van een product dan de baldadigheid van de fabrikant zelf. Er is geen fundamentele technologische grens aan hoe ver het precedent dat Apple schept kan worden doorgedreven, wat betekent dat de enige beperking het al te flexibele bedrijfsbeleid van Apple is, iets wat regeringen maar al te goed begrijpen.

Ik zou zeggen dat er een wet moet komen, maar ik vrees dat het de zaken alleen maar erger zou maken.

Oog van de Onvoorzienigheid
We zijn getuige van de totstandkoming van een alziend-i - een Oog der Onvoorzienigheid - onder wiens bescherming elke iPhone alles zal doorzoeken wat Apple maar wil, of wat Apple maar heeft te willen. Men is een wereld aan het uitvinden waarin elk product dat u koopt de grootste loyaliteit verschuldigd is aan een ander dan de eigenaar ervan.

Botweg gezegd: dit is geen innovatie maar een tragedie, een ramp-in-wording.

Of misschien ben ik in de war - of misschien denk ik gewoon anders.

Zie: https://edwardsnowden.substack.com/p/all-seeing-i