Foto verscheen in presentatie over hoe cloud computing spionagedienst helpt ‘de vijand een stap voor te blijven’.
De CIA gebruikte een foto van pelgrims die de hadj bijwonen om de potentiële mogelijkheden van nieuwe surveillance en kunstmatige intelligentie technologieën te illustreren, zo onthult Middle East Eye.
Organisaties voor digitale rechten en het maatschappelijk middenveld van moslims zeiden dat het gebruik van de foto ernstige zorgen over snel ontwikkelende tools zoals gezichtsherkenningssoftware benadrukte en deel uitmaakte van een patroon van islamofobie binnen de inlichtingendiensten en wetshandhavingsinstanties waarin moslims als een bedreiging worden afgeschilderd.
De afbeelding verscheen in een presentatie van een hoge ambtenaar van het Digital Innovation Directorate van de CIA over hoe de verschuiving van de spionagedienst naar cloud-gebaseerde technologieën de mogelijkheden voor het verzamelen van inlichtingen transformeerde.
In een toespraak tijdens een conferentie voor de publieke sector die in 2018 werd georganiseerd door Amazon Web Services (AWS), zei Sean Roche: “Het tijdperk van expeditionaire inlichtingen betekent zeer snel naar zeer onvriendelijke plaatsen gaan om zeer moeilijke problemen op te lossen.”
Hij zei dat kleine teams van programmeurs, datawetenschappers en analisten die “in het veld coderen” hebben gezorgd voor “verbazingwekkende mogelijkheden bij het vinden van mensen om wie we geven”.
“Weten wie ze zijn, wat ze doen, hun bedoelingen, waar ze zijn,” zei Roche, de toenmalige adjunct-directeur voor digitale innovatie van de CIA.
De presentatie toonde vervolgens een foto van pelgrims die verzameld zijn in een buitenste wijk van Mekka’s Masjid al-Haram, de heiligste plaats in de Islam en de plaats van de Kaaba.
De foto lijkt een stockfoto te zijn van een fotografiewebsite die is genomen tijdens de hadj in januari 2017. Maar de foto is bewerkt en er is een gele cirkel toegevoegd om het gezicht van een man in de menigte te benadrukken.
De facto doelwitten
MEE heeft de man niet geïdentificeerd. Er zijn geen aanwijzingen dat hij een interessant doelwit is voor de CIA.
MEE vroeg de CIA of het de capaciteiten had om bewakingstechnologieën in te zetten om mensen die de hadj bijwonen in de gaten te houden, en of het dat zou doen tijdens de bedevaart van dit jaar die maandag begint. Maar de CIA gaf geen antwoord op de vragen van MEE.
Maar het gebruik van het beeld heeft geleid tot bezorgdheid onder moslimorganisaties en juridische experts op het gebied van surveillancetechnologieën.
Edward Mitchell, de nationale adjunct-directeur van de Council on American-Islamic Relations (CAIR), vertelde MEE dat er een lange geschiedenis is van moslims die worden afgeschilderd als een bedreiging in trainingsmateriaal en presentaties van de overheid.
“Moslims moeten niet worden gebruikt als het de facto voorbeeld van hoe overheidstechnologie kan worden ingezet. Dat geldt in het bijzonder voor moslims die deelnemen aan de eredienst tijdens de Hajj bedevaart,” zei Mitchell.
Ashley Gorski, senior stafadvocaat bij het National Security Project van de American Civil Liberties Union, zei tegen MEE: “Gezichtsherkenningstechnologie brengt ernstige risico’s met zich mee voor de privacy en burgerlijke vrijheden. Mensen hebben het recht om vrij te bidden en te aanbidden, zonder bang te hoeven zijn dat ze worden gevolgd door de overheid.
“Dit is opnieuw een voorbeeld van hoe de Amerikaanse inlichtingendiensten surveillance-instrumenten promoten als een manier om religieuze gemeenschappen te monitoren en te controleren, zelfs in het buitenland.”
Machinaal leren
Roche beschreef verder hoe het agentschap kunstmatige intelligentie inzet om gegevens te verzamelen en te verwerken.
“Waarvoor doen we aan machine learning? Ons werk is mensen,” zei Roche.
“Dus we nemen de databases die over jou bestaan. De gegevens die er al zijn. De gegevens die gestructureerd en ongestructureerd zijn, sommige gegevens die worden aangemaakt, en we voegen die gegevens heel snel samen in de cloudomgeving om een digitale handtekening te bouwen, om onze digitale zelf te begrijpen.”
De presentatie van Roche op de AWS Public Sector Summit kwam er nadat de CIA in 2014 een contract van 600 miljoen dollar had getekend voor cloud computing-diensten met de technologiegigant.
Teresa Carlson, toen een senior executive bij AWS, introduceerde Roche en zei dat hij zou praten over hoe het bedrijf “de CIA in staat had gesteld om hun beveiligingshouding te handhaven en het innovatietempo te verhogen om de vijand altijd een stap voor te blijven”.
Roche verliet de CIA in 2019 en is nu directeur nationale veiligheid bij AWS. Een woordvoerder van AWS weigerde commentaar te geven.
Jumana Musa, directeur van het Fourth Amendment Center bij de National Association of Criminal Defense Lawyers (NACDL), die advocaten adviseert in zaken waarbij nieuwe surveillance-instrumenten betrokken zijn, zei dat de presentatie vragen naar voren bracht over hoe technologie werd gebruikt buiten de grenzen van de VS, waar grondwettelijke bescherming niet van toepassing was.
“Historisch gezien heeft de Amerikaanse overheid beslist andere normen gehanteerd wanneer ze zichzelf beschouwt als iemand die buiten de VS informatie verzamelt in plaats van bewijs voor een vervolging. En de regels zijn veel losser,” vertelde Musa aan MEE.
Gezichtsherkenning
Clare Garvie, een privacyadvocaat die bij NACDL werkt en zich richt op gezichtsherkenningstechnologie, zei: “Het is niet zomaar business as usual om een menigte van honderdduizend mensen of meer te kunnen scannen en beweren te kunnen identificeren wie ze zijn.
“Het is niet verrassend voor de CIA om zeker een aantrekkingskracht te zien in dat extreem krachtige surveillancemechanisme.”
Roche ging in op de potentiële gevaren van AI-technologie: “Sommige mensen maken zich zorgen over AI. Wees dat niet.”
Hij citeerde de Duitse futurist Gerd Leonhard en zei: “Menselijke bloei moet het hoofddoel blijven van alle technologische vooruitgang. Humanistisch futurisme. De machines zullen het niet overnemen.”
Vorige maand ondertekenden tientallen AI-experts een publieke verklaring waarin ze waarschuwden dat de snel ontwikkelende technologie een existentiële bedreiging vormt voor de mensheid.
Het Center for AI Safety, dat de verklaring publiceerde, wees onder meer op de risico’s van bewapening en het gebruik van de technologie om “bekrompen waarden af te dwingen door middel van alomtegenwoordige surveillance en onderdrukkende censuur”.
Andere AI-experts hebben gezegd dat de zorgen over de technologie overdreven zijn.