DontSpyEU: la campagna per far vietare il riconoscimento biometrico in Europa

Lanciata dalle associazioni non profit Hermes Center, The Good Lobby e info.nodes, la campagna Don’t Spy EU propone di intervenire sul testo dell’AI Act per mitigare i rischi e le conseguenze derivanti dalla proliferazione di strumenti di riconoscimento facciale negli spazi pubblici. Con l’Artifical Intelligence Act (AI Act) in discussione, l’Unione Europea ambisce non solo a regolamentare l’intelligenza artificiale, ma anche a stabilire degli standard globali in merito a diverse tipologie di intelligenza artificiale, come quelle generative (ad esempio, ChatGPT e Midjourney) e quelle biometriche. Il fine della campagna DontSpyEU è quello di mettere un freno alla sorveglianza discriminatoria che punterebbe alla sorveglianza di massa.
Tra le richieste per cui si battono le tre associazioni per la tutela dei diritti digitali spiccano il divieto totale di identificazione biometrica in spazi pubblici accessibili, il divieto di utilizzare sistemi predittivi e di profilazione da parte delle forze dell’ordine e il divieto di utilizzo dell’intelligenza artificiale in contesti di migrazione, per effettuare valutazioni e profili di rischio individuali basati su dati personali sensibili e per interdire, ridurre e prevenire la migrazione attraverso sistemi di analisi predittiva.

L’intento già dichiarato dell’Unione è quello di proteggere i cittadini dai pericoli della sorveglianza di massa, ponendo un freno alle tecnologie di riconoscimento biometrico, ma le cose potrebbero prendere una piega inaspettata. Durante l’ultimo negoziato interistituzionale informale (trilogo) sul regolamento europeo per l’intelligenza artificiale (AI Act), alcuni governi dell’Unione hanno esercitato pressioni per indebolire significativamente il divieto all’utilizzo di sistemi per l’identificazione biometrica in tempo reale e per il riconoscimento delle emozioni in nome della sicurezza nazionale e della “difesa delle frontiere”, un tema quest’ultimo che sarà centrale nella battaglia per l’approvazione del testo finale dell’AI Act.

“Se la legge sull’AI dovesse consentire il riconoscimento biometrico facciale” – si legge sul sito Don’t Spy EU, “questo aprirebbe la strada ad un uso improprio e sorveglianza di massa, un mondo in cui la privacy personale verrebbe drasticamente erosa. La biometria facciale è molto più di un semplice progresso tecnologico. È l’impronta digitale distintiva di ogni individuo. A differenza delle stampe “tradizionali” che richiedono il contatto fisico, il volto di un individuo può essere catturato, archiviato ed elaborato a distanza, spesso senza il consenso dell’individuo o addirittura senza che ne sia a conoscenza”.

Per semplificare i pericoli insiti in queste tecnologie della sorveglianza, sul sito della campagna è stato inserito un sistema che simula il riconoscimento facciale di tutti i ministri europei coinvolti nei triloghi, eseguendo su di loro un algoritmo di riconoscimento facciale RBI open source e pubblicando foto false, ovvero deepfake (in uno di questi il premier francese Macron sventola la bandiera dell’ISIS). Quest’ultimi funzionano proprio grazie all’autenticazione della biometria facciale e, attraverso i dati ottenuti dallo stesso tipo di software, possono essere usati per produrre immagini/video falsi con conseguenze potenzialmente dannose nella vita reale di quella persona. Per meglio rappresentare il mercato della sorveglianza, gli organizzatori della campagna hanno deciso di permettere l’integrazione da parte di terzi del sito della campagna, invitando altri sviluppatori a raffinare ulteriormente l’algoritmo di riconoscimento, completandolo con altre applicazioni capaci di sottolinearne i potenziali usi discriminatori.

Scenari distopici che – nello scenario peggiore – potrebbero minare le basi stesse delle democrazie, come ha sottolineato l’organizzazione Good Lobby: “In tutta Europa forze di polizia, autorità locali e aziende private stanno segretamente diffondendo tecnologie sperimentali e invasive che tracciano, analizzano e trasformano in oggetti i nostri volti e i nostri corpi mentre ci muoviamo nello spazio pubblico. Questi ultimi sono da difendere affinché in essi i nostri diritti, le nostre libertà e le nostre comunità siano protetti. Assieme a molte altre organizzazioni della società civile chiediamo ai nostri Paesi di rivelare e rifiutare l’uso della sorveglianza biometrica, che potrebbe compromettere i nostri diritti e le nostre libertà all’interno nei luoghi pubblici”.