DontSpyEU: la campagna contro il riconoscimento biometrico

Nelle prossime settimane l’iter del Regolamento Europeo sull’Intelligenza artificiale, che contiene disposizioni chiave sulle tecnologie di riconoscimento biometrico, entrerà nel vivo. Dopo il voto in Commissione dell’11 maggio, il testo dell’AI ACT passerà al voto in Plenaria in Parlamento, previsto per giugno, e alla successiva fase di negoziazione con le altre istituzioni europee.

In questo momento cruciale Hermes Center, The Good Lobby e info.nodes lanciano DontSpyEU, la campagna con cui chiedono chiedono ai parlamentari e ai rappresentanti delle istituzioni europee di mantenere e rafforzare il divieto di utilizzare tecnologie di riconoscimento biometrico, come ad esempio il riconoscimento facciale, in luoghi pubblici come piazze, strade e parchi cittadini, sia in tempo reale che a posteriori. Auspicano inoltre che vengano previste modalità concrete per garantire che il divieto a utilizzare sistemi così invasivi venga rispettato in tutti gli Stati Membri.

Spiega Claudio Agosti di Hermes Center, ideatore della campagna, che “DontSpyEU vuole anticipare e quindi far comprendere a tutti i cittadini europei gli inevitabili problemi che deriveranno dall’uso del riconoscimento facciale in spazi pubblici. Abbiamo deciso di simulare il riconoscimento biometrico degli europarlamentari, attraverso un algoritmo già impiegato in molti prodotti, che assegna a ciascun eletto/a genere, età e “stato emotivo” per evidenziare il margine di errore e di approssimazione con cui queste tecnologie operano. Ci auguriamo in questo modo di indurli a riflettere attentamente sul voto che saranno presto chiamati ad esprimere. 

Per meglio rappresentare il mercato della sorveglianza, abbiamo deciso di permettere l’integrazione da parte di terzi del sito della campagna, invitando altri sviluppatori a raffinare ulteriormente l’algoritmo di riconoscimento, completandolo con altre applicazioni capaci di sottolinearne i potenziali usi discriminatori. A questo scopo abbiamo deciso di mettere in palio dei premi per le migliori proposte in grado di stimolare un utilizzo creativo delle moderne tecnologie di AI applicate ai volti dei parlamentari europei. Stiamo in pratica anticipando l’inevitabile mercato dell’arricchimento dei dati biometrici, a cui siamo nettamente contrari e che al momento è vietato, ma che potrebbe trovare uno spiraglio se l’attuale formulazione dell’AI Act dovesse essere approvata”.

Anche Martina Turola di The Good Lobby è dello stesso avviso: “la letteratura scientifica dimostra come queste tecnologie amplifichino la discriminazione e sottolinea come possano essere utilizzate per perseguire persone colpevoli di esercitare semplicemente i propri diritti. Allo stato attuale chiunque non rientri nello stereotipo di “uomo bianco occidentale”, rischia di non essere riconosciuto correttamente dagli algoritmi di riconoscimento e quindi di essere arrestato ingiustamente. L’effetto collaterale è evidente: molte persone possono essere portate a evitare di partecipare alle proteste per proteggersi o a non manifestare le loro opinioni per paura di essere sempre osservate o ascoltate. E’ quanto successo negli Stati Uniti, in seguito all’utilizzo della polizia di New York del riconoscimento facciale per profilare i manifestanti di Black Lives Matter (BLM)”.  

Il tempo per rivedere il testo dell’AI Act è poco, ma la posta in gioco è altissima: la tutela dei nostri diritti digitali, della nostra libertà di manifestazione e di espressione in un’era sempre più segnata dall’intrusione di tecnologie di sorveglianza in grado di mettere a rischio i principi, i valori e i diritti su cui si basa l’Unione Europea.

Davide Del Monte, dell’associazione info.nodes, chiede a tutti i rappresentanti delle istituzioni europee di “riflettere sulle conseguenze anche a lungo termine delle decisioni che stanno per essere prese: tecnologie così pervasive di sorveglianza, una volta installate e messe in azione difficilmente potranno essere limitate o rimosse in futuro. Nessuno di noi può sapere cosa succederà da qui ai prossimi 10 anni alle nostre democrazie, per questo dovremmo fare in modo che la tutela della privacy dei cittadini sia garantita al massimo livello oggi, domani, sempre”.