Photo credit: European Digital Rights
/

Tecnologie di intelligenza artificiale sui confini europei

Quando le violazioni si fanno «smart»

Start

Si è conclusa pochi giorni fa l’edizione 2022 del Festival Internazionale del Giornalismo di Perugia. Il tema dell’intelligenza artificiale e dell’uso crescente delle tecnologie ai confini – i soprannominati “smart borders” – è stato uno temi trattati, a partire dall’intervento 1 di Laura Carrer 2, co-autrice con Riccardo Coluccini di uno studio pubblicato a dicembre 3 sulle tecnologie di controllo dei confini italiani.

Come spiega anche Alyna Smith su Digital Freedom Fund 4, un portale dedicato all’informazione sui diritti umani digitali, l’UE e i suoi Stati membri stanno investendo una quantità sempre maggiore di denaro per la militarizzazione dei nostri confini.
Nel dicembre del 2021 The Guardian ha pubblicato un’inchiesta sulle centinaia di milioni di euro che vengono spesi nella militarizzazione delle nostre frontiere.

Grafico del Guardian. Fonte: Ricerca del Guardian. Nota: la tecnologia può essere in uso in altri paesi dell’UE

Non è una notizia il fatto che le tecnologie di identificazione biometrica (le impronte automatiche e il riconoscimento facciale) stiano entrando a pieno titolo negli IT-Systems implementati sui confini europei, in particolare nel sistema informativo Schengen (lo schedario elettronico contenente i documenti di identità di persone ricercate dalla giustizia o colpite da un divieto d’entrata nel Paese), nella banca di dati biometrica Eurodac e nel sistema informativo dei visti (VIS); e non è notizia l’intenzione di implementare le stesse tecnologie anche in altri sistemi di raccolta dati europei come il sistema di ingressi e uscite (EES) e l’European Criminal Record Information System for third-Country nationals (ECRIS-TCN) – sistemi ancora in fase di definizione e di sviluppo 5.

Si tratta degli ultimi sistemi pensati da eu-LISA, un’agenzia regolatrice dell’Unione Europea nata nel 2011 con il compito di gestire le banche dati che garantiscono la sicurezza nell’Area Schengen – e dunque tutto quanto concerne asilo, migrazione e gestione dei confini.

La digitalizzazione del controllo sui confini ha delle implicazioni etiche che vanno aldilà del momento dell’identificazione, già di per sé delicato. Dovremmo infatti ricordare sempre che identificare una persona – classificarla in quanto maschio, di una certa nazionalità e con una certa età, con determinati dati biometrici – implica una cessione incondizionata di dati sensibili, e spesso questi processi, resi automatici o meno dai dispositivi tecnologici, vengono attuati senza informare adeguatamente i soggetti sulle ragioni e sulle conseguenze della cessione di tali dati.

Campo profughi ad alta tecnologia a Kos (Grecia) – Photo credit: European Digital Rights

Alcune fonti informano sul fatto che la procedura di identificazione viene svolta senza l’impiego di mediatori linguistici che rendano conto di quanto sta succedendo, e che le autorità competenti si limitano a far compilare il materiale per l’identificazione ai nuovi arrivati senza fornire spiegazioni sul contenuto; le persone migranti, ancora prive di quei documenti identificativi e di uno statuto giuridico che le tuteli dal punto di vista della protezione dei dati, sono sottoposte a una cessione coatta dei propri dati in quella zona grigia che precede il momento dell’identificazione – frutto dello squilibrio di potere tra loro, privi di documenti validi, e il sistema identificativo europeo.

Quando inoltre i processi di identificazione non sono più gestiti interamente dall’umano, ma entrano nella sfera della macchina tramite le tecnologie di riconoscimento e identificazione, la complessità aumenta. La tecnologia può rendere i processi incredibilmente più efficienti; ma allo stesso tempo, potrebbe rendere invisibili le insidie di pregiudizi e bias cognitivi, e anzi automatizzarli.

Il rischio maggiore associato all’uso di tecnologie di identificazione e riconoscimento sui confini è proprio quella di rendere sistematici e ripetibili errori e pregiudizi di fronte ai quali la macchina è sorda ​6, e che l’umano potrebbe avere invece la facoltà di riconoscere e annullare. Spesso tali errori sono inscritti nell’infrastruttura tecnologica nella fase di design degli algoritmi, quando la macchina basata sul machine learning viene addestrata su dataset sbilanciati o non rappresentativi.

Come ribadiscono numerose ONG e associazioni che promuovono i principi di trasparenza e di accountability, di fronte all’insorgenza di strumenti come questi, che aprono a paradigmi inediti, occorre rimettere la legislazione al passo delle implementazioni, affinché i benefici e i vantaggi non si rovescino in violazioni di diritti ulteriori e più forti.

L’Unione Europea sta attualmente negoziando la legge sull’intelligenza artificiale (Artificial Intelligence Act) 7. «Questa legge futura», scrive Reclaim your face, «offre la possibilità di vietare la sorveglianza di massa biometrica», una richiesta che è al centro della campagna europea.

  1. Armi di sorveglianza di massa: inchieste e ricostruzioni giornalistiche sul business delle tecnologie del controllo (video), Festival del giornalismo di Perugia (10 aprile 2022)
  2. Tecnologie digitali: come sta cambiando il controllo dei flussi migratori? Intervista a Laura Carrer, co-autrice della ricerca «Tecnologie per il controllo delle frontiere in Italia» di Rossella Marvulli, Melting Pot (15 febbraio 2022)
  3. «Tecnologie per il controllo delle frontiere in Italia. Identificazione, riconoscimento facciale e finanziamenti europei». La ricerca è parte del progetto proTECHt migrants, sostenuto da Privacy International
  4. Digital Criminalisation: How Big Data & Technology Police Irregular Migration di Alyna Smith, Digital Freedom Fund (27 gennaio 2022)
  5. Artificial intelligence at EU borders, European Parlamient (Luglio 2021)
  6. Algorithmic Bias: Why And How Do Computers Make Unfair Decisions? LibertiesEU (maggio 2021)
  7. How can you influence the AI Act in order to ban biometric mass surveillance across Europe? Reclaim your face, 20 aprile 2002

Rossella Marvulli

Sono studentessa laureanda in matematica, impegnata con l'associazione di volontariato Linea d'Ombra ODV nella primissima accoglienza dei migranti della rotta balcanica che transita a Trieste.