Dalla guerra alle città, la sorveglianza digitale è un business privato incontrollato

La Eff è stata molto critica degli strumenti usati dall’Immigration and Customs Enforcement (Ice). Dal punto di vista tecnico e delle libertà civili, in che modo l’integrazione dei dati sanitari e di Medicaid nei sistemi di controllo dell’immigrazione sta cambiando la natura della sorveglianza?

Molti di questi strumenti sono vere e proprie «scatole nere»: non abbiamo accesso al loro funzionamento nel dettaglio. Ma sappiamo che l’uso di dati sanitari per fini di enforcement sull’immigrazione è estremamente pericoloso. Se le persone hanno paura di andare dal medico o di cercare cure, non mettono a rischio solo se stesse, ma l’intera comunità. Pensiamo a chi vive nello stesso edificio di qualcuno che evita di curarsi. L’uso di informazioni così sensibili per scopi di controllo migratorio ha quindi implicazioni gravi anche per la salute pubblica. Inoltre, stiamo assistendo a una concentrazione senza precedenti di dati nelle mani dell’Ice, utilizzati in modi che prima non esistevano. Questo conferisce alle autorità un potere completamente nuovo.

Stiamo assistendo a una rapida «AI-izzazione» delle catene decisionali militari. Quali sono i principali rischi nel rimuovere il giudizio umano da decisioni cruciali?

Sappiamo dell’esistenza delle cosiddette «allucinazioni» dell’Ia solo perché gli esseri umani le hanno osservate. Eppure, stiamo mettendo nelle mani di questi sistemi un potere che riguarda la vita e la morte. È un territorio completamente nuovo: non comprendiamo appieno né la tecnologia né le sue modalità di fallimento. Non sappiamo fino a che punto possa essere manipolata o «ingannata» per colpire obiettivi che un essere umano non avrebbe scelto. Delegare queste decisioni all’automazione è estremamente irresponsabile. Possiamo immaginare alcuni rischi, ma molti altri sono ancora impensabili. Proprio perché questi sistemi sono addestrati su dati umani, la supervisione umana resta essenziale.

Con un’amministrazione diversa vedremmo un uso differente di queste tecnologie?

Durante l’amministrazione Biden abbiamo visto tentativi significativi di introdurre salvaguardie sull’uso dell’Ia. Non stiamo riscontrando lo stesso livello di attenzione e cautela nell’attuale amministrazione Trump. Non è solo una questione di strumenti, ma di come questi vengono utilizzati.

Esiste un legame diretto tra i modelli di polizia predittiva e i sistemi di targeting automatizzato usati nei conflitti? Stiamo assistendo alla nascita di un’infrastruttura globale di guerra automatizzata?

Gran parte di questi sistemi è opaca, non possiamo dire con certezza se esista un collegamento diretto. Sappiamo però che molti sono addestrati sugli stessi tipi di dati, sia pubblici sia privati. Il problema è questa opacità: governi che adottano tecnologie sviluppate nel settore privato che non possono essere realmente controllate. Si tratta di algoritmi proprietari, sottratti a qualsiasi forma di accountability pubblica.

E infatti: chi è responsabile, le aziende o le istituzioni?

È una questione aperta nei tribunali. Noi sosteniamo che le aziende tecnologiche debbano poter essere ritenute legalmente responsabili quando costruiscono strumenti che facilitano violazioni dei diritti umani. Abbiamo presentato un intervento alla Corte suprema al fine marzo su questo: le imprese dovrebbero poter essere citate in giudizio anche da cittadini non statunitensi quando contribuiscono a tali abusi. La risposta è ancora in fase di definizione.

Quali sono oggi le strategie più efficaci, legali e tecniche, che state adottando per proteggere gli individui?

Gran parte dei dati usati dall’Ice e dal Dipartimento per la Sicurezza interna proviene dall’industria dei data broker. Strumenti come PenLink o WebLynx raccolgono informazioni dall’ecosistema pubblicitario online, inclusi i dati di geolocalizzazione, e le forniscono alle forze dell’ordine. La nostra risposta è triplice: sviluppiamo tecnologie per proteggere la privacy degli utenti, li informiamo su come ridurre la propria esposizione (ad esempio limitando la condivisione dei dati) e combattiamo in tribunale per rendere illegali queste pratiche.

Dopo il caso Snowden molti dicevano: «Non ho nulla da nascondere». Oggi la percezione è cambiata?

C’è sicuramente maggiore consapevolezza del fatto che siamo costantemente tracciati, anche quando non facciamo nulla di illecito. Un momento chiave è stato lo scandalo di Cambridge Analytica, quando è emerso come i dati raccolti tramite Facebook potessero essere usati per influenzare i processi democratici. Allo stesso tempo esiste una forma di «nichilismo della privacy»: molte persone pensano che non ci sia più nulla da fare. Noi vogliamo ribaltare questa idea. Ci sono azioni concrete che si possono intraprendere. Non è vero che tutto è perduto.

* Fonte/autore: Marina Catucci, il manifesto