Dear all, La sera del 7 giugno 2023, il Senato francese ha approvato in prima lettura l'articolo numero 3 del nuovo progetto di legge di programmazione sulla "giustizia" (le virgolette sono di rigore). Questa misura, fortemente voluta dal ministro dell'interno Gérald Darmanin, permette ai giudici di decidere l'attivazione a distanza dei dispositivi elettronici per registrare video e audio senza il consenso del proprietario di smartphone, tablet ecc. https://www.publicsenat.fr/actualites/politique/justice-le-senat-autorise-lactivation-a-distance-des-telephones-portables-pour-certaines-enquetes
Come spesso accade quando vengono proposte nuove leggi liberticide, nelle "democrazie" occidentali le giustificazioni di base sono la protezione dell'infanzia o la lotta contro il terrorismo. In questo caso, si applica la seconda scusa. Quello che preoccupa è la probabile estensione di questa misura ad altri ambiti al di fuori del terrorismo. È importante sottolineare che questa legge non nasce in un vuoto tecnologico. Al contrario, si inserisce in un contesto segnato da una serie di scandali e abusi legati alla monitoraggio abusivo degli utilizzatori da parte delle aziende della tech nel contesto del loro modello di business. Prima delle rivelazioni del 2023 dei dipendenti di Tesla che hanno spiato i loro clienti attraverso le telecamere delle auto, e prima delle violazioni di sicurezza della videocitofono connesso Amazon Ring, diversi scandali hanno rivelato la propensione delle grandi aziende tecnologiche a invadere l'intimità dei loro utenti. Queste rivelazioni sono strettamente legate alla Francia e al lavoro dei nostri ricercatori del DiPLab (diplab.eu). Con l'aiuto di diverse ONG come La Quadrature du Net e la Maison des Lanceurs d'Alerte, abbiamo aiutato dei whistleblower a raccontare la loro esperienza come "ascoltatori a distanza" per le grandi aziende tecnologiche. Ad esempio, Julie, che già nel 2018 aveva raccontato di aver trascritto conversazioni nell'ambito dell'attività di una piattaforma di micro-lavoro chiamata Pactera, dove Cortana (Microsoft) esternalizzava questo tipo di lavoro. La sua testimonianza è presentata qui https://www.laquadrature.net/2018/05/18/temoin_cortana/ ed è state analizzata e discussa nel nostro rapporto DiPLab 'Il micro-lavoro in Francia' (2019): https://hal-sciencespo.archives-ouvertes.fr/hal-03579349. Altri casi sono discussi nel nostro saggio "Human Listeners", pubblicato da MIT Press nel 2022 e disponibile in open access: https://direct.mit.edu/books/oa-edited-volume/5319/chapter/3800161/Human-Listeners-and-Virtual-Assistants-Privacy-and . L'attivazione dei microfoni per spiare gli utenti non è un bug, ma una feature dei prodotti digitali contemporanei. È "necessaria per migliorare la qualità" delle soluzioni di intelligenza artificiale ed è strettamente legata al funzionamento e ai modelli di business delle grandi piattaforme. Ogni volta che un'azienda sviluppa un assistente vocale o un'altra tecnologia basata sulla voce (o sull'immagine), deve assicurarsi che l'IA interpreti correttamente ciò che gli utilizzatori dicono (o fanno). Chi verifica le prestazioni dell'IA confrontando le registrazioni audio reali delle conversazioni degli utenti (o i video e le immagini)? Dei micro-lavoratori umani, mal retribuiti e precari, che ascoltano e osservano conversazioni private senza che gli utenti ne siano consapevoli (siccome il microfono e le telecamere "hanno tendenza ad accendersi", a volte per errore, a volte in modo *molto* intenzionale). Naturalmente, nell'articolo spieghiamo che questo tipo di lavoro viene svolto da persone mal pagate, con scarso potere decisionale e poche alternative, ad eccezione della scelta di abbandonare il sistema e diventare whistleblower, cosa sempre più difficile. Un caso particolare è rappresentato appunto da un whistleblower che abbiamo intervistato nel nostro documentario "Invisibles" (2020) (la sua intervista, doppiata in inglese, è disponibile qui: https://youtu.be/sFCI3s4tNL8?t=1769). Il whistleblower in questione si chiama Thomas Le Bonniec, e successivamente ha lanciato una campagna contro Apple ed è stato presentato su diversi media internazionali, dal Guardian a Bloomberg. Di fronte a queste rivelazioni, che hanno colpito specificamente i cittadini francesi, cosa ha fatto il governo di Macron? Ha istituito una commissione speciale come per il Congresso americano? Ha avviato audizioni parlamentari come nel Regno Unito? No, non hanno fatto nulla. Peggio ancora, ora vogliono sfruttare questa funzionalità, non per migliorare l'IA, ma con l'obiettivo dichiarato di mettere in atto un piano distopico di sorveglianza. Il punto chiave di questo (lunghissimo) messaggio è il fatto che le piattaforme creano l'infrastruttura tecnologica che i governi sfruttano in seguito per la sorveglianza di massa a nome della legge. Questo era vero nel 2013, quando Edward Snowden ha rivelato come la NSA utilizza i dati raccolti da Apple, Microsoft, Meta, ecc., ed è ancora vero dieci anni dopo, come dimostra il nostro lavoro con i whistleblowers francesi. Senza la necessità per le piattaforme di utilizzare costantemente microfoni e telecamere per raccogliere dati per l'IA, non ci sarebbe la necessità di una registrazione continua, una possibilità che il governo di Macron vuole attualmente sfruttare. Se questa proposta di legge venisse adottata senza eliminare o emendare l'articolo 3, la nostra privacy sarebbe ancora più malmenata. L'eredità del governo Macron, malgrado la sua immagine di presidente moderato, è fatta di repressione dei migranti, di violazione dei diritti umani, di decine di persone mutilate o gravemente ferite dalla polizia durante le manifestazioni, la degradazione del sistema di protezione sociale, l'indebolimento del sistema parlamentare. Non possiamo permettere che compia un ennesimo passo pericoloso verso l'autoritarismo. Antonio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
