Cara Silvia, On Mon, 16 Mar 2026 19:01:46 +0100 Silvia Crafa wrote:
> mentre le riflessioni sui problemi cominciano ad essere ben > organizzate, in tutta onestà la mia personale percezione è che ci sia in realtà molta confusione fra i critici delle "intelligenze artificiali". La radice di tale confusione è la scarsa (nulla?) comprensione del loro funzionamento e del processo di compilazione dei dati sorgente con cui vengono realizzati questi software. A questa lacuna sopperiscono le narrazioni del marketing. Giusto oggi, parlando con un collega che mi raccontava i suoi esperimenti con alcuni "coding agent", mi sono sentito dire "devi considerarli come uno sviluppatore junior, molto tonto, con cui fai pair programming". Alla mia risposta, piuttosto contrariata: "non considererei mai un archivio compresso con perdita come una persona", lui mi ha risposto "beh... in effetti considerarlo un archivio compresso con perdita del codice altrui spiega bene il suo comportamento!". Anche le critiche più illuminate delle "IA" (citavi "bias, correlazioni probabilistiche, estrusori di stringhe, neoliberismo, sistemi di sorveglianza, processi di industrializzazione") si concentrano sul software come entità a sé stante, dimenticando chi lo realizza, pubblica e amministra. Ai manager che dicono "Claude sta democratizzando la programmazione" io rispondo sempre: "No, Anthropic vi sta spacciando il codice dei vostri competitor esattamente come a loro spaccia il vostro! E mentre si prende i vostri soldi e il vostro codice, usa i feedback degli sviluppatori che pagate voi per migliorare la prossima versione dei SUOI prodotti." Ti assicuro che dopo non mi danno del luddista. ;-) Il software programmato statisticamente o meno non è mai un soggetto autonomo, solo un agente automatico. Come tale, bisognerebbe SEMPRE considerarlo un'estensione, un'espressione della volontà e degli interessi di chi lo realizza ed amministra. > non è lo stesso per parlare di "una visione del mondo nella quale la > tecnologia serve a migliorare la vita della collettività". La > comunità ha certamente già molte analisi (e opzioni tecniche) su > questo, ma mancano parole o narrazioni che le catalizzino. Personalmente parlo di "cibernetica democratica". [1] Purtroppo sono parole difficili e fuori moda. [2] Tuttavia forniscono un modello concettuale (la cibernetica) e ideale (la democrazia) che possono integrarsi molto bene fra loro. Distinguendo agenti autonomi (gli esseri umani e le loro organizzazioni) e agenti automatici (qualsiasi software), è possibile analizzare processi come l'alienazione cibernetica, identificare i centri di controllo di qualsiasi agente cibernetico automatico, misurarne in modo oggettivo l'influenza su un sistema e la pericolosità (analizzandone sensori, attuatori e capacità di calcolo), studiare le organizzazioni cibernetiche e prevederne l'evoluzione e perfino valutare la democraticità di tali organizzazioni, misurando sia l'influenza che i diversi esseri umani che vi partecipano hanno sulla loro evoluzione, sia l'allineamento fra gli obiettivi dichiarati dalle organizzazioni stesse e il loro funzionamento. Noi al momento viviamo in una società cibernetica plutocratica [3] non democratica. Come funziona una società cibernetica democratica? Beh, ci sono molte qualità che una società (o un'organizzazione) cibernetica deve avere per essere democratica: minimizzare l'alienazione cibernetica, massimizzare l'autonomia umana, massimizzare la trasparenza degli agenti cibernetici automatici e garantire una definizione collettiva del sistema cibernetico nel suo complesso. In una società cibernetica democratica non c'è spazio per sistemi di sorveglianza e manipolazione come Google o Facebook. Ma è più interessante osservare che nessun cittadino cibernetico di tale società considererebbe utili i LLM (se non forse, in locale, per i personaggi non giocanti all'interno dei videogiochi, quali generatori di lorem ipsum a tema). Ma poiché in una democrazia la Scuola è più importante del Parlamento, sarebbe bello chiederlo a dei ragazzi come si immaginano una organizzazione cibernetica democratica. Come funzionerebbero gli strumenti di tale organizzazione? [4] Quali strumenti (o funzionamenti?) sarebbero invece vietati? Giacomo [1] vedi slide e video (già postati altri volte, mi scuserete) https://encrypted.tesio.it/2022/04/03/Fondamenti_di_CyberSecurity_slides.html https://encrypted.tesio.it/2022/04/22/Fondamenti_di_CyberSecurity.html [2] nel 2022 tenni quel corso ad alcuni dirigenti della CGIL. A distanza di 4 anni, il sito della CGIL è ancora sorvegliato da Google, Amazon e altri, dimostrando di non aver compreso lontanamente la gravità della questione https://www.cgil.it/la-cgil/informativa-cookies-y6b6uso5 [3] con la fondamentale differenza che, contrariamente ai capitali finanziari che presentano ritorni decrescenti, l'accumulo di dati fornisce ritorni a crescita esponenziale: un nuovo euro per Zuckerberg ha un valore d'uso incrementale ridicolo e non cambia la distanza fra il nostro patrimonio e il suo, mentre un nuovo bit duplica il valore d'uso dei dati di cui già dispone, duplicando la distanza fra il suo potere e il nostro. Per questo concentrarsi su un modello economico della società è inefficace persino per descrivere le esorbitanti e crescenti disuguaglianze economiche del mondo moderno. Per questo, i miliardari più ricchi (e i governi più pericolosi) sono quelli che non ragionano già più in termini economici, ma in termini cibernetici. [4] una volta definite caratteristiche presenti ed assenti in tali software sarebbe forse illuminante notare come tali caratteristiche mancano nei software commerciali che usano quotidianamente e sono invece presenti in alcuni software liberi meno noti
