Ciao. Ritengo che in genere -- e soprattutto qui: "Non dipende (solo) dall'uso che se ne fa perché le tecnologie incorporano ideologie, convinzioni, ecc. e questo è tanto più verificabile per prodotti come gli smartphone equipaggiati con software proprietario, costruiti secondo logiche di obsolescenza programmata, assurdo spreco di risorse, ecc ecc." -- tu tenda a confondere l'aspetto banalmente "di vendita" con quello di "impatto sociale".
Se io (generico) vendo una tecnologia, e un altro la utilizza: - Io cercherò -- con mezzi leciti e illeciti -- di massimizzare il mio guadagno, indipendentemente dall'uso che ne verrà fatto (magari costruirò un fucile che piacerà tanto ai suprematisti bianchi, ma di loro come ideologia me ne frego, basta che comprino); - L'altro ne farà un uso benigno, maligno, idiota, perverso, benefico, ..., in funzione degli obiettivi e della fantasia (delicata o predatrice) che si ritrova ad avere. Voglio dire: 1. La scienza / tecnologia / tecnica / anche ingegneria direi -- intese come conoscenza / know-how, e relativa possibilità di farne qualcosa in pratica -- IN SE' ritengo siano sempre cosa buona; 2. La progettazione concreta, produzione e vendita di artefatti ha due componenti DIVERSE: a. L'aspetto economico, con le relative pratiche commerciali; b. L'EVENTUALE contenuto EX ANTE di intenzione d'uso / applicazione (es. bomba). 3. L'utilizzo è quello che ha un contenuto "morale" / "non neutrale" (e con esso l'eventuale contenuto ex ante di intenzione d'uso di cui al punto precedente). Ne consegue che: - Quanto indicato al punto 1 dovrebbe essere "totalmente libero"; es. nella ricerca scientifica i cc.dd. "comitati etici" non dovrebbero mettere becco (e invece lo fanno: troppo difficile mettere becco in 3 e 2a, ma questo dovrebbero fare) - Il punto 2a ha già i suoi presìdi (inefficaci); - Il punto 2b e 3 sono quelli che -- appunto rivenienti dall'uso / applicazione -- dovrebbero essere più monitorati. INVECE si insiste a colpevolizzare a monte. E io INSISTO a non comprenderne il motivo (magari perché insisto anche a distinguere pere e patate...). Saluti. ----- Original Message ----- From: karlessi To: nexa@server-nexa.polito.it Sent: Monday, January 13, 2025 11:52 AM Subject: Re: [nexa] In a mirror (Alfredo Bregni) > Message: 2 > Date: Mon, 13 Jan 2025 10:04:38 +0100 > From: "Alfredo Bregni" <abre...@iperv.it> > To: "Giuseppe Attardi" <atta...@di.unipi.it> > Cc: <nexa@server-nexa.polito.it> > Subject: Re: [nexa] In a mirror > Message-ID: <66C5B22CA7AD43A9A87D9EA18F885D48@Bregnip2> > Content-Type: text/plain; charset="utf-8" > > Ciao, Giuseppe. > > > > Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla faccenda: > > - Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia ha certe "capacità" > > > - Io insisto che: > > a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che scientifica / tecnica / tecnologica -- ha impatti sulla società; > > b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta per dare un qualche potere (altrimenti, a che servono?); > > c) tutto dipende da come si usano / applicano; > > d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per stanare delle talpe); > > e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, economicamente, ..., per determinare cosa davvero poi avviene. buongiorno convengo che ci sono intendimenti diversi dietro all'uso della parola "neutrale" personalmente ritengo disfunzionale l'insistenza sul "dipende dall'uso che se ne fa", e, anzi, colpevolizzante nei confronti delle persone. Se poi si arriva all'impersonale del "si usano", diventa impossibile distinguere chi fa cosa e perché: ammesso che sia possibile! Non dipende (solo) dall'uso che se ne fa perché le tecnologie incorporano ideologie, convinzioni, ecc. e questo è tanto più verificabile per prodotti come gli smartphone equipaggiati con software proprietario, costruiti secondo logiche di obsolescenza programmata, assurdo spreco di risorse, ecc ecc. Inoltre mettere insieme nella stessa categoria tabelle logaritmiche, funzioni statistiche, coltelli, tecnologie cibernetiche in rete e bombe (ma può esserci una bomba innescata per far saltare in aria il Furher e il suo stato maggiore: è questo un uso che prevede presunzione di colpevolezza, errore, sbaglio? si tratta di una provocazione per evidenziare che non si va lontano con la casistica, c'è sempre almeno un caso che eccede e a quel punto ci si perde in distinguo da legulei) mi sembra un'indebita semplificazione che fa di tutte le erbe un fascio. invece ogni cosa è diversa. per quanto si possano effettuare delle macro distinzioni. in particolare vorrei attirare l'attenzione sulla cruciale differenza fra utensile e "strumento cibernetico" (non dico "essere tecnico" sennò giacomo s'imbizzarrisce :D ) la differenza è bene illustrata da Gilbert Simondon. un utensile si può portare con sé, e ha senso (senso tecnico) in connessione a un corpo umano che lo porta con sé e lo utilizza per relazionarsi con il mondo. Il coltello, il martello, ecc. sono utensili in questo senso gli strumenti cibernetici, come lo smartphone, non hanno senso separati dalla rete di retroazioni che le alimenta, che comprende i corpi umani (in rete), altri smartphone, reti, ecc ecc ecc quindi lo smartphone non è un utensile. Da solo, non ha senso (senso tecnico). E non dipende solo dall'uso che se ne fa: perché è progettato con determinate finalità, benché in maniera molto più sofisticata rispetto alle affordance (inviti all'uso, cf. Gibson) tipiche es. di coltelli, martelli, sedie ecc. (utensili). Tuttavia lo smartphone ha una materialità (è fatto di cose materiali), e questa materia è "neutra" nel senso che non è orientata dall'uso che ne verrà fatto; al contrario, però, lo influenza, nel senso che se è di metallo robusto magari non si spacca alla prima caduta, cosa che invece accade se è fatto di plastichina: quindi anche qui, la materialità influenza l'uso, la plastichina invita alla protezione dell'oggetto più del metallo; ma la materialità non determina in toto l'uso, perché se mi va (in quanto es. artista "controcorrente", o comune umano esasperato) con lo smartphone pesto i chiodi nel muro, e vabbè, non avevo il martello, mi sento libero di scassare l'ennesimo smartphone. Questa "neutralità" per cui dipende da me e dall'uso che ne faccio è quindi più teorica che pratica. oltre a utensili e strumenti cibernetici, vi sono anche le macchine, come posizione "intermedia" fra i due precedenti. Es. un'automobile, o un telefono analogico, senza software, non ha senso senza l'infrastruttura (strade/autostrade; rete elettrica, rete telefonica), ma non ha quella caratteristica cibernetica spinta tipica del digitale di massa. G. Simondon, "Sulla Tecnica", Orthotes riporta in diversi articoli questa tripartizione, da prendere come categorizzazione lasca, come descrizione operativa https://www.orthotes.com/prodotto/gilbert-simondon-sulla-tecnica/ altra distinzione riguarda la tecnicità in quanto caratteristiche materiali degli oggetti tecnici (di cosa sono fatti) che non coincide con la "libera avventura" (sempre Simondon) degli oggetti tecnici nel mondo: sono quelli che sono stati descritti come effetti psicosociali nelle mail precedenti. Questo è l'aspetto evolutivo in senso relazionale, in relazione con il mondo umano, in cui è chiaro che la fitness tecnica non è legata (solo) alle caratteristiche materiali, ma a un complesso coacervo di interazioni socio-psico-economiche. E, quindi, tanto più ideologico-politiche per tecnologie di massa e cibernetiche. Non sono (solo) le caratteristiche materiali dirimenti per il "successo" di una tecnologia: VHS si è imposto su Betamax; Explorer su tutti gli altri browser per parecchio tempo, e non era certo "meglio"; Windows su altri OS aperti e liberi; i protocolli e le innovazioni che passano nell'uso sono relativamente indipendenti dalle caratteristiche tecniche materiali. Indipendente non significa neutrale. queste argomentazioni sono chiaramente non-antropologiche, nel senso che ricordano che l'uso umano delle tecnologie non dipende solo dall'umano, ma anche dalla complessa avventura sociotecnica. D'altra parte, sono argomentazioni non heideggeriane. Magari ai tecnici puri (esistono? beh, cmq hanno delle idee, delle convinzioni, dei desideri più o meno inconsci, quindi mi permetto di considerarli soggetti filosofici come tutti noialtri...) interessa poco, ma la fanfaluca di Heidegger su "l'essenza della tecnica non è tecnica" che ha tanto influenzato anche pensatori che si ritengono progressisti, per non dire di sinistra, riguarda anche loro tecnici puri, perché l'argomento "la tecnica è neutrale, dipende da come la si usa" è in effetti avversato da Heidegger per sostenere, come è suo tipico, una posizione apolitica, impolitica, in cui la Tecnica s'impone come Spirito dei tempi ineluttabile... quadro e inquadramento del mondo, senza possibilità di scampo, senza possibilità di articolare politiche personali e collettive. e invece la tecnica è politica, molto politica; se chiunque fosse i grado di maneggiare le tavole logaritmiche, se chiunque fosse capace di smontare uno smartphone perché lo strumento viene venduto con un cacciavite che consente di smontare ogni sua parte e sostituirla facilmente... se chiunque potesse gestire in maniera autonoma i propri dati e scegliere le tecnologie di cui si fida, decidendo in piena libertà cosa sì e cosa no... la situazione politica sarebbe diversa, perché l'alienazione tecnica sarebbe un lontano ricordo, e le persone sarebbe singolarmente più forti, potenti, autonome e quindi più libere, individualmente e collettivamente. invece oggi non si può scegliere. solo in teoria. in pratica, i genitori si devono piegare ai gruppi whatsapp dei genitori, o quantomeno al registro elettronico, come gli studenti e gli insegnanti a google classroom, gli accademici a microsoft suite, e tutti quanti allo SPID. tutte queste tecnologie non sono affatto neutrali, IMHO. di certo non si sono imposte perché migliori, frutto di un processo evolutivo di selezione delle tecnologie più adatte e regolate dal mutuo appoggio, il secondo fattore più importante dell'evoluzione naturale che potrebbe senz'altro essere posto come linea guida anche nell'evoluzione tecnica. peggio ancora, ci sono evidenti contraddizioni nel ricorso a tecnologie in situazioni limite. le navi che salvano le persone nel mediterraneo nonostante i governi sempre più autoritari in Europa e altrove, non possono scegliere: devono usare Starlink. perché grazie al fatto che il governo USA ha foraggiato Musk da anni, Starlink è l'unica opzione a "basso costo" per comunicazioni su satelliti LEO. vedremo se il governo italiano chiederà di togliere Starlink a queste navi, perché no... è logico, sta nella logica della tecnocrazia. no, non dipende da come le usi. Starlink è un problema comunque si voglia vedere: per la sua genesi, per come è gestito, manutenuto, e immagino che sia software proprietario, security by obscurity, nonché gestito da un miliardario bianco dispotico senza alcun controllo democratico, che viene considerato un genio, non si sa perché se non perché le persone desiderano essere come lui. mi spiace la divagazione, spero non vi abbia troppo annoiato, a mia parziale discolpa ho approfittato di quest'ora di ritardo per leggere e scrivere, perché i treni sono stranamente in ritardo di 60-120 minuti oggi per un guasto fra Napoli e Roma (se il ministro "competente" non darà nuovamente la colpa ai lavoratori inetti, forse riconoscerà di esser troppo impegnato a buttare risorse nel necessarissimo ponte fra Scilla e Cariddi, per entrare nella storia delle idiozie più nocive, per poter badare ai treni di linea) buona giornata k. PS: filosofia e tecnica nell'approfondimento a tecnologie conviviali: https://www.eleuthera.it/materiale.php?op=2585#FilosofiaETecnica > > > > A presto, > > A > > > > > > > ----- Original Message ----- > From: Giuseppe Attardi > To: nexa@server-nexa.polito.it > Cc: nexa@server-nexa.polito.it > Sent: Monday, January 13, 2025 9:27 AM > Subject: Re: [nexa] In a mirror > > > Temo che non siamo d’accordo sul significato di “neutrale” per una tecnologia. > I LLM calcolano una funzione (la distribuzione di probabilità della prossima parola), pertanto sono altrettanto neutrali di una tabella di logaritmi. > > Non è neutrale l’uso che se ne fa, esattamente come una tabella dei logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. > > Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.). > > Tutta la discussione su come vengono allenati e prodotti i vari LLM non inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero fatte calcolare da degli schiavi sottopagati o se usano per base 10, incorporando un bias tradizionale sulla scelta della numerazione, le tabelle stesse rimarrebbero neutrali. > > Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di qualcuno. > Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si critichi come il coltello è stato progettato e realizzato, ancora non riguarda la tecnologia dei coltelli in sé. > > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto al linguaggio. > > Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in particolare a un singolo aspetto della nostra realtà. > > — > > > On 9 Jan 2025, at 18:56, nexa-requ...@server-nexa.polito.it wrote: > > > > From: Giacomo Tesio <giac...@tesio.it> > > To: nexa@server-nexa.polito.it, Giuseppe Attardi <atta...@di.unipi.it> > > Subject: Re: [nexa] In a mirror > > Message-ID: <fded4eb6-b488-4e8e-8af7-2b0feb9ad...@tesio.it> > > Content-Type: text/plain; charset=UTF-8 > > > > Ciao Giuseppe, > > > > speravo davvero che intervenissi! :-) > > > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > >> > >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > >> possibili applicazioni. > > > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > > > La distinzione fra chatbot e LLM rimane informaticamente valida in > > generale, ma non credo fosse rilevante per il dibattito perché né > > chatbot né LLM esprimono alcuna forma di intelligenza. > > > >> Gran parte delle critiche riguardano appunto i chatbot > >> (allucinazioni, superficialità, ecc.). > > > > Perché costituiscono la base della narrazione allucinata che domina > > il dibattito informatico attuale, determinando scelte politiche, > > economiche ed educative altrettanto allucinate. > > > > > >> I LM sono decisamente una tecnologia neutra > > > > Solo nel mondo della fantasia, Giuseppe. > > > > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > > culturalmente e storicamente situati. > > > > Già solo per questo semplice fatto, nessun LLM reale può essere > > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > > accolto Minerva l'anno scorso. [1] > > > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > > scartare. > > > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > > producono output "politicamente corretto", quale che siano gli > > obiettivi politici dei programmatori, dal legittimare il proprio > > software agli occhi dei moralisti statunitensi, difendere il proprio > > modello di business o cancellare piazza Tiananmen dalla storia [2] > > > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > > siano in alcun modo "neutrali". > > > > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > > -------------- next part -------------- > An HTML attachment was scrubbed... > URL: <http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/4c26411b/attachment.htm> > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa@server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 189, Issue 28 > ************************************* -- "tecnologie conviviali - https://tc.eleuthera.it"; "pedagogia hacker - https://circex.org"; "tecnologie appropriate - https://alekos.net";
