----- Original Message -----
From: karlessi
To: nexa@server-nexa.polito.it
Sent: Monday, January 13, 2025 11:52 AM
Subject: Re: [nexa] In a mirror (Alfredo Bregni)
Message: 2
Date: Mon, 13 Jan 2025 10:04:38 +0100
From: "Alfredo Bregni" <abre...@iperv.it>
To: "Giuseppe Attardi" <atta...@di.unipi.it>
Cc: <nexa@server-nexa.polito.it>
Subject: Re: [nexa] In a mirror
Message-ID: <66C5B22CA7AD43A9A87D9EA18F885D48@Bregnip2>
Content-Type: text/plain; charset="utf-8"
Ciao, Giuseppe.
Sto continuando a "litigare" (bonariamente) con Giacomo in
privato sulla faccenda:
- Lui insiste ad es. che Ethernet aumenta la velocità delle
telecomunicazioni (e questo è un effetto "politico"), che ogni
tecnologia ha certe "capacità"
- Io insisto che:
a) ogni evoluzione -- culturale (filosofia, letteratura, ...)
oltre che scientifica / tecnica / tecnologica -- ha impatti sulla
società;
b) le tecnologie non "hanno", ma "danno" certe capacità /
sono fatte apposta per dare un qualche potere (altrimenti, a che
servono?);
c) tutto dipende da come si usano / applicano;
d) solo quando uso e applicazione sono predeterminati (es.
bombe), allora lo sviluppo della tecnologia è orientato a monte
(se vado in giro con C4 e detonatori, mi auguro che per una volta
ci sia presunzione di colpevolezza, invece che di innocenza, e sia
io a dover dmostrare che il tutto mi serve per stanare delle
talpe);
e) ergo, sono l'uso e l'applicazione le cose che contano,
politicamente, economicamente, ..., per determinare cosa davvero
poi avviene.
buongiorno
convengo che ci sono intendimenti diversi dietro all'uso della
parola
"neutrale"
personalmente ritengo disfunzionale l'insistenza sul "dipende
dall'uso
che se ne fa", e, anzi, colpevolizzante nei confronti delle
persone. Se
poi si arriva all'impersonale del "si usano", diventa impossibile
distinguere chi fa cosa e perché: ammesso che sia possibile!
Non dipende (solo) dall'uso che se ne fa perché le tecnologie
incorporano ideologie, convinzioni, ecc. e questo è tanto più
verificabile per prodotti come gli smartphone equipaggiati con
software
proprietario, costruiti secondo logiche di obsolescenza
programmata,
assurdo spreco di risorse, ecc ecc.
Inoltre mettere insieme nella stessa categoria tabelle
logaritmiche,
funzioni statistiche, coltelli, tecnologie cibernetiche in rete e
bombe
(ma può esserci una bomba innescata per far saltare in aria il
Furher e
il suo stato maggiore: è questo un uso che prevede presunzione di
colpevolezza, errore, sbaglio? si tratta di una provocazione per
evidenziare che non si va lontano con la casistica, c'è sempre
almeno un
caso che eccede e a quel punto ci si perde in distinguo da
legulei) mi
sembra un'indebita semplificazione che fa di tutte le erbe un
fascio.
invece ogni cosa è diversa. per quanto si possano effettuare
delle macro
distinzioni.
in particolare vorrei attirare l'attenzione sulla cruciale
differenza
fra utensile e "strumento cibernetico" (non dico "essere tecnico"
sennò
giacomo s'imbizzarrisce :D )
la differenza è bene illustrata da Gilbert Simondon. un utensile
si può
portare con sé, e ha senso (senso tecnico) in connessione a un
corpo
umano che lo porta con sé e lo utilizza per relazionarsi con il
mondo.
Il coltello, il martello, ecc. sono utensili in questo senso
gli strumenti cibernetici, come lo smartphone, non hanno senso
separati
dalla rete di retroazioni che le alimenta, che comprende i corpi
umani
(in rete), altri smartphone, reti, ecc ecc ecc quindi lo
smartphone non
è un utensile. Da solo, non ha senso (senso tecnico). E non
dipende solo
dall'uso che se ne fa: perché è progettato con determinate
finalità,
benché in maniera molto più sofisticata rispetto alle affordance
(inviti
all'uso, cf. Gibson) tipiche es. di coltelli, martelli, sedie ecc.
(utensili). Tuttavia lo smartphone ha una materialità (è fatto
di cose
materiali), e questa materia è "neutra" nel senso che non è
orientata
dall'uso che ne verrà fatto; al contrario, però, lo influenza,
nel senso
che se è di metallo robusto magari non si spacca alla prima
caduta, cosa
che invece accade se è fatto di plastichina: quindi anche qui, la
materialità influenza l'uso, la plastichina invita alla
protezione
dell'oggetto più del metallo; ma la materialità non determina in
toto
l'uso, perché se mi va (in quanto es. artista "controcorrente", o
comune
umano esasperato) con lo smartphone pesto i chiodi nel muro, e
vabbè,
non avevo il martello, mi sento libero di scassare l'ennesimo
smartphone. Questa "neutralità" per cui dipende da me e dall'uso
che ne
faccio è quindi più teorica che pratica.
oltre a utensili e strumenti cibernetici, vi sono anche le
macchine,
come posizione "intermedia" fra i due precedenti. Es.
un'automobile, o
un telefono analogico, senza software, non ha senso senza
l'infrastruttura (strade/autostrade; rete elettrica, rete
telefonica),
ma non ha quella caratteristica cibernetica spinta tipica del
digitale
di massa.
G. Simondon, "Sulla Tecnica", Orthotes riporta in diversi articoli
questa tripartizione, da prendere come categorizzazione lasca,
come
descrizione operativa
https://www.orthotes.com/prodotto/gilbert-simondon-sulla-tecnica/
altra distinzione riguarda la tecnicità in quanto caratteristiche
materiali degli oggetti tecnici (di cosa sono fatti) che non
coincide
con la "libera avventura" (sempre Simondon) degli oggetti tecnici
nel
mondo: sono quelli che sono stati descritti come effetti
psicosociali
nelle mail precedenti. Questo è l'aspetto evolutivo in senso
relazionale, in relazione con il mondo umano, in cui è chiaro che
la
fitness tecnica non è legata (solo) alle caratteristiche
materiali, ma a
un complesso coacervo di interazioni socio-psico-economiche. E,
quindi,
tanto più ideologico-politiche per tecnologie di massa e
cibernetiche.
Non sono (solo) le caratteristiche materiali dirimenti per il
"successo"
di una tecnologia: VHS si è imposto su Betamax; Explorer su tutti
gli
altri browser per parecchio tempo, e non era certo "meglio";
Windows su
altri OS aperti e liberi; i protocolli e le innovazioni che
passano
nell'uso sono relativamente indipendenti dalle caratteristiche
tecniche
materiali. Indipendente non significa neutrale.
queste argomentazioni sono chiaramente non-antropologiche, nel
senso che
ricordano che l'uso umano delle tecnologie non dipende solo
dall'umano,
ma anche dalla complessa avventura sociotecnica. D'altra parte,
sono
argomentazioni non heideggeriane. Magari ai tecnici puri
(esistono? beh,
cmq hanno delle idee, delle convinzioni, dei desideri più o meno
inconsci, quindi mi permetto di considerarli soggetti filosofici
come
tutti noialtri...) interessa poco, ma la fanfaluca di Heidegger su
"l'essenza della tecnica non è tecnica" che ha tanto influenzato
anche
pensatori che si ritengono progressisti, per non dire di sinistra,
riguarda anche loro tecnici puri, perché l'argomento "la tecnica
è
neutrale, dipende da come la si usa" è in effetti avversato da
Heidegger
per sostenere, come è suo tipico, una posizione apolitica,
impolitica,
in cui la Tecnica s'impone come Spirito dei tempi ineluttabile...
quadro
e inquadramento del mondo, senza possibilità di scampo, senza
possibilità di articolare politiche personali e collettive.
e invece la tecnica è politica, molto politica; se chiunque fosse
i
grado di maneggiare le tavole logaritmiche, se chiunque fosse
capace di
smontare uno smartphone perché lo strumento viene venduto con un
cacciavite che consente di smontare ogni sua parte e sostituirla
facilmente... se chiunque potesse gestire in maniera autonoma i
propri
dati e scegliere le tecnologie di cui si fida, decidendo in piena
libertà cosa sì e cosa no... la situazione politica sarebbe
diversa,
perché l'alienazione tecnica sarebbe un lontano ricordo, e le
persone
sarebbe singolarmente più forti, potenti, autonome e quindi più
libere,
individualmente e collettivamente.
invece oggi non si può scegliere. solo in teoria. in pratica, i
genitori
si devono piegare ai gruppi whatsapp dei genitori, o quantomeno al
registro elettronico, come gli studenti e gli insegnanti a google
classroom, gli accademici a microsoft suite, e tutti quanti allo
SPID.
tutte queste tecnologie non sono affatto neutrali, IMHO. di certo
non si
sono imposte perché migliori, frutto di un processo evolutivo di
selezione delle tecnologie più adatte e regolate dal mutuo
appoggio, il
secondo fattore più importante dell'evoluzione naturale che
potrebbe
senz'altro essere posto come linea guida anche nell'evoluzione
tecnica.
peggio ancora, ci sono evidenti contraddizioni nel ricorso a
tecnologie
in situazioni limite. le navi che salvano le persone nel
mediterraneo
nonostante i governi sempre più autoritari in Europa e altrove,
non
possono scegliere: devono usare Starlink. perché grazie al fatto
che il
governo USA ha foraggiato Musk da anni, Starlink è l'unica
opzione a
"basso costo" per comunicazioni su satelliti LEO. vedremo se il
governo
italiano chiederà di togliere Starlink a queste navi, perché
no... è
logico, sta nella logica della tecnocrazia.
no, non dipende da come le usi. Starlink è un problema comunque
si
voglia vedere: per la sua genesi, per come è gestito, manutenuto,
e
immagino che sia software proprietario, security by obscurity,
nonché
gestito da un miliardario bianco dispotico senza alcun controllo
democratico, che viene considerato un genio, non si sa perché se
non
perché le persone desiderano essere come lui.
mi spiace la divagazione, spero non vi abbia troppo annoiato, a
mia
parziale discolpa ho approfittato di quest'ora di ritardo per
leggere e
scrivere, perché i treni sono stranamente in ritardo di 60-120
minuti
oggi per un guasto fra Napoli e Roma (se il ministro "competente"
non
darà nuovamente la colpa ai lavoratori inetti, forse riconoscerà
di
esser troppo impegnato a buttare risorse nel necessarissimo ponte
fra
Scilla e Cariddi, per entrare nella storia delle idiozie più
nocive, per
poter badare ai treni di linea)
buona giornata
k.
PS: filosofia e tecnica nell'approfondimento a tecnologie
conviviali:
https://www.eleuthera.it/materiale.php?op=2585#FilosofiaETecnica
A presto,
A
----- Original Message -----
From: Giuseppe Attardi
To: nexa@server-nexa.polito.it
Cc: nexa@server-nexa.polito.it
Sent: Monday, January 13, 2025 9:27 AM
Subject: Re: [nexa] In a mirror
Temo che non siamo d’accordo sul significato di
“neutrale” per una tecnologia.
I LLM calcolano una funzione (la distribuzione di
probabilità della prossima parola), pertanto sono altrettanto
neutrali di una tabella di logaritmi.
Non è neutrale l’uso che se ne fa, esattamente come una
tabella dei logaritmi usata per il calcolo delle traiettorie dei
proiettili non lo è.
Quindi ribadisco che si deve distinguere tra la tecnologia
(LLM) e i suoi utilizzi (chatbot, Predictive AI, ecc.).
Tutta la discussione su come vengono allenati e prodotti i
vari LLM non inficia la neutralità della tecnologia. Se le
tabelle dei logaritmi venissero fatte calcolare da degli schiavi
sottopagati o se usano per base 10, incorporando un bias
tradizionale sulla scelta della numerazione, le tabelle stesse
rimarrebbero neutrali.
Tornando all’analogia di Alfredo, un coltello è neutrale e
può essere usato in tanti modi, più o meno utili o disdicevoli.
Ci sono varie fogge di coltelli, così come ci sono tanti diversi
LLM, ciascuno prodotto secondo i gusti di qualcuno.
Il fatto che ad alcuni non piacciano certi modelli (di
coltello) o si critichi come il coltello è stato progettato e
realizzato, ancora non riguarda la tecnologia dei coltelli in sé.
I primi LM che facevo costruire 15 anni fa ai miei studenti
erano ad esempio allenati sul corpus delle opere di Shakespeare:
serviva a dimostrare come fossero in grado di acquisire la lingua
e lo stile di Shakespeare. Poi lo si faceva sugli articoli del
WSJ, mostrando che imparavano un altro linguaggio. Era quindi una
tecnologia neutra rispetto al linguaggio.
Che poi tutto sia condizionato dalle nostre esperienze e dal
contesto in cui operiamo è talmente ovvio che non serve
ribadirlo, né attribuirlo in particolare a un singolo aspetto
della nostra realtà.
—
On 9 Jan 2025, at 18:56, nexa-requ...@server-nexa.polito.it
wrote:
From: Giacomo Tesio <giac...@tesio.it>
To: nexa@server-nexa.polito.it, Giuseppe Attardi
<atta...@di.unipi.it>
Subject: Re: [nexa] In a mirror
Message-ID: <fded4eb6-b488-4e8e-8af7-2b0feb9ad...@tesio.it>
Content-Type: text/plain; charset=UTF-8
Ciao Giuseppe,
speravo davvero che intervenissi! :-)
Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha
scritto:
1. I LLM vanno distinti dai ChatBot, che sono una delle
loro tante
possibili applicazioni.
Vero, ma il "riassunto" dalla cui critica è partito questo
filone di
discussione è stato realizzato da un chatbot (chatgpt) cui
si è fatto
riferimento come un "chi". Non trovi allarmante tanta
alienazione?
La distinzione fra chatbot e LLM rimane informaticamente
valida in
generale, ma non credo fosse rilevante per il dibattito
perché né
chatbot né LLM esprimono alcuna forma di intelligenza.
Gran parte delle critiche riguardano appunto i chatbot
(allucinazioni, superficialità, ecc.).
Perché costituiscono la base della narrazione allucinata
che domina
il dibattito informatico attuale, determinando scelte
politiche,
economiche ed educative altrettanto allucinate.
I LM sono decisamente una tecnologia neutra
Solo nel mondo della fantasia, Giuseppe.
Nella realtà, i LLM sono prodotti a partire da testi che
sono
culturalmente e storicamente situati.
Già solo per questo semplice fatto, nessun LLM reale può
essere
"neutro". Ricorderai certamente le critiche pretestuose con
cui fu
accolto Minerva l'anno scorso. [1]
Poi c'è l'attività di programmazione statistica che parte
dalla scelta,
fra tutti i testi disponibili, di quelli da utilizzare e di
quelli da
scartare.
A valle di un'accurata attività di selezione e rinforzo, i
"modelli"
producono output "politicamente corretto", quale che siano
gli
obiettivi politici dei programmatori, dal legittimare il
proprio
software agli occhi dei moralisti statunitensi, difendere
il proprio
modello di business o cancellare piazza Tiananmen dalla
storia [2]
E spero tu non creda davvero che i modelli di Google, Meta
o Open AI
siano in alcun modo "neutrali".
Dunque anche se l'idea di LLM non fosse intrinsecamente
orientata
politicamente (e lo è), lo sono tutti gli LLM reali.
-------------- next part --------------
An HTML attachment was scrubbed...
URL:
