Daniela, l'argomento di Pitt è molto meno 'teleologico' della sua negazione, perché chi lo nega sostiene che la finalità di chi produce una tecnica è irreversibile e ne determina qualunque possibile esito storico.
Quello che mi pare un po' antico è l'essenzialismo di chi sostiene che la tecnica abbia appunto un *in sé*. Nel Novecento siamo stati abituati a pensare in termini di *esistenza *cioè di scelta umana sempre in questione, cioè problematica. L'essenzialismo non è un reato, ma occorre accettarne i rischi, tra cui la frana della dialettica nella fissità di un 'pensiero di riferimento', come mi sembra accada talvolta qui. G. On Mon, 13 Jan 2025 at 14:05, Daniela Tafani <daniela.taf...@unipi.it> wrote: > Buongiorno, > > l'argomento di Pitt è sviluppato a partire da un'impostazione teleologica, > oggetto di confutazioni da secoli. > > Quanto all'argomento cruciale, che invoca "la difficoltà di individuare > dei valori morali precisi incorporati in una determinata tecnologia, mentre > è più agevole individuare quali usi di una tecnologia violino determinati > valori da salvaguardare", mi pare coincida con l'argomento del lampione di > cui scriveva Weizenbaum: > > "In una notte scura, un poliziotto si imbatte in un ubriaco. Questi sta > inginocchiato, e ovviamente sta cercando qualcosa sotto un lampione. Alla > domanda dell’agente, su che cosa stia facendo, risponde che sta cercando le > chiavi di casa, che dice di aver perso «laggiù», indicando in direzione > dell’oscurità. Il poliziotto gli chiede: «Ma perché, se le ha perse laggiù, > le cerca qui sotto il lampione?». L’ubriaco risponde: «Perché c'è molta più > luce, qui». " > > Un saluto, > Daniela > > > ________________________________________ > Da: nexa <nexa-boun...@server-nexa.polito.it> per conto di Giuseppe > Attardi <atta...@di.unipi.it> > Inviato: lunedì 13 gennaio 2025 12:58 > A: Alfredo Bregni > Cc: nexa@server-nexa.polito.it > Oggetto: Re: [nexa] In a mirror > > > La discussione sulla neutralità della tecnologia non è nuova e non finirà. > La divisione è tra chi sostiene la Value-Neutrality-Thesis e chi la > confuta. > > Joseph C. Pitt è molto citato e poco confutato sostenitore della tesi. > > < > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-value-neutrality-thesis-3e23b225db1e > > > Is Technology Morally Neutral? Joseph C. Pitt and the Value Neutrality > Thesis< > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-value-neutrality-thesis-3e23b225db1e > > > medium.com< > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-value-neutrality-thesis-3e23b225db1e > > > > [10fd5c419ac61637245384e7099e131627900034828f4f386bdaa47a74eae156.png] < > https://medium.com/swlh/is-technology-morally-neutral-joseph-c-pitt-and-the-value-neutrality-thesis-3e23b225db1e > > > > > Il suo argomento cruciale è la difficoltà di individuare dei valori morali > precisi incorporati in una determinata tecnologia, mentre è più agevole > individuare quali usi di una tecnologia violino determinati valori da > salvaguardare. > > Non è una distinzione da poco, perché se chi sviluppa tecnologia o chi fa > scienza si dovesse preoccupare di tutti i possibili effetti di violazioni > di valori umani producibili con l’eventuale utilizzo dei suoi risultati, > probabilmente si dovrebbe bloccare l’intera ricerca scientifica e > tecnologica. > > — > > On 13 Jan 2025, at 10:05, Alfredo Bregni <abre...@iperv.it> wrote: > > > Ciao, Giuseppe. > > Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla > faccenda: > > - Lui insiste ad es. che Ethernet aumenta la velocità delle > telecomunicazioni (e questo è un effetto "politico"), che ogni tecnologia > ha certe "capacità" > > - Io insisto che: > a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che > scientifica / tecnica / tecnologica -- ha impatti sulla società; > b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte > apposta per dare un qualche potere (altrimenti, a che servono?); > c) tutto dipende da come si usano / applicano; > d) solo quando uso e applicazione sono predeterminati (es. bombe), > allora lo sviluppo della tecnologia è orientato a monte (se vado in giro > con C4 e detonatori, mi auguro che per una volta ci sia presunzione di > colpevolezza, invece che di innocenza, e sia io a dover dmostrare che il > tutto mi serve per stanare delle talpe); > e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente, > economicamente, ..., per determinare cosa davvero poi avviene. > > A presto, > A > > > ----- Original Message ----- > From: Giuseppe Attardi<mailto:atta...@di.unipi.it> > To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> > Cc: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> > Sent: Monday, January 13, 2025 9:27 AM > Subject: Re: [nexa] In a mirror > > Temo che non siamo d’accordo sul significato di “neutrale” per una > tecnologia. > I LLM calcolano una funzione (la distribuzione di probabilità della > prossima parola), pertanto sono altrettanto neutrali di una tabella di > logaritmi. > > Non è neutrale l’uso che se ne fa, esattamente come una tabella dei > logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è. > > Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi > utilizzi (chatbot, Predictive AI, ecc.). > > Tutta la discussione su come vengono allenati e prodotti i vari LLM non > inficia la neutralità della tecnologia. Se le tabelle dei logaritmi > venissero fatte calcolare da degli schiavi sottopagati o se usano per base > 10, incorporando un bias tradizionale sulla scelta della numerazione, le > tabelle stesse rimarrebbero neutrali. > > Tornando all’analogia di Alfredo, un coltello è neutrale e può essere > usato in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di > coltelli, così come ci sono tanti diversi LLM, ciascuno prodotto secondo i > gusti di qualcuno. > Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si > critichi come il coltello è stato progettato e realizzato, ancora non > riguarda la tecnologia dei coltelli in sé. > > I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad > esempio allenati sul corpus delle opere di Shakespeare: serviva a > dimostrare come fossero in grado di acquisire la lingua e lo stile di > Shakespeare. Poi lo si faceva sugli articoli del WSJ, mostrando che > imparavano un altro linguaggio. Era quindi una tecnologia neutra rispetto > al linguaggio. > > Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in > cui operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in > particolare a un singolo aspetto della nostra realtà. > > — > > > On 9 Jan 2025, at 18:56, nexa-requ...@server-nexa.polito.it<mailto: > nexa-requ...@server-nexa.polito.it> wrote: > > > > From: Giacomo Tesio <giac...@tesio.it<mailto:giac...@tesio.it>> > > To: nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it>, > Giuseppe Attardi <atta...@di.unipi.it<mailto:atta...@di.unipi.it>> > > Subject: Re: [nexa] In a mirror > > Message-ID: <fded4eb6-b488-4e8e-8af7-2b0feb9ad...@tesio.it<mailto: > fded4eb6-b488-4e8e-8af7-2b0feb9ad...@tesio.it>> > > Content-Type: text/plain; charset=UTF-8 > > > > Ciao Giuseppe, > > > > speravo davvero che intervenissi! :-) > > > > Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto: > >> > >> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante > >> possibili applicazioni. > > > > Vero, ma il "riassunto" dalla cui critica è partito questo filone di > > discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto > > riferimento come un "chi". Non trovi allarmante tanta alienazione? > > > > La distinzione fra chatbot e LLM rimane informaticamente valida in > > generale, ma non credo fosse rilevante per il dibattito perché né > > chatbot né LLM esprimono alcuna forma di intelligenza. > > > >> Gran parte delle critiche riguardano appunto i chatbot > >> (allucinazioni, superficialità, ecc.). > > > > Perché costituiscono la base della narrazione allucinata che domina > > il dibattito informatico attuale, determinando scelte politiche, > > economiche ed educative altrettanto allucinate. > > > > > >> I LM sono decisamente una tecnologia neutra > > > > Solo nel mondo della fantasia, Giuseppe. > > > > > > Nella realtà, i LLM sono prodotti a partire da testi che sono > > culturalmente e storicamente situati. > > > > Già solo per questo semplice fatto, nessun LLM reale può essere > > "neutro". Ricorderai certamente le critiche pretestuose con cui fu > > accolto Minerva l'anno scorso. [1] > > > > Poi c'è l'attività di programmazione statistica che parte dalla scelta, > > fra tutti i testi disponibili, di quelli da utilizzare e di quelli da > > scartare. > > > > A valle di un'accurata attività di selezione e rinforzo, i "modelli" > > producono output "politicamente corretto", quale che siano gli > > obiettivi politici dei programmatori, dal legittimare il proprio > > software agli occhi dei moralisti statunitensi, difendere il proprio > > modello di business o cancellare piazza Tiananmen dalla storia [2] > > > > E spero tu non creda davvero che i modelli di Google, Meta o Open AI > > siano in alcun modo "neutrali". > > > > > > Dunque anche se l'idea di LLM non fosse intrinsecamente orientata > > politicamente (e lo è), lo sono tutti gli LLM reali. > > >
