È divertente, con gli LLM si possono fare anche cose divertenti. Io uso gli LLM per lavoro, faccio anche formazione sugli LLM, ecc Ma spero che la riflessione sull’utilità sociale degli LLM, i rischi e le opportunità, sia portata avanti anche da chi ne sa più di me di economia, politica, società, diritto, educazione, ecc Se avessimo chiesto solo a Berlusconi se la TV era utile… 😁
AB Il giorno lun 14 ott 2024 alle 12:36 Guido Vetere <vetere.gu...@gmail.com> ha scritto: > se i LLM siano utili magari facciamolo dire a chi li usa, anche perché > quelli non si fanno intimidire dai prof > > di sicuro sono molto divertenti, ecco l'articolo messo in bocca a > Savonarola (ChatGPT 4) > > * O popolo cieco, sedotto dalla vanità delle macchine e dall'illusione > dell'intelligenza creata dall'uomo! Come Pinocchio si lasciò ingannare dal > Paese dei Balocchi, così le nostre scuole e università stanno per cedere > l'anima all'idolo dell'IA generativa. Questa intelligenza non è che un > automa vuoto, privo di sapienza divina, uno strumento delle grandi potenze > per distruggere l'istruzione, per corrompere l'innocenza degli studenti. > Vegliate, affinché non scivoliate nel peccato della pigrizia intellettuale!* > > (si scherza, eh) > > G. > > > > > On Mon, 14 Oct 2024 at 12:06, Andrea Bolioli <andrea.boli...@gmail.com> > wrote: > >> Grazie Daniela e a tutti. >> >> Sono d’accordo con quasi tutto quello che hai scritto nell’articolo . >> La favola che l’IA serve per il bene dell’umanità andrebbe considerata >> una favola del pifferaio magico, secondo me. >> Lo dico pur essendo una persona che ha lavorato per 35 in ambito NLP e >> che trova meravigliosi e stupefacenti i sistemi LLM attuali. Serviranno a >> fare qualcosa di socialmente utile? Mah, per ora non è chiaro. >> È molto utile fare formazione su questi temi in tutte la sedi in cui è >> possibile fare formazione. Formazione scientificamente fondata, critica, >> auspicabilmente efficace. >> L’ignoranza su questi temi è molto diffusa, così come lo era riguardo al >> web, ai motori di ricerca, ai social network, e prima riguardo alla TV e >> altri mezzi di comunicazione di massa. Ignoranza che rende le persone >> fruitori >> passivi manipolabili, non solo la gente comune ma anche i decisori >> politici. >> >> È ovvio che quello che creiamo riflette noi stessi, non viene creato dai >> marziani, che non esistono. È noto che le persone creano anche cose >> orribili. Alcuni creano cose orribili, altri cercano di contrastarle, >> alcuni creano cose belle. Le persone fortunatamente non perseguono tutte >> gli stessi scopi. Alcune hanno come unici scopi il profitto o il dominio. >> >> Il problema principale degli LLM non sono i bias: se penso alla TV >> democristiana che l’Italia si è beccata per 40 anni, o alle televisioni >> attuali di stati come la Russia, ho difficoltà a pensare che il problema >> maggiore degli LLM siano i bias. In un paese democratico ognuno ha i suoi >> bias. Su questo credo che siamo d’accordo. >> Un sistema che genera testo esprime anche punti di vista, >> inesorabilmente. Genera testo che viene letto e interpretato come dotato di >> senso. Un sistema che risolve problemi di algebra non esprime punti di >> vista, trova la soluzione corretta oppure no. >> È un problema? Sì, c’è un problema se chi usa gli LLM pensa che siano >> motori di ricerca (cita le fonti corrette e rilevanti? No), oppure pensa >> che siano intelligenti (mi scrive la cosa più intelligente che si possa >> immaginare? No), o pensa che siano sistemi di data analytics ( ha i >> database più completi e corretti di ogni settore? No) . >> (Non entro nel tema “pensiero” perché è filosoficamente troppo >> impegnativo. Gli LLM non pensano. ) >> >> Gli LLM generano testo e codice software che ci permettono di fare copia >> e incolla. Gli scrivo di che cosa ho bisogno, copio e incollo l’output se >> mi piace, rileggo, correggo. Se non rileggo e correggo, sto sbagliando, non >> ho capito che cosa sto usando. Se non rileggo e correggo e vendo ad una >> azienda il report generato dall’LLM come last report della grande azienda >> di consulenza (cosa che sta avvenendo), faccio una frode. Se vendo all’INPS >> un fantomatico sistema di IA che risolverà i problemi delle pensioni >> italiane (ma in che modo?!?), sto facendo una frode. Se faccio generare >> all’LLM un bando pubblico senza rileggerlo… Se servono altri esempi, sono a >> disposizione. >> >> È fastidioso sentire ogni 3x2 che qualunque problema verrà risolto >> dall’IA. Meglio l’aloe vera 😉 Per ora nessuno ha detto che l’IA porterà la >> pace nel mondo… Peccato. >> >> Buona giornata, >> Andrea >> >> >> >> >> >> >> >> >> Il giorno dom 13 ott 2024 alle 18:20 maurizio lana < >> maurizio.l...@uniupo.it> ha scritto: >> >>> ho letto l'articolo. >>> condivido che l'infiltrazione di IA nelle pratiche della scuola e >>> dell'Università sia un problema e sia anche l'espressione di un problema >>> che c'era già - scuola e università come appendici del mondo aziendale. >>> che i sistemi di IA - incapaci di gestire le ordinazioni degli hamburger >>> - vengano introdotti nella scuola per gestire gli studenti (studenti come >>> hamburger?) esplicita l'idea che lo studente sia un prodotto e non una >>> persona. >>> >>> secondo me poi in questa introduzione una parte non piccola la gioca >>> anche una dose di ignoranza e sudditanza psicologica: 'se non lo facciamo, >>> facciamo figura di ignoranti'. come una riedizione dei vestiti nuovi >>> dell'imperatore. >>> >>> quanto al fatto, nel commento di Alessandro Marzocchi, che "la macchina >>> è creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti >>> ed errori" il problema è che ai sommi sacerdoti del culto di questa >>> macchina, degli errori non importa nulla, importa solo che tutti (il >>> maggior numero possibile) la credano onnisciente creativa onnipotente. >>> >>> rimando anche a Daniele Gambetta «Technic and magic: animismo di >>> piattaforma e svolta linguistica 2.0 - seconda parte». DINAMOpress, 5 >>> ottobre 2023. >>> https://www.dinamopress.it/news/technic-and-magic-animismo-di-piattaforma-e-svolta-linguistica-2-0-seconda-parte/ >>> che ricorda che il bias è insito (ineliminabile forse) nei sistemi di IA: >>> >>> “Il punto non è migliorare o correggere il modello, il punto è che >>> qualunque rappresentazione del mondo e qualunque forma di espressione è >>> situata, è posizionata in un contesto specifico sociale, storico. ... >>> Eliminare il bias è una richiesta priva di senso, dal momento che un >>> discorso neutrale non esiste” >>> >>> e il loro bias diventa pervasivo, mentre quello degli umani non arriva >>> ad esserlo in quella forma e in quella misura. >>> Maurizio >>> >>> >>> >>> >>> >>> Il 13/10/24 12:03, alessandro marzocchi ha scritto: >>> >>> Date: Sat, 12 Oct 2024 17:04:47 +0000 From: Daniela Tafani < >>> daniela.taf...@unipi.it> ha scritto >>> ho appena pubblicato un articolo dal titolo >>> Omini di burro. Scuole e università al Paese dei Balocchi dell'IA >>> generativa >>> < >>> https://btfp.sp.unipi.it/it/2024/10/omini-di-burro-scuole-e-universita-al-paese-dei-balocchi-dellia-generativa/ >>> > >>> Vi sarò grata di qualsiasi osservazione, in questa lista >>> o nei commenti, nella pagina del "Bollettino telematico di filosofia >>> politica" >>> *** >>> Daniela scrive: >>> I testi generati riproducono, come in uno specchio >>> <https://academic.oup.com/book/56292>, il pensiero egemonico e le >>> ingiustizie espresse nei dati di partenza, ma, così come gli specchi non >>> producono corpi, i grandi modelli del linguaggio naturale non producono >>> menti. >>> *** >>> (mia osservazione): >>> Ognuno deve molto all'ambiente in cui è cresciuto, all'educazione >>> ricevuta. Le scelte diverse che a volte facciamo, potrebbero essere >>> criticate come allucinazioni? Riflettiamo sul titolo del manuale di >>> riferimento sulla follia: DSM, diagnostic STATISTIC manual, paradossalmente >>> esasperando la statistica, quando la maggioranza era quadrupede i bipedi >>> erano folli. E' stato un caso fortunato che allora non esisteva il DSM ma >>> la stessa evoluzione è una deviazione statistica? >>> Al netto di tutto, la macchina è creata dagli umani, mi pare ovvio che >>> riproduca l'umano, coi suoi difetti ed errori. In fin dei conti la macchina >>> analizza un numero enorme di casi (dati, informazioni, frasi, immagini) e >>> da essi cerca di dedurre significati, relazioni. Noi umani facciamo >>> qualcosa di diverso quando impariamo a parlare, camminare, scrivere, quando >>> impariamo ad imparare? >>> In tempi antichi, ma tutto sommato recenti, il medico toccava il nostro >>> corpo per dedurre lo stato di salute, ora non più e da malato ho sofferto >>> la mancanza del contatto fisico col medico, ora si usano termometri e >>> millemila analisi molto spesso affidate a macchine ... esternalizzate, >>> avrebbe criticato Platone. A partire dal termometro, ogni macchina ci dà >>> una conoscenza del reale sua, della macchina con un "linguaggio macchina" e >>> questo non ci ha preoccupato. A parte meraviglia, sorpresa, non ci ha >>> preoccupato più di tanto la sostituzione del cuore - trapianto o macchine >>> varie - anche se nel cuore vedevamo la sede di affetti ed emozioni. Ora ci >>> preoccupa che la macchina si occupi di mente. >>> Voleva scuotere la nostra mente il surrealismo che aveva anticipato >>> dubbi e suggestioni, confondendo ed ibridando linguaggi e sensi, Magritte >>> ci ha mostrato l'immagine di una pipa con la scritta "ceci n'est pas une >>> pipe", prima dell'IA abbastanza per aprirci a domande nuove in tema di >>> realtà e linguaggio che la descrive. >>> Come tutti sono molto preoccupato, anche per controlli degenerati >>> denunciati da Stefano Quintarelli e Juan Carlos De Martin, degenerazioni >>> che neppure esse sono nate ora, fascismo nazismo stalinismo e loro >>> controlli sono presenti nelle memorie dirette delle generazioni umane >>> tuttora viventi. >>> Alla fine mi domando: non è ovvio che questa nuova "macchina" ci >>> somigli? >>> Ma l'aspetto più interessante è l'analisi della realtà che essa apre. >>> ... se ci arriveremo da persone libere, e questa è la domanda che più mi >>> preoccupa, non la riflessione che la realtà è altro da noi, nonostante noi >>> siamo parte della realtà >>> Grazie, Daniela, per le riflessioni con le quali cresce la mia >>> gratitudine per quel che imparo da questa lista: chi l'ha inventata? >>> Errando discitur, anche questa è statistica, siamo tutti un poco pappagalli >>> stocastici? >>> Duccio (Alessandro Marzocchi) >>> >>> >>> >>> >>> >>> ------------------------------ >>> >>> pourquoi es-tu parti avant que je te l'apprenne? >>> le savais-tu déjà? >>> avais-tu deviné? >>> bashung, immortels >>> >>> ------------------------------ >>> Maurizio Lana >>> Università del Piemonte Orientale >>> Dipartimento di Studi Umanistici >>> Piazza Roma 36 - 13100 Vercelli >>> <https://www.google.com/maps/search/Piazza+Roma+36+-+13100+Vercelli?entry=gmail&source=g> >>> >>
