se i LLM siano utili magari facciamolo dire a chi li usa, anche perché quelli non si fanno intimidire dai prof
di sicuro sono molto divertenti, ecco l'articolo messo in bocca a Savonarola (ChatGPT 4) * O popolo cieco, sedotto dalla vanità delle macchine e dall'illusione dell'intelligenza creata dall'uomo! Come Pinocchio si lasciò ingannare dal Paese dei Balocchi, così le nostre scuole e università stanno per cedere l'anima all'idolo dell'IA generativa. Questa intelligenza non è che un automa vuoto, privo di sapienza divina, uno strumento delle grandi potenze per distruggere l'istruzione, per corrompere l'innocenza degli studenti. Vegliate, affinché non scivoliate nel peccato della pigrizia intellettuale!* (si scherza, eh) G. On Mon, 14 Oct 2024 at 12:06, Andrea Bolioli <andrea.boli...@gmail.com> wrote: > Grazie Daniela e a tutti. > > Sono d’accordo con quasi tutto quello che hai scritto nell’articolo . > La favola che l’IA serve per il bene dell’umanità andrebbe considerata una > favola del pifferaio magico, secondo me. > Lo dico pur essendo una persona che ha lavorato per 35 in ambito NLP e che > trova meravigliosi e stupefacenti i sistemi LLM attuali. Serviranno a fare > qualcosa di socialmente utile? Mah, per ora non è chiaro. > È molto utile fare formazione su questi temi in tutte la sedi in cui è > possibile fare formazione. Formazione scientificamente fondata, critica, > auspicabilmente efficace. > L’ignoranza su questi temi è molto diffusa, così come lo era riguardo al > web, ai motori di ricerca, ai social network, e prima riguardo alla TV e > altri mezzi di comunicazione di massa. Ignoranza che rende le persone fruitori > passivi manipolabili, non solo la gente comune ma anche i decisori > politici. > > È ovvio che quello che creiamo riflette noi stessi, non viene creato dai > marziani, che non esistono. È noto che le persone creano anche cose > orribili. Alcuni creano cose orribili, altri cercano di contrastarle, > alcuni creano cose belle. Le persone fortunatamente non perseguono tutte > gli stessi scopi. Alcune hanno come unici scopi il profitto o il dominio. > > Il problema principale degli LLM non sono i bias: se penso alla TV > democristiana che l’Italia si è beccata per 40 anni, o alle televisioni > attuali di stati come la Russia, ho difficoltà a pensare che il problema > maggiore degli LLM siano i bias. In un paese democratico ognuno ha i suoi > bias. Su questo credo che siamo d’accordo. > Un sistema che genera testo esprime anche punti di vista, inesorabilmente. > Genera testo che viene letto e interpretato come dotato di senso. Un > sistema che risolve problemi di algebra non esprime punti di vista, trova > la soluzione corretta oppure no. > È un problema? Sì, c’è un problema se chi usa gli LLM pensa che siano > motori di ricerca (cita le fonti corrette e rilevanti? No), oppure pensa > che siano intelligenti (mi scrive la cosa più intelligente che si possa > immaginare? No), o pensa che siano sistemi di data analytics ( ha i > database più completi e corretti di ogni settore? No) . > (Non entro nel tema “pensiero” perché è filosoficamente troppo > impegnativo. Gli LLM non pensano. ) > > Gli LLM generano testo e codice software che ci permettono di fare copia e > incolla. Gli scrivo di che cosa ho bisogno, copio e incollo l’output se mi > piace, rileggo, correggo. Se non rileggo e correggo, sto sbagliando, non ho > capito che cosa sto usando. Se non rileggo e correggo e vendo ad una > azienda il report generato dall’LLM come last report della grande azienda > di consulenza (cosa che sta avvenendo), faccio una frode. Se vendo all’INPS > un fantomatico sistema di IA che risolverà i problemi delle pensioni > italiane (ma in che modo?!?), sto facendo una frode. Se faccio generare > all’LLM un bando pubblico senza rileggerlo… Se servono altri esempi, sono a > disposizione. > > È fastidioso sentire ogni 3x2 che qualunque problema verrà risolto > dall’IA. Meglio l’aloe vera 😉 Per ora nessuno ha detto che l’IA porterà la > pace nel mondo… Peccato. > > Buona giornata, > Andrea > > > > > > > > > Il giorno dom 13 ott 2024 alle 18:20 maurizio lana < > maurizio.l...@uniupo.it> ha scritto: > >> ho letto l'articolo. >> condivido che l'infiltrazione di IA nelle pratiche della scuola e >> dell'Università sia un problema e sia anche l'espressione di un problema >> che c'era già - scuola e università come appendici del mondo aziendale. >> che i sistemi di IA - incapaci di gestire le ordinazioni degli hamburger >> - vengano introdotti nella scuola per gestire gli studenti (studenti come >> hamburger?) esplicita l'idea che lo studente sia un prodotto e non una >> persona. >> >> secondo me poi in questa introduzione una parte non piccola la gioca >> anche una dose di ignoranza e sudditanza psicologica: 'se non lo facciamo, >> facciamo figura di ignoranti'. come una riedizione dei vestiti nuovi >> dell'imperatore. >> >> quanto al fatto, nel commento di Alessandro Marzocchi, che "la macchina è >> creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti >> ed errori" il problema è che ai sommi sacerdoti del culto di questa >> macchina, degli errori non importa nulla, importa solo che tutti (il >> maggior numero possibile) la credano onnisciente creativa onnipotente. >> >> rimando anche a Daniele Gambetta «Technic and magic: animismo di >> piattaforma e svolta linguistica 2.0 - seconda parte». DINAMOpress, 5 >> ottobre 2023. >> https://www.dinamopress.it/news/technic-and-magic-animismo-di-piattaforma-e-svolta-linguistica-2-0-seconda-parte/ >> che ricorda che il bias è insito (ineliminabile forse) nei sistemi di IA: >> >> “Il punto non è migliorare o correggere il modello, il punto è che >> qualunque rappresentazione del mondo e qualunque forma di espressione è >> situata, è posizionata in un contesto specifico sociale, storico. ... >> Eliminare il bias è una richiesta priva di senso, dal momento che un >> discorso neutrale non esiste” >> >> e il loro bias diventa pervasivo, mentre quello degli umani non arriva ad >> esserlo in quella forma e in quella misura. >> Maurizio >> >> >> >> >> >> Il 13/10/24 12:03, alessandro marzocchi ha scritto: >> >> Date: Sat, 12 Oct 2024 17:04:47 +0000 From: Daniela Tafani < >> daniela.taf...@unipi.it> ha scritto >> ho appena pubblicato un articolo dal titolo >> Omini di burro. Scuole e università al Paese dei Balocchi dell'IA >> generativa >> < >> https://btfp.sp.unipi.it/it/2024/10/omini-di-burro-scuole-e-universita-al-paese-dei-balocchi-dellia-generativa/ >> > >> Vi sarò grata di qualsiasi osservazione, in questa lista >> o nei commenti, nella pagina del "Bollettino telematico di filosofia >> politica" >> *** >> Daniela scrive: >> I testi generati riproducono, come in uno specchio >> <https://academic.oup.com/book/56292>, il pensiero egemonico e le >> ingiustizie espresse nei dati di partenza, ma, così come gli specchi non >> producono corpi, i grandi modelli del linguaggio naturale non producono >> menti. >> *** >> (mia osservazione): >> Ognuno deve molto all'ambiente in cui è cresciuto, all'educazione >> ricevuta. Le scelte diverse che a volte facciamo, potrebbero essere >> criticate come allucinazioni? Riflettiamo sul titolo del manuale di >> riferimento sulla follia: DSM, diagnostic STATISTIC manual, paradossalmente >> esasperando la statistica, quando la maggioranza era quadrupede i bipedi >> erano folli. E' stato un caso fortunato che allora non esisteva il DSM ma >> la stessa evoluzione è una deviazione statistica? >> Al netto di tutto, la macchina è creata dagli umani, mi pare ovvio che >> riproduca l'umano, coi suoi difetti ed errori. In fin dei conti la macchina >> analizza un numero enorme di casi (dati, informazioni, frasi, immagini) e >> da essi cerca di dedurre significati, relazioni. Noi umani facciamo >> qualcosa di diverso quando impariamo a parlare, camminare, scrivere, quando >> impariamo ad imparare? >> In tempi antichi, ma tutto sommato recenti, il medico toccava il nostro >> corpo per dedurre lo stato di salute, ora non più e da malato ho sofferto >> la mancanza del contatto fisico col medico, ora si usano termometri e >> millemila analisi molto spesso affidate a macchine ... esternalizzate, >> avrebbe criticato Platone. A partire dal termometro, ogni macchina ci dà >> una conoscenza del reale sua, della macchina con un "linguaggio macchina" e >> questo non ci ha preoccupato. A parte meraviglia, sorpresa, non ci ha >> preoccupato più di tanto la sostituzione del cuore - trapianto o macchine >> varie - anche se nel cuore vedevamo la sede di affetti ed emozioni. Ora ci >> preoccupa che la macchina si occupi di mente. >> Voleva scuotere la nostra mente il surrealismo che aveva anticipato dubbi >> e suggestioni, confondendo ed ibridando linguaggi e sensi, Magritte ci ha >> mostrato l'immagine di una pipa con la scritta "ceci n'est pas une pipe", >> prima dell'IA abbastanza per aprirci a domande nuove in tema di realtà e >> linguaggio che la descrive. >> Come tutti sono molto preoccupato, anche per controlli degenerati >> denunciati da Stefano Quintarelli e Juan Carlos De Martin, degenerazioni >> che neppure esse sono nate ora, fascismo nazismo stalinismo e loro >> controlli sono presenti nelle memorie dirette delle generazioni umane >> tuttora viventi. >> Alla fine mi domando: non è ovvio che questa nuova "macchina" ci somigli? >> Ma l'aspetto più interessante è l'analisi della realtà che essa apre. ... >> se ci arriveremo da persone libere, e questa è la domanda che più mi >> preoccupa, non la riflessione che la realtà è altro da noi, nonostante noi >> siamo parte della realtà >> Grazie, Daniela, per le riflessioni con le quali cresce la mia >> gratitudine per quel che imparo da questa lista: chi l'ha inventata? >> Errando discitur, anche questa è statistica, siamo tutti un poco pappagalli >> stocastici? >> Duccio (Alessandro Marzocchi) >> >> >> >> >> >> ------------------------------ >> >> pourquoi es-tu parti avant que je te l'apprenne? >> le savais-tu déjà? >> avais-tu deviné? >> bashung, immortels >> >> ------------------------------ >> Maurizio Lana >> Università del Piemonte Orientale >> Dipartimento di Studi Umanistici >> Piazza Roma 36 - 13100 Vercelli >> <https://www.google.com/maps/search/Piazza+Roma+36+-+13100+Vercelli?entry=gmail&source=g> >> >
