Certamente, mi sono espresso male, conosco gli LLM, faccio NLP 🙂 Pensavo allo strato successivo a cui stanno lavorando OpenAI e altri, lo strato di correzione o filtro sull’output o sull’ input dell’utente.
D’accordo sul fatto che il testing e la segnalazione di errori sia lavorare gratis, una modalità di lavoro diffusa che non piace neanche a me. Sull’importanza dei dataset sui quali si fa l’apprendimento automatico, credo ci sia un margine di approfondimento del tema. Buona giornata ! AB Il giorno dom 19 feb 2023 alle 22:59 Marco A. Calamari < marcoc_maill...@marcoc.it> ha scritto: > On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote: > > Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: > ha inventato riferimenti bibliografici a libri e articoli inesistenti, > combinando autori, titolo, anno, rivista, editore a caso non corretti, a > volte inesistenti. > Non riporto i dialoghi, che ho salvato. > All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico > cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli > scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). > Ho scritto a GPT che si sbagliava, si è scusato più volte e mi ha proposto > altri riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. > Ho provato in italiano e inglese, stesso comportamento. > Ho lasciato perdere. > Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non > avranno ancora integrato banche dati bibliografiche? > > > C'è un problema di fondo. > > Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una > IA generativa, questa conoscenza esista ancora al suo interno. > > Non è cosi. > > E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti > statistici. > > Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai > la domanda giusta. > > GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona > nell'abilità di mettere in fila le parole. Solo quello. > > Ed invece, prima o poi, ce lo dimentichiamo. > > JM2EC. Marco > > > > Buona serata, > AB > > > > > > > Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito < > abrolp...@gmail.com> ha scritto: > > Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema > sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in > prima persona nel maneggiare informazioni e ragionamenti. > Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta > un'altra potenza di fuoco. > > Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre > di più, e sempre più sofisticate: le buone domande saranno sempre più > importanti delle risposte o meglio saranno importanti per avere delle > risposte ragionevoli a chiunque saranno indirizzate. > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero > critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in > avanti. > Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo > riflettendo sopra sul come. > > Alessandro > > > > > innovation.h-farm.com / Linkedin > <https://www.linkedin.com/company/h-farm-innovation> > > *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV > <https://www.google.com/maps/search/Via+Olivetti,+1+%E2%80%93+31056+(TV?entry=gmail&source=g> > ) > *Milano > <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%80%93+20122?entry=gmail&source=g>*, > Corso di Porta Romana, 15 – 20122 > <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%80%93+20122?entry=gmail&source=g> > *Torino > <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+10121?entry=gmail&source=g>*, > Via San Quintino, 31 – 10121 > <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+10121?entry=gmail&source=g> > > Our privacy policy > <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-cookie-policy_DEF.pdf> > . > > _______________________________________________ > nexa mailing list > nexa@server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > -- * * innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin <https://www.linkedin.com/company/h-farm-innovation> *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) *Milano*, Corso di Porta Romana, 15 – 20122 *Torino*, Via San Quintino, 31 – 10121 Our privacy policy <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-cookie-policy_DEF.pdf>. Â
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
