On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote: > Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo: ha > inventato riferimenti bibliografici a libri e articoli inesistenti, combinando > autori, titolo, anno, rivista, editore a caso non corretti, a volte > inesistenti. > Non riporto i dialoghi, che ho salvato. > All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico > cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli > scientifici che parlano del tema XX?" - "Certamente! Bla bla bla"). Ho scritto > a GPT che si sbagliava, si è scusato più volte e mi ha proposto altri > riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti. Ho > provato in italiano e inglese, stesso comportamento. > Ho lasciato perdere. > Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non > avranno ancora integrato banche dati bibliografiche?
C'è un problema di fondo. Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una IA generativa, questa conoscenza esista ancora al suo interno. Non è cosi. E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti statistici. Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai la domanda giusta. GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona nell'abilità di mettere in fila le parole. Solo quello. Ed invece, prima o poi, ce lo dimentichiamo. JM2EC. Marco > > Buona serata, > AB > > > > > > > Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito > <abrolp...@gmail.com> ha scritto: > > Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema > > sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in > > prima persona nel maneggiare informazioni e ragionamenti. > > Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta > > un'altra potenza di fuoco. > > > > Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre > > di più, e sempre più sofisticate: le buone domande saranno sempre più > > importanti delle risposte o meglio saranno importanti per avere delle > > risposte ragionevoli a chiunque saranno indirizzate. > > > > Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero > > critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in > > avanti. > > Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo > > riflettendo sopra sul come. > > > > Alessandro > > > > innovation.h-farm.com / Linkedin > > Roncade, H-FARM Campus, Via Olivetti, 1 – 31056 (TV) > Milano, Corso di Porta Romana, 15 – 20122 > Torino, Via San Quintino, 31 – 10121 > > Our privacy policy. > > _______________________________________________ > nexa mailing list > nexa@server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
