Certamente, mi sono espresso male, conosco gli LLM, faccio NLP 🙂
Pensavo allo strato successivo a cui stanno lavorando OpenAI e altri, lo
strato di correzione o filtro sull’output o sull’ input dell’utente.

D’accordo sul fatto che il testing e la segnalazione di errori sia lavorare
gratis, una modalità di lavoro diffusa che non piace neanche a me.

Sull’importanza dei dataset sui quali si fa l’apprendimento automatico,
credo ci sia un margine di approfondimento del tema.

Buona giornata !
AB



Il giorno dom 19 feb 2023 alle 22:59 Marco A. Calamari <
marcoc_maill...@marcoc.it> ha scritto:

> On dom, 2023-02-19 at 19:51 +0100, Andrea Bolioli via nexa wrote:
>
> Oggi ho avuto un'altra brutta sorpresa da ChatGPT e GPT-3 che vi segnalo:
> ha inventato riferimenti bibliografici a libri e articoli inesistenti,
> combinando autori, titolo, anno, rivista, editore a caso non corretti, a
> volte inesistenti.
> Non riporto i dialoghi, che ho salvato.
> All'inizio mi hanno fatto ridere, sembravano le risposte di un simpatico
> cialtrone... ( - "Puoi indicarmi dei riferimenti a libri e articoli
> scientifici che parlano del tema XX?" - "Certamente! Bla bla bla").
> Ho scritto a GPT che si sbagliava, si è scusato più volte e mi ha proposto
> altri riferimenti a libri e articoli, alcuni corretti, alcuni inesistenti.
> Ho provato in italiano e inglese, stesso comportamento.
> Ho lasciato perdere.
> Questo tipo di errore non me l'aspettavo, perché non è molto difficile
> controllare la correttezza (o perlomeno l'esistenza) dei riferimenti
> bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non
> avranno ancora integrato banche dati bibliografiche?
>
>
> C'è un problema di fondo.
>
> Quello di ritenere che, avendo fornito della conoscenza, dei fatti, ad una
> IA generativa, questa conoscenza esista ancora al suo interno.
>
> Non è cosi.
>
> E' stata digerita, bruciata, e sono rimaste delle nuvole di coefficienti
> statistici.
>
> Non c'è nessun motivo per cui la risposta giusta debba riapparire se fai
> la domanda giusta.
>
> GPT-3 non funziona così. Non immagazzina conoscenza, ma si perfeziona
> nell'abilità di mettere in fila le parole. Solo quello.
>
> Ed invece, prima o poi, ce lo dimentichiamo.
>
> JM2EC.   Marco
>
>
>
> Buona serata,
> AB
>
>
>
>
>
>
> Il giorno sab 18 feb 2023 alle ore 17:34 Alessandro Brolpito <
> abrolp...@gmail.com> ha scritto:
>
> Grazie Guido per la chiarezza del tuo messaggio che esprime in una estrema
> sintesi l'ardire dei LLM, ma anche i limiti umani che abbiamo e che ho in
> prima persona nel maneggiare informazioni e ragionamenti.
> Certo, io posso fare pochi danni mentre un sistema LLM su Internet è tutta
> un'altra potenza di fuoco.
>
> Ma è un dato di fatto che i "dati" e la loro indicizzazione saranno sempre
> di più, e sempre più sofisticate: le buone domande saranno sempre più
> importanti delle risposte o meglio saranno importanti per avere delle
> risposte ragionevoli a chiunque saranno indirizzate.
>
> Alla resistenza vorrei aggiungere l'importanza dello sviluppo del pensiero
> critico, da coltivare nel percorso educativo, sin dall'inizio, dal 0-6 in
> avanti.
> Ed è qui che si deve agire e con alcuni amici in lista ci si stiamo
> riflettendo sopra sul come.
>
> Alessandro
>
>
>
>
> innovation.h-farm.com / Linkedin
> <https://www.linkedin.com/company/h-farm-innovation>
>
> *Roncade*, H-FARM Campus, Via Olivetti, 1 – 31056 (TV
> <https://www.google.com/maps/search/Via+Olivetti,+1+%E2%80%93+31056+(TV?entry=gmail&source=g>
> )
> *Milano
> <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%80%93+20122?entry=gmail&source=g>*,
> Corso di Porta Romana, 15 – 20122
> <https://www.google.com/maps/search/Milano+,+Corso+di+Porta+Romana,+15+%E2%80%93+20122?entry=gmail&source=g>
> *Torino
> <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+10121?entry=gmail&source=g>*,
> Via San Quintino, 31 – 10121
> <https://www.google.com/maps/search/Torino+,+Via+San+Quintino,+31+%E2%80%93+10121?entry=gmail&source=g>
>
> Our privacy policy
> <https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-cookie-policy_DEF.pdf>
> .
>
> _______________________________________________
> nexa mailing list
> nexa@server-nexa.polito.it
> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
>
>
>

-- 




*
*
innovation.h-farm.com <https://innovation.h-farm.com/> / Linkedin 
<https://www.linkedin.com/company/h-farm-innovation>


*Roncade*, H-FARM 
Campus, Via Olivetti, 1 – 31056 (TV)
*Milano*, Corso di Porta Romana, 15 – 
20122
*Torino*, Via San Quintino, 31 – 10121

Our privacy policy 
<https://www.jakala.com/wp-content/uploads/2019/11/JAKALA-pivacy-policy-and-cookie-policy_DEF.pdf>.
 
_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Reply via email to