Andrea Bolioli via nexa <nexa@server-nexa.polito.it> writes: [...]
> Questo tipo di errore non me l'aspettavo, perché non è molto difficile > controllare la correttezza (o perlomeno l'esistenza) dei riferimenti > bibliografici. Evidentemente non era tra le priorità di OpenAI finora, non > avranno ancora integrato banche dati bibliografiche? ribadisco la mia fiera (sebbene relativa) ignoranza nel funzionamento di ChatGPT, ma è tecnicamente possibile "inserire" nel modello generato da una rete neurale un sistema di verifica di fonti esterne tipo bibliografie, database RDF, ecc.? da quello che ho capito io (soprattutto grazie a https://nooscope.ai/ [1]) non è possibile "incorporare" le fonti /prima/ della generazione del modello LLM perché le fasi di "compressione delle informazioni" (inevitabili per poter generare il modello) non prevedono di "salvare" la fonte (non c'è nemmeno il concetto di fonte in una rete neurale, no?) l'unica cosa che si potrebbe fare è quella di far controllare la risposta ad un agente cibernetico autonomo esterno al LLM al quale venga fornito il "database universale delle fonti" e che sia in grado di verificare postumamente le fonnti alle quali si riferisce l'output di ChatGPT... ma siamo punto e a capo: qual'è quell sistema AI in grado di farlo? saluti, 380° [1] "a manifesto of AI dissidents" :-D [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
