Buongiorno, 380°, grazie.
Sulla pubblicità ingannevole, rilevo che ci sono esplicite ammissioni, da parte di OpenAI, dell'inganno e dei danni che esso genera. Ad esempio, nella System card di GPT-4, sulle "allucinazioni" (termine tra i più ingannevoli, se usato per un sistema architettonicamente incapace di distinguere il vero dal falso): "We use the term “hallucinations,” though we recognize ways this framing may suggest anthropomorphization, which in turn can lead to harms or incorrect mental models of how the model learns." Un saluto, Daniela ________________________________ Da: nexa <nexa-boun...@server-nexa.polito.it> per conto di 380° <g...@biscuolo.net> Inviato: lunedì 17 luglio 2023 10:28 A: Fabio Alemagna Cc: nexa@server-nexa.polito.it Oggetto: Re: [nexa] The FTC is investigating whether ChatGPT harms consumers Buongiorno Fabio, per favore non dare per scontato che tu abbia compreso nella sua completezza l'argomento complesso oggetto dell'indagine della FTC mentre gli altri sono cretini Fabio Alemagna <falem...@gmail.com> writes: [...] > L'esattezza non è garantita, è solo più o meno probabile. > > In ogni caso, l'output dipende dall'input, e l'input lo ha fornito > l'utente. ma dai, per favore: l'output dipende /anche/ dall'input ma non è che "forse" il modello LLM ci mette del suo? > > Ho già più volte documentato come in molti casi interpretati come > "diffamazione" da qualcuno, in realtà ChatGPT neanche sapeva chi fosse la FTC (e molti in questa lista) non stanno facendo "il processo" a ChatGPT, che in quanto software non è processabile, ma a OpenAI come io, la FTC e molti altri in questa lista e nel mondo stiamo cercando di comprendere e discutere, il problema non è /affatto/ che ChatGPT spari stronzate a caso sulle persone ma: 1. se il modello LLM viene costruito usando dati personali usati senza consenso 2. se e come i dati personali usati nella costruzione del modello possono essere cancellati o rettificati dai diretti interessati 3. come OpenAI commercializza i propri servizi basati su LLM, in particolare con riferimento alle norme che tutelano "i consumatori" da pratiche commerciali scorrette come la pubblicità ingannevole In particolare, in merito alle frasi diffamatorie sputate da ChatGPT, FTC ed altri ritengono che /probabilmente/ OpenAI NON chiarisce a sufficienza il fatto che l'output di ChatGPT è PURA FICTION, non che "talvolta è errato"; inoltre, non so se l'argomento "pura fiction" possa mettere al riparo OpenAI dalle cazzate più grosse che ChatGPT rischia di sparare, tipo "Tizio Caio, prossimo candidato alle elezioni presidenziali USA 2024, è un noto pedofilo"... a meno che OpenAI dichiari una volta per tutte che ChatGPT è... satira Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
