Salve Anna, grazie della condivisione. Ho avuto modo di ascoltare Carlo con attenzione tramite Piped https://piped.garudalinux.org/watch?v=phcGTeIOwjY
Sono un umile programmatore e sono certo che i filosofi in lista mi potranno correggere, ma non posso fare a meno di notare un difetto fondamentale nel parallelo proposto da Carlo fra il dono della scrittura agli egiziani e ChatGPT: Open AI non è un dio. Open AI è una società sostanzialmente di Microsoft. Ora, lungi da me voler mettere in discussione la fede religiosa di Carlo, quale che essa sia, ma come informatico non ho potuto non notare una profonda confusione (Carlo ad un certo punto la chiama "offuscamento") su ciò di cui stiamo parlando. """ la risposta di Chat GPT, che tra l'altro è una risposta uno a uno, cioé non è che Chat GPT pubblica sul web, cioé non è un motore di ricerca. Poi noi lo usiamo come un motore di ricerca, ma è una conversazione uno a uno di un umano con una macchina... """ Open AI pubblica Chat GPT sul Web. Il fatto che non sia un motore di ricerca è irrilevante: anche https://labtf.rime.inrim.it/webClock_utcit.html non è un motore di ricerca, ma INRiM pubblica su quella pagina web l'ora esatta calcolata dai propri orologi atomici. Non è Chat GPT è pubblicare qualcosa: è un software pubblicato sul Web, tant'é che è accessibile attraverso un browser. Anche le API di ChatGPT sono pubblicate via HTTP: https://platform.openai.com/docs/api-reference/authentication Open AI dunque pubblica Chat GPT sul Web. Carlo mostra poi una profonda confusione sulla natura di questo servizio, definendolo una "conversazione uno a uno di un umano con una macchina". Mi sento responsabile di questa confusione, per aver dato per scontato un aspetto fondamentale nello schema che proposi qualche giorno fa. Quando N persone, separatamente, scrivono sul sito di ChatGPT il proprio nome succede questo: Web + Open AI -----------+ | o < Carlo Blengino | | |____.\_ /|\ | o | / | / \ | /|\ | / | | / \ +-----------+ / | | | |---+ | | o | | | o < Brian Hood | /|\ | ChatGPT |--------|____.\_ /|\ | / \ | | | / \ | | |---+ | | o +-----------+ \ | | /|\ | \ | o < Stefano Quintarelli | / \ | \ |____.\_ /|\ | | | / \ +--------------------+ | | | Ciascuno invia al sito web di Open AI chiamato ChatGPT che risponde a ciascuno con una diversa storia statisticamente correlata (non "inventata") con ciò che hanno fatto nella vita. Ma sono le persone di Open AI ad aver deciso (statisticamente ovvero un po'... "alla carlona" :-D) cosa Chat GPT risponderà a ciascuno! Per comprendere che funzione svolge ChatGPT propongo un parallelo molto più terra terra rispetto al mito del dio Teuth. Quando video-chiamiamo qualcuno, non vediamo il nostro interlocutore ma una sua rappresentazione. Tale rappresentazione è mediata da innumerevoli automatismi e può essere alterata dai software che la veicolano: ad esempio lo sfondo che vediamo potrebbe essere fittizio o sfumato. Questa alterazione è introdotta da un software al servizio del nostro interlocutore. Con Chat GPT fa lo stesso. ChatGPT non permette di dialogare con GPT4, ma di dialogare con le persone che dirigono Open AI, che hanno creato GPT4 per poter dialogare con milioni di persone in contemporanea. Oltre agli innumerevoli aspetti tecnici, hanno letteralmente scelto i contenuti da utilizzare per la programmazione statistica (che non sono tutti quelli esistenti o disponibili) decidendo, in modo più o meno attento, ciò che quel software avrebbe detto PER LORO. Se gliene diamo il merito, dobbiamo anche attribuirgliene la responsabilità. Ne deriva che ciò che Carlo confonde con una "conversazione uno a uno di un umano con una macchina" è in realtà una conversazione pochi a molti, in cui pochi utilizzano un proxy automatizzato per fare meno fatica, ACCETTANDO CHE SCRIVA AL LORO POSTO. ChatGPT non è diverso dal filtro per lo sfondo, insomma. Carlo deriva da questa confusione sulla cardinalità della conversazione conclusioni giuridiche piuttosto bizzarre: """ tutti questi errori avvengono dove? non tanto sul fatto che questo ti dica delle stupidaggini su "se la terra è piatta o tonda" ma sul fatto che gli metti dentro "Carlo Blengino" e questo si inventa una biografia che, se va bene, non centra niente. MA LO DICE A ME, tra l'altro, e quindi se dice che io sono un pedofilo lo dice a me. Poi certo che se io prendo quella roba e dico "AH ChatGPT ha detto..." Ha detto a chi? Ha detto a me! """ Il problema di questa analisi è la prospettiva individuale utilizzata. Che succede se le stesse tre persone chiedono, separatamente, ma prima che venga in qualsivoglia modo alterato il modello di GPT4 la stessa cosa che avevano chiesto i concittadini di Brian Hood? Web + Open AI -----------+ | o < Brian Hood | | |____.\_ /|\ | o | / | / \ | /|\ | / | | / \ +-----------+ / | | | |---+ | | o | | | o < Brian Hood | /|\ | ChatGPT |--------|____.\_ /|\ | / \ | | | / \ | | |---+ | | o +-----------+ \ | | /|\ | \ | o < Brian Hood | / \ | \ |____.\_ /|\ | | | / \ +--------------------+ | | Tutti riceveranno pressappoco la stessa risposta. Dunque Open AI sta diffondendo informazioni false e diffamatorie su alcune persone in questo momento a N altre persone che ne fanno richiesta. E questa è diffamazione. Il fatto che alcune persone si limitino a chiedere informazioni su sé stesse e che le risposte risultino evidentemente false, ha reso il problema evidente, ma NON E' il problema. Ma attenzione: non è ChatGPT (o GPT4) a diffamare in modo subdolo e imprevedibile persone innocenti rispondendo ad allocchi! E' Open AI! Ovvero le persone che amministrano e governano tale software. Sta rispondendo per loro: se spegnessero ChatGPT e rispondessero di persona ci metterebbero più tempo, ed eviterebbero le stronzate statistiche, ma l'interfaccia Web non richiederebbe alcuna modifica. Io non riesco davvero a capacitarmi di come una persona intelligente e preparata come Carlo possa perdere di vista le persone che si nascondono dietro la macchina. E la cosa, ad essere onesti mi preoccupa. Non siamo di fronte ad un'invenzione che possa semplicemente mettere in crisi un sistema oscurantista come il copyright. Siamo di fronte ad uno strumento PROGETTATO per ingannare le persone, individualmente e su larga scala. E l'inganno non sta solo nel "gioco di imitazione" dell'intelligenza umana. L'inganno sta proprio nel nascondere alla coscienza di persone intelligenti e in buona fede, le responsabilità delle persone che realizzano e controllano questi strumenti, perseguendo il proprio interesse. Non abbiamo di fronte pericolose intelligenze artificiali generali o divinità benevole. Abbiamo di fronte criminali che sfruttano la straordinaria ignoranza informatica diffusa per cercare di dominare il mondo. Vi prego, adottate un minimo di spirito critico. Studiate informatica! E quando avrete compreso come funzionano questi sistemi, chiedetevi "cui prodest?" Giacomo _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
