No, Alfredo, On Sun, 02 Mar 2025 10:33:13 +0100 abregni <abre...@iperv.it> wrote:
> abbiamo di fronte, fatta da noi, ma "divertentemente" (per dirla > alla Cetto la Qualunque) in buona parte incompresa, una macchina che > parla *in fretta* senza capire quello che dice, ma la dice -- su una > base **puramente statistica** (non "compresa") di conoscenza verbale > e sostanziale "acquisita" -- molto ma molto bene. Abbiamo di fronte una compressione eseguibile (con perdita) compilata a partire da petabyte di testi sorgente come "Entropic Philosophy - Chaos, Breakdown, and Creation" di Shannon M. Mussett. L'hai letto? Scommetto un caffé di no. Tale archivio eseguibile è un software che (eseguito dalla macchina virtuale per cui è compilato) estrae sequenze di caratteri plausibili perché statisticamente simili a quelle contenute nei testi sorgente, di cui spesso ripropone vasti stralci alla lettera. Il fatto che nessun essere umano abbia letto tutti i testi sorgente, rende estremamente improbabile che l'output venga riconosciuto da chi lo riceve. Improbabile, ma non impossibile, come avvenuto, ad esempio, allo sviluppatore Ruby On Rails che ho menzionato nella mail precedente [1], ad Armin Ronacher con il sorgente di Quake III Arena [2] o agli editori del NYT nella causa contro Open AI [3]. > - Intanto, scrivono bene; Al di là degli aspetti legali e delle conseguenze sociali, le macchine di cui stiamo parlando NON "parla ... su una base ... di conoscenza verbale e sostanzialmente acquisita" ma un grosso archivio lossy che riproduce stralci di testi che non abbiamo letto, senza citarli. Sono eseguibili compilati a partire dai testi sorgente di cui contengono vasti stralci codificati in matrici numeriche. E il loro output è un collage statisticamente plausibile di tali stralci. Entrambi, matrici e output, derivano meccanicamente da tali sorgenti. Che si voglia o meno riconoscerli come opere derivate. > - Poi, se dicono cazzate, sono cazzate veniali; Non "dicono cazzate" come non hanno allucinazioni. Il loro output non ha alcun significato, per cui non è né giusto né sbagliato: l'errore, "cazzata" o "allucinazione, che dir si voglia, è di chi cerca di interpretarlo, attribuendogli un significato. Che poi questi software siano progettati proprio per ingannare la mente umana è un altro discorso: sebbene il loro output non abbia un significato intrinseco, chi lo rende disponibile a terzi deve essere responsabile dell'interpretazione che questi terzi gli daranno, come se avesse scritto di proprio pugno quella sequenza di simboli. Ad esempio, Open AI pubblica l'output del proprio LLM su un sito web e ne deve rispondere come se lo scrivesse Altman in persona. Ma stiamo divagando. Definire "cazzate" i punti in cui la tua interpretazione dell'output si discosta dalla tua conoscenza della realtà, è una cazzata. Stai leggendo una sequenza di frammenti di chissà quali testi: anche se i testi originali non avessero contenuto errori, ciò che stai leggendo li contiene anche solo a causa degli artefatti di compressione. > Infine, riescono a fare cose PER ME (e qui, solo qui, gioca la parola > "profano", perché profano sono, ma le cose ritengo di capirle > benissimo, ...come il matto che era matto, ma non era scemo) > **inaspettate**. Appunto, non te le aspetti perché non comprendi come funzionano. Se lo comprendessi, non ti sorprenderebbero affatto. E non gli attribuiresti intelligenza, apprendimento o altre facoltà. E' un archivio lossy eseguibile. Una tecnologia di compressione certamente interessante, un hack sociale brillante quanto aberrante, ed una stratosferica bolla speculativa pronta ad esplodere. Ma niente di più. Giacomo [1] <https://bengarcia.dev/making-o1-o3-and-sonnet-3-7-hallucinate-for-everyone> [2] https://peertube.opencloud.lu/w/eW497u3UYXmQwcQu9LYEDR [3] in allegato, fianco a fianco, un output di GPT-4 e l'articolo sorgente del NYT, comparazione portata come prova al processo https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html (best viewed without JavaScript ;-)
