> On 16 Apr 2023, at 23:50, Giacomo Tesio <giac...@tesio.it> wrote: > > Buona sera Giuseppe, > > On Sun, 16 Apr 2023 11:24:28 +0200 Giuseppe Attardi wrote: > >> Questa risposta è talmente grossolana e offensiva che speravo qualcun >> altro rispondesse. > > Mi dispiace sinceramente di aver offeso la tua sensibilità. > > Me ne scuso e provo a chiarire meglio cosa intendessi. > > >> L’Artificial Intelligence esiste ed è una delle principali discipline >> della Computer Science. Ci sono riviste, congressi e istituti >> dedicati alla ricerca in AI in tutto il mondo. > > L'Intelligenza Artificiale non è una tecnologia. > > E' una disciplina come lo sono state per secoli l'astrologia o > l'alchimia. Discipline con studiosi del calibro di Isaac Newton. > > Scriveva Dijkstra nel 1984: > > ``` > Two major streams can be distinguished, the quest for the Stone and the > quest for the Elixir. > > The quest for the Stone is based on the assumption that our > "programming tools" are too weak. One example is the belief that > current programming languages lack the "features" we need. [...] > > In parallel we have the search for the Elixir. Here the programming > problem is simply solved by doing away with the programmer. Wouldn't it > be nice, for instance, to have programs in almost plain English, so > that ordinary people could write and read them? [...] > > Since then we have had elixirs in a countless variety of tastes and > colours. I have fond memories of a project of the early 70's that > postulated that we did not need programs at all! All we needed was > "intelligence amplification". If they have been able to design > something that could "amplify" at all, they have probably > discovered it would amplify stupidity as well; > in any case I have not heard from it since. > > The major attraction of the modern elixirs is that they relieve their > consumers from the obligation of being precise by presenting an > interface too fuzzy to be precise in: by suppressing the symptoms > of impotence they create an illusion of power. > ``` > https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202304162150380828063&URLID=1&ESV=10.0.19.7431&IV=D764D791991AC7632F0EE0D8C7C4F11D&TT=1681681839636&ESN=WujAYQhIdE53BKssSLnWxrg2zcnbDSJeEHpT9Auv7F4%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly93d3cuY3MudXRleGFzLmVkdS91c2Vycy9FV0QvdHJhbnNjcmlwdGlvbnMvRVdEMDh4eC9FV0Q4OTguaHRtbA&HK=2F39E65E69F5E575030026A5D3892D2869E8405ABC966572DB02939910388071 > > Nemmeno Dijkstra poteva immaginare che qualcuno prendesse talmente > sul serio la ricerca di un elisir di lunga vita da immaginare di > sterminare l'umanità per sostituirla con simulazioni eseguite dentro > enormi calcolatori (transumanisti, longtermisti etc...)
Edsger J. Dijkstra era un personaggio alquanto bizzarro. Ho avuto uno scontro pubblico con lui proprio su un tema simile, in una conferenza in cui presentavo delle tecniche di programmazione dichiarative, che sfruttavano tecniche di trasformazione di programmi per generare codice efficiente a partire da una descrizione dichiarativa del risultato voluto. Dijkstra fece obiezioni all’approccio, arrivando fino al punto, per sostenere la sua tesi che i programmi non esistessero, perché sono solo funzioni astratte, e che non esiste lo stato. Le sue affermazioni fecero inorridire i presenti, tra cui Vaughan Pratt, che gli rispose per le rime, Tony Hoare e John Backus, inventore del primo compilatore. C’è da qualche parte la trascrizione del dibattito, che tralascio per carità di patria. > > Ma ChatGPT (e GitHub CopyALot, prima) non è proprio l'ennesima > incarnazione della ricerca dell'elisir di cui parlava EWD? > > > Vero: diverse innovazioni INFORMATICHE sono state realizzate grazie > agli enormi FINANZIAMENTI ottenuti dalla Intelligenza Artificiale. Non mi pare proprio che l’AI sia stata molto finanziata: c’è solo stato un breve periodo negli anni ’80 quando molte aziende erano lanciate negli Expert System, ma durò molto poco. Alle conferenze di AI ci trovavamo in poche centinaia di persone. C’erano solo due laboratori di AI negli usa: SAIL e MIT. BTW, al SAIL fu inventata la tecnica della generazione sonora con Frequency Modulation, che si ritrovava in tutti i chip di sintesi di suoni. > > L'AI vende bene, non c'è dubbio. > E sui curricula fa un figurone! Non so in che mondo hai vissuto. Io ho vissuto l’ostracismo in cui occorreva evitare di solo citare il termine, al punto che qualcuno si inventava termini diversi come Sistemi Intelligenti, Knowledge Representation, ecc. Solo 5 anni fa, per convincere i miei colleghi di dipartimento ad aprire un curriculum di AI, dovemmo fare una dura battaglia contro la maggioranza dei miei colleghi che non ne voleva sapere, insistendo per aprire altri curricula, che oggi sono stati chiusi per mancanza di iscritti. > > Ma rimane una speranza, un'ambizione, un sogno... non una tecnologia. > > E nel momento in cui qualcuno la vende come tale, diventa > un'allucinazione o una truffa. > > >> Occupandosi di uno dei problemi più complessi dell’informatica, ossia >> la riproduzione delle capacità della mente umana > > Ma questo non è affatto un problema dell'informatica, Giuseppe! > > > La supply chain è un problema dell'informatica. > > La complessità accidentale e strumentale dei software moderni è un > problema dell'informatica. > > La normalizzazione dell'insicurezza sistemica che tale complessità > determina è un problema dell'informatica. > > La crittografia pienamente omomorfica è un problema dell'informatica. > > > Ma riprodurre le capacità della mente umana NON è un problema che > l'umanità abbia alcuna urgenza di risolvere. > > La mente umana è talmente efficiente... per sole trecento chilocalorie > al giorno può fare molto più di quanto GPT-4 non farà mai! > Questo significa che c’è ancora molta strada da fare, non che non ci si riuscirà mai. Gran parte delle cose che si riesce a fare oggi con l’AI fino a pochi anni fa si diceva che non si sarebbero mai potute fare. > > Dunque l'AI NON cerca di risolvere un problema informatico. Non uno, ma decine di problemi. > > > E' invece uno strumento di propaganda. > Per questo riceve tanti finanziamenti! > > Diffonde un messaggio politico: l'uomo può essere sostituito da cose. > Pure l’informatica sostituisce persone con algoritmi. L’AI fa parte dell’Informatica e ne condivide pregi e difetti. > > L'Intelligenza Artificiale serve letteralmente a legittimare > il dominio dell'uomo sull'uomo. E serve ad applicarlo tramite macchine. > Adesso l’AI è il male assoluto dell’umanità, non sono il neoliberismo, le guerre di dominio, la concentrazioni di potere e di reddito, ecc. > > Tutta l'urgenza di sottrarre Open AI alle proprie responsabilità legali > rispetto all'output di ChatGPT mostra bene questa esigenza. > > Il messaggio è chiaro: si DEVE secrificare i diritti umani all'AI. Stai delirando. > > >> Marvin Minsky diceva: “When it works, it is no longer AI”, per >> esprimere il rammarico che le più significative innovazioni dell’AI >> venissero spesso attribuite ad altri. > > Minsky lo viveva con rammarico perché credeva sinceramente nella favola > dell'Intelligenza Artificiale, non vedendone gli scopi politici. > > Io invece la vedo come progresso: quando finalmente uno strumento > funziona, non ha più bisogno della fuffa AI per essere finanziato. > > >>> la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza >>> Artificiale" (che non esiste, se non come allucinazione collettiva) >>> ma sulla programmazione statistica >> >> L’AI copre aree più vaste della “programmazione statistica”. > > Vero. > Vende così bene, che ci mettono dentro un po' di tutto. > > Ma quella di cui stiamo parlando (GPT-4) è programmazione statistica. > > >> Il confronto con la blockchain è offensivo: quella è una tecnologia >> in cerca di applicazioni, basata su un singolo articolo. > > Ok, hai ragione: paragonare qualsiasi cosa alla blockchain è offensivo e > me ne scuso sinceramente. > > >> Non può essere comparata con una disciplina scientifica con 50 anni di >> ricerca alle spalle e migliaia di ricercatori coinvolti. > > Intendevo semplicemente dire che la Commissione Europea non ha un > minimo di comprensione delle tecnologie che finanzia, producendo > sprechi ed disastri strategici enormi. Se era questo che intendevi, lo hai detto malissimo, prendendo come capro espiatorio proprio la disciplina che NON è stata finanziata. > > I vari finanziamenti alla blockchain rientrano negli sprechi. > > Quelli alla "intelligenza artificiale" rientrano nei disastri > strategici: dovrebbe finanziare l'informatica, lo sviluppo di software > progettati per facilitare la comunicazione, la didattica etc... > finanziare la ricerca di sistemi operativi sicuri, di protocolli > peer to peer e robe simili... > > In altri termini, l'UE dovrebbe investire nella creazione di > un'informatica DEMOCRATICA, alla portata di tutti. > Credo di essermi dedicato esattamente a questo per i miei 50 anni di carriera, combattendo i monopoli, quali forse tu non hai nemmeno visto (un tempo IBM era sinonimo di computer), contribuendo allo sviluppo dei Personal Computer, portando Unix in Italia, costruendo reti pubbliche combattendo i monopoli delle telecomunicazioni, sviluppando sempre software e risorse aperte e pubbliche, ecc. > > Gli LLM (giusto per fare un esempio on-topic) sono l'antitesi di tale > informatica. E l'UE non dovrebbe sprecare soldi pubblici per essi. I LLM sono un passo evolutivo nello sviluppo di una tecnologia che sarà General Purpose a vantaggio di tutti. Peccato che tu non lo capisca. > >>> In Europa arranchiamo solo perché inseguiamo, invece di guidare. >>> >> Non inseguiamo nemmeno: come potremmo guidare una tecnologia di cui >> abbiamo scarso controllo? > > Non so a quale tecnologia tu faccia riferimento, ma il punto è proprio > che non dovremmo inseguire. > > > Dovremmo adottare un approccio top-down: > > 1. quali obiettivi sociali e politici vogliamo realizzare? > 2. che tecnologia ci serve per realizzarli? > > Solo dopo aver deciso quale società vogliamo per i nostri figli, potremo > iniziare a pensare quale infrastruttura tecnologica gli servirà. > E potremo così anche realizzarla. > > > Invece, inseguire l'elisir della AI significa accettare proni un modello > di società deciso altrove, nell'interesse di altri. Sono molto critico del modello di società economico sociale in cui viviamo. Ma non seguo il tuo sillogismo: non proseguire lo sviluppo dell’AI significherebbe cambiare modello di società? > > > Possiamo fare di meglio. Non certo con atteggiamenti oscurantisti rispetto alla tecnologia. — Beppe > > > Giacomo _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
