On Fri, 14 Apr 2023 11:34:14 +0200 Giuseppe Attardi wrote: > > On 14 Apr 2023, at 10:20, Giacomo Tesio <giac...@tesio.it> wrote: > > > > Beh, è facile concordare sui finanziamenti alla ricerca. > > Talmente facile che non viene fatto. > > La voce “Intelligenza Artificiale” non era nemmeno presente nei > progetti Horizon fino a 3 anni fa, dove, udite udite, sono stati > stanziati 50 milioni per 5 progetti ICT-48.
Vuoi dire che l'hanno messa? Bah... che posso dire, farà il paio con la blockchain! Il fatto che la voce "Intelligenza Artificiale" non fosse presente lasciava in effetti ben sperare: la ricerca di cui abbiamo bisogno non riguarda l'"Intelligenza Artificiale" (che non esiste, se non come allucinazione collettiva) ma sulla programmazione statistica cui troppi, non comprendendone il funzionamento, attribuiscono una qualche forma di "intelligenza". Ben vengano dunque i finanziamenti alla ricerca di nuove tecniche di programmazione statistica che producano risultati più affidabili! Ma ben vengano anche finanziamenti alla ricerca di nuovi framework interpretativi di queste tecnologie, un po' meno allucinati e allucinogeni! :-D Al termine dell'ultimo Mercoledì di Nexa [1], in cui Enrico Nardelli ha presentato le tesi del suo libro "La rivoluzione informatica", Juan Carlos ha detto una cosa importantissima: "sicuramente non esiste indipendenza, non esiste sovranità, senza la possibilità di controllare, produrre e sviluppare tutte le tecnologie fondamentali che servono per una società moderna" Condivido pienamente il concetto. Vedo però un'enorme vulnerabilità nella formulazione: chi decide cosa significa "società moderna"? chi decide quali siano le tecnologie fondamentali che servono per realizzarla? In Europa arranchiamo solo perché inseguiamo, invece di guidare. I software della Silicon Valley sono progettati per realizzare una specifica idea di società. Dobbiamo davvero competere con loro, solo se vogliamo imporre all'Europa esattamente quella idea di società (e vogliamo farlo meglio di loro). Ma se decidessimo invece di provare a creare una società democratica, libera ed equa, di quali strumenti avremmo bisogno? > PS. A proposito di XAI, gli approcci proposti per fornire spiegazioni > a posteriori dei risultati degli attuali sistemi di ML, semplicemente > non funzionano, perché non scalano alle dimensiini di modelli > costituiti da miliardi di parametri. Del resto, se esistesse una > spiegazione semplice e comprensibile per un problema complesso e > difficile, il problema non sarebbe complesso e difficile. Ecco un'evidenza concreta dei gravi danni che la narrazione della "Intelligenza Artificiale" causa alla ricerca scientifica. Anzitutto, io non ho parlato di XAI, ma di dimostrare in modo semplice (ancorché estremamente costoso) di non aver selezionato scientemente il dataset in modo da causare specifiche discriminazione. Non ho mai detto che ciò garantisca l'assenza di discriminazioni. Salvare tutti quei dati serve solo a poter dimostrare l'assenza di dolo, ma non rimuove la responsabilità per i danni causati dal software. > D’altra parte, con le tecniche di prompting cone il Chain of Thought, > si può chiedere agli stessi modelli come ChatGPT di fornire un filo > logico dei passaggi che hanno portato alla risposta. Stai confondendo (come tanti, purtroppo) giustificazione e spiegazione. ChatGPT può sicuramente produrre una stringa di testo che la tua mente interpreti come una valida GIUSTIFICAZIONE di un proprio output. Ma tale stringa di testo non costituisce una SPIEGAZIONE di come tale output sia stato calcolato. Il calcolo effettuato potrebbe essere del tutto diverso: nessun informatico (o scienziato) con un minimo di serietà potrebbe accontentarsi di una tale giustificazione NON VERIFICABILE. Quando si parla di spiegare l'output delle "AI" bisogna aver ben chiaro l'obiettivo: non ci interessa trovare un'argomentazione più o meno soddisfacente a sostegno dell'output (ciò che tira fuori ChatGPT se gli si chiede il "Chain of Thought"), ma sapere ESATTAMENTE cosa è stato preso in considerazione durante l'elaborazione E COSA NO, nonché capire ESATTAMENTE come. Giacomo [1]: https://inv.bp.projectsegfau.lt/watch?v=E7SMZ4WbG1c _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
