Buongiorno, più leggo, più divento cyber-luddista [1] :-D
Giuseppe Attardi <atta...@di.unipi.it> writes: > Bell’esempio che illustra perché l’Explainable AI non funziona, almeno > non come vorrebbero i suoi sostenitori. e invece FUNZIONICCHIA discretamente bene l'Unexplainable AI, tranne quando non funziona, a volte drammaticamente male. Quindi, quando l'output dell'Unexplainable AI viene "eseguito" direttamente, senza /giudizio/, le conseguenze a volte sono drammatiche. > La spiegazione che viene fornita è una ricostruzione razionale della > risposta, che è simile a quanto fanno gli esperti umani quando devono > spiegare le loro risposte. Che è l'unico modo per dimostrare _perché_ viene fornita quella risposta, che a sua volta è l'unico modo per correggere progressivamente gli errori nelle "ricostruzioni razionali" impiegate; si chiama scienza, no? (E sì, anche la grammatica evolve, lentamente ma inesorabilmente.) Da qualche secolo ormai più che "cosa" è importante "perché", si chiama "discorso sul metodo". [...] > Poi, se pressato a spiegare il perché, cercherebbe nelle sue > reminiscenze di grammatica della scuola media per una giustificazione. No: qui stiamo parlando di un esperto umano in grammatica, non di qualsiasi altro esperto che ha solo reminescenze della grammatica delle scuole medie. > Anche se chiedi a un medico di giustificare la sua diagnosi, Ah, OK: quindi adesso non parliamo più di grammatica, cioè di "sintassi" e _al massimo_ analisi logica di una frase. > ci mette molte più parole e tempo di quanto ci ha messo per produrla, > perché non è in quel modo che l’ha ottenuta. Se un medico ha intenzione di agire sulla salute delle persone senza dover produrre una giustificazione razionale delle proprie diagnosi e soprattutto di giustificare anche le proprie prognosi, allora abbiamo un serio problema /sistemico/. In particolare, qualsiasi medico venisse a dirmi che la diagnosi è quella perché glielo dice il suo sistema AI ma che tale diagnosi è /ingiustificabile/ perché è così e non si può spiagere, lo inviterei senza troppi complimenti quel medico a stare a guardare l'ospedale, da fuori. La stessa cosa vale per qualsiasi altra questione sia necessario /giustificare/ (iustus facĕre) nei confronti delle persone. Io e una quantità innumerevole di esseri umani ora et in sæcula sæculorum non accetteremo MAI di essere "gestiti" attraverso automatismi ingiustificabili. Punto. > Il Deep Learning opera a livello di System 1, secondo la terminologia > di Daniel Kahneman, ossia di conoscenza “compilata" per una fruizione > diretta. Innanzi tutto NON è "conoscenza" ma "reificazione", catturata (sampled), filtata e compressa attraverso procedimenti assai spannometrici e molto "lossy". In secondo luogo, è da "Reflections on Trusting Trust" che tutti gli informatici sanno che «You can't trust code that you did not totally create yourself.» Questo vale per _tutti_ i software binari (compilati): è per questo che serve il sorgente, e il sorgente del compilatore, e il sorgente di tutte le librerie, e un environment non inquinato... Last but NON least: "fruizione diretta" un corno, sono le persone le responsabili dell'applicazione dell'output dei c.d. sistemi IA In altre parole: che gli umani stacchino il cervello per attaccare i propri organi a una "IA" è /ingiustificabile/. «La resistenza NON è futile» :-) [...] Saluti, 380° [1] la vulgata vuole che i luddisti siano contro le macchine in generale, propugnatori una specie di ritorno alla natura selvaggia a incontaminata: balle! «They protested against manufacturers who used machines in "a fraudulent and deceitful manner" to replace the skilled labour of workers and drive down wages by producing inferior goods» https://en.wikipedia.org/wiki/Luddite -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
