Infatti noi del Laboratorio Popolare di Intelligenza Artificiale, corso per anziani tenuto per lo SPI-CGIL Lega 8 alla Casa del Quartiere di San Salvario, chiamiamo gli LLM 'Chiromanti Stocastiche' https://www.labpopia.it/come-si-usa/uso-consapevole#h.9igg9c1ilsvn
Il giorno gio 14 mag 2026 alle ore 00:46 Fabio Alemagna via nexa < [email protected]> ha scritto: > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender > sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero > aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di > Bender che è davvero importante: lo studio e la critica dei rapporti di > potere dentro l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic > Parrots", di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo > una metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non > dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo > malgrado, però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued > to meet the definition of understanding in Bender & Koller 2020 — albeit in > an extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima > arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava > che non si potesse parlare di "understanding" da parte dei modelli secondo > la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno > spiraglio è diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni > di riposizionamento da parte di molte persone che hanno usato – > impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei > pappagalli stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori > non verrano mai riconosciuti come tali, ma questo è comunque un punto di > non ritorno sia per i critici a priori di queste tecnologie sia per chi ha > usato i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori > fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del > lavoro di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? > 🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-questions-49c2e7d22d11 > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. > Bender https://www.youtube.com/watch?v=f4OZ7B2iP_E >
