Send nexa mailing list submissions to
[email protected]
To subscribe or unsubscribe via email, send a message with subject or
body 'help' to
[email protected]
You can reach the person managing the list at
[email protected]
When replying, please edit your Subject line so it is more specific
than "Re: Contents of nexa digest..."
Today's Topics:
1. Re: Forma mentis (Giacomo Tesio)
2. Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily
Bender in merito.
(Fabio Alemagna)
3. Re: Pappagalli stocastici: Alberto Puliafito sulle precisazioni di Emily
Bender in merito.
(Franco Marra)
----------------------------------------------------------------------
Message: 1
Date: Wed, 13 May 2026 23:50:36 +0200
From: Giacomo Tesio<[email protected]>
Subject: [nexa] Re: Forma mentis
To:[email protected]
Message-ID:<[email protected]>
Content-Type: text/plain; charset=UTF-8
D'accordo Giuseppe, assumiamo per un momento che tu abbia ragione.
On Wed, 13 May 2026 09:11:00 +0000 Giuseppe Attardi wrote:
sono archivi compressi con perdita di sequenze testuali di cui è
possibile decomprimere approssimazioni di alcune zone fornendo in
input una sequenza testuale prossima a quelle presenti nei testi
sorgente.
E' una spiegazione semplice, comprensibile ed esaustiva.
Più che semplice, semplicistica.
Possiamo definire una teoria scientifica come "semplicistica" se non
riesce a spiegare tutte le osservazioni sperimentali pertinenti.
Ti chiedo dunque (per l'ennesima volta) di condividere osservazioni
sperimentali (ovvero riproducibili) relative ad un LLM che non possano
essere spiegate semplicemente come sopra.
Te lo avevo già chiesto qualche giorno fa (richiesta ribadita, se non
erro, anche da Enrico):
On Fri, 8 May 2026 11:45:07 +0200 Giacomo Tesio wrote:
On Thu, 7 May 2026 14:04:24 +0000 Giuseppe Attardi wrote:
Ci sono numerosi casi di risultati che non sono ottenibili
“riorganizzando informazioni già presenti nei dati”.
Puoi condividere un paio delle numerose ricerche scientifiche
sperimentali (ovvero, secondo il metodo scientifico, riproducibili)
che mostrano output non ottenibili "riorganizzando informazioni già
presenti nei dati"?
Per dati, intendo il sorgente del software (sia il codice imperativo
che i dati compilati e compressi durante l'eventuale programmazione
statistica), lo stato iniziale e tutto l'input fornito (inclusi
eventuali input casuali o pseudocasuali).
Ti sfido dunque a dimostrare che la mia spiegazione è semplicistica.
Se non è possibile portare evidenze sperimentali, ne dovremo dedurre
che l'ipotesi della "intelligenza artificiale" è scientificamente
superflua per spiegare il comportamento di questi software
programmati statisticamente e come tale, va scartata per il
principio di parsimonia.
Per altro, come faceva notare Daniela in un altro thread, il problema
stesso di spiegare le "scelte" delle "GenAI" sparisce nel momento in
cui riconosci il loro output come semplice decompressione
approssimativa di un archivio compresso con perdita, invece di
interpretarle, appunto, come testo prodotto da un'intelligenza.
Spariscono anche completamente le "allucinazioni" degli LLM, perché
cercare corrispondenza logica o fattuale fra la realtà e la
decompressione approssimativa di un archivio compresso con perdita,
sarebbe ridicolo.
Al contempo, quelle degli "esperti" da Altman a Cristianini, diventano
invece palesi e, auspicabilmente, curabili. ;-)
Giacomo
------------------------------
Message: 2
Date: Thu, 14 May 2026 02:43:40 +0400
From: Fabio Alemagna<[email protected]>
Subject: [nexa] Pappagalli stocastici: Alberto Puliafito sulle
precisazioni di Emily Bender in merito.
To: Nexa<[email protected]>
Message-ID:
<cacgmxuoe31cudjjse_q28oonvfjfkg-6ssfhpec-f3zyyt3...@mail.gmail.com>
Content-Type: multipart/alternative;
boundary="000000000000d91dd10651bab6f0"
Riporto qui un post di Alberto Puliafito, pubblicato su Facebook::
https://www.facebook.com/share/p/18kiudNQqK/
_______________
🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui
pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci
a depurare il dibattito e a concentrarci sulla parte del lavoro di Bender
che è davvero importante: lo studio e la critica dei rapporti di potere
dentro l'industria delle intelligenze artificiali.
Ma andiamo con ordine.
La prima cosa interessante è il fatto stesso che ci sia stato il bisogno,
cinque anni dopo la pubblicazione di "On the Dangers of Stochastic
Parrots", di fare delle precisazioni.
La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo
una metafora e non un'ipotesi empirica.
La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe
essere usato come "insulto" nei confronti della tecnologia. Suo malgrado,
però, è quel che è stato fatto.
La quarta e più importante, per me, è questo passaggio qui sulla
comprensione: "It is true that image/text models, for example, that can be
used to map from linguistic strings to images or vice versa, can be argued
to meet the definition of understanding in Bender & Koller 2020 — albeit in
an extremely thin way".
Si può provare a sostenere che questa non sia una retromarcia. Ma è una
retromarcia bella grossa, per quanto manovrata con delicatezza e ottima
arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava
che non si potesse parlare di "understanding" da parte dei modelli secondo
la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno
spiraglio è diverso da "non c'è understanding". Molto diverso.
Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di
riposizionamento da parte di molte persone che hanno usato –
impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei
pappagalli stocastici per sminuire i large language model.
Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori
non verrano mai riconosciuti come tali, ma questo è comunque un punto di
non ritorno sia per i critici a priori di queste tecnologie sia per chi ha
usato i pappagalli per costruirsi un posizionamento personale.
La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto
affascinante, era già riduttiva quando è stata proposta. In questi cinque
anni lo è diventata sempre di più ma nel frattempo è diventata addirittura
identitaria, ingombrando il dibattito e portandolo completamente fuori
fuoco.
Adesso che quella metafora perde i pezzi, resta, appunto, la parte del
lavoro di Bender che era la più utile fin dall’inizio: la critica al potere.
Link:
1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of
Data (Emily M. Bender, Alexander Koller, 2020)
https://aclanthology.org/2020.acl-main.463/
2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜
(Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret
Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 )
3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender,
https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-questions-49c2e7d22d11
)
4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender
https://www.youtube.com/watch?v=f4OZ7B2iP_E
-------------- next part --------------
A message part incompatible with plain text digests has been removed ...
Name: not available
Type: text/html
Size: 4752 bytes
Desc: not available
------------------------------
Message: 3
Date: Thu, 14 May 2026 07:12:17 +0200
From: Franco Marra<[email protected]>
Subject: [nexa] Re: Pappagalli stocastici: Alberto Puliafito sulle
precisazioni di Emily Bender in merito.
To: Fabio Alemagna<[email protected]>
Cc: Nexa<[email protected]>
Message-ID:
<cacl6jtgdwpdmjnocpjsex4q3ojhv5mxmiiy+n-vxh2+-xg+...@mail.gmail.com>
Content-Type: multipart/alternative;
boundary="000000000000588a6a0651c0258f"
Infatti noi del Laboratorio Popolare di Intelligenza Artificiale, corso per
anziani tenuto per lo SPI-CGIL Lega 8 alla Casa del Quartiere di San
Salvario, chiamiamo gli LLM 'Chiromanti Stocastiche'
https://www.labpopia.it/come-si-usa/uso-consapevole#h.9igg9c1ilsvn
Il giorno gio 14 mag 2026 alle ore 00:46 Fabio Alemagna via nexa <
[email protected]> ha scritto:
Riporto qui un post di Alberto Puliafito, pubblicato su Facebook::
https://www.facebook.com/share/p/18kiudNQqK/
_______________
🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender
sui pappagalli stocastici. Queste precisazioni, finalmente, potrebbero
aiutarci a depurare il dibattito e a concentrarci sulla parte del lavoro di
Bender che è davvero importante: lo studio e la critica dei rapporti di
potere dentro l'industria delle intelligenze artificiali.
Ma andiamo con ordine.
La prima cosa interessante è il fatto stesso che ci sia stato il bisogno,
cinque anni dopo la pubblicazione di "On the Dangers of Stochastic
Parrots", di fare delle precisazioni.
La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo
una metafora e non un'ipotesi empirica.
La terza è il fatto che secondo Bender "pappagalli stocastici" non
dovrebbe essere usato come "insulto" nei confronti della tecnologia. Suo
malgrado, però, è quel che è stato fatto.
La quarta e più importante, per me, è questo passaggio qui sulla
comprensione: "It is true that image/text models, for example, that can be
used to map from linguistic strings to images or vice versa, can be argued
to meet the definition of understanding in Bender & Koller 2020 — albeit in
an extremely thin way".
Si può provare a sostenere che questa non sia una retromarcia. Ma è una
retromarcia bella grossa, per quanto manovrata con delicatezza e ottima
arte retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava
che non si potesse parlare di "understanding" da parte dei modelli secondo
la sua stessa definizione. Adesso, invece, c'è uno spiraglio. E uno
spiraglio è diverso da "non c'è understanding". Molto diverso.
Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni
di riposizionamento da parte di molte persone che hanno usato –
impropriamente, come dice oggi Bender stessa, finalmente – la metafora dei
pappagalli stocastici per sminuire i large language model.
Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori
non verrano mai riconosciuti come tali, ma questo è comunque un punto di
non ritorno sia per i critici a priori di queste tecnologie sia per chi ha
usato i pappagalli per costruirsi un posizionamento personale.
La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto
affascinante, era già riduttiva quando è stata proposta. In questi cinque
anni lo è diventata sempre di più ma nel frattempo è diventata addirittura
identitaria, ingombrando il dibattito e portandolo completamente fuori
fuoco.
Adesso che quella metafora perde i pezzi, resta, appunto, la parte del
lavoro di Bender che era la più utile fin dall’inizio: la critica al potere.
Link:
1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of
Data (Emily M. Bender, Alexander Koller, 2020)
https://aclanthology.org/2020.acl-main.463/
2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
🦜 (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret
Shmitchell, 2021https://dl.acm.org/doi/10.1145/3442188.3445922 )
3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender,
https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-questions-49c2e7d22d11
)
4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M.
Benderhttps://www.youtube.com/watch?v=f4OZ7B2iP_E
-------------- next part --------------
A message part incompatible with plain text digests has been removed ...
Name: not available
Type: text/html
Size: 5611 bytes
Desc: not available
------------------------------
Subject: Digest Footer
_______________________________________________
nexa mailing list [email protected]
To unsubscribe send an email [email protected]
------------------------------
End of nexa Digest, Vol 205, Issue 52
*************************************
