Caro Guido
a me pare che la maggior parte di chi è intervenuto in questo dibattito ha un'idea abbastanza
precisa di cosa sono in grado di esibire sistemi tipo ChatGPT & Co. : competenze che
appaiono sovrapponibili in alcuni casi (p.es.: superamento di test) a quelle degli esseri
umani, e al tempo stesso tendenza a inventare, "allucinare".
E ritengo che sia anche abbastanza chiaro a tutti che questo viene raggiunto
attraverso meccanismi probabilistici messi a punto mediante analisi statistiche
estremamente sofisticate condotte su quantità enormi di dati (e su quantità
ignote di lavoro umano sotto pagato)
Quello che varia, ma è "il dettaglio che fa la differenza", sono, almeno, i
seguenti tre elementi:
1. se le competenze siano o no segno di comprensione (nel senso che noi umani diamo a
questa parola) del dominio in cui tale competenza viene esibita (punto che avevo
sollevato tempo addietro richiamando l'esperimento mentale della "stanza
cinese" di Searle)
2. se le allucinazioni (che sono un costo, un aspetto negativo) siano tutto
sommato trascurabili, in termini di impatto sociale, rispetto ai benefici
3. se sia corretto consentire l'accesso al pubblico di tali sistemi, che al
momento attuale appaiono contravvenire (non solo in Italia) a norme di legge,
mentre vengono messi a punto alcuni correttivi
Per me le risposte sono tre NO.
Mentre i punti 2. e 3. sono sostanzialmente di natura sociale, quindi politica (che
visione della società abbiamo? quanta tutela e quanta competizione?) il punto 1. è di
natura più tecnica e penso sia quello più "appassionante" per informatici e
filosofi in lista... d'altro canto ne stiamo discutendo da una cinquantina d'anni -
decennio più o decenniomeno... :-)
Sul fatto che sia opportuno continuare a fare ricerca in quest'ambito mi pare
ci sia un sostanziale convergenza. Così come sul fatto che sia necessario avere
maggiore trasparenza sui meccanismi dello sviluppo e addestramento di questi
sistemi.
Ciao, Enrico
Il 17/04/2023 09:20, Guido Vetere ha scritto:
Caro Enrico,
non si tratta di 'ipse-dixit', figuriamoci. Ma mi sembra che su questi LLM ci
sia qualche problema di 'literacy', visto che alcuni insistono nel pensarli
come database un po' strani.
Si potrebbe allora chiedere a una persona competente di spiegarli per bene, e
secondo me Beppe è il più titolato tra noi.
Nel merito dello scambio che riporti, forse si tratta solo di 'nuances', ma fa bene Beppe
a sgombrare il campo dall'immagine del 'pappagallo' che ricombina frammenti di frasi
udite. No: GPT inventa di sana pianta. Dove può aver sentito ad esempio che io avrei
scritto il romanzo "Il collezionista di venti" (2017), che non si trova neanche
su Amazon?
G.
On Mon, 17 Apr 2023 at 01:11, 380° <g...@biscuolo.net> wrote:
Buongiorno,
Enrico Nardelli <narde...@mat.uniroma2.it> writes:
> premesso che ammiro e rispetto Beppe Attardi che è certamente
> estremamente competente in termini di IA, se con "dare ascolto"
> intendi "credere", beh
[...]
> Insomma, se il dibattito deve essere di livello scientifico elevato,
mi permetto di far notare che il dibattito in (nel/di) merito a quanto
/in oggetto/ (i rilievi del Garante...) più che scientifico (diciamo
_tecnico_, eh?!?) è di carattere giuridico [1], anche se in questo
thread si è entrati /anche/ nel merito tecnico
> più che appellarci alla "auctoritas" dobbiamo essere rigorosi, attenti
> e consistenti nella lettura degli altri e nell'esposizione delle
> nostre riflessioni.
e come diceva Marco Calamari in altro thread: «Il tempo è la risorsa più
limitata al mondo.», quindi ci costa fatica, ma è indispensabile almeno
/tentare/ di farlo se si vuole davvero confrontarsi
...anche perché, altrimenti, io dovrei davvero limitarmi solo a leggere
e starmene zitto, ma siccome credo che confrontarsi su queste cose sia
il modo migliore di esercitare la propria "cittadinanza digitale", mi
ostino :-)
[...]
saluti, 380°
[1] voi non avete idea di quanto mi senta **stupido** a illudermi che
possa essere davvero così, visto che siamo nell'era in cui la scienza
stabilisce cos'è giusto o cos'è sbagliato in /tutto/
--
380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo,
non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply about injustice
but very few check the facts. Ask me about <https://stallmansupport.org>.
_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
--
-- EN
https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html
======================================================
Prof. Enrico Nardelli
Presidente di "Informatics Europe"
Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI
Dipartimento di Matematica - Università di Roma "Tor Vergata"
Via della Ricerca Scientifica snc - 00133 Roma
home page: https://www.mat.uniroma2.it/~nardelli
blog: https://link-and-think.blogspot.it/
tel: +39 06 7259.4204 fax: +39 06 7259.4699
mobile: +39 335 590.2331 e-mail: narde...@mat.uniroma2.it
online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont
======================================================
--_______________________________________________
nexa mailing list
nexa@server-nexa.polito.it
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
