Buongiorno.
Non mi pare difficile trovare un'iniziativa pubblica meno indecente della mossa insultante di quella lettera aperta: il modo in cui parlano di fantomatici rischi futuri, come se non si fossero accorti di quanto siano reali e dolorosi i danni generati dal loro sfruttamento di persone, dati e risorse naturali e dal rilascio di strumenti deliberatamente ingannevoli, che inquinano pesantemente l'ecosistema dell'informazione e illudono e manipolano per loro conto gli utenti inesperti, mi ricorda - non a caso, visti i firmatari - il dialogo tra Huckleberry Finn e la zia Sally: Huckleberry Finn, quando gli chiesero se lo scoppio della caldaia di un battello a vapore avesse colpito qualcuno, rispose: «Nessuno: è rimasto ucciso un negro». Il commento della zia Sally: «Bene, è una fortuna, perché a volte capita che qualcuno si faccia male», riassume l’intera moralità che spesso ha prevalso fra gli uomini. Tra le iniziative non proposte da ideologhi TESCREAL<https://nitter.snopyta.org/xriskology/status/1635313838508883968> (transhumanism, extropianism, singularitarianism, cosmism, Rationalism, Effective Altruism e longtermism), segnalo una lettera aperta odierna: <https://www.law.kuleuven.be/ai-summer-school/open-brief/open-letter-manipulative-ai> Un saluto, Daniela ________________________________ Da: nexa <nexa-boun...@server-nexa.polito.it> per conto di Andrea Bolioli <andrea.boli...@gmail.com> Inviato: giovedì 30 marzo 2023 21:14 A: J.C. DE MARTIN Cc: nexa@server-nexa.polito.it Oggetto: Re: [nexa] Pause Giant AI Experiments: An Open Letter Grazie per la segnalazione. Sto pensando di firmare la lettera, su molte cose sono d'accordo. Gli usi impropri di LLM e altri sistemi generativi sono già in corso, altri rischi si intravedono. Non si possono prevedere tutti i rischi perché alcune proprietà di questi sistemi "emergono", non le sappiamo tutte prima. Della lettera non mi piace che sia stato citato "GPT-4" come metro di paragone ( "the training of AI systems more powerful than GPT-4."), si potevano forse citare più sistemi o provare a fornire una descrizione tecnica, che però non è banale. Firmare una lettera non sarà sicuramente sufficiente. Qualche iniziativa mi sembra necessaria. La situazione in cui ci troviamo mi sembra di questo tipo: sono state inventate le automobili, tutti le possiamo guidare senza patente, non sappiamo perché funzionano, alcune aziende costruiscono e vendono automobili sempre più potenti. Non mi sembra una situazione sicurissima. Capisco il problema dell'hype. Questi sistemi però esistono veramente, non sono solo raccontati nella comunicazione delle aziende che li vendono. Ci sono altre iniziative pubbliche utili? Buona serata, Andrea Il giorno gio 30 mar 2023 alle ore 07:16 J.C. DE MARTIN <juancarlos.demar...@polito.it<mailto:juancarlos.demar...@polito.it>> ha scritto: A misleading open letter about sci-fi AI dangers ignores the real risks Misinformation, labor impact, and safety are all risks. But not in the way the letter implies. Arvind Narayanan and Sayash Kapoor https://aisnakeoil.substack.com/p/a-misleading-open-letter-about-sci<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303301915090808348&URLID=4&ESV=10.0.19.7431&IV=5414F8AC8D9CD1A1360D54A45E33AA2C&TT=1680203944494&ESN=nFd70%2Fi%2BQsrrUQL9jYPTfdyT8iMgPDEwKvd1UkBW1pI%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9haXNuYWtlb2lsLnN1YnN0YWNrLmNvbS9wL2EtbWlzbGVhZGluZy1vcGVuLWxldHRlci1hYm91dC1zY2k&HK=3DC9658876EE2A81FC65715173065874E64FADC3894270691E802851311CE4DE> On 29/03/23 08:47, J.C. DE MARTIN wrote: Primi firmatari: Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak. jc Pause Giant AI Experiments: An Open Letter We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. https://futureoflife.org/open-letter/pause-giant-ai-experiments/<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202303301915090808348&URLID=2&ESV=10.0.19.7431&IV=634F59A1CB0F0E56F6C0584642D91942&TT=1680203944493&ESN=WG8U%2BjOuuuM6f%2Fx76IKONUSiZ8RZucj3PdZnM4UFq%2FY%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9mdXR1cmVvZmxpZmUub3JnL29wZW4tbGV0dGVyL3BhdXNlLWdpYW50LWFpLWV4cGVyaW1lbnRzLw&HK=4E1A0E081C96E8E246279BA7CDE4137D65F205798A63243242B65F763E2D19B1>
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
