Caro Enrico, concordo pienamente con la tua connessione tra "computer professionals" e "social responsibility":
>In effetti, forse la comunità "in-the-large" degli informatici dovrebbe >smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i >propri prodotti come accade >negli altri settori tecnologici una volta c'era anche una fantastica organizzazione "Computer Professionals for Social Responsibility" purtroppo "dissolved" nel 2013 https://en.wikipedia.org/wiki/Computer_Professionals_for_Social_Responsibility da quella straordinaria avventura sono pero' nate molte storie che continuano, per esempio nel ACM Code of Ethics, aggiornato nel 2018, che indica al punto 2.9: "In cases where misuse or harm are predictable or unavoidable, the best option may be to not implement the system." https://www.acm.org/code-of-ethics Come membro dell'ACM Committee on Professional Ethics ricordo le lunghe e interessanti discussioni sulla necessita' anche per gli informatici di "assumersi le responsabilita' dei propri prodotti" (come suggerisci tu) nella tua mail. Sullo stesso tema anche questa e' una lettura interessante: Deborah G.Johnson (2008). Computer Experts: Guns-For-Hire or Professionals? Communications of the ACM, October 2008, Vol. 51 No. 10, Pages 24-26. scusate per la lunghezza ... un caro saluto, Norberto ________________________________ From: nexa <nexa-boun...@server-nexa.polito.it> on behalf of Enrico Nardelli <narde...@mat.uniroma2.it> Sent: Sunday, April 16, 2023 10:52 PM To: nexa@server-nexa.polito.it <nexa@server-nexa.polito.it> Subject: Re: [nexa] China to require ‘security assessment’ for new AI products Sono d'accordo con te Stefano. Ero consapevole dell'eccezione costituita dal software ma non volevo complicare il ragionamento. In effetti, forse la comunità "in-the-large" degli informatici dovrebbe smettere di "indossare i calzoni corti" ed assumersi le responsabilità per i propri prodotti come accade negli altri settori tecnologici, per lo meno in quei casi in cui il prodotto software viene venduto o dato in licenza. (Se ti regalo una macchina rotta non ha senso che ti lamenti che sia rotta se ti ho avvisato che potrebbe essere rotta). Mi è chiaro l'enorme impatto (non solo economico) di un'affermazione di questo genere ma, per stemperare l'osservazione con una battuta, se vogliamo essere chiamati "ingegneri del software" dobbiamo fare gli ingegneri veri, che (normalmente) vanno in galera se il palazzo che hanno costruito crolla perché non hanno verificato adeguatamente i calcoli. Diciamo che in questo ambito l'arrivo di ChatGPT è stato il bambino è che ha gridato "il re è nudo" ... Ciao, Enrico Il 16/04/2023 18:09, Stefano Zacchiroli ha scritto: On Sun, Apr 16, 2023 at 12:13:20PM +0200, Enrico Nardelli wrote: QUALUNQUE altro prodotto immesso nell'uso pubblico DEVE soddisfare requisiti di sicurezza. ... tranne il software. Certamente ci sarà qualche requisito che si applica in automatico anche al software --- e mi appello anche io ai giuristi in lista per precisarlo --- ma la barra di accesso al mercato del software è bassissima. Di default, chiunque può pubblicare prodotti software su svariati app store senza alcun controllo a monte (salvo quelli automatici implementati dagli app store dei vari GAFAM). Il CRA (Cyber Resilience Act) europeo va nella direzione di aggiungere tali controlli, sotto forma di (auto-)certificazioni e questo ha provocato una sollevata di scudi da parte del mondo free/open source software. (Ne abbiamo già parlato separatamente in lista.) Dico questo non per controbattere al tuo argomento, Enrico, che trovo in se ragionevole. Ma per osservare che qui siamo anche perché per decenni l'industria del software (compresa quella FOSS!, fatta anche di volontari/ non-profit/ etc. che non potrebbero permettersi l'overhead dei controlli) è fiorita grazie all'assenza dei controlli che ora si invocano. Trovare un giusto mezzo tra lo status quo ed il desiderio di regolamentare prodotti "che contengono AI" non sarà affatto banale. Saluti a tutti -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.txthVD5p.SGc078mC@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: narde...@mat.uniroma2.it<mailto:narde...@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
