Buongiorno Alberto Alberto Cammozzo via nexa <nexa@server-nexa.polito.it> writes:
[...] > L'oggetto di per se non è responsabile di nulla, ma i vari attori che > costruiscono l'ecosistema del suo impiego lo sono: chi > progetta/programma/vende/impiega, ciascuno per la parte di azione > compiuta attraverso la macchina che gli compete. Sì ma analizziamo bene quale /azione/ ciascun attore compie e la relativa responsabilità che gli compete: che responsabilità ha chi definisce le specifiche? E chi programma il software? E chi lo propone al /mercato/ sotto forma di servizio adatto a uno scopo? Nel caso del LLM programmato statisticamente secondo le specifiche derivate dalle teorie della "Cognitive Behavioral Therapy" usato in Wysa, la responsabilità di esercizio abusivo di professione (giudizio mio) è dei programmatori? É di chi ha sviluppato lo specifico LLM? [...] > L'industria del software ha sempre sfuggito tale responsabilità (vedasi > i vari /standard disclaimers/ e l'argomento del "tech exceptionalism"). > > All'aumentare degli effetti sul mondo, chi progetta e vende queste > tecnologie non può esimersi dal considerarsi in una ragionevole misura > responsabile dei possibili impieghi di ciò che costruisce. Non nego che il software includa anche (soprattutto!) l'"intenzione politica" di chi lo /progetta/, ma vogliamo davvero fare un "processo alle intenzioni"? Se seguissimo fino in fondo questo ragionamento dovremmo seriamente pensare di chiamare /in giudizio/ "la scienza" (pseudoscienza?) che è alla base della progettazione dello specifico software (e non solo del software, ovviamente). «L’arte e la scienza sono libere e libero ne è l’insegnamento», per cui non credo sia il caso di perseguire questa strada assai pericolosa, così come non credo sia il caso di perseguire la strada opposta e altrettanto pericolosa di negare i diritti costituzionali in nome della libertà di ricerca o della asserita scientificità di alcune determinazioni. Se non c'è dolo o colpa grave [1] a nessuno sviluppatore software può essere chiesto conto dell'adeguatezza a tutti i possibili /impieghi/, a volte criminali, di ciò che ha sviluppato. (Lo stesso dovrebbe valere anche per gli scienziati, ma limitiamoci al software) É per quello che praticamente tutte le licenze d'uso (contratti _atipici_) del software contengono una clausola di "assenza di garanzia" o di "esclusione di responsabilità" [2] Anche nei contratti di sviluppo software c'è una piuttosto consolidata giurisprudenza (o solo prassi?) in merito alle garanzie con le quali tutelare l'acquirente in caso di presenza di vizi nel software [3]: --8<---------------cut here---------------start------------->8--- Nel caso dei contratti di appalto [...] il committente deve denunciare tali vizi all'appaltatore entro sessanta giorni dalla scoperta per godere della garanzia. Nel caso in cui il committente abbia accettato l'opera e le difformità o i vizi erano da lui conosciuti o erano facilmente riconoscibili, previa buona fede dell'appaltatore, non si può avvalere della garanzia. Nel caso in cui il contratto di sviluppo di software sia riconducibile ad un contratto di opera intellettuale, allora l'appaltatore non risponde della garanzia se non si verifica un caso di dolo o colpa grave. --8<---------------cut here---------------end--------------->8--- Sottolineo: «Nel caso in cui [...] i vizi [...] erano facilmente riconoscibili [...] non si può avvalere della garanzia.» Non è allo sviluppatore software che bisogna chiedere conto degli (ab)usi che vengono fatti del software che ha programmato, non è lui che decide che quel software, ANCHE SE (probabilmente) CONTIENE VIZI, viene utilizzato impropriamente e _soprattutto_ senza adeguate misure per minimizzare il rischio. Casomai, è l'utilizzatore del software che dovrà dimostrare al giudice (c'è un giudice?!?...) di aver condotto adeguate analisi di adeguatezza all'utilizzo, una adeguata analisi dei rischi e di aver adottato misure adeguate per minimizzare (al massimo possibile secondo lo stato dell'arte) i rischi residui non eliminabili. Ecco le parole magiche "minimizzare i rischi non eliminabili con misure adeguate", potendolo dimostrare /documentalmente/. Così si comincia a ragionare. O no? Poi, io voglio proprio vedere come può fare l'utilizzatore del software a condurre una l'analisi dei rischi senza poter analizzare il software (o almeno avvalersi di analisi pubbliche di terze parti) perché lo ha a disposizione solo in formato binario... o perché è una scatola nera "inesplicabile". Poi, non c'è solo la responsabilità da prodotto o servizio, c'è anche la pubblicità ingannevole... ma andrei OT e mi fermo qui [...] saluti, 380° [1] che sono da provare /in giudizio/, non possono essere pre-determinati anticipatamente, ovviamente [2] https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_database,_opere_multimediali,_ecc.)_fra_diritto_d%E2%80%99autore,_brevetto_e_diritto_sui_generis#Licenze_d'uso [3] https://it.wikiversity.org/wiki/Tutela_dei_beni_informatici_(software,_database,_opere_multimediali,_ecc.)_fra_diritto_d%E2%80%99autore,_brevetto_e_diritto_sui_generis#Contratti_di_processo_software -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
