Caro Guido,
grazie dell'osservazione. Il fatto che tu abbia completamente frainteso la premessa del mio ragionamento mi fa capire che devo formularla più chiaramente. Non sto parlando del futuro, sto parlando del presente. E non sto parlando dei sistemi di IA simbolica. Ho scritto esplicitamente che sto parlando di alcuni (e ho scritto quali) sistemi di apprendimento automatico. Faccio un esempio: nel presente, i sistemi ML sono costitutivamente opachi e ordinariamente soggetti a tracciare correlazioni spurie. Questo rende oggi impossibile fornire una spiegazione dei loro output e garantire che non utilizzino elementi che un essere umano considererebbe non pertinenti. Per questa ragione, non dovrebbero essere usati nei casi in cui si tratti assumere decisioni rilevanti per la vita delle persone e in cui la legge preveda il diritto a una motivazione o a una spiegazione. Mi limito, su questo, ad aderire alla posizione della Federal Trade Commission statunitense. La mia posizione può essere perciò essere descritta come positiva (le leggi ci sono e si applicano: così rileva anche il CNIL francese), oppure negativa, se si ha in mente che positivo sia il diritto a un profitto eslege e meritevoli di tutela le bolle giuridiche (espressione di Marco Giraudo). Sto parlando esplicitamente di prodotti in commercio, non di fantascienza. Chi argomenti con esempi tratti dal futuro o dalla fantascienza, per discutere quali norme si applichino a prodotti attualmente in commercio, commette secondo me una fallacia logica. Grazie dell'occasione di chiarimento. Buona giornata, Daniela ________________________________ Da: nexa <nexa-boun...@server-nexa.polito.it> per conto di Guido Vetere <vetere.gu...@gmail.com> Inviato: martedì 23 maggio 2023 06:54 A: Nexa Oggetto: Re: [nexa] Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto Non so se ho capito correttamente il senso del tuo intervento, ma vorrei rispondere comunque al tuo invito di osservare e commentare. Nel tuo ragionamento, che ha il pregio di esemplificare una posizione radicale, mi sembra di scorgere alcuni difetti logici, ideologici e materiali Prendiamo ad esempio: > . Tra i prodotti di [intelligenza artificiale] – costitutivamente pericolosi > e non funzionanti – ci sono le auto a guida autonoma, i sistemi di > ottimizzazione predittiva e i generatori di linguaggio naturale. Quel 'costitutivamente' è un giudizio categorico che esclude la possibilità futura di avere auto a guida autonoma che si comportano meglio di certi miei concittadini (romani, ndr), o che vi sia mai la possibilità di lanciare un'allerta meteo localizzato a breve termine in grado di salvare vite umane (tema di attualità), o ancora di avere sistemi di supporto linguistico che aiutano gli immigrati a comprendere certe gabole della nostra pubblica amministrazione. Sul 'non funzionanti' ci sarebbe anche da dire. A quel che si vede nella comunità tecnico-scientifica, certe cose non funzionano, altre hanno difetti, ma altre vanno decisamente bene. Considera che se i nostri figli potranno guarire da certe malattie, qualcosa dovranno anche alle tecniche che stanno alla base di ciò che tu svaluti<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305230455060669816&URLID=10&ESV=10.0.19.7431&IV=D874344C2E8818E86846FC86B4DDFF74&TT=1684817707220&ESN=G9%2BPegYVbUSRWzbYPEmVaNCGRUdayKOlbJHik1ug308%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9lZGlzY2lwbGluYXMudXNwLmJyL3BsdWdpbmZpbGUucGhwLzc2ODk4MjAvbW9kX3Jlc291cmNlL2NvbnRlbnQvMS9kNDE1ODYtMDIyLTAwOTk3LTUucGRm&HK=85A24F2589ED789F05B8FD2E7331403CA198CE22D2B79D93AF044B231343C088>. Questa tua visione categoricamente negativa sta alla base - mi pare - del punto centrale del ragionamento: > Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui > produttori, la loro commercializzazione non sarebbe vantaggiosa. In quegli 'effetti ordinari' però c'è una grossa petizione di principio. Chi ha stabilito che tutte le applicazioni di AI abbiano 'effetti ordinari' deleteri? Chi ha stabilito che non si possa in alcun modo ottenere un'applicazione ragionevolmente sicura di queste tecniche, così da poter distinguere normalmente tra potenzialità e attualità dell'uso? Questo assimilare la produzione di AI a quella - per dire - dell'iprite o dell'antrace mi sembra un po' ingenerosa. Più benevolmente, potremmo convenire che si tratta di prodotti il cui uso va normato, come quello di tutti gli altri. Per usare una facile metafora: per evitare gli incidenti stradali non è ragionevole vietare la produzione di automobili, dobbiamo però far rispettare i limiti di velocità e perseguire severamente chi li eccede. Non è che l'AI vada accolta per la sua eccezionalità, ma proprio per la sua ordinarietà. Certe narrazioni manipolatrici e interessate di aziende grandi e piccole dobbiamo conoscerle, smontarle e contrastarle sul campo con la pratica. Il compito del tecno-intellettuale gramsciano dovrebbe essere questo :-) Buona giornata, G. PS colgo l'occasione per segnalarvi un mio articolo che potrebbe interessarvi: Serve Wittgenstein per capire ChatGPT<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305230455060669816&URLID=9&ESV=10.0.19.7431&IV=47084F7A267C4730549835EABD58A8D8&TT=1684817707220&ESN=0KkEVCT6sD7SarEE%2B5IBMAjIDQDzKoAD6oT85B650uQ%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9pbG1hbmlmZXN0by5pdC9zZXJ2ZS13aXR0Z2Vuc3RlaW4tcGVyLWNhcGlyZS1jaGF0Z3B0&HK=7779561C9FAE3FA463557F52DD10B32EE2D6F509F1FB7FCBDD64F44543E47CC6> (Il Manifesto) On Sat, 20 May 2023 at 23:01, Daniela Tafani <daniela.taf...@unipi.it<mailto:daniela.taf...@unipi.it>> wrote: Buonasera. Ho appena pubblicato un articolo che potrebbe essere di interesse per questa lista: <https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuorilegge/> Vi sarei grata di qualsiasi commento o osservazione. Qui <https://btfp.sp.unipi.it/it/front-page/> il riassunto: I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico. Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria. Un saluto, Daniela <https://btfp.sp.unipi.it/it/front-page/> _______________________________________________ nexa mailing list nexa@server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa<https://es.sonicurlprotection-fra.com/click?PV=2&MSGID=202305230455060669816&URLID=2&ESV=10.0.19.7431&IV=A6D5878A9459E256638C37FC5D0279A9&TT=1684817707220&ESN=vbLGue5Wr%2B%2FZo%2BqA39SAK7MTlheEWXCOCxS7lSlePmI%3D&KV=1536961729280&B64_ENCODED_URL=aHR0cHM6Ly9zZXJ2ZXItbmV4YS5wb2xpdG8uaXQvY2dpLWJpbi9tYWlsbWFuL2xpc3RpbmZvL25leGE&HK=F18B721F3A27C8260D45275E6F57A098F688A9422E18CB4942C68744B51550BD>
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
