Buongiorno, Giuseppe Attardi <atta...@di.unipi.it> writes:
[...] > Ma siccome l’aereo era instabile, fu aggiunto un software per > controllarlo, il quale però, in certe situazioni mandava l’aereo in > stallo e in nose-dive. > I progettisti lo sapevano, e avevano aggiunto un bottone sulla > plancia, che i piloti potevano utilizzare per disabilitare il > software. > Ma per l’uso del bottone, occorreva che tutti i piloti si > sottoponessero a un percorso di training che sarebbe durato mesi. Conoscendo abbastanza bene la Direttiva Macchine 2006/42/CE (che credo comunque non si applichi agli aerei, sigh!) ogni volta che leggo "training per usare il bottone di emergenza" mi cascano le braccia: se in caso di incidente il produttore di un tornio CNC (o qualsiasi altra macchina) dicesse una cosa del genere in tribunale, sono quasi sicuro gli darebbero l'aggravante della copla grave --8<---------------cut here---------------start------------->8--- [...] La macchina deve essere munita di uno o più dispositivi di arresto di emergenza, che consentano di evitare situazioni di pericolo che rischino di prodursi nell'imminenza o che si stiano producendo. Il dispositivo deve: — comprendere dispositivi di comando chiaramente individuabili, ben visibili e rapidamente accessibili, — provocare l'arresto del processo pericoloso nel tempo più breve possibile, senza creare rischi supplementari, [...] La funzione di arresto di emergenza deve essere sempre disponibile e operativa a prescindere dalla modalità di funzionamento. I dispositivi di arresto di emergenza devono offrire soluzioni di riserva ad altre misure di protezione e non sostituirsi ad esse. --8<---------------cut here---------------end--------------->8--- (tratto da Art. 1.2.4.3. - Arresto di emergenza https://eur-lex.europa.eu/LexUriServ/LexUriServ.do?uri=OJ:L:2006:157:0024:0086:IT:PDF ) MCAS, in questo caso, è "la macchina". [...] > 3. La tecnologia non può essere mai perfetta, la responsabilità del > suo uso rimane a chi sceglie di impiegarla Responsabilità che, in casi come questo, **deve** essere in capo ai /conduttori/ della macchina, non ai progettisti (spesso /ricattati/ dai CdA). Come ho detto, su questo fronte non c'è niente di nuovo da inventare, basterebbe applicare lo stato dell'arte delle conoscenze tecnico/giuridiche in materia, non c'è bisogno di ripercorrere da capo la storia dell'industrializzazione dalla catena di montaggio in poi "solo" perché c'è di mezzo un software che comanda un attuatore. [...] > 5. La certificazione non è sufficiente a garantire l’affidabilità di > un sistema: Boeing ha aggirato la FAA e comunque la FAA si sarebbe > affidata a informazioni fornite da Boeing Sul fatto che la certificazione è ampiamente sopravvalutata mi trovo più che d'accordo ... resta la curiosità di poter mettere il naso nel documento FMEA del progetto. > 6. Nessun software è verificabile, e non è solo una questione che > riguarda l’AI, su cui si concentra la discussione attuale Sì ma c'è modo e modo di non essere verificabile: un conto è (non poter assolutamente) verificare il binario (possiamo paragonare il software model ottenuto per mezzo di deep learning a un binario?) e altro conto è /approssimare asintoticamente/ la verifica del codice sorgente attraverso una o più tecniche di software testing https://en.wikipedia.org/wiki/Software_testing Poi sì, resta sempre il **non trascurabile** problema di come fare a verificare se le dipendenze del processo di build di un binario non introducano backdoors: su questo fronte direi che GNU Mes e l'intero progetto "bootstrappable builds" costituiscono finalmente (è dal 1984 che stiamo aspettanto!) una ottima soluzione. Infine, resta l'annoso problema del "Undefined behavior" di alcuni linguaggi di programmazione, tra cui il C, che è la causa del 80% di tutti i problemi di sicurezza del software. [...] Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
