> Si tratta infatti di software programmato statisticamente che riproduce > uno degli infiniti pattern deducibili dai dati disponibili. > Una volta in funzione è indistinguibile dal software programmato > linguisticamente eccetto che per l'effettiva impossibilità di > prevederne il comportamento negli infiniti corner-case non > sufficientemente rappresentati dai dati.
Sì Giacomo, questo è un nodo cruciale. Floridi prosegue con: "Training, validation and testing data sets should be sufficiently relevant, representative and free of errors and complete in view of the intended purpose of the system.” (Recital 44). These are characteristics highly desirable but rarely met in full. Think, for instance, about the incompleteness and incorrectness of any public database" Ma mettiamo il caso che i dati di training siano effettivamente "relevant, representative and free of errors" ma che quelli reali siano del tutto incoerenti con i dati di test. Qualche giorno fa si parlava di NLP (Natural Language Processing). Bene, ipotizziamo un sistema AI "istruito" e "addestrato" con dati in inglese e venduto ad una P.A. che, ovviamente, deve trattare informazioni quasi esclusivamente in italiano. Nella migliore delle ipotesi quel sistema si bloccherà, nella peggiore andrà avanti con risultati disastrosi facilmente immaginabili. Aggiornandolo ai nostri tempi secolarizzati si potrebbe dire che "errare è umano, perseverare ... robotico". > La diffusione di qualsiasi automatismo (AI o meno) che possa distorcere > il comportamento umano causando danni fisici, psicologici o sociali > (Floridi non considera quest'ultima categoria) andrebbe semplicemente > messa al bando. E' quello che ripeto da una decina d'anni, mettiamo al bando i social network ;). Perché in quanto a distorsione del comportamento umano e causa di danni psicologici e sociali c'è già, nonostante il pochissimo lasso di tempo, ampia letteratura. Antonio _______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
