Caro Alberto, guarda che anche qui cadiamo in pieno nella "intelligenza artificiale fatta a mano"... quindi non vedo perché non "fare a mano" direttamente il prodotto finale, cioè il software (sorgente)
Alberto Cammozzo via nexa <nexa@server-nexa.polito.it> writes: [...] > Welsh parla una lingua, quella di modello/serie, ben compresa > dall'industria: sarebbe come, per una manifattura di stoviglie > ceramiche, acquistare una macchina per stampi e liberarsi di decine di > tornitori: ne basta uno (bravo, da pagare una volta per il modello) che > faccia il pezzo sul quale modellare lo stampo. occhio che quando si usano metafore "fisiche" per cose "digitali" c'è sempre il rischio di "distorsione ottica"; so che tu lo sai ma ricordarlo non fa male seguendo la metafora, il modello delle stoviglie ceramiche (lo stampo) attualmente continua a progettarlo un umano, se volessimo fare un parallelo occorrerebbe che qualcuno proponesse all'indistria di manifattura delle stoviglie di sostituire il proprio (team di) designer umano con un modello ricavato da machine-learning in grado di generare stampi per stoviglie ceramiche conoscendo un pochino il mondo della produzione meccanica (non ceramica, ma non siamo lontani) ti assicuro che il ciclo che parte con la prototipazione (che include anche la correzione degli errori) per finire con la messa in produzuione di un pezzo (che include anche mettere a punto la catena di fornitura) sostituendo agli umani un modello di machine-learning per la progettazione dello stampo sarebbe oggi **estremamente** proibitivo ...e per non essere proibitivo un domani, la fabbrica di ceramiche dovrebbe comprare il modello da un /fornitore/ (supply chain), ma soprattutto PEDEREBBE completamente il controllo su come viene prodotto "lo stampo" (il suo core business), affidandosi completamente al fornitore del modello AI; sarebbe un po' come la situazione degli agricoltori che non sono in grado di riprodurre autonomamente i semi BREVETTATI e che non si ripoducono nel "frutto" che coltivano e per questo devono andare ogni volta a comperarli dall'industria "one ring to rule them all" :-O > L'aspettativa rivoluzionaria dell'impiego industriale del ML sta però > nel fatto che se nel modello industriale tradizionale il modello serviva > a generare la serie, ora si può al contrario costruire il modello da una > determinata serie, per poi poterla replicare all'infinito in una nuova > serie. Come dire: prendo 10 delle 57 uova Fabergé sopravvissute e ne > faccio un modello per produrne industrialmente a piacere. ah ma se è per quello secondo me già da un pezzo gli artisti umani della ceramica sono perfettamente in grado di /imitare/ uova Fabergé anche di 570 tipi diversi, darle a chi fa gli stampi e produrne industrialmente a piacere: no? > Matt Welsh cerca di convincerci che possiamo sostituire interi team (in > Silicon Valley o in India) con una o due persone che fanno il vero > "intellectual work" (lo stampo, il modello), mentre il resto sarà fatto > dalle macchine, senza nemmeno le orde di "scimmie" necessarie per il > training: > > The bulk of the intellectual work of getting the machine to do what > one wants will be about coming up with the right examples, the right > training data, and the right ways to evaluate the training > process. con la NOTEVOLE differenza che il modello è generato da un processo di machine-learning (basato sul lavoro di quei due poveri ex-programmatori) e /quindi/ non analizzabile: quello che esce è statisticamente significativo (o meglio correlabile: basta un po' di p-hacking e si sistema tutto)... ma potrebbe generare software (binario? sorgente?) altamente bacato e/o con backdoors che i due poverelli manco si immaginano... tra l'altro, il concetto "software bacato" è **altamente** semantico e non so se un modello ML sia in grado di sintetizzarne la semantica ...andrà a finire che invece che partire "da zero" a costruirsi "right examples", "right training data" e/o "right ways to evaluate" utilizzeranno librerie di terze parti già belle che fatte: si fa normalmente nel processo di sviluppo software "tradizionale", ma non per il "core business" del software che si sta sviluppando, quancosina in genere si deve sviluppare tu conosci com'è complesso un grafo delle dipendenze di un sistema di build "tradizionale": è abbastanza intricato, non credi? Ecco, ora immagina un grafo delle dipendenze di un sistema di build di software generato da un modello ricavato da machine-learning: io mi sono spaventato :-D inoltre, ho già accennato ai problemi di riproducibilità [1] e (soprattutto!) di "bootstrappability" [2] dei sistemi di build del software: posso dire che solo se chi propone software generato da modelli AI mi spiega come risolvere quei due problemi io sono disposto a parlarne seriamente? :-O (sono spocchioso?) [...] > Vedo questa spinta nel mio lavoro di programmazione, che serve > potenzialmente a filtrare dati per addestrare modelli che rendano > ulteriori programmazioni inutili, con la promessa che una volta > azzeccato sufficientemente bene il modello, quello funzionerà per sempre > e sempre bene. Anche se è evidente che questi "modelli finali" non > esistono, sto pensando a qualche forma di obiezione di coscienza (una > licenza che escluda l'uso per training? ogni suggerimento è > benvenuto). l'unica obiezione di coscienza efficace è non contribuire a perseguire simili "futuri chiusi" e **spiegare perché** non possono funzionare ci abbiamo messo molti decenni ad arrivare a questo livello primitivo di informatica, cerchiamo di fare in modo di evitare di perdere tempo a perseguire illusioni di poter sostituire la "fatica di pensare" con la "fatica di calcolare" ;-) > Infine, la tua proposta mi pare essere quella che se tutti sanno > programmare, non ci sarà bisogno di modelli. > > Condivido l'auspicio di una diffusa competenza di programmazione, come > quella che tutti sappiano suonare il violino e tornire l'argilla: sono > espressioni della creatività umana e della sua competenza. Sono > manifestazioni della sua libertà. Non troppi anni fa chiunque andasse a > scuola sapeva poi suonare, disegnare, usare strumenti e attrezzi: > imparava ad essere umano, insomma. Ecco bravo: mica tutti diventano Gazzelloni quando imparano alle medie a suonare il flauto dolce e mica tutti diventano Pomodoro quando imparano a fare i "lavoretti" con l'argilla... ma almeno **concettualizzano** cosa significa; vorrei che sia così anche con la programmazione ...e invece sta succedendo il contrario: tra un po' alle medie spiegheranno che è inutile imparare a suonare il flauto o fare i lavoretti manuali con l'argilla perché la musica sarà suonata e le sculture saranno *plottate* da software prodotto con ML: tutto quello che i bambini dovranno fare è insegnare al computer come farlo al posto loro per mezzo di «right examples, right training data, and right ways to evaluate the training process», per poi fare doppio click e eseguire l'opera > Anche se non credo che la maggiore offerta di programmatori competenti > possa scalfire la dinamica industriale sottostante il machine learning, > che è quella di liberarsi per quanto possibile dall'umano e > dall'incerto, tuttavia credo che possa almeno inceppare un'altra > dinamica industriale, che è quella della generazione di una scarsità > (quella di programmatori) come conseguenza del successo di un prodotto > industriale (il ML). per rimanere "ancorati" all'oggetto, io ancora lo devo vedere il successo di un prodotto basato su ML in grado di generare programmi: mi sono perso qualcosa? per ora è tutta speculazione sulla falsa riga di quella che negli anni '90 proconizzava un futuro in cui il "visual programming" avrebbe sostituito il "textual programming": no? [...] > In conclusione, per me il deficit non è tecnico né economico, ma morale; > non è di risorse, ma di valori. Non cosa facciamo e come, ma a che > fine. io azzerderei di dire che il deficit è **sia** tecnico (che è quello che comprendo meglio, e c'è!) che economico (quindi di allocazione risorse) che morare (etico); non starei a discutere se "viene prima l'uovo o la gallina", affronterei la questione in modo olistico B-) > Baudrillard, che ha molto riflettuto anche sul sistema modello/serie, in > "il sistema degli oggetti" (1968!) scrive (scusatemi la lunga citazione): bellissima la citazione (le citazioni sono l'unica cosa da salvare del '68, :-D ), grazie! [...] saluti, 380° [1] https://reproducible-builds.org/ [2] https://bootstrappable.org/ -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
