Non so quello che “sanno tutti”, e quanto a me sono più le cose che non so di quelle che so. Alcune cose le so perché ho evidenza diretta della loro verità (so che adesso è venerdì), altre perché qualcuno di cui mi fido, ha prodotto tale evidenza e altri non sono stati in grado di confutarla (conoscenza scientifica), altre non le so perché tale evidenza non l’ho ancora trovata, altre infine non le so perché non sono in grado di capirle. Quest’ultimo potrebbe essere il caso in questione. L’articolo di Norvig ha sollevato un dibattito tra gli esperti, cercando di interpretare questa affermazione dell’articolo: "Given example inputs and outputs of any function that can be computed by any computer, a neural net can learn to approximate that function. " L’affermazione fa riferimento a quest’altro articolo: Che conclude: given suitable data, simple next-token predictors can be trained to effectively learn virtually any function of interest. Consequently, if there exists some computer program capable of realizing AGI, then it is theoretically plausible to attain AGI through training simple next token predictors, given the appropriate data. L’articolo non è facile da capire, ma questa è la mia interpretazione, approvata da altri partecipanti alla discussione. In the paper by Malach, he fine-tunes the LLM to produce the CoT prompt, which is then used to drive the model to perform an unlearnable task. In the example of multiplication, the task is split into several subtasks, which involve the learnable tasks of addition and subtraction. The number of examples to fine-tune the CoT generator is a limitation of the approach, which is acknowledged in the paper. In tutta onestà, non credo di sapere “cosa il sistema faccia ordinariamente” né tantomeno di cosa sia in grado di fare. Spero che gli altri, qui, lo sappiano. — Beppe On 12 Oct 2023, at 22:38, Daniela Tafani <daniela.taf...@unipi.it> wrote:
|
_______________________________________________ nexa mailing list nexa@server-nexa.polito.it https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
