test-time compute
IT
2 visualizzazioniCommunityGlobal
0—
#1·5d agoGlobalcasual
Usare più compute al momento dell inferenza — tramite chain-of-thought più lunga, sampling o verifica — per migliorare la qualità del modello senza riaddestrarlo. Il paradigma OpenAI o1 più extended-thinking di Claude. Paghi in secondi per guadagnare accuratezza.
Stiamo buttando più test-time compute sull eval. 3x di latenza, risposte molto migliori.
Fonte: Slangora editorial — AI-translated from EN
È stato utile?