中文/推理

推理

1 次浏览Community

Global

0—

#1·5d agoGlobalcasual

运行训练好的AI模型以产生预测/生成的过程。"推理成本"=对外提供模型所烧的GPU时间。随LLM大规模铺开，推理优化（量化、蒸馏等）已成大门类。

来源: Slangora editorial — AI-translated from EN

这有帮助吗？