模型推理成本持续下探，高性价比中小模型受关注

近期，多家基础模型厂商和推理引擎团队围绕量化、投机采样、批处理调度等方向推出优化方案。

业内观察显示，中小参数模型在客服摘要、文档解析、代码补全等场景的性价比优势进一步凸显。

一些企业将高频任务从小参数模型切换，以降低综合服务成本。