47+AI
ZH
← 返回列表
工具资讯 来源:AI 每日采集 端侧AI 芯片 推理框架

端侧 AI 芯片与推理框架合作增加

芯片厂商与模型框架加快适配,推动语音、视觉模型在手机和 PC 端运行。

端侧模型部署对内存占用、功耗和首字延迟要求较高,近期推理框架与芯片厂商增加联合优化。

部分消费电子设备已具备本地语音识别、实时翻译和图像增强能力。

端云协同架构成为主流:简单任务在本地完成,复杂任务按需上云。