光速网讯,近期多家科技企业集中发布端侧大模型新版本,手机、平板、车载终端设备的本地 AI 能力持续升级,大模型不再高度依赖云端服务器,端侧 AI 进入落地提速阶段。
端侧大模型将模型能力部署在设备本地,无需全程联网,在隐私保护、响应速度方面具备明显优势。从 AI 摘要文档、本地图片处理到车载语音交互,普通用户已经可以直观感受到端侧 AI 带来的体验变化。
硬件算力提升是端侧大模型普及的基础,芯片厂商持续优化 NPU 算力规格,推动模型轻量化迭代。不过现阶段,端侧大模型还存在模型参数受限、复杂任务处理能力不足等短板,技术迭代仍有较大空间。下游硬件厂商、算法企业还将持续协同打磨产品,拓展更多生活化使用场景。
来源:光速网
内容说明:本文信息来源已在页面标注,仅供阅读参考。若涉及作品内容、版权或事实更正,请通过联系页面告知,我们将在核实后及时处理。