By 关于我们 /   2026-09-22

预填充吞吐超 330 Token/s:高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型

IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通宣布携手阶跃、无量火及江波龙,基于第六代骁龙 8 超级至尊版移动平台,端侧适配与推理优化阶跃 StepEdge-Omni 30B-MoE 模型,并现场演示相关智能体助手。

该模型拥有 300 亿参数,依托混合专家架构,仅根据任务需要激活部分专家模块,以降低计算量和内存带宽需求。

合作方通过推理引擎、异构调度及存储方案优化,让模型运行内存需求较行业常规方案降低超过 50%,并支持在智能手机上稳定运行。

高通表示,该方案无需调用云端服务,可以在本地完成邮件理解、行程规划、日历同步、航班及酒店推荐、行程分享和邮件草拟等任务。

测试数据显示,模型预填充吞吐性能超过每秒 330 个 Token,解码吞吐性能超过每秒 28 个 Token。

IT之家注:“模型预填充吞吐性能是指大语言模型在推理的预填充(prefill)阶段,每秒能够处理的输入词元(token)数量,是衡量系统处理长提示词(prompt)和批量请求能力的关键指标。

业内人士认为,大参数 MoE 模型在手机端的部署,有助于推动低时延和隐私保护型智能体应用发展。不过,实际规模化应用仍取决于终端成本、功耗、模型可靠性及用户接受度等因素。

问鼎娱乐中国官网,提供极速投注与安全存取服务。我们采用银行级加密系统,保障您的资金与隐私安全,让您安心畅玩。

作为中国体育迷的专业竞猜旗舰站,问鼎娱乐官网首页入口集结了足球、篮球、电竞等海量赛事。

随时随地锁定冠军瞬间,尽在问鼎娱乐。

平台持牌运营,信誉可靠,致力于为全球体育爱好者提供极致的观赛与竞猜体验。

问鼎娱乐官网,不仅仅是赛事直播,更是数据分析与互动弹幕的集合。

在问鼎娱乐APP下载,体验流畅的投注流程,享受安全便捷的存取款服务。