【48812】手机能跑百亿参数大模型骁龙8Gen3来了自研PC架构上线

  此次，骁龙 8Gen3 的亮点在于强壮的终端侧 AI 及生成式 AI 功能。

  NPU 方面，AI 算力超越 73TOPS，能效还降低了 40%。高通表明，此次 8Gen3 的 AI 功能提高了 98%，高通 AI 引擎完成了终端设备上世界初次支撑运转 100 亿参数的模型，而且针对 70 亿参数 LLM 每秒可以生成 20 个 token。这在某种程度上预示着，各类虚拟帮手、GPT 谈天机器人、Stable Diffusion 等 LLM 等都可以在手机等终端正常运转。

  别的针对音频、动作传感器这种需求长期待机的 AI 运用场景，8Gen3 专门供给了 2 个低功耗的 NPU 单元。8Gen3 还在内存和 NPU 之间建立了直连通道，进一步提高运算功率。

  可以说，关于搭载骁龙 8 Gen3 的智能手机，它们的内容创造、印象、游戏、音频和衔接体会因 AI 才能得到了极大的增强，比方手机端支撑图画 AI 填充扩展。不知道手机硬件才能到位今后，会不可能会呈现生成式 AI 的爆款使用？

  有关高通旗舰的首发机型悬念仍然不大。高通的发布会上，小米集团合伙人卢伟冰提早拿出了用上骁龙 8 Gen3 的小米 14，明日晚上便是小米的发布会了，雷军也在微博上表明小米 14 将全球首发第三代骁龙 8 移动渠道。

  骁龙 X Elite 声称专为 AI 打造，可以以 30token 每秒的速度运转 Meta 闻名的大言语模型 Llama 2。此外进一步支撑在终端侧运转超越 130 亿参数的生成式 AI 模型，完成了比竞品快 4.5 倍的 AI 处理速度。

  高通表明，OEM 厂商估计将于 2024 年中推出搭载骁龙 X Elite 的 PC。更多细节详见下图。

  本年的骁龙旗舰芯片，比较从前又愈加提早了一些，但面临 4 大核的联发科天玑 9300，制程工艺不变的 8 Gen3 能否坚持住旗舰芯片的抢先方位？它会是新的 888，仍是新的 8 Gen2 呢？

  渠道声明：该文观念仅代表作者自己，搜狐号系信息发布渠道，搜狐仅供给信息存储空间服务。