深度探索：安卓手机背后的“大模型”技术

本文内容来自于网络，若与实际情况不相符或存在侵权行为，请联系删除。本文仅在今日头条首发，请勿搬运。

智能终端市场竞争激烈，各大手机厂商为了立足市场纷纷推出搭载大模型的新款手机。这一竞争激烈的局面和争相抢购芯片的情形有何关联呢？原来智能终端已经成为各类AIGC应用的新“战场”。先是图像生成大模型接连登场，快速在手机上生成栩栩如生的图片，而后手机上运行文本生成大模型也成为了新的发展趋势。现在软硬件技术齿轮开始转动，各大芯片厂商也在发布会上强调软硬件对机器学习和大模型的支持。这一切都在为智能终端的未来发展铺平道路。

移动端AI模型的参数规模不断增大，苹果M3、高通的骁龙XElite和骁龙8Gen3已经实现了数十亿甚至百亿参数的机器学习模型运行。这不仅是数字提升，更是对可落地应用的挑战。在这个「模力时代」下，芯片厂商面临着如何冲破大模型移植智能终端面临的算力、体积和功耗等限制的问题。大模型的出现给底层芯片设计带来了哪些改变？硬件围绕AI而生，移动终端的算力限制成为其中的第一重挑战。

OpenAI也因为大模型调用流量而出现了全线产品宕机的史上最大事故，这是否意味着移动终端的算力限制成为了AI发展的瓶颈？随着移动端AI的不断发展，我们需要思考如何突破算力限制，以推动AI技术的进一步发展。高通最新推出的第三代骁龙8移动平台在硬件部分取得了巨大突破，能够在终端侧运行100亿参数大模型，面向70亿参数大语言模型时每秒能生成20个token。这主要得益于HexagonNPU的升级，它比前代产品快98%，功耗降低了40%。但除了硬件改进，软件方面也有着重要的解决之道。

那么，大模型对手机的影响到底有多大呢？究竟还有哪些软件方面的解决之道呢？让我们一起来探讨一下。首先，让我们来看看硬件方面的解决之道。高通最新推出的第三代骁龙8移动平台搭载的HexagonNPU技术，其性能得到了显著提升，比前代产品快98%，功耗降低了40%。这意味着移动设备可以更加高效地运行大型模型，为用户提供更加流畅的体验。这一硬件方面的改进无疑将为手机运行大模型带来更好的性能和更低的能耗。而在软件方面，针对手机运行大模型面临的内存和能耗难题，也有着相应的解决之道。

例如，优化模型架构，采用轻量级的模型结构、压缩模型大小等方法，都可以有效减少模型对手机内存和能耗的消耗。另外，通过对模型进行量化训练、剪枝和量化推理等技术手段，也可以在一定程度上减少模型的参数量，从而减少对手机资源的占用。这些软件方面的改进同样能够有效缓解手机运行大模型所面临的挑战，提升用户体验。然而，即使有了硬件和软件方面的诸多改进，大模型对手机的影响依然不可忽视。手机运行大模型会导致更高的能耗和内存占用，可能对手机的续航能力和性能造成一定程度的影响。

此外，大模型在手机上的部署也可能受到硬件性能的限制，部分低端手机可能无法很好地支持运行大型模型，从而影响用户体验。总的来说，硬件和软件方面的改进为手机运行大模型带来了新的解决之道，提升了手机在处理大型模型时的性能和能效。但是，我们也不能忽视大模型对手机的影响，特别是对低端手机的影响。未来，我们需要不断在硬件和软件方面进行创新，以应对不断增长的大模型应用需求，为用户提供更好的移动智能体验。

让我们一起思考：在手机运行大模型面临内存和能耗难题的情况下，你认为应该如何进一步优化手机硬件和软件，以更好地支持大型模型运行？全新第三代骁龙8处理器的问世，让手机AI技术又迎来了一次重大进步！HexagonNPU的升级提升了生成式AI的响应能力，让大型AI模型能够在手机上如丝般顺滑地回答用户的问题。而SensingHub的升级也功不可没：AI性能提高了3.5倍，内存增加了30%，而且支持更大更复杂的AI模型。这就意味着用户的位置、活动等个性化数据能更好地为生成式AI所用。

内存方面的升级也让第三代骁龙8支持更大的AI模型。高通在内存和HexagonNPU矢量单元之间增加了直连通道，进一步提高了AI处理效率。这样的进步，将会给手机用户带来怎样的全新体验呢？手机AI技术的发展一直备受瞩目，而新一代骁龙8处理器的升级带来了更加强大的AI性能，让AI模型能够更加顺畅地在手机上运行。这样的技术进步将如何影响用户的日常使用体验呢？HexagonNPU的升级让生成式AI更加响应灵敏，大型AI模型能够更流畅地回答用户问题。

而SensingHub的升级不仅提高了AI性能，还增加了内存，支持更大更复杂的AI模型。这意味着用户的个性化数据能更好地应用于AI技术中。这些技术的提升，将如何改变手机用户的日常体验呢？总而言之，第三代骁龙8处理器的升级给手机用户带来了更强大的AI性能，让AI模型能够更顺畅地运行在手机上。这一技术进步将为用户带来更流畅、更个性化的手机体验。你期待这样的新体验吗？你觉得AI技术在手机上的发展还有哪些可以期待的方向呢？高通的第三代骁龙8带来了怎样的全新性能提升呢？

首先，SK海力士的LPDDR5T产品已经通过验证，速度达到惊人的9.6Gbps，为搭载第三代骁龙8的手机提供了更多内存选择。此外，新的“1+5+2”架构使得CPU性能得到了30%的提升，功耗也降低了20%。在GPU方面，性能和能效都有了25%的提升。更令人振奋的是，AI引擎、ISP和调制解调器等模块也加入了AI基因，为手机带来了更多可能性。比如，AI技术可以支持照片/视频帧实时语义分割、从视频中删除不需要的内容等。

调制解调器也有了5GAI处理器的加持，可以通过AI技术改善无线通信性能指标。这一系列的技术进步，无疑会为手机带来更出色的性能和用户体验。从上述分析中我们可以看出，手机大模型硬件解决方案主要包括对算力、内存、能耗的性能提升和功耗平衡，以及与AI技术深层结合。然而，要让这些技术真正应用于智能终端，我们仍需要解决软件开发的另一重门槛。这包括如何快速将更大体积的模型装进手机，以及如何在不同智能终端上实现快速装载。因此，除了在硬件方面做准备外，还需要在软件开发上做好准备。

高通作为行业领军者，通过AI压缩技术展现了在智能终端上运行不同规模大模型的能力，这为解决这一问题提供了启示。NeurIPS2023发布的一篇论文，对Transformer架构进行了研究，探讨了如何通过量化方法来压缩AI模型。之前，压缩Transformer模型常常会遇到一些问题。但这篇论文提出了两种新的量化方法，不仅保证了压缩效果，还进一步提升了模型输出性能，使模型更加高效。

然而，大型模型在不同终端间的移植也面临着挑战，因为不同的计算平台硬件配置差异大，这也是大型模型无法快速在各种智能终端上落地的原因之一。为解决这一难题，高通AI软件栈充当了一个“转换器”角色。提供了全面支持各种主流AI框架、不同操作系统和各类编程语言的工具包，从而提升了各种AI软件在智能终端上的兼容性。移动端软硬件厂商在大模型时代下面临着怎样的机遇和挑战？如何才能在技术浪潮中保持领先地位呢？让我们一起来探讨一下大模型移植到智能终端所需的硬软件备战。

一套软件栈，融合高通AIStudio，将高通的所有AI工具集成到一起，实现可视化开发。AI模型增效工具包、模型分析器和神经网络架构搜索(NAS)等功能尽收其中。只需一次开发，大模型软件即可在多个平台运行，无需担心适配问题。这意味着，大模型不再局限于手机，而是能够扩展至汽车、XR、PC和物联网。原本的设备类型繁多的缺点也能化为优势，进一步加速大模型软件的落地。这说明，大模型移植到智能终端所需的技术，不仅是硬实力，软件上也同样需要有所储备。

在大模型时代，移动端软硬件厂商如何抓住这次难得的机遇？各厂商要如何提前做好准备，以确保在技术浪潮中依旧屹立于巅峰？一个时代有一个时代的计算架构，大模型时代需要怎样的终端芯片？这是一个值得深思的问题。大数据时代下的智能终端芯片评判标准已经发生了悄然的变化。一方面，硬件性能的竞争已不再局限于传统的硬件性能对比、算力较量、功耗计算，逐渐转变成对AI算力的比拼，对AI软硬件技术能力的全面要求。

微软最近的一项研究表明，在FP8精度下训练的大模型能够在同样硬件成本下，训练更大规模的大模型，同时确保训练出来的模型性能。而以AI算法著称的OpenAI也开始朝着硬件方向发力，有意向进行芯片的研发。在这个技术日新月异的时代，是否还能够凭借一张底牌抓住机遇、展现自身价值，这个概率正在变得越来越低。随着人工智能的快速发展，智能终端芯片的竞争焦点已经悄然改变，传统的硬件性能对比已经不再占据主导地位，AI算力成为了新的评判标准。

随着微软和OpenAI等公司的举措，智能终端芯片市场又将迎来怎样的新格局呢？摩擦时代的硬软结合新趋势：AI技术的变革如今，我们面临着一个关键问题：传统的“硬件公司造好芯、软件公司做好算法”的模式是否还能适应当下的技术发展呢？在追求提升硬件性能的同时，硬件公司与芯片公司是否也在积极拓展软件技术栈，以提升软硬件结合的AI能力呢？高通最近提出了将大模型部署到个人智能终端上时，需要关注的问题不仅包括硬件，还需要考虑模型个性化、计算量等因素。

高通选择自己在软件方面进行研究，这是否为提升芯片性能带来了更深入的了解呢？另一方面，如何在算力受限、用户范围更广的终端上实现无缝互联？未来的趋势必然是跨平台适用性，这将成为AI解决方案的关键。今年的骁龙峰会上发布的SnapdragonSeamless技术就展示了这一趋势，例如将平板上的照片通过鼠标“一键平移”到PC。进行快速处理后，还能在另一个设备上打开照片，并用PC的键盘进行重命名。这些技术变革正在改变着我们的生活和工作方式。

未来智能终端将实现万物互联，AI软件将连接各类设备，手机和PC将实现无缝数据共享，音频在不同设备间无缝切换。AI应用不再局限于手机，而能扩展到千万台智能终端设备上，包括PC、XR、平板和汽车。在大模型时代，AI厂商需要具备软硬件结合能力，并提前布局智能终端万物互联的未来。高通已经有了自己的行动路径，其他企业也需要在场景中探索自身的价值，才能在“模力时代”找到新的出路。这一切似乎正在向着一个更加智能、便捷的未来迈进。你认为这样的发展是积极的吗？它会给我们的生活带来哪些改变呢？

以上就是关于泰国王室中宫廷争斗的报道，我们欢迎读者在评论区留下自己的观点和看法。同时，也请大家分享这篇文章，让更多人了解泰国王室中的故事。