来源:雪球App,作者: 慧博,(https://xueqiu.com/3966435964/294382577)
作者:慧博智能投研
端侧AI行业深度:行业概况、产业变革、发展趋势及相关企业深度梳理
随着云端推理成本高、可靠性及时延、用户隐私及数据安全等问题受到关注,端侧AI部署成为AI实现规模化扩展及应用落地的关键。在模型、芯片、操作系统、软件应用等各方面,智能终端新形态在不断落地:AIPC方面,2024年起,PC厂商抢滩AIPC市场,Canalys预测,兼容AI的PC有望在2027年渗透率达到60%;AI手机方面,三星、小米等厂商在大模型及操作系统等各方面持续探索;另外,AI智能可穿戴等智能终端创新也百花齐放。
以下我们就将对端侧AI相关问题展开分析,端侧AI当前行业现状如何?产业发展有哪些必然性?在最重要的智能终端手机及PC端,端侧AI发展如何?整体市场空前发展的产业前景下,哪些板块和领域将会产生变革?市场上相关企业有哪些?行业呈现怎样的发展趋势?我们将以这些问题为出发点,在下文中具体探讨释疑,从而更加深刻地了解端侧AI行业发展相关问题。
目录
一、行业概况 1
二、端侧AI发展的必然性 3
三、端侧AI之AI手机 5
四、端侧AI之AIPC 9
五、产业变革 13
六、相关企业 19
七、发展趋势 23
八、参考研报 26
行业概况AI技术有云侧AI和端侧AI之分AI技术有云侧AI和端侧AI两大分支。云侧AI:在数据云端汇集训练,模型通用性强。从终端采集和感知到的声音、视频等数据都通过网络传输到云中心侧进行后续处理。
端侧AI:指在终端设备上直接运行和处理人工智能算法的技术。这种技术允许设备在本地处理数据,而不需要将数据发送到云端或服务器进行处理。
2、端侧AI场景丰富而深化,包括多种终端品类端侧AI场景广泛,包括智能手机、PC、汽车、XR以及物联网等终端品类。不同产品类型也对芯片性能与成本提出更多的要求。
3、端侧模型的部署和推广,有望培养用户使用 AI 服务的习惯,创造更广泛的应用场景目前用户使用AI产品的痛点主要在交互门槛和使用场景较为模糊,端侧模型提供即时响应和离线功能, 用户体验更为流畅和便捷,同时通过减少数据传输和优化能耗,成本也有所降低,因此用户可以在更多场景中调用AI服务,从而形成使用习惯。
目前,端侧AI有局限性,大模型终端落地对算力、传输、功耗、散热等环节仍有挑战终端落地大模型仍有以下问题待解决和提升:算力需求升级:目前最新的高通骁龙8Gen3和联发科天玑9300已支持百亿以下参数大模型,未来端侧模型参数量仍有提升空间,各厂商SoC除传统CPU、GPU等升级外,NPU需加大升级力度提升AI算力性能。存储和传输能力升级:内存除了参数的存储,更重要是传输读取,这决定了大模型答案生成速度,如果存储和传输条件不足,则端侧AI不如联网访问云端的体验。电池续航与散热能力升级:芯片、传感器等硬件性能增强导致功耗提升,会加大电量损耗、功耗管理和散热问题。因此,即便终端主要负责推理任务,在传统硬件配置基础上,仍难以做到短期内落地百亿以上参数的大模型,相关配置均需升级。
产品同质化、杀手级应用未能大规模出现也是端侧AI发展面临的主要问题。AI大模型+IoT是长期趋势,后续终端同质化竞争可能较为严重。智能手表、手环、AR/VR眼镜以及AI Pin等新IoT形态,由于产品设计不足以支持本地化大模型运行,AI功能主要通过联网云端实现。AIGC渗透率持续提升背景下,AI大模型+IoT硬件产品有望大规模涌现,而产品核心竞争力(AI大模型性能)仍掌握在大型互联网厂商手中,硬件能力相对容易满足,因此未来可能出现严重的产品同质化现象。杀手级应用仍未大量出现:目前使用端侧大模型运行的应用主要是对原有功能的智能化升级,一方面终端大模型性能仍较云端有较大差距,另一方面,各厂商大模型仍未和各APP间连通生态,因此目前尚没有刚需应用或杀手级应用大量出现。
端侧AI发展的必然性1、技术角度:端侧AI相比云侧优势明显端侧AI的四大优势:隐私和安全、低延时、可靠性、低成本。
隐私和安全:端侧AI从本质上有助于保护用户隐私,因为查询和个人信息完全保留在终端上。数据的存储计算等都在本地,避免了传到云端可能带来的数据安全问题。对于企业和工作场所等场景中使用端侧AI,这有助于解决保护公司保密信息的难题。例如,用于代码生成的编程助手应用可以在终端上运行,不向云端暴露保密信息。
低延时:当生成式AI查询对于云的需求达到高峰期时,会产生大量排队等待和高时延,甚至可能出现拒绝服务的情况,数据的存储计算在本地处理、本地响应方面时间更短速度更快。
可靠性:与云端互联的网络可能不稳定、甚至断线。决策在本地大幅降低了数据经过更长的通路产生错误的几率。终端侧AI处理能够在云服务器和网络连接拥堵时,提供媲美云端甚至更佳的性能。根据测算,如果所有的推理案例都在云服务器上进行,准确率是79.31%;如果49.88%的推理案例在移动端进行,其余在云端进行,仍可达到79.31%的云级准确率。
低成本:随着生成式AI模型使用量和复杂性的不断增长,仅在云端进行推理并不划算。将一些处理从云端转移到边缘终端可减轻云基础设施的压力并减少开支。此外与云端相比,端侧AI能够以很低的能耗运行生成式AI模型。
2、用户角度:成本增加有限,端侧硬件先行从购买行为和增量成本两个角度与早期的5G手机对比,AI手机/PC具备快速渗透的逻辑基础。相比19年5G手机高达万元的售价,目前AI手机/PC的BOM成本增加集中在主芯片和内存等环节,售价十分接近现有高端型号。消费者为了享受未来可通过OTA迭代的AI操作系统和应用软件,可遵循先购机再升级的通用模式。
硬件先行:5G手机商用后,渗透率快速提升。2020年国内5G基站批量建设刚刚起步,但5G手机出货量在20年底就已接近70%。
成本分析:相比早期5G手机,AI手机/PC成本增加并不明显。5G手机的增量成本包括射频、AP&BP、闪存和专利费等,而AI手机/PC在BOM层面基本只增加了主芯片和DRAM。据高通预测,SoC价格提升幅度在10%左右。
三、端侧AI之AI手机AI手机是一个软件定义硬件的过程,AI模型落地智能手机有望为近年应用创新乏力、性能过剩的智能手机行业带来下一轮创新原动力。预计未来2-3年内智能手机端侧AI大模型参数或达200亿规模,4-5年则有望达到300亿规模,千亿参数大模型则有较高实现难度(结合云端算力,本地千亿大模型的必要性也不足);预计3年维度下百亿参数内的大模型落地智能手机的渗透率有望达40%+,考虑到智能手机端侧大模型需要内存、主芯片等硬件支撑,而低端手机BOM难以支撑,参考智能手机出货价格分布情况,预计百亿参数级别大模型主要落地于2500元以上智能手机。
1、应用端:大模型落地强化软硬结合趋势,智能化应用再升级应用端:近年来智能手机持续强化AI应用,大模型落地智能手机将为消费者带来使用体验升级。
2018年以来,各主流终端厂商的旗舰机型均引入各类AI应用,在图像(美颜、场景识别、相册分类、背景虚化、人脸识别、文字识别)、语音(语音助手、语音搜索) 等领域已为用户提供了便捷的使用体验。
2023年以来,各类大模型开始规模化应用于智能手机,进一步强化了智能手机在图文等领域的处理能力,拓展了人机交互场景,能够更灵活的响应用户需求。目前智能手机端侧AI实际跑通且应用的大模型参数仍未过100亿,如小米14(60亿参数)、vivo X100 (70 亿参数)、谷歌 Pixel 8 Pro(搭载 Gemini Nano大模型,针对低内存和高内存设备参数量分别为18亿和32.5亿),因此在使用体验上短期仍聚焦于相对简单的图文处理和语音助手,在部分算力要求较高的场景下使用体验仍有待提高。为了平衡内存、执行速度、 功耗和成本等问题,端云协同的混合AI是手机厂商部署大模型时的普遍选择。其中,云端用于需要大算力、大参数模型的场景;端侧部署则主要用于运行数据安全性高、需要实时 反馈的轻量化问题,且在网络条件较差时更具备可行性。
手机端侧AI体验正快速迭代,有望激发智能手机的焕新时代。智能手机在大模型加持下向2.0时代迈进,在智能手机传统硬件创新趋缓的背景下,由AI带来的软硬件升级趋势,有望成为下一轮智能手机创新的原动力。
硬件端:端侧算力落地需要硬件支持,主控SoC、内存、散热核心升级(1)核心升级之SoC算力持续强化为手机AI使用体验提升提供底层支撑,高通、联发科均在产品迭代上进行重点布局。以往的手机芯片普遍以CPU/GPU/DSP为核心的传统计算架构,但这一架构难以支持AI海量数据计算。2017年9月2日,华为率先发布全球首款人工智能移动计算平台麒麟970,集成人工智能专用NPU神经网络单元,率先将AI芯片落地智能手机。同年9月13日,苹果发布iPhone X,使用自研的手机芯片A11,其中内置名为Neural Engine的神经网络处理单元,同样着力提升AI应用体验。近年来,在芯片算力升级过程中,价格亦持续提升,以高通骁龙为例,骁龙8Gen1的AI算力达9 INT8 TOPS(每秒万亿次操作);骁龙8 Gen2 AI算力提升4.35倍;骁龙8 Gen3的NPU算力进一步提升98%。TechInsights估算骁龙8 Gen1价格约9 120-130美元(2021年),8 Gen2价格约160美元(2022年),8 Gen3价格约200+美元(2023年)。由于芯片平台迭代周期约为2年,骁龙8 Gen3主要基于2022年大模型开发。“AI原生SoC”时代有望于2024年中推出的骁龙8 Gen4开启。
(2)核心升级之存储AI手机需要更大容量、更高频率和更大内存带宽。目前典型的智能手机搭载8GB内存,支持端侧AI大模型功能的智能手机则需要更大容量的内存。考虑到大模型内存占用+安卓系统运行内存占用+其他常规APP运行内存占用,一个搭载100亿参数大模型的手机约需要14-16GB内存;搭载200亿参数大模型的智能手机约需要20-24GB内存。
如vivo X100系列手机(搭载70亿参数大模型,具有语言理解、文本创作能力,最快出词20+字/秒,内存占用3.9GB),基础款内存由前代的8GB升级为12GB起步,高配款的内存则由前代的12GB升级为16GB。此外,AI手机存储也需要更大的带宽和传输速率,如骁龙8 Gen3支持LPDDR5X,频率从前代的4.2GHz提高到了4.8GHz,内存带宽则从33.5GB/s提升到了77GB/s;天玑9300则率先支持LPDDR5T 9600Mbps内存,以实现更快的智能手机内存传输速率。
(3)其他升级之散热、传感器考虑到智能手机有望基于AI大模型采集、分析、传输更多数据,预计需要匹配更好的散热特性,光学、声学等方面亦有升级趋势。
散热:高阶安卓手机主流散热方案以超薄VC均热板为主,辅以石墨及石墨烯,中阶机型则是以导热管结合石墨散热方案为主。随AI手机算力提升散热需求或同步成长,据模切之家测算,一部手机所需的人工石墨膜价值量约2.5元;导热硅胶ASP约2-5元;石墨烯膜ASP约100元以上;参考热设计微信公众号,测算一部智能手机所需的均热板价格约10-15元。
光学:摄像头是人机视觉交互入口,大模型加持下,手机摄像头有望从被动调用往主动感知转变,即摄像头有望主动感知用户所处环境及用户手势意图等,且长时间的低功耗后台运行有望成为趋势。除摄像头外,预计ISP亦有望强化AI特性,从而实现对捕捉到的画面色彩、纹理、噪点以及亮度进行实时逐帧优化,使得画面更明亮且细节更丰富;且有望提升防抖运算速度以实现运动场景和暗光环境下快速捕捉到高清晰度的图像。
声学:语音输入是人机交互的关键接口,预计后续智能手机或持续升级麦克风收音质量,强化用户意图理解,增强语音交互体验。如据technave援引产业链消息,Apple已在2023年第三季度对Siri团队进行重组,以整合AIGC功能和大型语言模型,iPhone16麦克风有望迎来升级。
3、品牌端:品牌厂商力争流量入口,百亿参数大模型渗透率快速提升智能手机厂商强化“AI+硬件”趋势下的话语权是供给侧的核心驱动,AI赋能有望支撑品牌商新一轮份额竞争。智能手机品牌厂商有较强动力抢占AI时代的流量入口,从而大力推进端侧AI发展(而非完全采用云端AI,把流量入口交由ChatGPT等大模型),后续智能手机端侧AI算力有望持续提高,且与系统、应用的融合度有望持续增强。此过程中,大模型轻量化能力领先、本地化部署成熟的厂商有望占据先机。
大模型轻量化:轻量化方法旨在在不降低模型性能的前提下,减小模型的计算复杂度和存储需求,从而提高模型在低资源设备和低功耗环境下的部署效率。主要包括:模型压缩(通过对模型结构进行优化,减小模型的参数量和计算复杂度,从而降低模型的存储需求)、模型裁剪(通过对模型结构进行简化,去除冗余的参数和计算,从而减小模型的计算复杂度)、模型量化(通过对模型参数进行量化,降低模型的数值范围,从而减小模型的计算复杂度,在手机端,高通已经将FP32模型量化压缩到INT4模型)等方式。预计后续各家厂商有望通过调整模型结构和参数大小,适配各类芯片在内存和算力上的特点,达到功耗、推理速度和生成效果的平衡。
大模型本地部署:所谓本地化部署,主要是指将大模型融入系统,打通各个应用之间的互动,使得应用程序的的运行更为高效、稳定,考虑到目前部分手机的AI体验仍难以打通第三方APP,后续能够从系统层面进行AI赋能的终端品牌厂商有望实现差异化竞争。
四、端侧AI之AIPC1、生成式AI与端侧AI先行,有望倒逼智能设备端侧硬件性能升级随着生成式AI的快速发展,人机交互方式得到进一步完善,端侧AI应用及个人大模型打破了软硬件迭代式演进规律。根据“安迪-比尔定理”,软件的更新升级一般要与硬件资源所匹配;但本轮以OpenAI ChatGPT、Windows Copilot、个人大模型为主的AI应用在软件及系统层面率先作出巨大改变和升级,给广大用户带来全新的智能终端及智能交互体验,打开广阔想象空间,释放想象力和创造力。
2023年3月,微软推出Microsoft 365 Copilot,宣布Microsoft 365全面接入AI功能。作为一项全新的生产力特性,Microsoft 365 Copilot将大语言模型与Microsoft 365结合,通过生成式AI助手自动生成文档、制作专业表格、优化PPT排版、处理电子邮件等功能,大幅提高用户创造力及工作效率,同时嵌入于Word、Excel、PowerPoint、Outlook和Teams等微软应用中:
CopilotinWord能够协助用户一同撰写、编辑、总结和创作;Copilot in Excel能够帮助用户识别数据趋势,并在短时间内创建专业型数据可视化方案;Copilot in PowerPoint能够帮助用户通过自然语言的方式将想法转化为设计好的演示文稿,并利用自然语言调整布局、编排文本、创建动画等;Copilot in Outlook能够帮助用户整合并管理收件箱,并根据具体语境语态起草邮件内容。
微软推出Windows Copilot,成为第一个提供集中生成式AI协助的电脑平台。2023年5月,微软在开发者大会上宣布推出Windows Copilot,并在6月底上线开发者预览版。Copilot是一种使用自然语言处理技术或大语言模型,帮助人们完成复杂或认知任务的应用程序或组件。作为微软在Windows11中加入的AI助手,Copilot集成了在操作系统中的侧边栏工具,可以帮助用户完成各种任务,包括回答问题、总结信息、编辑文档、调整计算机设置等。
智能设备作为AI触达终端用户的终极载体,正在成为AI未来发展与落地的重要突破口,因此联想全球首款AIPC应运而生。10月24日,联想在TechWorld创新科技大会上展示了联想在端侧大模型方面的能力,并推出全球首款AIPC,预计2024年9月后上市。发布会上,联想将云端大模型和端侧大模型对比运行,虽然端侧AI速度相对慢一些,但两者生成行程规划的速度差别不大,且端侧模型考虑了家庭地址、酒店偏好等因素,规划更加个性化。此外,联想还进一步展示了端侧大模型的多模态能力,利用用户输入的提示,电脑迅速生成了相关图片。
联想提出“三个大模型”框架处理涉及用户隐私和企业商业秘密问题。“三个大模型”分别包括:公共大模型,使用公共开放的数据进行训练;私域大模型,先用互联网通用数据训练,再用企业数据进行训练,最后集成包含企业知识的向量数据库信息,来自现有企业子系统(如ERP、CRM和MES);个人大模型,通过裁剪和量化等方法来缩小模型,同时保证性能。在做用户任务之前,需要先用“数据安全和隐私管理”模块评估任务的隐私级别。不涉及隐私的一般任务将被发送到公共大模型;涉及隐私的任务,则需要进行任务理解、任务拆分、敏感信息脱敏和反脱敏,并用私域大模型和个人大模型来完成。
联想表示,AIPC需要能够运行个人大模型,并具备更强算力,支持异构计算。11月22日,联想集团董事长兼CEO杨元庆在《财经》年会上解释个人大模型是指部署在个人智能设备或家庭服务器上,使用存储在本地的个人数据进行推理和学习的人工智能基础模型。在此基础上,他定义AIPC需要具备五大核心特质:AIPC能够运行经过压缩和性能优化的个人大模型;具备更强的算力,能够支持包括CPU、GPU、NPU在内的异构计算;具备更大的存储,能够容纳更多个人全生命周期的数据并形成个人知识库,为个人大模型的学习、训练、推理、优化提供燃料;具备更顺畅的自然语言交互,甚至可以用语音、手势完成互动;具备更可靠的安全和隐私保护。
端侧AI能力是实现生成式AI全球规模化扩展的关键,端侧AI快速发展倒逼端侧硬件性能升级。端侧AI的演进与生成式AI需求密切相关,软件先行掀起了对于算力、存储等硬件层面性能提升的需求浪潮,高通、苹果等各大芯片龙头争先推出能够在端侧运行生成式AI模型的处理器芯片。
10月25日,高通发布面向Windows 11 PC的旗舰PC芯片骁龙X Elite,支持在端侧运行超过130亿参数的生成式AI模型。骁龙X Elite具备行业领先的NPU,在众多支持Windows11的PC平台中拥有一流的CPU性能和能效。其采用4nm工艺技术,采用定制的集成高通Oryon CPU,12核CPU性能可达到x86处理器竞品的2倍,多线程峰值性能比苹果M2芯片高出50%,GPU算力可达4.6TFLOPS,AI处理速度达到竞品的4.5倍,异构AI引擎性能达75TOPS,支持在终端侧运行超过130亿参数的生成式AI模型,面向70亿参数大语言模型每秒生成30个token。骁龙X Elite平台专为生成式AI打造,领先的终端侧AI推理为PC体验来带变革。预计搭载骁龙X Elite的PC将于2024年中面市。
10月31日,苹果发布新一代M3系列芯片,其中M3 Max支持开发数十亿参数的Transformer模型。苹果M3系列芯片包含M3、M3 Pro、M3 Max三款,采用3nm工艺打造,配备下一代GPU、更高性能CPU、更快的神经引擎以及对更统一内存的支持。M3系列芯片具有增强的神经引擎,可加速强大的机器学习模型。神经引擎比M1系列芯片快60%,使人工智能、机器学习工作流程更快,同时将数据保留在设备上以保护隐私。特别是M3 Max支持高达128GB的统一内存,使AI开发人员能够开发数十亿参数的Transformer模型。
2、处理器龙头客户端收入边际增长,AI应用促进PC市场景气回升随着端侧AI应用深化及终端AI芯片陆续推出,PC换机周期有望得到加速。英特尔和AMD是全球个人PC处理器领导者;据Counterpoint数据,2022年英特尔CPU以近70%的份额在笔记本电脑市场中占据主导地位;AMD紧随其后,排名第二。结合英特尔和AMD最新业绩情况可以看到,其面向PC等客户端相关产品业绩收入的边际增长预示着PC市场已逐步复苏回暖,景气度逐步上升。
英特尔业务部门中客户端计算事业部面向个人PC提供CPU等产品。英特尔业务部门包括客户端计算事业部(CCG)、数据中心与人工智能事业部(DCAI)、网络与边缘事业部(NEX)、Mobileye事业部(Mobileye)和英特尔代工服务事业部(IFS)。其中,客户端计算事业部专注于长期的操作系统、系统架构、硬件和应用程序集成,提升PC功能;其主要产品是Core(酷睿)处理器,包括专门为笔记本电脑和台式机设计的处理器。
FY23以来英特尔客户端计算事业部季度收入逐季增长,同比降幅持续收窄;FY3Q23收入环比增长16.0%。据英特尔客户端计算事业部数据,FY1Q22-FY3Q23公司客户端计算事业部收入及占比呈现先降后增趋势。客户端计算事业部是公司占比最高的业务,多数季度占比一半以上。FY22特别是下半年客户端计算事业部收入下滑,主要由于宏观经济疲软对PC的潜在市场产生了负面影响,特别是在消费、教育和中小型企业市场。自FY1Q23起,公司客户端计算事业部收入逐季增加,环比涨幅分别为17.6%、16.0%,同比减幅亦加速收窄。FY3Q23公司客户端计算事业部收入同比减幅收窄至3.2%,环比增长16.0%。
AMD业务部门中客户端部门面向个人PC提供CPU等产品。AMD业务部门包括数据中心(DataCenter)、客户端(Client)、游戏(Gaming)、嵌入式(Embedded)四大部门。其中,客户端部门致力于为终端用户带来更好的系统稳定性、更强的性能和更高的功率效用,主要产品包括用于台式机和笔记本电脑的CPU、APU和芯片组。
FY23以来AMD客户端部门季度收入持续增长,同比降幅收窄至由负转正;FY3Q23收入环比增长45.6%。据AMD客户端部门数据,FY2Q21-FY3Q23公司客户端部门收入及占比呈现先降后增趋势。FY2Q21-FY2Q22,客户端部门是公司占比最高的业务,占比达1/3以上。由于2022年PC市场需求疲软,以及2022年下半年PC供应链经历重大库存调整导致产品出货量下降,公司客户端部门收入在FY3Q22大幅下降。自FY1Q23起,公司客户端部门收入逐季增加,环比涨幅分别为35.0%、45.6%,同比变化幅度逐渐由负转正。FY3Q23公司客户端部门收入同比增长42.4%,环比增长45.6%。
五、产业变革端侧大模型不断迭代,预计参数将持续提高。目前多家智能机品牌旗下的旗舰机型均已在端侧落地了大模型,如vivo X100的70亿蓝心大模型。大模型的参数规模仍在升级进程中,Counterpoint预测,本地大模型参数的上限将在2024年增长至130亿,在2025年增长至170亿。大模型参数规模的增长将进一步拓展生成式AI手机的能力,同样也会对硬件环节提出更高要求,推动多个硬件环节升级,如算力规模、内存容量、电池续航与散热等。
1、处理器:海外龙头持续加码AI处理器,持续提高性能海外硬件龙头厂推出AI手机处理器,推动AI手机面世。2023年末以来,高通和联发科陆续推出面向手机终端的AI处理器,如高通的骁龙8 Gen3、骁龙8s Gen3和联发科的天玑9300、天玑9300+,均支持在手机端运行AI大模型,助推AI手机面世。此外,高通还推出了骁龙7+Gen3,一定程度上表明AI手机逐渐从高阶的旗舰机型向中高阶渗透,AI处理器的推出不断助力AI落地手机端。
高通和联发科积极迭代AI处理器,AI性能不断精进。高通骁龙8 Gen3将Hexagon DSP升级为了Hexagon NPU,并采用了全新的微架构,采用4nm工艺,下一代8 Gen4则有望采用台积电3nm工艺;天玑9300+采用全大核CPU架构,八核CPU包含4个Cortex-X4超大核,最高频率可达3.4GHz,以及4个主频为2.0GHz的Cortex-A720大核,搭载第七代AI处理器APU 790,拥有强大的生成式AI能力,率先在端侧支持AI推测解码加速技术,性能提升可达10%。
苹果A系列处理器晶体管数量、算力等持续创新高。2019年,苹果发布A13芯片,采用7nm制程,晶体管数量为85亿,算力规模为5.5TOPS,到2023年,苹果发布A17 Pro芯片,制程工艺为3nm,晶体管数量达190亿,算力规模也提升至35TOPS。2024年5月7日,苹果发布M4芯片,采用第二代3纳米制程工艺打造,总计集成280亿只晶体管,是Apple迄今最强大的神经网络引擎,运算速度最高可达每秒38万亿次。M4芯片的面世一定程度上展现了苹果在端侧AI的布局成果。未来随着苹果A系列芯片晶体管数量和算力规模持续提高,性能有望不断提升,带动消费者使用体验提高,加强自身产品竞争力。
2、PCB:AI处理器升级带动主板价值量提升随着端侧AI处理器尺寸和制程逐渐升级,主板价值量有望提升。主要有以下几种可能的方式:和服务器端类似,由于芯片尺寸增加,加速卡面积大幅增加,GB200加速卡面积是H100的数倍,数据量大了之后,主板层数也是增加的趋势。
目前手机主板主要采用HDI工艺,电脑主板主要为多层通孔板。升级为AI手机/PC后,由于芯片制程的提升,主板的线宽线距需要缩小,普通PCB减成法最小线宽线距一般能做到70-80μm,HDI在减成法基础上,通过激光钻微通孔、堆叠的通孔将最小线宽线距降至40μm左右,采用mSAP工艺的SLP主板最小线宽线距则可以降至20μm左右。
根据目前已经上市的AI手机/PC产品,判断电脑主板未来采用HDI的比例有望上升。手机主板方面,安卓主要采取高阶HDI,未来有望升级至SLP,苹果自iPhone X后一直采用SLP主板,线宽线距30μm左右,未来线宽线距有望进一步缩小。
材料角度,高速化、轻薄化、散热性能好、省电、低损耗是发展方向。传统的电路板采用玻纤布当做核心层,填充树脂固化,然后覆盖铜箔,厚度有一定限制。联茂开发出新一代SLP/HDI用材料RCC(Resin Coated Copper,背胶铜箔),可不使用玻纤布,直接用树脂固化然后上下覆盖铜箔,这样减少了玻纤布的厚度,可使得PCB更轻薄,能够克服传统方案15-20微米最小厚度的限制,还能提高信号质量和效率,降低成本和重量。对于电脑主板而言,电脑越来越接近小型服务器,高速材料M4、M6也有望用于主板的制造。
此外,FPC作为手机/PC各个模块和主板之间信号传输的媒介,未来在端侧运行大模型,需要接收大量音频、视频、图片数据,也将对FPC传输性能提出更高的要求,带动价值量的提升。
3、电池:AI导致功耗增加,智能机续航是痛点智能机电池容量整体呈现上升趋势。Counterpoint Research报告显示,全球智能手机平均电池容量已从2018年的3000mAh增加到2022年的4500mAh,增加50%。续航是自手机面世以来就被用户一直关注的重点,未来随着AI大模型落地端侧,大模型的运行会带来高能量的消耗,对于电池要求会继续提高,智能机电池容量有望继续提升。
硅碳负极理论克容量优势明显,预计将是提升电池密度的重要升级方向。目前主流消费电芯负极材料主要为石墨,其中天然石墨理论克容量高但成本较高。相比于石墨,硅基负极材料的理论克容量可以达到4000mAh/g,远超当下主流石墨负极370mAh/g的理论克容量,但其材料性能有待进一步突破,硅碳复合材料预计是未来提升电池能量密度的发展方向之一。
硅材料体积膨胀率较高,钢壳电池相较于铝塑膜可有效缓解膨胀。硅材料的体积膨胀率为320%,碳材料的膨胀率为12%,随着手机电池负极材料向硅碳材料发展,体积膨胀率会相应变大。目前手机多采用软包电池,其外壳主要使用铝塑膜,而铝塑膜具有延展性,刚度很小,在电池内部受力时会鼓胀,导致电池出现膨胀现象,相比之下,钢壳的加工性、韧性和成型都非常优良,可以抑制电池膨胀。未来电池外壳采用钢材料有望成为主流。
目前已有部分手机品牌厂在其高端机型上采用了硅碳负极技术,如华为、荣耀、小米等。荣耀青海湖技术采用碳硅负极材料,通过原位气相沉积技术,实现了青海湖电池材料的合成。该电池相比常规石墨电池,在电池能力密度上提升了12.8%,低压区电池容量提升240%。2023年2月,荣耀发布Magic5系列,其是首款搭载青海湖技术的智能手机,有着比一般旗舰手机更大的电池容量,更长的续航。华为于2023年3月发布P60 Art,搭载5100mAh硅碳负极电池,此后Mate60系列等机型也搭载硅碳负极电池,有效提高电池容量和能量密度。
根据目前已经发布的部分AI手机来看,华为、荣耀、三星、小米、OPPO、vivo等推出的AI手机均进行了电池容量的升级,提升幅度略有不同。未来随着AI持续落地手机端、端侧大模型参数规模不断升级、AI应用的持续推出等,电池容量有望持续升级,电池厂商或将受益。
4、散热:散热材料持续升级,使用量和价值量双双提升散热对于电子产品重要性较高。电子元器件故障发生率随工作温度的提高呈指数增长,温度每升高10℃,系统可靠性降低50%。目前,电子产品主流散热方式主要包括人工合成石墨散热膜、导热凝胶、热管、均热板、散热片、风扇、液冷等。手机中,典型的散热系统主要分为导热界面传热、均热板传热(VC)和石墨膜散热(石墨烯导热膜/人工石墨散热膜)。
VC均热板+石墨及石墨烯等逐渐成为智能机主流散热解决方案。手机散热发展历程大体分为三个阶段:最初以石墨散热膜为主,后逐渐发展为以热管散热为主,2018年10月,华为推出Mate 20 X,使用VC均热板和石墨烯材料散热,此后以均热板散热为主、石墨及石墨烯等散热技术为辅的散热方案逐渐成为主流。VC均热板在散热效率方面极具优势,并加速向超薄化、结构简单化和低成本方向发展,技术持续迭代。
三星Galaxy S24 Ultra散热效果显著提升。随着端侧大模型参数规模不断提升,相关数据量和计算量需求呈爆发式增长,会产生发热等问题,散热管理愈发重要。一般来说,VC均热板面积越大,就能越好地减少发热点,以三星Galaxy S24 Ultra为例,其均热板面积显著加大,同时额外加入石墨散热片。根据PBKreviews,三星Galaxy S24 Ultra用于散热的均热板,相比S23 Ultra大了1.9倍。未来随着AI大模型加速落地智能机端侧,以及参数规模提升,预计会对散热提出更多要求,如均热板面积变大或石墨材料用量增加等,带动散热材料量价双升。
六、相关企业1、春秋电子:深耕笔记本电脑结构件制造,提供消费电子产品结构件模组及相关精密模具一站式服务春秋电子致力于为客户提供消费电子产品结构件模组及相关精密模具从设计、模具制造到结构件模组生产的一站式服务。公司的主营业务为消费电子产品结构件模组及相关精密模具的研发、设计、生产和销售;公司的主要产品为笔记本电脑及其他电子消费品的结构件模组及相关精密模具。
模具质量决定结构件产品质量,公司是PC结构件供应商中较少拥有自主模具设计生产能力的公司。结构件行业是典型的模具应用行业,模具质量的高低决定着产品质量的高低。模具设计与制造技术水平的高低,是衡量产品制造水平高低的重要标志之一,其主要体现在模具精度和模具设计开发的时间周期上。春秋电子依托模具制备经验,其模具开发精度可达0.008-0.015mm,子公司上海崴泓是中国模具工业协会第八届理事会理事单位,同时被授予“中国大型注塑模具重点骨干企业”称号,并被国内领先的家电及汽车厂商授予产品品质认证。
深耕笔记本电脑结构件制造,车载镁铝结构件扬帆起航。新能源汽车行业是新兴行业,新能源汽车的轻量化趋势也是较为明确的产业趋势,而镁铝合金的材料应用在新能源汽车的轻量化趋势中具有较多的应用场景,春秋电子多年来在镁铝合金的材料应用方面积累了丰富的经验和过硬的技术实力。
2、华勤技术:全面拓展基于硬件的系统级软件服务,成长潜力十足华勤技术是从事智能硬件产品的研发设计、生产制造和运营服务的平台型公司,在智能手机、平板电脑及笔记本电脑等产品领域奠定深厚底蕴。华勤技术主要服务于国内外知名的智能硬件品牌厂商及互联网公司等,公司紧跟智能硬件产品的市场和业务趋势,抓住全球电子制造产业专业化分工的发展契机,在智能手机、平板电脑及笔记本电脑等产品领域奠定了深厚的底蕴。
笔记本电脑领域,公司是唯一打破中国台湾同行垄断的公司。公司从2015年战略布局笔记本电脑市场,将智能手机等产品的轻薄化技术、窄边框设计、功耗设计与金属工艺等应用到笔记本电脑,在笔记本电脑业务领域,获得笔记本电脑头部品牌的认可,公司已与国内外知名终端厂商建立了良好的合作关系,进入一线笔记本电脑品牌供应链,公司是唯一打破中国台湾同行垄断并形成规模效应的公司,根据Digitimes的数据显示,公司在2023年第二季度全球笔记本电脑ODM厂商出货量中进入前四位。
全面拓展基于硬件的系统级软件服务,依托平台型地位形成多个增长曲线。公司为客户提供整机的产品级方案设计制造的同时,从硬件的载体上全面拓展基于硬件的系统级软件服务、关键零部件设计导入、全球产品级服务平台等多维的商业模式,从而构建平台型公司的属性和定位,建立多品类产品的技术和生产优势,建立起行业领先的综合能力。同时,得益于优秀的技术迁移能力和敏锐的商业嗅觉,公司将手机领域深厚的技术积累快速迁移至笔记本电脑、智能穿戴等新领域,进行行业横向扩张,不断开拓并形成服务器、汽车电子等业务的多个增长曲线。
3、中石科技:热管理方案龙头,完善产业布局开启成长新周期消费电子领域,公司提供高导热石墨产品、导热界面材料、热管等不同产品,基本涵盖了国内外主流手机头部品牌客户。此外将战略布局AR/VR设备、折叠屏手机、智能投影等消费电子新兴赛道。在数字基建领域,公司业务涵盖服务器/数据中心、通信、安防设备等,目前已向国内外多家企业批量供货。在新能源汽车领域,目前公司已获得全球Top3某德系零部件企业、国内造车新势力小鹏的开发定点项目或供应商代码,根据客户的需求项目的落地,部分项目已经批量供货。在清洁能源领域,公司在光伏逆变器、风电变流器等应用场景中提供热模组、导热界面材料等产品,部分产品已经形成批量销售。
珠海冠宇:全球消费电池龙头,具备客户结构及规模化优势深耕消费电子市场,持续丰富产品覆盖领域。公司消费类电池产品包括电芯及PACK,涵盖笔记本电脑、平板电脑、手机等;动力类电池产品包括电芯、模组、PACK和系统,涵盖汽车启停系统、电动摩托、行业无人机和新能源汽车高压电池等领域;储能类电池产品包括电芯、模组、PACK和储能系统,涵盖家用储能、通讯备电、工商业储能等领域。公司具备较强的持续研发能力,截至2023年6月30日,公司拥有已授权有效国内专利1493项。
全球消费电池龙头,客户结构及规模效应优势明显。手机方面,公司现有客户包括华为、荣耀、小米、OPPO、vivo、联想、中兴等,23Q2首次实现苹果手机电池产品的量产,根据Techno Systems Research,2022年公司智能手机锂离子电池的市场占有率为7.43%,全球排名第五。公司消费类PACK业务持续稳步提升,2023H1的消费类电芯PACK自供比例为31.97%,同比上升4.55个百分点。同时,公司更大范围地拓展市场业务诸如智能穿戴设备、无人机、智能清洁电器、电动工具等新兴消费类电子产品,不断丰富公司的客户群体业务实现快速增长,有效提升产品附加值。公司作为全球消费类电池龙头,具备客户结构及规模化优势,有望深度受益PC行业复苏和升级浪潮。
唯捷创芯:PA模组龙头,Wi-Fi逐步发力唯捷创芯主要产品包括发射端分立器件、发射端模组、接收端模组以及Wi-Fi、车规等PA模组等。2019年公司获联发科投资,后续逐步导入小米、OPPO、VIVO、荣耀等主流手机品牌。目前公司已获得多家品牌手机厂商入股,旨在强化供应链合作关系。根据2023年业绩快报显示,公司总营收29.82亿元,同比增长30.32%,归母净利润1.05亿元,同比增长95.93%。
PA模组集成度不断提高,逐步强化全套模组供应能力。公司成立早期产品以2GPA为主,后不断扩展至3G、4G、5G NRPA,且产品集成度不断提高。公司于2020年和2022年分别推出高集成度模组化产品L-PAMiF(2021年全球市占率5.84%,国内第一)、L-PAMiD。在完成手机发射端产品的布局上(2023H1发射端营收占比89.5%),公司同步布局LNA Bank,L-FEM,DRx,DiFEM等接收端模组以及Wi-Fi6/6E/7射频前端模组,着力强化全套模组供应能力。
公司率先发力Wi-Fi7产品,射频产品立足新领域。公司第一代Wi-Fi7已正式开始推广,成为国内较早推出Wi-Fi7射频前端产品并完成新标准产品化的公司之一。除此以外,公司在车载和卫星通讯领域也获得新进展。公司在车载领域已与比亚迪、移远通信等公司签订战略合作协议,正式进入车载射频前端芯片市场;卫星通信领域,长期来看卫星通信将成为智能手机标配。公司目前已成功推出手机端卫星PA类产品,未来营收贡献增长可期。
中科创达:端侧AI落地有望为中科创达带来新业务增长动力端侧AI落地有望为中科创达带来新业务增长动力:公司自2008年开始在安卓系统上与高通建立深度合作,积攒了丰富的合作开发经验和能力,形成了从硬件驱动、操作系统内核、中间件到上层应用的全面自主知识产权体系。端侧AI的持续落地有望为公司业务带来新的增长驱动力:芯片厂商侧,公司与芯片厂商共同建立和运营联合实验室,提供驱动开发、系统优化、测试认证等服务,协助芯片厂商建立相关生态系统;终端厂商侧,AI大模型在端侧的部署通常伴随搭载新一代的硬件平台,从而带来系统开发、硬件调优等方面的需求。
公司在端侧AI领域已有布局:2023年底,公司即实现了在搭载高通8系列芯片平台的边缘设备上实现LLaMA-2130亿参数模型的稳定运行,成为业内首家取得此突破的大模型企业;2024年3月,公司作为英特尔生态合作伙伴,受邀出席英特尔2024全新商用客户端AIPC产品发布会,并在英特尔酷睿Ultra处理器上展示了其在端侧模型应用的最新成果,魔方智能法律助手;2024年5月,在联想商用AIPC产品大赏会议上,公司实现了AIPC法律助手在联想ThinkPad X1 Carbon上的应用。
长盈精密:MR+钛合金业务进展顺利,新能源放量修复盈利能力公司主要面向消费电子精密零组件及新能源产品零组件两大主营业务,业绩有望持续恢复:消费电子精密零组件:23年Q4,MR项目顺利实现量产,安卓客户智能手机钛合金结构件项目也顺利实现量产,在交货速度和良率等方面取得客户高度认可,为后续新项目的拓展奠定了坚实基础。公司借助在新材料和新工艺的精密制造能力,切入苹果、安卓大客户,覆盖XR、PC、手机多种智能终端,受益AI浪潮下消费电子复苏趋势。新能源产品零组件:四川宜宾、四川自贡、江苏常州、福建宁德的动力电池结构件生产基地产能逐步释放,2023年公司氢燃料电池双极板实现批量出货,并为多家重大装备客户提供研发、模具等服务,同时墨西哥合作工厂也已通过客户审核,并开始承接客户订单,新能源业务有望持续快速增长。
七、发展趋势AI正持续向端侧靠近,端侧AI或将迎来黄金增长期AI正持续向端侧靠近,从手机到电脑再到汽车等产业都将迎来转折。生成式AI发展之初,由于计算规模巨大,运算处理基本都汇集在云端进行。如今为了提升用户的体验,AI能力需要落地到数十亿终端设备,成本必将大幅提升。因此,AI处理重心正不断向边缘转移,混合AI成大势所趋,多家科技巨头盯上各类端侧AI应用,已竞相布局。
产业链推进端侧AI应用不断扩展外延,终端落地逐步启动。端侧AI的发展离不开全产业链的推动,从芯片算力增强、模型优化到软件厂商适配以及终端厂商的落地应用,每一个环节都是推动端侧AI发展的重要因素。这种全产业链的合作模式,有助于加速端侧AI技术的创新和应用落地。例如,高通、联发科等芯片厂商发布支持端侧AI大模型运行的芯片新品,均对AIPHONE的落地起到重大推动作用。端侧AI在智能驾驶、智能家居设备、智慧安防、消费电子(手机/PC等)以及其他物联网(IoT)设备中有广泛的应用,正成为驱动AI行业创新的核心力量。同时,端侧AI不仅仅局限于特定的技术领域,而是正逐步渗透到更广泛的行业和应用场景中。
端侧AI是AI发展下一阶段,或将迎来黄金增长期。随着硬件性能的提升和算法的优化,端侧AI正在逐渐成为移动设备和智能设备中不可或缺的一部分,推动着个性化服务和智能交互的发展。目前,很多模型越做越小,可以直接进入手机运用。未来,云端协同将成为重要趋势,大模型用户量的增长将主要依靠端侧,AI终端将逐步成为主流趋势,市场也将迎来爆发。IDC将具有AI处理功能的芯片的终端设备定义为AI终端。IDC预测,2024年中国终端设备市场中,将有超过半数的设备在硬件层面具备针对AI计算任务的算力基础,至2027年,这一比例将进一步攀升至接近80%的水平,并进入平稳提升阶段。
端侧AI发展,AIPC/Phone将开启新时代端侧AI核心在于手机和PC,AI手机和AIPC将开启新时代。从今年2月份举行的世界移动通信大会,高通展示了其手机端离线运行大模型,到5月份微软开发者大会高通展示其PC运行AI大模型,再到近期英特尔、联想等发布AIPC加速计划、发布首款AIPC等,可以看出,国内外厂商持续发力AI手机和AIPC,端侧AI将走入新的时代。
AIPC方面,2023联想TechWorld创新科技大会进行了端侧大模型与云端大模型的比较。两个模型同时进行斯德哥尔摩音乐节的规划,生成速度差异不大。值得注意的是,端侧AI的规划内容更加个性化,可以将家庭地址、酒店偏好等考虑进去;10月19日,英特尔宣布启动AIPC加速计划,该加速计划旨在为相关软硬件供应商提供英特尔的资源,共同推动AIPC产品、方案落地,具体而言,通过利用Intel Core Ultra处理器的技术和兼容硬件,围绕相关资源,实现AI和机器学习(ML)应用性能最大化,进而催生全新的使用案例,推动AIPC解决方案连接到更广泛的PC产业。英特尔预计其将与包括Adobe在内的100家独立软件供应商进行合作,发展300多项AI加速功能,计划将在音频效果、内容创建、游戏、安全、直播、视频协作等方面继续强化PC体验。据计划目标,其将在2025年前为超过100万台PC带来人工智能(AI)特性。
AI手机方面,10月4日,谷歌发布Pixel8/Pro系列,搭载了Tensor G3和Titan M2安全芯片。Tensor G3 AI芯片可运行更复杂的机器学习模型,强化了Pixel 8/Pro系列的AI增强功能,使虚拟助理说话更自然,并有拦截骚扰电话、转录语音和紧急服务功能。Pixel 8 Pro号称是第一款直接在设备上运行谷歌AI模型的手机,其计算量是Pixel 7上最大ML模型的150倍;10月26日,小米14系列发布,其首发搭载高通最新一代移动芯片骁龙8Gen3,能效比提升显著,AI性能提升98%。通过本地端运行大模型,提升了隐私性,并实现AI妙画、AI搜图、AI写真和AI扩图等一系列功能。其中,AI写真功能可通过对多张照片的学习,创作出全新的照片作品;在14系列的WPS上,也支持输入主题一键生成PPT演示文稿,也能进一步细化调节,例如更改主题风格、单页美化、更改字体、更改配色、生成演讲稿等等,解决了用户使用PPT制作难度大、耗时长的办公难题。
AI手机也呈现“去屏幕化”的可穿戴AI趋势。Humane是一家由苹果前员工创立的人工智能公司,主要投资方包括OpenAI(最大股东)、微软和高通等。北京时间11月10日凌晨,其发布Humane AI Pin产品,AI Pin内置高通芯片,1300万像素摄像头,可以外放声音,也能连接蓝牙耳机,主机和电池分离。其中主机部分重34g,电池重20g。该设备运行在T-Mobile网络上,并可以访问微软和OpenAI的AI模型,并在11月16日优先在美国市场开启订购。Humane AI Pin强调“Take AI with you everywhere”,在今年4月的TED演讲上,联合创始人在台上演示了Ai Pin的雏形。Ai Pin呈现小型化、智能化的特点。其可用作语音助手:打电话、推送当天的自动总结;也可作为搜索引擎。
疫情以来,由于消费需求疲软和库存调整,全球智能手机出货量下滑,2023年前三季度为8.4亿部,仅为2022年同期的85%,但可以看出,22年年底以来,全球智能手机销量下降幅度开始缩窄,2023年三季度,全球智能手机销量重回正增长;另一方面,从微软财报可以看到,其个人电脑业务,也在24财年1季度(23Q3)实现同比正增长,这也是从23财年2季度以来微软个人电脑业务重新回归正增长。可以看到全球手机与电脑业务有复苏迹象,预计AI+Phone/PC在进一步推动行业颓势逆转的同时,也有助于带动其自身起量。
八、参考研报浙商证券-电子行业端侧AI深度跟踪报告:2024·AI“下凡”
浙商证券-计算机行业端侧智能系列报告(1):AIPC元年开启
华金证券-消费电子行业动态分析:手机显著受益端侧AI兴起,相关芯片需求持续增长
中信证券-电子行业端侧AI专题:AI大模型时代,智能终端进化论
国信证券-端侧AI行业动态点评:产业链推进端侧AI应用,终端落地逐步启动
兴业证券-电子行业:AI加速落地智能机端侧,硬件多个环节迎量价齐升
中信建投-人工智能行业动态报告:端侧AI变革将至,迎接AIPC/Phone时代
中信证券-电子行业端侧AI专题:AI大模型时代,智能终端进化论
国信证券-AI终端行业专题:从大模型到智能体,端侧算力助力AI规模化应用
中信证券-科技行业产业2024算力投资策略:多模态推动技术迭代,国产化助力产业成长
东吴证券-电子行业深度报告:AI终端行业深度,AI应用落地可期,终端有望迎全面升级
中信建投-手机行业深度:AI终端系列报告二,AI开启智能手机新时代
中信建投-人工智能行业:AI下半场,应用落地,赋能百业
免责声明:以上内容仅供学习交流,不构成投资建议。
慧博官网:网页链接
电话:400-806-1866
邮箱:hbzixun@126.com
以上相关研报原文可在“慧博智能策略终端”PC版或“慧博投资分析”APP中查看。