AI智能终端设备产业高质量发展与监管策略研究

  （CWW）AI技术在智能终端设备中的应用在经历了2001—2010年初步集成期、2011—2020年加速发展期后，自2021年开始步入全面融合期，AI正在重新定义智能终端设备的形态和生态。目前，AI技术已全面融入智能终端的方方面面，同时随着5G技术的深入应用，AI智能终端的多样化和专业化趋势愈发明显，催生了智能手机、个人电脑、智能穿戴设备、智能家居设备、车载信息系统等新型设备形态。AI技术给智能终端带来了前所未有的机遇，但同时也给智能终端产品安全带来了冲击，慢慢的变成为行业发展的隐忧。

  在市场需求、技术发展和使用者真实的体验等多重因素的共同驱动下，AI的计算重心正在从云端向终端迁移。IDC多个方面数据显示，当前全球智能终端行业整体呈现复合型、螺旋式增长，我国2024年智能终端市场出货量将同比增长4%，其中AI终端占比将达到55%，搭载AI功能的终端设备超过70%。结合国际、国内市场终端设备情况分析，目前全球AI智能终端总体呈现三大发展趋势。

  从国际视角来看，苹果将3B（30亿）参数量模型集成至iOS 18、iPadOS 18和macOS Sequoia等操作系统中，并引入Open AI的GPT-4o实现Siri功能增强和APP重构。三星将谷歌Gemini模型部署至手机、手表等产品。微软与高通合作，实现Copilot的PC端推理部署，将150余项任务能力整合至Windows 11中，以支持本地化智能办公。从国内市场来看，华为、小米、OPPO、vivo、荣耀已完成AI手机操作系统多次迭代，推出基于端侧、云侧大模型的各类智能化功能，如文本生成、图像生成、AI摘要与总结、AI搜图、自然对话功能等。

  在模型方面，多模态与轻量化大模型持续升级，叠加新模型压缩、算法优化和部署技术提升，推动轻量化模型较低成本的高效推理成为可能。例如，面壁智能MiniCPM-2.4B模型通过优化，已与GPT-3达到同等性能，但其模型参数仅有24亿，约为GPT-3的1.5%。在硬件方面，芯片架构、算力及存储技术快速的提升，有效支撑了端侧大模型的部署和优化。一是芯片架构的进步，英特尔40年来首次在处理器中集成NPU，AMD引入RyzenAI技术并集成AI加速引擎。二是芯片计算的进步，苹果M4、A18系列芯片和高通骁龙X Elite、8Gen3芯片运行算力均超过40 TOPS，而英特尔Lunar Lake处理器NPU算力为48 TOPS，平台总算力高达120 TOPS。三是存储技术的进步，高带宽、低功耗的LPDDR5X与LPDDR5T的应用，有效缓解了内存性能瓶颈。

  大模型正在显著改变软件、应用程序和智能体等应用生态系统，智能应用功能和服务场景持续丰富。当前，大模型技术主要赋能于传统语音、图像和文本等智能服务，暂未出现全新的突破性应用。传统应用软件AI化催生出众多原生AI应用，如Siri跨APP操作和自动化功能、WPS等实现AI辅助写作等功能。同时，大模型引领应用生态向AI终端智能体转型，并成为垂直领域主要入口，开始重塑软件架构和应用模式。

  从全球范围看，AI技术给智能终端带来了前所未有的机遇，推动终端实现交互方式、体验和应用场景革新，但同时AI给智能终端产品安全带来的冲击和挑战，也慢慢的变成为行业发展的隐忧。

  一是交互方式革新。终端产品演进伴随着交互方式的革新，手指触摸交互引领着移动智能终端时代的交互潮流。通过AI技术赋能，移动智能终端人机交互将不再局限于文本和命令响应，多模态的交互方式和协作模式将成为可能，终端与人的交互会变得更直观、自然和智能。二是使用者真实的体验革新。自学习能力和自适应能力是AI终端的核心特性之一。自学习能力是通过持续的数据收集和分析，终端可以不断了解用户行为和使用偏好。而自适应能力则是终端利用自学习成果，一直在优化自身性能，为用户更好的提供更加个性化和智能化的服务。三是应用场景革新。AI技术向操作系统下沉，可使终端具备系统级原生AI能力。系统AI能力可普适赋能邮件、日程管理等传统应用智能化升级，提供个性化服务。系统AI能力也可实现跨设备、跨APP的无缝流转，用户可在不同设备和应用间享受连贯服务体验，实际做到服务跟随。

  一是模糊了用户个人隐私信息与用户隐私的边界。随着AI终端智能体和智能化服务对用户生活的“接管”，更多的用户个人隐私信息将被暴露、汇聚，甚至上传至云端，不仅增大了用户隐私直接泄露的风险，还存在大模型按照每个用户个人隐私信息推断出其他敏感信息而造成的间接泄露风险。二是自然语言交互数据恐泄露更多个人隐私。以自然语言为主的人机交互方式，在提高人机交互效率的同时，也使得用户个人信息的收集变得方便快捷高效。目前，用户对话数据的使用尚无特殊限制要求，有几率存在更多个人隐私被泄露的风险。三是端云协同、跨设备和APP操作增大网络及数据安全风险。端云协同架构理论上能兼顾应用性能与隐私安全，但往往伴随更复杂的个人数据收集、传输、处理和存储。架构体系网络节点更多，连接关系更复杂，涉及的设备、应用更广，这些均有几率会成为不法分子攻击对象，以此突破安全屏障，导致整体网络和数据安全风险增加。四是大模型内容生成功能会出现“幻觉”（虚假信息）问题。大模型受训练数据源、训练过程和推理的影响，也许会出现生成的内容事实或用户个人信息输入不一致的“幻觉”现象。因多种类的AI终端未来将在用户工作生活中扮演重要角色，“幻觉”问题可能给用户的隐私、财产以及人身安全带来危害，且这种影响具有破坏性、长期性和不可恢复性。

  为防范AI终端可能带来的网络安全、个人隐私泄露及“幻觉”问题等潜在风险，在促进AI智能终端产品应用创新的同时，需要行业管理部门在模型算法管理、个人隐私信息保护、网络安全防护等方面加强AI终端的管理。

  一是强化AI终端设备大模型应用自声明管理。面向AI终端多样化的应用和功能，AI终端企业在设备申请入网时，应同步提交设备大模型应用自声明，内容有模型备案情况、系统功能和预置应用等大模型使用机制和原理。

  二是加强AI终端设备个人隐私信息收集、处理的告知同意管理，严管个人隐私信息滥用。AI终端的个人隐私信息收集与处理内容更为丰富、形式更加多样、手段更为复杂，应做到AI终端设备个人隐私信息收集处理全链管理，加强用户告知同意，遵循“最小必要原则”，做到告知清晰、用户明确同意，防范个人隐私信息被滥用，最大限度保护用户权益。

  三是切实加强网络安全和数据安全管理，切实保护AI最终用户数据和使用安全。加强AI终端相关网络和系统的事前安全性评估，强化用户数据加密传输与存储；采用隐私计算等技术做好数据匿名化处理，加强系统访问控制管理，部署安全软件，如防病毒、防火墙和入侵检测系统；做好系统和数据备份，减少数据丢失的风险；定期开展安全审计，检查系统安全措施的有效性。

  在智能时代背景下，AI智能终端已成为人类日常生活必不可少的组成部分，安全已成为当下技术发展的重要课题，未来需要业界一起努力，结合AI对智能终端的各类影响，做好安全风险评估与防护策略研究工作，才能将风险降到可控范围内。