华为AI智能体安全
<blockquote><p>参考：https://mp.weixin.qq.com/s/vZEYRTOvau-IFwOW_eNm_A</p>
</blockquote>
<p>随着 AI 在未来的智能社会中扮演着越来越重要的角色，AI 系统需要处理更丰富更全面的个人信息，一旦 AI 系统被攻破，大量用户敏感数据可能会被窃取和滥用，此外，AI 大模型本身也可能成为攻击目标，比如攻击者可以通过设计出特殊的提示词进行越权访问，获得其本来无权访问的用 户隐私数据，或引导智能体执行一些不该执行的动作。</p>
<p>生成式 AI 系统的可信安全体系需要从<strong>芯片、硬件、操作系统、大模型、智能体</strong>等多个维度全 新设计。</p>
<p>以华为 AI 终端为例，通过深度整合软件、硬件、芯片与云端各层防护机制，形成立体、动态、 自适应的“<strong>软硬芯云一体化安全架构</strong>”，确保数据、应用和用户交互的安全无虞。</p>
<h3 id="智能感知与动态防护的软件安全"><strong>智能感知与动态防护的软件安全</strong></h3>
<ol>
<li>集成自我学习与适应能力的 <strong>AI 安全引擎</strong>，实时监控系统行为，识别异常活动，有效抵御病毒、木马和 0 Day 攻击。</li>
<li>采用<strong>微服务架构</strong>，实现服务间最小权限原则和隔离，降 低单一服务受损对整体系统的影响。</li>
<li>内置的<strong>隐私保护机制</strong>，将确保用户数据在处理、存储和传输过程中的加密与匿名化，保护个人隐私。</li>
</ol>
<h3 id="内置安全与可信执行环境的硬件安全"><strong>内置安全与可信执行环境的硬件安全</strong></h3>
<p>通过集成安全芯片(如 TPM、 SE 等)实现硬件级的密钥管理、身份验证和数据加密，为系统提供 不可篡改的信任根。</p>
<p>此外，基于可信执行环境(Trusted Execution Environments, TEEs)为敏感操作提供独立的执行空间，同时实现基于密码学的机密计算，保证了数据和计算过程的保密性、可靠性、不可 篡改性。</p>
<h3 id="定制化安全指令与硬件加速的芯片级安全"><strong>定制化安全指令与硬件加速的芯片级安全</strong></h3>
<p>在芯片设计阶段融入安全理念，开发定制化的安全指令集，以硬件加速的方式执行加密运算和安全协议，确保从底层硬件到上层应用的全程安全。</p>
<h3 id="策略统一和风险共享的端云安全协同"><strong>策略统一和风险共享的端云安全协同</strong></h3>
<p>安全云作为软硬芯云架构的中枢， 承担着安全策略的集中管理和跨设备协同防御的任务。鸿蒙能够实时接收最新的安全补丁和威胁情报，实现安全策略的统一部署、更新与威胁预警，并协调不同设备间的防御行动，形成强大的协同安全效应。</p><br><br>
来源：https://www.cnblogs.com/pam-sh/p/18911682
頁:
[1]