报告 | 《机密计算保障人工智能系统安全研究报告2025年1月》(附下载)

导读

报告聚焦机密计算在保障人工智能系统安全方面的应用，为人工智能安全发展提供深度洞察。

1. AI安全需求与挑战：新一代AI广泛应用，带来模型、数据、算法和系统等多方面安全需求，包括确保模型机密性与完整性、数据全流程安全、算法公正鲁棒及系统基础设施安全。然而，AI面临诸多安全风险，如模型窃取、数据投毒、算法偏见等，现有安全解决方案在应对复杂威胁、保障云服务安全、保护用户隐私数据传输及系统层安全等方面存在局限。

2. 机密计算现状与趋势：机密计算利用硬件可信执行环境（TEE）保障“使用中”数据安全，覆盖数据全生命周期，为云上用户数据提供强大防护。其技术路线多样，x86体系较成熟，系统级TEE方案是发展方向。在技术研发、标准化建设和产业应用方面，呈现创新升级、标准构建和协同发展的态势。未来，机密计算在硬件上依赖CPU和GPU安全功能革新隐私保护技术，软件上推动开发流程变革，且与多种新兴技术融合。

3. 机密计算保障AI系统安全：机密计算通过在系统层引入密态计算技术，融合可信执行环境与模型数据安全理念，为AI系统提供新的安全框架。微软Azure机密AI基于AMD的SEV - SNP，整合多种云产品实现安全通信和GPU加速。阿里云机密AI运用可信执行环境分离模型数据所有权和使用权，具备系统硬件层高强度安全、对上层应用透明、可审计证明等优势，在模型训练和推理场景发挥重要作用。

4. 机密计算保障数据和模型安全：机密计算在AI数据和算法安全保障上，基于TEE实现数据最小化使用，保护训练数据和用户隐私，缓解算法安全风险。在模型安全保护方面，基于机密虚拟机的方案能为AI模型提供全生命周期保护，抵御多方威胁。

5. 机密AI未来趋势展望：机密AI发展规模将持续扩大，满足数据隐私法规要求，契合关键行业需求。标准建设逐步完善，涵盖软硬件加速、应用接口等多方面规范。技术协同态势显著，多种相关技术共同发展。在电子政务、金融、医疗、工业和商业等行业，机密AI应用将不断深化，推动各行业安全、高效发展。

温馨提示：文末附完整PDF下载链接