大模型智能体安全防护体系

成果单位:
发布时间:2025/12/17
浏览量:1

研发团队

西安交通大学郑南宁院士‌和‌沈超教授‌

技术领域

未来网络

项目简介

项目简介:针对云端多智能体协同场景,提出基于动态行为监测的安全漏洞识别方法,构建了覆盖攻击溯源、数据脱敏、模型鲁棒性增强的全链条防护体系,有效降低多智能体系统的隐私泄露风险。开发了基于联邦学习的分布式隐私保护框架,支持在云边端协同计算中实现数据可用不可见,该技术已集成至智能体互联平台。
市场应用前景:该项目在网络安全、智能制造、智慧城市等领域的市场渗透率预计2026年将达到15%-20%,技术壁垒(如动态防护架构、硬件级加密)使其在国产化替代与行业智能化升级中占据先发优势。
发展规划:2027-2030年,将安全防护体系扩展至量子计算、6G通信等新兴领域,形成全栈式智能体安全解决方案。建设“一带一路”AI安全联合实验室,推动中国标准在东南亚、中东地区的技术输出。