两项智能体安全团体标准启动,共筑智能体规模化应用安全基线
9月9日下午,两项在2026 Inclusion·外滩大会“智能体时代的智能准启筑智安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动。体安体标 两项标准由中国网络空间安全协会提出,全团全基蚂蚁集团联合研究院所、动共运营商、规模互联网厂商等单位共同参与编制,用安旨在推动智能体安全从企业技术实践走向行业共同规范。两项 随着大模型能力持续提升,智能准启筑智智能体正从提供信息和生成内容,体安体标走向自主规划、全团全基调用工具、动共访问数据和执行操作。规模由此带来的用安安全问题也发生了变化。传统安全体系主要保护数据库、两项接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”。它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。 图注:蚂蚁集团大安全副总裁、信息安全事业部总经理王宇 蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体。安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么。只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯。” 此次启动的《智能体身份鉴别与授权技术框架》,重点解决智能体“身份是谁、代表谁、能做什么”的问题。标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份。同时,标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险。 《智能体运行时安全技术要求》则聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”。标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节。通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置。 两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线。这意味着智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一的技术参考。 当前,智能体正加速进入办公、金融、生活服务等场景。安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善。两项团体标准的启动,将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础。
- 最近发表
- 随机阅读
-
- 星海图新一代具身基础模型G0.5发布,全面提升零样本泛化能力,让机器人边思考边行动
- 多晶硅行业准入将进入实质操作
- 《红色沙漠》M站玩家评分超过《宝可梦Pokopia》成为年度第二
- 水池里捞到保护动物阳彩臂金龟 德化目前仅发现4只
- 苹果iPhone 18 Pro系列难抢 已延迟3周发货
- 2026年世界棒球经典赛委内瑞拉队夺冠
- 潜江举办第十六届元宵节灯会非遗项目展演活动
- 精准助力高校毕业生就业
- 拼多多常态化生态治理见实效:半年出台70余项举措 图书治理关店4000多家
- 天下晨間新聞 美國認定,香港已無自治可言|天下雜誌
- 中国游泳公开赛:汪顺亮相夺银 于子迪三金收官
- 韦德:重回迈阿密盼获球迷支持 努力控制住泪水
- 京东与魔法原子达成战略合作 共拓具身智能产业化新范式
- 提前认识2020年汽车的挡风玻璃,产品视窗
- 天下晨間新聞 「災難慢慢在眼前攤開」 香港巨富打造逃生艙?|天下雜誌
- 增健“一本万利”的秘密——爆果奶捞乳饮品以质取胜!
- 玻璃材料如何进行料着色 有色玻璃功能特点是什么,行业资讯
- 1.5万人竞逐上海半马 许双双卫冕中国女子第一
- 端午假期 “2小时高铁圈”短途游受欢迎
- 在惠州高榜山挂榜阁中颂东坡,诗韵流芳启新章——东坡诗词朗诵会完美收官
- 搜索
-
- 友情链接
-