股票
板块
用户
资讯
首页
天眼
自选
发现
开户
首页
天眼
自选
发现
我的

权威发布 | 任子行参编 AIIA《智能体安全护栏能力要求》正式发布

智能体护栏建什么、建到什么程度,有了行业标尺

任子行网络技术股份有限公司 · 起草单位之一

近日,中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的《智能体安全护栏能力要求》技术规范正式发布。作为起草单位之一,任子行深度参与了规范编制,并把标准要求内化到智能体安全产品体系中。

智能体正在从「能聊天」走向「能办事」:自主规划任务、调用工具、对接业务系统。能力越强,风险越实——提示词泄露、越权调用、高危不可逆操作、资源消耗劫持,正从研究议题变成政企客户必须回答的问题:护栏应该具备哪些能力?做到什么程度算合格?这份规范,给出了行业等待已久的统一答案。

01

为什么需要这份规范?—— 智能体的风险,正在「链式化」

2026 年,智能体规模化落地。与对话式大模型不同,它的风险不再停留在「说错话」:

提示词泄露与注入:

攻击指令藏进网页、文档、工具返回值,间接注入防不胜防。

越权冒用:

智能体拿着用户身份,调用了用户本人都没有权限的工具。

高危不可逆操作:

删除生产数据、对外转账、批量外发——执行了就收不回来。

资源消耗劫持:

被诱导无限循环调用,算力和账单一夜失控。

记忆污染:

多轮渐进诱导改写智能体记忆,让它长期记住一个错误的世界观。

这些风险正向流程化、链式化演变,单点检测各自为战,拼不出完整的攻击链。护栏产品的能力定义与评价依据长期缺位——客户选型没有标尺,厂商建设没有基线。规范填补的正是这个空档。

02

规范说了什么?—— 七大能力域,覆盖运行全链路

规范面向部署在智能体外围的安全护栏,提出七大能力域要求:

注:七域覆盖智能体「听到—想到—做到—记住—说出」全链路;完整条款以AIIA发布版为准。

护栏从概念变成了可对照、可评测的清单。

03

任子行为什么能参编? —— 两项底层能力

其一,二十六年的网络与数据安全监测基因

智能体护栏的前提是「看得见」——看见智能体调了什么工具、传了什么数据、行为是否偏离基线。任子行从网络流量监测起步,到数据安全监测运营,再到 AI 流量分析:单次旁路实测 10 分钟即可识别 19 类 AI 服务实体、产出完整流量台账。

护栏要拦得准,先要看得清——这是我们最熟悉的部分。

其二,数据分类分级底座

规范中「记忆与数据安全」「输入输出脱敏」等要求,指向同一个前提:知道数据是什么级别,才能决定它能进哪、能出哪、能被谁记住。任子行 AI 数据分类分级系统每天处理 1000 万+ 文件、覆盖 303 万字段、内置 13 个行业模板——分级标签正是护栏策略的「开关」。

四侧产品与七大能力域逐一对齐:

04

客户怎么用? —— 从选型到验收的标尺

选型有标尺:

七大能力域 40+ 条要求,可直接转为招标技术参数与 POC 验收清单。

建设有基线:

护栏该做什么、做到什么程度,按域对齐即可,避免「买个过滤嘴就当护栏」。

评测有路径:

AIIA 同步推进配套能力评测——先按规范建设,评测时少走弯路。

任子行建议按「先盘点、再护栏、后运营」三步走:先用流量实测摸清 AI 资产底数,再按七大能力域补齐护栏,最后通过平台把策略、审计、评测跑成日常运营。

从《大模型安全围栏能力要求和评估方法》(AIIA/T 0283-2026)到《智能体安全护栏能力要求》,AIIA 用两份规范把 AI 安全从概念推进到可评测。任子行很荣幸参与这一进程,并把标准要求内化到产品里。

标准的价值不在纸面上,而在每一条被拦下的注入、每一份被保住的台账、每一个敢放手上生产的智能体。

智能体安全的路还长,我们致力于以 AI 赋能安全、以安全护航 AI——让安全更可控,让智能更可信。

原文链接
多空观点 观点仅供交流,不构成投资建议
点赞
踩一踩
收藏
分享

评论 (0)

0/200
声明:社区内容仅代表用户个人观点,不构成任何投资建议。投资有风险,入市需谨慎。