智能体护栏建什么、建到什么程度,有了行业标尺
任子行网络技术股份有限公司 · 起草单位之一
近日,中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的《智能体安全护栏能力要求》技术规范正式发布。作为起草单位之一,任子行深度参与了规范编制,并把标准要求内化到智能体安全产品体系中。
智能体正在从「能聊天」走向「能办事」:自主规划任务、调用工具、对接业务系统。能力越强,风险越实——提示词泄露、越权调用、高危不可逆操作、资源消耗劫持,正从研究议题变成政企客户必须回答的问题:护栏应该具备哪些能力?做到什么程度算合格?这份规范,给出了行业等待已久的统一答案。
01
为什么需要这份规范?—— 智能体的风险,正在「链式化」
2026 年,智能体规模化落地。与对话式大模型不同,它的风险不再停留在「说错话」:
提示词泄露与注入:
攻击指令藏进网页、文档、工具返回值,间接注入防不胜防。
越权冒用:
智能体拿着用户身份,调用了用户本人都没有权限的工具。
高危不可逆操作:
删除生产数据、对外转账、批量外发——执行了就收不回来。
资源消耗劫持:
被诱导无限循环调用,算力和账单一夜失控。
记忆污染:
多轮渐进诱导改写智能体记忆,让它长期记住一个错误的世界观。
这些风险正向流程化、链式化演变,单点检测各自为战,拼不出完整的攻击链。护栏产品的能力定义与评价依据长期缺位——客户选型没有标尺,厂商建设没有基线。规范填补的正是这个空档。
02
规范说了什么?—— 七大能力域,覆盖运行全链路
规范面向部署在智能体外围的安全护栏,提出七大能力域要求:
注:七域覆盖智能体「听到—想到—做到—记住—说出」全链路;完整条款以AIIA发布版为准。
护栏从概念变成了可对照、可评测的清单。
03
任子行为什么能参编? —— 两项底层能力
其一,二十六年的网络与数据安全监测基因
智能体护栏的前提是「看得见」——看见智能体调了什么工具、传了什么数据、行为是否偏离基线。任子行从网络流量监测起步,到数据安全监测运营,再到 AI 流量分析:单次旁路实测 10 分钟即可识别 19 类 AI 服务实体、产出完整流量台账。
护栏要拦得准,先要看得清——这是我们最熟悉的部分。
其二,数据分类分级底座
规范中「记忆与数据安全」「输入输出脱敏」等要求,指向同一个前提:知道数据是什么级别,才能决定它能进哪、能出哪、能被谁记住。任子行 AI 数据分类分级系统每天处理 1000 万+ 文件、覆盖 303 万字段、内置 13 个行业模板——分级标签正是护栏策略的「开关」。
四侧产品与七大能力域逐一对齐:
04
客户怎么用? —— 从选型到验收的标尺
选型有标尺:
七大能力域 40+ 条要求,可直接转为招标技术参数与 POC 验收清单。
建设有基线:
护栏该做什么、做到什么程度,按域对齐即可,避免「买个过滤嘴就当护栏」。
评测有路径:
AIIA 同步推进配套能力评测——先按规范建设,评测时少走弯路。
任子行建议按「先盘点、再护栏、后运营」三步走:先用流量实测摸清 AI 资产底数,再按七大能力域补齐护栏,最后通过平台把策略、审计、评测跑成日常运营。
从《大模型安全围栏能力要求和评估方法》(AIIA/T 0283-2026)到《智能体安全护栏能力要求》,AIIA 用两份规范把 AI 安全从概念推进到可评测。任子行很荣幸参与这一进程,并把标准要求内化到产品里。
标准的价值不在纸面上,而在每一条被拦下的注入、每一份被保住的台账、每一个敢放手上生产的智能体。
智能体安全的路还长,我们致力于以 AI 赋能安全、以安全护航 AI——让安全更可控,让智能更可信。
股票
板块
用户
资讯
评论 (0)