员工用公网大模型润色内部文件、借助AI编程助手处理企业代码、私自部署开源模型、自建智能体并接入内部知识库……这些脱离安全管控、未完成备案的AI应用与智能体,正在企业内部形成新的盲区。
这就是影子AI(Shadow AI),即员工或业务部门未经企业IT、安全部门批准或监管,自行使用AI工具、部署模型或搭建智能体的行为。
影子AI
Gartner在《预测2026:治理中国AI优先的网络安全新边界》报告中指出:到2028年,超过80%的中国企业将经历员工对生成式AI的无监管使用,使AI相关的数据泄露管控成为首席信息安全官(CISO)关注的前三大优先事项。
影子AI蔓延,风险不容忽视
影子AI的兴起,本质是业务提效需求与安全管控体系的错位。如今AI工具部署门槛极低:一个安装包、一个开源模型地址、一组第三方插件,就能搭起自动化工作流。业务部门追求效率优先,往往绕过安全流程自行上线;传统IT安全体系缺乏AI资产专属管控手段,既看不见私搭的智能体,也管不了零散的模型调用,最终让影子AI从“个别工具”演变为“系统盲区”,风险渗透到数据、行为多个层面。
数据失控:一是员工将客户资料、合同文件、研发代码等敏感文件输入未经审批的AI平台,难以掌握数据存储、使用及后续流向;二是未审核的第三方插件若被供应链投毒,可直接读取本地文件、调用系统权限,实现批量数据窃取;政企单位的商业秘密、个人信息等敏感数据面临泄露风险。
行为失控:影子AI往往绑定个人邮箱、插件、私人密钥、临时授权,这就让“谁、用什么设备、把什么内容送给了什么服务”成了糊涂账。此外,私自搭建的智能体可能接入企业知识库、数据库及业务API,一旦提示注入、恶意插件、或权限配置不当,可能触发越权查询、批量导出、文件外发甚至生产变更。
治理影子AI三步走
找全、查验、管住
针对影子AI“散、隐、乱”的难题,天融信提出“找全、查验、管住”三步治理法,构建从资产识别到持续运营的全链路AI安全治理体系,让AI在安全可控框架内释放价值。
#1
找全资产,摸清AI家底
找全资产不是统计AI网址,而是弄清有哪些模型、智能体、插件、工具、接口,谁在用、连了什么数据、结果流向哪里。全面发现政企单位内部正在使用的外部AI工具、私有部署模型、智能体及相关接口,建立统一资产清单。既要关注看得见的AI应用,也不能忽略隐藏在业务系统和工具调用链中的隐性资产。
针对存量影子AI,天融信采用“被动流量识别+主动扫描探测”的轻量方案快速摸底。依托大模型数据安全监测系统、AI安全评估系统的资产自动发现能力,通过流量解析与主动扫描结合,无需改造现有业务架构,即可自动识别网络中未备案的大模型接口、智能体节点、MCP服务与第三方插件,快速梳理资产底数。
#2
查验隐患,明确准入边界
摸清家底之后,还需要建立统一的AI准入标准,从源头堵住影子AI的产生。围绕模型来源、应用用途、数据访问范围、工具调用权限及供应链组件开展综合风险评估,判断哪些AI可以使用、哪些需要整改、哪些必须禁止接入。根据业务场景和数据敏感程度实施分类分级,明确模型、智能体及关联组件的准入要求。
依托天融信AI安全评估系统,可对基础模型、AI Agent应用、MCP服务、SKILLS插件开展多维检测——从生成内容合规、对抗攻击模拟到供应链隐患排查,输出可量化、可复测的准入结论,支撑准入、备案与常态化自检,让每一个智能体“持证上岗”。
#3
管住运行,形成持续闭环
影子AI的治理不是一次性排查,而是依赖持续的全生命周期管控。应对已准入的AI应用实施身份认证、最小权限控制、数据流转监测和调用行为审计;对异常访问、敏感数据外传、违规调用及时告警和处置,推动风险持续监测与闭环管理。
天融信AI安全管理系统可构建AI-BOM统一资产目录,将模型、智能体、MCP服务、Skills插件、知识库全链路纳入统一台账,执行“全局-应用-实例”三级策略编排管控,以统一控制面支撑智能体资产与供应链全生命周期管控逻辑。同时,结合天融信AI智能体安全评估服务、大模型安全网关、API安全审计系统、终端数据防泄漏系统,从上线前风险评估、运行时安全防护、交互时行为审计、终端数据外发管控等各环节补齐安全能力,让AI应用始终运行在可识别、可约束、可审计的边界之内。
疏堵结合,给影子AI一个“合规替代”
影子AI的背后往往是真实的业务效率需求。不能只靠封堵解决问题,还应完善AI使用管理制度,明确数据分级、工具准入和权限边界,通过安全培训提升员工风险意识,同时提供安全、便捷的合规替代工具,从源头减少未经授权的AI使用。
治理不能只“堵”不“疏”,与其被动拦截影子AI,不如针对业务需求主动提供安全、高效的建设路径。对于有自主AI建设需求的政企单位,可依托天融信智算云,为模型训练、推理、评估及AI应用开发部署提供统一基础环境,让AI应用建设与安全治理协同推进。
影子AI治理的本质,从来不是禁止员工使用AI,而是通过体系化管控,让AI从“无序生长”转向“规范发展”。坚持“先找全、再查验、后管住”的治理思路,才能真正实现AI创新与安全发展的平衡。
未来,天融信将持续打磨AI安全治理体系,不断完善“三域一平面”智能体全域安全框架的全链路AI安全能力,为政企客户智能化转型筑牢安全底座,助力各行业安全、可控地释放AI智能体的业务价值。
近期热点
首批!天融信入选国家人工智能安全漏洞库(AIVD)技术支撑单位
从规则定义到AI驱动,天融信新一代自动化渗透测试系统正式发布!
关注天融信了解更多信息
股票
板块
用户
资讯
评论 (0)