天融信亮相首届中关村网安学术年会：大模型安全的最终落点，是业务可信

近日，首届中关村网络空间安全学术年会在北京举办，大会以“AI+网络空间安全：新挑战、新机遇”为主题，汇聚国内顶尖院士、监管专家、产学研骨干，共探人工智能安全发展路径。天融信科技集团作为承办单位出席本次年会大模型与智能体安全分论坛，面向大模型规模化应用的新阶段，副总裁吕延辉在主题分享中提出：模型合规只是起点，大模型安全的最终落点，是业务可信。

AI安全正在进入“业务可信”新阶段。

“能力扩展到哪里，安全控制就必须延伸到哪里。”吕延辉强调，大模型正从“会回答”走向“会调用、会规划、会行动”。在封闭、低风险的问答中，一次偏差的影响通常停留在内容与质量层面。当模型连接企业知识库、真实账号、API、MCP、Skill和业务系统，同样一次错误判断，就可能被权限和工具放大为数据泄露、越权修改、错误发布甚至业务中断。安全目标因此必须从“输出是否合规”，扩展到“调用是否受控、行动是否有界、结果是否可承担、责任是否可追溯”。

天融信科技集团副总裁 吕延辉

面对AI带来的安全变革，吕延辉指出，企业需破解三大核心命题：风险如何度量，行为如何管控，体系如何治理。没有度量，资产和风险不可见；没有管控，错误可能直接转化为行动；没有治理，再好的控制也会随着模型、知识库、Prompt、工具和权限变化而失效。

天融信的答案，不是简单叠加单点产品，而是构建“AI安全运营中心+五层纵深防护+全生命周期治理”的大模型应用安全保障体系。

TOPSEC

大模型应用安全保障体系

让大模型从可信生成走向可控行动

针对AI跨层交织的复杂风险，天融信依托自主可控智算安全技术、天问大模型安全基座、全栈安全产品矩阵，构建“AI安全运营中心+五层纵深防护+全生命周期治理”的大模型应用安全保障体系，打通从可信生成到可控行动的完整安全链路。

AI安全运营中心，全域风险统一调度

区别于传统SOC，AI安全运营中心统筹管理模型、知识库、Prompt与智能体，实现多源采集与证据汇聚、协同处置与策略编排、跨域分析与风险研判、可视化运营与决策。

五层纵深防御，筑牢分层安全屏障

体系要真正发挥作用，安全能力必须“长”在业务流里。通过构建基础设施与平台、数据与知识、模型与算法、应用与交互、内容与输出五层纵深防护架构，全面统筹可信生成与可控行动的安全建设目标。

基础设施与平台层：依托智算云平台、智算一体机完成算力、容器、网络与运行隔离部署，为大模型运行提供可信隔离承载底座。

数据与知识层：基于大模型数据安全监测系统，监测语料、RAG、记忆与凭据数据，全程管控AI全链路数据流安全。

模型与算法层：依托大模型安全评估系统建立上线前置评估+变更复评双阶段校验机制，针对模型完整性、生成内容、训练语料、对抗、可靠性与供应链开展专项检测，保障模型算法底层可靠。

应用与交互层：由大模型安全网关把守人机交互总关口，搭配API安全审计系统全量记录工具调用行为，统一管控Prompt、编排、MCP、Skill与调用，完整追溯全链路调用链风险。

内容与输出层：基于大模型安全网关与大模型安全评估系统能力，保障多模态内容可信、合规、隐私过滤与知识产权校验，守住AI生成内容合规底线。

全生命周期治理，安全能力持续落地

框架将安全嵌入AI规划设计、开发训练、测试评估、部署上线、运行监测、变更复评、退出销毁全生命周期，形成“集中决策、分布执行、证据汇聚”的运行机制。针对高权限研发、运维智能体，配套专属行动控制链，严格执行“先校验、再审批、后执行、全留证”流程，搭配回滚、补偿机制，规避自主操作带来的业务失控风险。

AI不仅是被保护的对象，也在成为安全能力的新引擎。依托天问大模型、安全小模型和安全智能体，天融信持续推动威胁研判、策略生成与协同响应走向智能化，并与AI安全运营中心协同，使“AI赋能安全、AI安全防护、AI基础设施建设”形成相互支撑的能力全景。

让概率性的智能运行在确定性的安全边界内，让大模型可信生成、让智能体可控行动。未来，天融信坚持安全与智算并进，以安全技术、产品、方案与服务能力护航大模型健康有序发展，为千行百业构筑AI规模化发展的确定性底座。

近期热点

第十一届（2026年）全国高校密码数学挑战赛总决赛晋级名单重磅揭晓！

天融信亮相2026世界人工智能大会，获评人工智能安全漏洞治理联盟首批成员单位

全国首批、级别最高！天融信获AI服务安全能力评定“建设+检测”双证

天融信智算云重磅升级：兼顾通用业务与AI创新，三大技术突破构建一体化算力底座

关注天融信了解更多信息