近期,2026(第三届)“金灵光杯”中国互联网创新大赛人工智能安全赛道结果正式公布,东方通网信联合中国移动通信集团内蒙古有限公司申报的“大模型智能安全防护系统”项目,凭借扎实的技术创新能力、完整的体系化方案与产业落地价值,斩获该赛道优秀奖。
“金灵光杯”中国互联网创新大赛是中国互联网协会主办的行业赛事,自2024年首创以来,始终以“创新驱动·产业赋能”为使命,致力于发现一批技术先进、应用成效显著的优质项目,激发行业创新活力,加速构建新质生产力,为助力数字经济蓬勃发展贡献力量。大赛首次设立“人工智能安全”赛道,重点面向全社会征集具有前瞻性、创新性与工程落地价值的智算安全实践项目,覆盖人工智能从基础设施到业务应用的全生命周期安全场景。
直击产业挑战
构建大模型全链路安全闭环
随着大模型在政务、金融、互联网等行业加速落地,提示注入、越狱攻击、对抗样本、数据投毒等安全威胁日益凸显,大模型内生安全已经成为产业规模化发展必须破解的关键课题。东方通网信大模型智能安全防护系统项目瞄准行业挑战,以“评估驱动、防护闭环、持续演进”作为总体建设思路,打造“攻击模拟—风险识别—能力评估—策略加固—效果验证”完整闭环,实现大模型从输入到输出的全链路安全治理,加强大模型安全防护能力。
分层架构设计
四大模块协同筑牢大模型安全底座
在技术架构层面,项目创新采用分层体系设计,包含检测防护层、对抗生成层、安全评估层、数据与知识支撑层四大模块,实现各能力解耦协同。
其中,检测防护层基于循环神经网络的提示注入检测算法,完成输入侧攻击识别拦截,结合上下文分析识别多轮对话场景下隐蔽攻击,输出侧实现异常响应实时约束与拦截;
对抗生成层实现黑盒场景下百万级对抗攻击样本自动生成,引入网络蒸馏对抗样本检测算法,通过软标签与温度参数机制平滑模型决策边界,提升模型抵御微扰攻击的鲁棒性;
安全评估层构建安全智能评估引擎,整合问题生成工具、外部知识图谱,从问题维度、攻击方式、语言变换、编码转义、多轮交互等多维度开展深度测评,输出量化评分与风险分级;
数据与知识支撑层依托领域数据集、知识库完成测评数据动态增强,结合权限黑白名单完成机密性测评,校验模型敏感信息保护与权限管控能力。
此外,项目具备安全管理闭环优化机制,自动生成风险分析报告与优化建议,不断优化迭代,形成自适应、安全创新的大模型运行环境。
七大核心能力
覆盖多行业落地场景
项目沉淀了七大核心创新能力,包括基于循环神经网络的提示注入检测算法,以及对抗样本检测算法、安全评估引擎、大模型测试样例自动生成技术、大模型机密性测评能力、无数据黑盒场景对抗样本生成能力、对抗样本迁移性提升技术,能够面向不同行业重点适配三类核心场景:
面向政务、金融、医疗等高安全要求的关键行业,提供大模型全链路安全检测防护,规避敏感信息泄露风险;
面向AI企业、科研机构,提供标准化安全评估服务,支撑模型迭代加固;
面向互联网平台、智能终端厂商,集成防护能力,化解复杂对话交互场景安全隐患。
方案落地后,有效压降安全运营成本,通过提前防控各类大模型安全风险,规避信息泄露、业务异常及合规惩戒等损失,保障创新业务持续稳定运转,助力企业提升数智转型核心竞争力。
往
期推荐
共建自主创新基础软件生态 东方通协办仓颉编程语言伙伴与开发者大会(北京站)圆满举办?
让数据看得清、管得住 东方通网信数据资产测绘平台助力企业摸清数据家底?
东方通智能体平台斩获“金灵光杯”麒麟软件“天马”原生生态开发赛二等奖?
关于东方通
东方通,中国中间件的开拓者和领导者,大安全及行业信息化解决方案提供商,以“安全+”、“数据+”和“智慧+”三大产品体系为基础,为客户提供优质的中间件、网络信息安全及行业数字化产品、解决方案及服务支撑。
面向企业和社会的数字化转型与升级,东方通坚持自主创新,在网络信息安全、大数据、人工智能、5G通信、工业互联网和信息技术应用创新等多领域持续深耕,布局“做精产品、做厚平台、做深应用”的企业发展思路,致力于构建安全智能的数字世界,帮助用户实现业务创新、安全管控及数据的共享与价值挖掘等。
东方通的产品及解决方案广泛应用于国内数千个行业业务,服务电信、政府、金融、能源、交通等行业领域10000多家企业级用户,与3000多家合作伙伴携手打造合作共赢的产业生态。东方通连续十二年被认定为“国家规划布局内重点软件企业”,承担多项国家重大科技专项的研制任务,是北京软件和信息服务业综合实力百强企业,企业信用评价AAA级信用企业,曾荣获国家科技进步二等奖、 北京市科学技术进步奖二等奖等多项荣誉。
股票
板块
用户
资讯
评论 (0)