11月7日至8日,鲲鹏昇腾开源技术高校行·华南站在华南理工大学大学城校区举办,近150名学生参加。活动围绕鲲鹏、昇腾及相关开源生态设置五门技术课程,采用理论讲解与动手实操并行的教学形式,内容涵盖算子开发、大模型推理、操作系统、数据库和服务器管理等方向,帮助学生从基础原理、工程实现和社区实践等层面了解开源技术。
聚焦昇腾计算,贯通算子开发与模型推理
昇腾方向的两门课程从算子开发延伸至模型推理,通过理论分析与昇腾NPU实践,学生进一步了解模型计算如何落到硬件,以及推理系统如何通过调度、缓存和解码优化提升性能。
vLLM-Ascend课程以一次请求在推理系统各层之间的流转为线索,讲解自回归生成、Prefill与Decode、KV Cache等基础机制,并介绍首Token时延、Token间时延、每输出Token时延、吞吐量和并发等关键性能指标。同时,课程结合连续批处理、Chunked Prefill、前缀缓存和投机解码等特性,分析推理引擎在时延、吞吐与显存之间的权衡。学生在实操中完成昇腾NPU上的模型推理服务部署,通过调整输入输出长度等参数观察推理表现,并结合投机解码接受率分析加速效果。
Triton-Ascend课程从高性能算子开发中性能与开发效率难以兼顾的问题出发,介绍Triton的编程模型及Triton-Ascend软件栈,讲解Triton DSL、TTIR、MLIR与昇腾后端之间的关系,以及高层算子描述转换为昇腾硬件可执行代码的过程。围绕向量加法、Softmax和矩阵乘法等任务,课程设置了分块、边界处理、精度验证与性能测试等实践内容,帮助学生建立对昇腾算子开发流程的整体认识。
聚焦基础软件,探索系统与Agent可靠性
鲲鹏方向课程围绕基础软件与智能系统可靠性展开,内容从数据库底层架构延伸至服务器管理,再聚焦Agent应用的质量保障。三门课程既关注系统内部的协同机制,也强调通过观测、验证和诊断解决实际工程问题。
openGauss课程围绕oGRAC多读多写架构展开,从数据库事务、缓存与并发控制等基础问题切入,介绍共享存储与分布式内存服务,讲解分布式资源目录、分布式缓存服务和分布式锁服务在处理页面访问、事务冲突及跨节点数据可见性中的作用。在实操环节,学生通过DDL、DML操作同步和并发写一致性验证,观察多节点读写架构下的数据协同过程,加深对数据库多读多写机制的理解。
openUBMC课程从BMC的带外管理能力出发,介绍openUBMC的分层组件、南北向接口和开发工具链,并结合仿真环境启动、网卡接入、Redfish响应定制、Lua插件开发与温度健康监控等实验,讲解硬件部件如何转化为可管理对象。学生在环境搭建、组件部署和日志查询中,了解服务器管理软件从设备接入到北向服务的实现链路,进一步认识开源硬件管理软件在算力基础设施中的作用。
openEuler Witty Agent Insight课程聚焦Agent规模化应用中的可靠性问题,结合Agent概率生成、开放工具交互和动态执行路径等特点,分析传统软件测试与运维方法面临的挑战,并介绍Agent Insight在链路观测、多维评测、智能诊断和Skill优化等方面的能力。实践环节以Agent执行记录为基础,通过质量评测、故障根因分析和优化后复测,帮助学生理解如何利用执行证据定位问题、验证改进效果。
两天课程以动手实践为主,学生围绕操作同步验证、网卡适配、Agent 质量评测、算子精度测试和推理参数调整等任务逐项实践,完成环境配置、代码运行与结果验证。实操期间,学生提问与讨论不断,遇到报错时主动排查、相互交流,不少学生在完成规定任务后继续尝试参数调整与效果对比。
本次活动以真实开源项目为依托,将技术讲解、工程实践与社区交流融入高校课堂,为学生接触基础软件与AI计算技术、了解开源开发流程提供了学习机会。通过理论与实操的衔接,活动进一步促进了高校课堂与开源社区之间的交流,为学生继续深入学习相关技术、参与开源实践奠定了良好基础。
◆往期推荐◆
股票
板块
用户
资讯
评论 (0)