［本站讯］近日，网络空间安全学院教授鞠雷成功揭榜华为难题第110期“面向大模型的高性能加解密算子”，获华为难题揭榜“火花奖”，是我校2026年度第4位获得该奖项的教师。

大语言模型分布式推理服务中，主机与加速卡、加速卡与加速卡之间存在着大量频繁的敏感数据传输。然而，大部分AI加速卡缺少专用加解密硬件，现有密码标准算法组件在NPU上运行性能差，难以兼顾安全性与高效性。

针对上述难题，本项目提出了一种面向大模型分布式推理的高性能机密通信方案。首先采用CTR密钥流聚合预计算，将多次通信中的小规模密钥流任务提前聚合为大数据量并行任务，提升加速器的并行度与计算带宽，摊薄加解密开销。其次，针对华为鲲鹏、昇腾处理器架构，将加解密计算全部映射为向量指令，并采用分块流水、双缓冲等机制进行优化，同时结合集合通信特点设计融合算子，有效提升算子吞吐与系统执行效率。最终，设计了一种基于内存池管理的密钥流预计算机制，将通信加解密高效集成至PyTorch和vllm-ascend推理框架中，采用国际标准流式加密算法，Qwen3、DeepSeekV4等模型开启卡间通信加密后的端到端推理性能开销降至2%以下，并完成了面向最新昇腾950DT架构的优化部署。

鞠雷，网络空间安全学院教授、博士生导师，副院长。主要研究方向为可信计算机体系结构的软硬件协同设计、分析与优化方法，在HPCA、ASPLOS、MICRO、DAC、CCS等计算机体系结构、芯片设计以及系统安全领域国际顶会发表论文40余篇；担任USENIX Security、HPCA、DAC、RTSS等多个CCF-A类会议的程序委员会委员；主持承担多项科研项目，包括某工程重点项目、国家自然科学基金重大研究计划项目、重点项目以及面上项目。

自2021年11月起，华为公司把产业会战和行业面临的“老大难”问题总结提炼为科学问题向社会发布，采用难题揭榜的形式，寻找基础理论扎实、有创新解题思路的人才，同时鼓励高校教师踊跃揭榜。华为公司设立难题揭榜“火花奖”，以感谢获奖者对产业界及科学界做出的贡献。