国产异构算力环境下大模型跨平台转换与云边端协同部署技术研究

刘 海波, 谷 守雨, 王 蓉, 冯 昭祺, 张 冉
国网山东省电力公司枣庄供电公司

摘要


随着国产AI芯片多元化发展，大模型跨平台转换与云边端协同部署面临算力碎片化、适配成本高、协同效
率低等挑战。本文从理论层面构建国产异构算力的统一抽象模型与大模型跨平台转换的层次化框架，提出云边端协
同部署的分层架构与模型分割、资源调度等核心机制，并分析技术方案的理论效能与典型应用场景。研究表明，基
于硬件抽象层、编译级转换与计算图级优化的跨平台技术路线可有效降低适配成本，而云边端分层协同架构能够在
保障数据安全的前提下实现算力资源的弹性利用与推理效率的显著提升，为国产异构算力环境下大模型的规模化部
署提供系统性技术参考。

关键词


国产异构算力；大模型跨平台转换；云边端协同部署；模型适配

全文:

PDF


参考


[1]南统超，施睿，于春水.基于国产CPU/GPU平

台的水动力模型异构并行计算[J].水利学报，2025，56

（6）：771-779.

[2]陆肖元，戚晨凯，夏峰，等.基于异构算力平台

的视频图像算力算法调度研究[J].计算机测量与控制，

2026，34（7）：246-252.

[3]于卓辰，蒲鑫，韩秉豫，等.聚合物分子动力学

软件PyGAMD及在国产异构计算平台的适配[J].数据与

计算发展前沿，2024，6（1）：3-11.

[4]段柳成，肖巧玲，金怡，等.大模型时代国产

大算力GPU的关键挑战与发展路径[J].人工智能，2025

（3）：8-21.


Refbacks

  • 当前没有refback。