Project
昇腾 910C 训练与推理兼容性诊断
在团队大模型工程中参与训练性能排查、benchmark 选型与算子兼容修复,并严格区分个人贡献和团队结果。
Python · Ascend 910C · LLM Training · Operator Compatibility · HCCL
Product Snapshot
- Role
- 工程贡献者 / 团队项目
- Stage
- 训练与单机推理链路完成阶段性验证;分布式 HCCL 死锁仍是未关闭问题。
- Focus
- 训练性能诊断、benchmark 选择、输入格式兼容与算子路由修复。
- Validation
- 个人完成三类输入格式的动态路由修复;团队记录显示 MFU 从约 2% 提升至 25%-30%。
- Public Proof
- 内部排查记录、修复说明与团队运行记录;性能数字未为本 Portfolio 独立复跑。
Next Step
公开范围
这是合作团队的大模型基础设施项目。为保护合作方与内部资源信息,这里只描述可公开的技术问题、我的个人贡献和已经确认的边界,不披露合作方名称、机器规模或内部业务计划。
我负责的部分
我参与了三条工作:
- 训练性能异常的排查与证据整理
- 训练和推理 benchmark 的选择与代码分析
- 修复某算子对输入结构做硬编码解包的问题
修复把原先只接受单一格式的路径改成三类输入格式的动态路由,使单机推理能够继续通过后续算子检查。
团队结果与归属
团队运行记录显示,训练链路的 MFU 从约 2% 提升到 25%-30%。这是团队结果,不是我的单人产出;我的可归属贡献是诊断参与、benchmark 分析和兼容性修复。
尚未解决的部分
单机路径通过不等于分布式系统完成。HCCL 分布式死锁在材料记录时仍未关闭,因此本页不把项目描述为“全面完成”,也不将阶段结果扩展成生产稳定性结论。
工程判断
这段经历让我更重视硬件适配中的输入契约:很多“模型跑不动”并不是模型本身的问题,而是框架、算子和多种数据格式之间缺少明确边界。
配置公开站点的 Giscus 环境变量后,这里就会出现讨论区。