跳到主要内容

基准性能数据

测试环境

项目配置
硬件MTT S5000 × 1
MUSA SDK5.1.0
TensorFlow2.15.1
tensorflow_musa_extensionv1.5.0
Python3.10
精度mixed_bfloat16
XLA关闭

搜推广模型训练性能

模型Batch SizeMean/stepSamples/s参数量
DeepFM16,384~150 ms~109,0003.72 亿
RankMixer4,096140.8 ms27,715
OneTrans4,09640.2 ms101,937
TokenMixerLarge4,096138.0 ms29,671

推理性能

模型Batch Size推理延迟吞吐量
ResNet501~5 ms
DeepFM16,384~130,000 samples/s

注意:性能数据受硬件配置、驱动版本、batch size 等因素影响,以上数据为参考值。完整基准测试结果持续更新中。