muDNN C API 参考

数据类型参考

结构体

mudnnConvolutionBwdDataAlgoPerfStruct

helper: 返回数据反向传播算法的性能结果。

字段	类型	说明
algo	mudnnConvolutionBwdDataAlgo_t	选用的数据反向传播算法。
status	mudnnStatus_t	执行状态。
time	float	估计耗时（毫秒）。
memory	size_t	额外显存需求。
determinism	mudnnDeterminism_t	是否返回确定性结果。
mathType	mudnnMathType_t	计算模式。
reserved	int	-

mudnnConvolutionBwdFilterAlgoPerfStruct

helper: 返回滤波器反向传播算法的性能结果。

字段	类型	说明
algo	mudnnConvolutionBwdFilterAlgo_t	选用的滤波器反向传播算法。
status	mudnnStatus_t	执行状态。
time	float	估计耗时（毫秒）。
memory	size_t	额外显存需求。
determinism	mudnnDeterminism_t	是否返回确定性结果。
mathType	mudnnMathType_t	计算模式。
reserved	int	-

mudnnConvolutionFwdAlgoPerfStruct

前向卷积算法性能信息，兼容 cudnnConvolutionFwdAlgoPerf。

字段	类型	说明
algo	mudnnConvolutionFwdAlgo_t	选用的前向算法。
status	mudnnStatus_t	执行返回状态。
time	float	估计耗时（毫秒）。
memory	size_t	额外显存需求。
determinism	mudnnDeterminism_t	是否返回确定性结果。
mathType	mudnnMathType_t	计算模式。
reserved	int	-

mudnnDebugStruct

回调调试信息，类似 cudnnDebug_t。

字段	类型	说明
mudnn_version	unsigned	-
mudnnStatus	mudnnStatus_t	-
time_sec	unsigned	epoch 时间（秒）
time_usec	unsigned	epoch 时间的微秒部分
time_delta	unsigned	自启动以来的时间（秒）
handle	mudnnHandle_t	muDNN 句柄
stream	musaStream_t	MUSA 流 ID
pid	uint64_t	进程 ID
tid	uint64_t	线程 ID
musaDeviceId	int	MUSA 设备 ID
reserved	int	保留供将来使用

mudnnFractionStruct

分数结构体，等价 cudnnFraction_t。

字段	类型	说明
numerator	int64_t	-
denominator	int64_t	-

不透明描述符类型

下表列出 muDNN C API 中常用的不透明描述符类型及其典型生命周期。描述符通常先创建，再通过 Set/Get 类 API 配置或查询，最后由对应 Destroy API 释放。

描述符	用途	创建	配置/查询	销毁
mudnnRNNDescriptor_t	RNN 算子描述符。	mudnnCreateRNNDescriptor	mudnnSetRNNDescriptor_v8 mudnnGetRNNDescriptor_v8 mudnnGetRNNTempSpaceSizes mudnnGetRNNWeightSpaceSize mudnnGetRNNWeightParams ...	mudnnDestroyRNNDescriptor
mudnnRNNDataDescriptor_t	RNN 序列数据描述符。	mudnnCreateRNNDataDescriptor	mudnnSetRNNDataDescriptor mudnnGetRNNDataDescriptor	mudnnDestroyRNNDataDescriptor
mudnnAttnDescriptor_t	多头注意力描述符。	mudnnCreateAttnDescriptor	mudnnSetAttnDescriptor mudnnGetAttnDescriptor	mudnnDestroyAttnDescriptor
mudnnDotDescriptor_t	Dot 算子描述符。	mudnnCreateDotDescriptor	mudnnSetDotMathType mudnnGetDotWorkspaceSize	mudnnDestroyDotDescriptor
mudnnBackendDescriptor_t	Backend 描述符通用句柄。	mudnnBackendCreateDescriptor	mudnnBackendInitialize mudnnBackendFinalize mudnnBackendSetAttribute mudnnBackendGetAttribute mudnnBackendExecute	mudnnBackendDestroyDescriptor
mudnnTensorDescriptor_t	张量描述符，描述张量数据类型、格式、维度和步长。	mudnnCreateTensorDescriptor	mudnnSetTensor4dDescriptor mudnnSetTensor4dDescriptorEx mudnnGetTensor4dDescriptor mudnnSetTensorNdDescriptor mudnnSetTensorNdDescriptorEx ...	mudnnDestroyTensorDescriptor
mudnnTensorTransformDescriptor_t	张量变换描述符。	mudnnCreateTensorTransformDescriptor	mudnnSetTensorTransformDescriptor mudnnGetTensorTransformDescriptor	mudnnDestroyTensorTransformDescriptor
mudnnLRNDescriptor_t	局部响应归一化描述符。	mudnnCreateLRNDescriptor	mudnnSetLRNDescriptor mudnnGetLRNDescriptor	mudnnDestroyLRNDescriptor
mudnnSpatialTransformerDescriptor_t	空间变换描述符。	mudnnCreateSpatialTransformerDescriptor	mudnnSetSpatialTransformerNdDescriptor	mudnnDestroySpatialTransformerDescriptor
mudnnCTCLossDescriptor_t	CTC Loss 描述符。	mudnnCreateCTCLossDescriptor	mudnnSetCTCLossDescriptor mudnnSetCTCLossDescriptorEx mudnnSetCTCLossDescriptor_v8 mudnnSetCTCLossDescriptor_v9 mudnnGetCTCLossDescriptor ...	mudnnDestroyCTCLossDescriptor
mudnnUnaryDescriptor_t	Unary 相关 API 使用的不透明描述符。	mudnnCreateUnaryDescriptor	mudnnSetUnaryDescriptor	mudnnDestroyUnaryDescriptor
mudnnBinaryDescriptor_t	Binary 相关 API 使用的不透明描述符。	mudnnCreateBinaryDescriptor	mudnnSetBinaryDescriptor	mudnnDestroyBinaryDescriptor
mudnnTernaryDescriptor_t	Ternary 相关 API 使用的不透明描述符。	mudnnCreateTernaryDescriptor	mudnnSetTernaryDescriptor	mudnnDestroyTernaryDescriptor
mudnnReduceDescriptor_t	Reduce 相关 API 使用的不透明描述符。	mudnnCreateReduceDescriptor	mudnnSetReduceTensorDescriptor mudnnGetReduceTensorDescriptor mudnnSetReduceDescriptor mudnnGetReduceWorkspaceSize mudnnGetReduceMeanAndVarWorkspaceSize ...	mudnnDestroyReduceDescriptor
mudnnConcatDescriptor_t	Concat 相关 API 使用的不透明描述符。	mudnnCreateConcatDescriptor	mudnnSetConcatDescriptor mudnnGetConcatDescriptor	mudnnDestroyConcatDescriptor
mudnnNonzeroDescriptor_t	Nonzero 相关 API 使用的不透明描述符。	mudnnCreateNonzeroDescriptor	mudnnGetNonzeroWorkspaceSize	-
mudnnLayerNormDescriptor_t	Layer Norm 相关 API 使用的不透明描述符。	mudnnCreateLayerNormDescriptor	mudnnSetLayerNormDescriptor mudnnGetLayerNormDescriptor mudnnGetLayerNormForwardWorkspaceSize mudnnGetLayerNormBackwardWorkspaceSize	mudnnDestroyLayerNormDescriptor
mudnnDropoutDescriptor_t	Dropout 相关 API 使用的不透明描述符。	mudnnCreateDropoutDescriptor	mudnnSetDropoutDescriptor mudnnRestoreDropoutDescriptor mudnnGetDropoutDescriptor mudnnSetDropoutDescriptorEx	mudnnDestroyDropoutDescriptor
mudnnInterpolateDescriptor_t	Interpolate 相关 API 使用的不透明描述符。	mudnnCreateInterpolateDescriptor	mudnnSetInterpolateDescriptor mudnnGetInterpolateDescriptor	mudnnDestroyInterpolateDescriptor
mudnnSortDescriptor_t	Sort 相关 API 使用的不透明描述符。	mudnnCreateSortDescriptor	mudnnSetSortDescriptor mudnnGetSortDescriptor mudnnGetSortWorkspaceSize mudnnSetSortByKeyDescriptor mudnnGetSortByKeyDescriptor ...	mudnnDestroySortDescriptor
mudnnScatterDescriptor_t	Scatter 相关 API 使用的不透明描述符。	mudnnCreateScatterDescriptor	mudnnSetScatterDescriptor mudnnGetScatterDescriptor mudnnSetScatterNDDescriptor mudnnGetScatterNDDescriptor	mudnnDestroyScatterDescriptor
mudnnScatterNDDescriptor_t	Scatter N D 相关 API 使用的不透明描述符。	mudnnCreateScatterNDDescriptor	mudnnSetScatterNDDescriptor mudnnGetScatterNDDescriptor	mudnnDestroyScatterNDDescriptor
mudnnSoftmaxDescriptor_t	Softmax 相关 API 使用的不透明描述符。	mudnnCreateSoftmaxDescriptor	mudnnSetSoftmaxDescriptor mudnnGetSoftmaxDescriptor mudnnGetSoftmaxForwardWorkspaceSize mudnnGetSoftmaxBackwardWorkspaceSize	mudnnDestroySoftmaxDescriptor
mudnnTopKDescriptor_t	Top K 相关 API 使用的不透明描述符。	mudnnCreateTopKDescriptor	mudnnSetTopKDescriptor mudnnGetTopKDescriptor mudnnGetTopKWorkspaceSize	mudnnDestroyTopKDescriptor
mudnnRopeDescriptor_t	Rope 相关 API 使用的不透明描述符。	mudnnCreateRopeDescriptor	mudnnSetRopeDescriptor mudnnGetRopeDescriptor	mudnnDestroyRopeDescriptor
mudnnRMSNormDescriptor_t	RMSNorm 描述符。	mudnnCreateRMSNormDescriptor	mudnnSetRMSNormDescriptor mudnnGetRMSNormDescriptor mudnnGetRMSNormBackwardWorkspaceSize	mudnnDestroyRMSNormDescriptor
mudnnSwiGluDescriptor_t	SwiGLU 描述符。	mudnnCreateSwiGluDescriptor	-	mudnnDestroySwiGluDescriptor
mudnnMaskedSelectDescriptor_t	Masked Select 相关 API 使用的不透明描述符。	mudnnCreateMaskedSelectDescriptor	mudnnGetMaskedSelectWorkspaceSize	mudnnDestroyMaskedSelectDescriptor
mudnnGroupNormDescriptor_t	Group Norm 相关 API 使用的不透明描述符。	mudnnCreateGroupNormDescriptor	mudnnSetGroupNormDescriptor mudnnGetGroupNormDescriptor	mudnnDestroyGroupNormDescriptor
mudnnSortByKeyDescriptor_t	Sort By Key 相关 API 使用的不透明描述符。	mudnnCreateSortByKeyDescriptor	mudnnSetSortByKeyDescriptor mudnnGetSortByKeyDescriptor mudnnGetSortByKeyWorkspaceSize	mudnnDestroySortByKeyDescriptor
mudnnPadDescriptor_t	Pad 相关 API 使用的不透明描述符。	mudnnCreatePadDescriptor	mudnnSetPadDescriptor mudnnGetPadDescriptor	mudnnDestroyPadDescriptor
mudnnGluDescriptor_t	Glu 相关 API 使用的不透明描述符。	mudnnCreateGluDescriptor	mudnnSetGluDescriptor mudnnGetGluDescriptor	mudnnDestroyGluDescriptor
mudnnNLLLossDescriptor_t	NLL Loss 描述符。	mudnnCreateNLLLossDescriptor	mudnnSetNLLLossDescriptor mudnnGetNLLLossDescriptor mudnnGetNLLLossForwardWorkspaceSize mudnnGetNLLLossBackwardWorkspaceSize	mudnnDestroyNLLLossDescriptor
mudnnKLDivLossDescriptor_t	KLDiv Loss 描述符。	mudnnCreateKLDivLossDescriptor	mudnnSetKLDivLossDescriptor mudnnGetKLDivLossDescriptor mudnnGetKLDivLossForwardWorkspaceSize mudnnGetKLDivLossBackwardWorkspaceSize	mudnnDestroyKLDivLossDescriptor
mudnnCrossEntropyLossDescriptor_t	Cross Entropy Loss 相关 API 使用的不透明描述符。	mudnnCreateCrossEntropyLossDescriptor	mudnnSetCrossEntropyLossDescriptor mudnnGetCrossEntropyLossDescriptor mudnnGetCrossEntropyLossForwardWorkspaceSize mudnnGetCrossEntropyLossBackwardWorkspaceSize	mudnnDestroyCrossEntropyLossDescriptor
mudnnScaledDotProductAttentionDescriptor_t	Scaled Dot Product Attention 描述符。	mudnnCreateScaledDotProductAttentionDescriptor	mudnnSetScaledDotProductAttentionDescriptor mudnnSetScaledDotProductAttentionDescriptorEx mudnnSetScaledDotProductAttentionVarlenDescriptor mudnnSetScaledDotProductAttentionVarlenDescriptorEx	mudnnDestroyScaledDotProductAttentionDescriptor
mudnnBatchMatMulDescriptor_t	批量矩阵乘描述符。	mudnnCreateBatchMatMulDescriptor	mudnnSetBatchMatMulDescriptor mudnnSetBatchMatMulDescriptorEx	mudnnDestroyBatchMatMulDescriptor
mudnnFillDescriptor_t	Fill 相关 API 使用的不透明描述符。	mudnnCreateFillDescriptor	mudnnSetFillDescriptor	mudnnDestroyFillDescriptor
mudnnCumDescriptor_t	Cum 相关 API 使用的不透明描述符。	mudnnCreateCumDescriptor	mudnnSetCumDescriptor mudnnGetCumDescriptor	mudnnDestroyCumDescriptor
mudnnMaskedScatterDescriptor_t	Masked Scatter 相关 API 使用的不透明描述符。	mudnnCreateMaskedScatterDescriptor	-	mudnnDestroyMaskedScatterDescriptor
mudnnBatchNormDescriptor_t	Batch Norm 相关 API 使用的不透明描述符。	mudnnCreateBatchNormDescriptor	mudnnSetBatchNormDescriptor mudnnGetBatchNormDescriptor mudnnGetBatchNormForwardTrainingWorkspaceSize mudnnGetBatchNormBackwardWorkspaceSize mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize ...	mudnnDestroyBatchNormDescriptor
mudnnPermuteDescriptor_t	Permute 相关 API 使用的不透明描述符。	mudnnCreatePermuteDescriptor	mudnnSetPermuteSrcOffset mudnnSetPermuteDstOffset	mudnnDestroyPermuteDescriptor

枚举

mudnnRNNAlgo_t

BASIC RNN API.

• MUDNN_RNN_ALGO_STANDARD
• MUDNN_RNN_ALGO_PERSIST_STATIC
• MUDNN_RNN_ALGO_PERSIST_DYNAMIC
• MUDNN_RNN_ALGO_PERSIST_STATIC_SMALL_H
• MUDNN_RNN_ALGO_COUNT

mudnnForwardMode_t

• MUDNN_FWD_MODE_INFERENCE
• MUDNN_FWD_MODE_TRAINING

mudnnRNNMode_t

• MUDNN_RNN_RELU
• MUDNN_RNN_TANH
• MUDNN_LSTM

mudnnRNNBiasMode_t

• MUDNN_RNN_NO_BIAS：RNN 单元公式不使用偏置
• MUDNN_RNN_SINGLE_INP_BIAS：RNN 单元公式在输入 GEMM 中使用一个输入偏置
• MUDNN_RNN_DOUBLE_BIAS：默认值，RNN 单元公式使用两个偏置向量
• MUDNN_RNN_SINGLE_REC_BIAS：RNN 单元公式在循环 GEMM 中使用一个循环偏置

mudnnDirectionMode_t

• MUDNN_UNIDIRECTIONAL：单向网络
• MUDNN_BIDIRECTIONAL：每层输出拼接

mudnnRNNInputMode_t

• MUDNN_LINEAR_INPUT：第一层输入 GEMM 使用可调整的权重矩阵
• MUDNN_SKIP_INPUT：第一层输入 GEMM 使用固定的单位矩阵

mudnnRNNClipMode_t

• MUDNN_RNN_CLIP_NONE：禁用 LSTM 单元裁剪
• MUDNN_RNN_CLIP_MINMAX：启用 LSTM 单元裁剪

mudnnRNNDataLayout_t

• MUDNN_RNN_DATA_LAYOUT_SEQ_MAJOR_UNPACKED：带 padding，外层步长从一个时间步到下一个时间步
• MUDNN_RNN_DATA_LAYOUT_SEQ_MAJOR_PACKED：按基础 RNN API 的方式按序列长度排序并打包
• MUDNN_RNN_DATA_LAYOUT_BATCH_MAJOR_UNPACKED：带 padding，外层步长从一个批次到下一个批次

mudnnSeqDataAxis_t

• MUDNN_SEQDATA_TIME_DIM：time 维索引
• MUDNN_SEQDATA_BATCH_DIM：batch 维索引
• MUDNN_SEQDATA_BEAM_DIM：beam 维索引
• MUDNN_SEQDATA_VECT_DIM：vector 维索引

mudnnMultiHeadAttnWeightKind_t

• MUDNN_MH_ATTN_Q_WEIGHTS：query 的输入投影权重
• MUDNN_MH_ATTN_K_WEIGHTS：key 的输入投影权重
• MUDNN_MH_ATTN_V_WEIGHTS：value 的输入投影权重
• MUDNN_MH_ATTN_O_WEIGHTS：输出投影权重
• MUDNN_MH_ATTN_Q_BIASES：query 的输入投影偏置张量
• MUDNN_MH_ATTN_K_BIASES：key 的输入投影偏置
• MUDNN_MH_ATTN_V_BIASES：value 的输入投影偏置
• MUDNN_MH_ATTN_O_BIASES：输出投影偏置

mudnnWgradMode_t

• MUDNN_WGRAD_MODE_ADD：将部分梯度累加到 wgrad 输出缓冲区
• MUDNN_WGRAD_MODE_SET：将部分梯度写入 wgrad 输出缓冲区

mudnnLossNormalizationMode_t

• MUDNN_LOSS_NORMALIZATION_NONE
• MUDNN_LOSS_NORMALIZATION_SOFTMAX

mudnnFusedOps_t

• MUDNN_FUSED_SCALE_BIAS_ACTIVATION_CONV_BNSTATS：方括号中的每个操作都可通过传入 NULL 指针禁用；[per channel scale]、[per channel bias]、[activation]、convolution、[generate BN stats]
• MUDNN_FUSED_SCALE_BIAS_ACTIVATION_WGRAD：[per channel scale]、[per channel bias]、[activation]、convolutionBackwardWeights
• MUDNN_FUSED_BN_FINALIZE_STATISTICS_TRAINING：BN-conv 融合中用于 BN 训练的工具；根据 ySum、ySqSum 以及学习得到的 scale 和 bias 计算等效 scale 和 bias；可选更新 running stats 并生成 saved stats
• MUDNN_FUSED_BN_FINALIZE_STATISTICS_INFERENCE：BN-conv 融合中用于 BN 推理的工具；根据学习得到的 running stats 以及学习得到的 scale 和 bias 计算等效 scale 和 bias
• MUDNN_FUSED_CONV_SCALE_BIAS_ADD_ACTIVATION：保留供将来使用：convolution、[per channel scale]、[per channel bias]、[residual add]、[activation]
• MUDNN_FUSED_SCALE_BIAS_ADD_ACTIVATION_GEN_BITMASK：保留供将来使用：[per channel scale]、[per channel bias]、[residual add]、activation、bitmask
• MUDNN_FUSED_DACTIVATION_FORK_DBATCHNORM：保留供将来使用

mudnnFusedOpsConstParamLabel_t

枚举值	说明
MUDNN_PARAM_XDESC	设置 XDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 XDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_XDATA_PLACEHOLDER	设置/获取 XDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_MODE	设置/获取 BN_MODE：传入 mudnnBatchNormMode_t*
MUDNN_PARAM_BN_EQSCALEBIAS_DESC	设置 MUDNN_PARAM_BN_EQSCALEBIAS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 MUDNN_PARAM_BN_EQSCALEBIAS_DESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_BN_EQSCALE_PLACEHOLDER	设置/获取 BN_EQSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_EQBIAS_PLACEHOLDER	设置/获取 BN_EQBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_ACTIVATION_DESC	设置 ACTIVATION_DESC：传入已初始化的 mudnnActivationDescriptor_t；获取 ACTIVATION_DESC：传入已创建的 mudnnActivationDescriptor_t
MUDNN_PARAM_CONV_DESC	设置 CONV_DESC：传入已初始化的 mudnnConvolutionDescriptor_t；获取 CONV_DESC：传入已创建的 mudnnConvolutionDescriptor_t
MUDNN_PARAM_WDESC	设置 WDESC：传入已初始化的 mudnnFilterDescriptor_t；获取 WDESC：传入已创建的 mudnnFilterDescriptor_t
MUDNN_PARAM_WDATA_PLACEHOLDER	设置/获取 WDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_DWDESC	设置 DWDESC：传入已初始化的 mudnnFilterDescriptor_t；获取 DWDESC：传入已创建的 mudnnFilterDescriptor_t
MUDNN_PARAM_DWDATA_PLACEHOLDER	设置/获取 DWDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_YDESC	设置 YDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 YDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_YDATA_PLACEHOLDER	设置/获取 YDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_DYDESC	设置 DYDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DYDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_DYDATA_PLACEHOLDER	设置/获取 DYDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_YSTATS_DESC	设置 YSTATS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 YSTATS_DESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_YSUM_PLACEHOLDER	设置/获取 YSUM_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_YSQSUM_PLACEHOLDER	设置/获取 YSQSUM_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC	设置 MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_BN_SCALE_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_SCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_BIAS_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_BIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_SAVED_MEAN_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_SAVED_MEAN_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_SAVED_INVSTD_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_SAVED_INVSTD_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_RUNNING_MEAN_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_RUNNING_MEAN_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_RUNNING_VAR_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_RUNNING_VAR_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_ZDESC	设置 ZDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 ZDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_ZDATA_PLACEHOLDER	设置/获取 ZDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_Z_EQSCALEBIAS_DESC	设置 BN_Z_EQSCALEBIAS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 BN_Z_EQSCALEBIAS_DESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_BN_Z_EQSCALE_PLACEHOLDER	设置/获取 BN_Z_EQSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_Z_EQBIAS_PLACEHOLDER	设置/获取 BN_Z_EQBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_ACTIVATION_BITMASK_DESC	设置 ACTIVATION_BITMASK_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 ACTIVATION_BITMASK_DESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_ACTIVATION_BITMASK_PLACEHOLDER	设置/获取 ACTIVATION_BITMASK_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_DXDESC	设置 DXDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DXDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_DXDATA_PLACEHOLDER	设置/获取 DXDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_DZDESC	设置 DZDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DZDESC：传入已创建的 mudnnTensorDescriptor_t
MUDNN_PARAM_DZDATA_PLACEHOLDER	设置/获取 DZDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_DSCALE_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_DSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*
MUDNN_PARAM_BN_DBIAS_PLACEHOLDER	设置/获取 MUDNN_PARAM_BN_DBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t*

mudnnFusedOpsPointerPlaceHolder_t

• MUDNN_PTR_NULL
• MUDNN_PTR_ELEM_ALIGNED
• MUDNN_PTR_16B_ALIGNED

mudnnFusedOpsVariantParamLabel_t

• MUDNN_PTR_XDATA：设置时传入指向设备内存的 void*；获取时传入指向主机内存的 void**
• MUDNN_PTR_BN_EQSCALE
• MUDNN_PTR_BN_EQBIAS
• MUDNN_PTR_WDATA
• MUDNN_PTR_DWDATA
• MUDNN_PTR_YDATA
• MUDNN_PTR_DYDATA
• MUDNN_PTR_YSUM
• MUDNN_PTR_YSQSUM
• MUDNN_PTR_WORKSPACE
• MUDNN_PTR_BN_SCALE
• MUDNN_PTR_BN_BIAS
• MUDNN_PTR_BN_SAVED_MEAN
• MUDNN_PTR_BN_SAVED_INVSTD
• MUDNN_PTR_BN_RUNNING_MEAN
• MUDNN_PTR_BN_RUNNING_VAR
• MUDNN_PTR_ZDATA
• MUDNN_PTR_BN_Z_EQSCALE
• MUDNN_PTR_BN_Z_EQBIAS
• MUDNN_PTR_ACTIVATION_BITMASK
• MUDNN_PTR_DXDATA
• MUDNN_PTR_DZDATA
• MUDNN_PTR_BN_DSCALE
• MUDNN_PTR_BN_DBIAS
• MUDNN_SCALAR_SIZE_T_WORKSPACE_SIZE_IN_BYTES：设置/获取：传入指向主机内存的 size_t*
• MUDNN_SCALAR_INT64_T_BN_ACCUMULATION_COUNT：设置/获取：传入指向主机内存的 int64_t*
• MUDNN_SCALAR_DOUBLE_BN_EXP_AVG_FACTOR：设置/获取：传入指向主机内存的 double*
• MUDNN_SCALAR_DOUBLE_BN_EPSILON：设置/获取：传入指向主机内存的 double*

mudnnStatus_t

muDNN 返回码，兼容 cuDNN Graph/Backend 状态分类。

• MUDNN_STATUS_SUCCESS
• MUDNN_STATUS_NOT_INITIALIZED：未分类错误
• MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH
• MUDNN_STATUS_SERIALIZATION_VERSION_MISMATCH
• MUDNN_STATUS_DEPRECATED
• MUDNN_STATUS_LICENSE_ERROR
• MUDNN_STATUS_RUNTIME_IN_PROGRESS
• MUDNN_STATUS_RUNTIME_FP_OVERFLOW
• MUDNN_STATUS_SUBLIBRARY_LOADING_FAILED
• MUDNN_STATUS_BAD_PARAM
• MUDNN_STATUS_BAD_PARAM_NULL_POINTER
• MUDNN_STATUS_BAD_PARAM_MISALIGNED_POINTER
• MUDNN_STATUS_BAD_PARAM_NOT_FINALIZED
• MUDNN_STATUS_BAD_PARAM_OUT_OF_BOUND
• MUDNN_STATUS_BAD_PARAM_SIZE_INSUFFICIENT
• MUDNN_STATUS_BAD_PARAM_STREAM_MISMATCH
• MUDNN_STATUS_BAD_PARAM_SHAPE_MISMATCH
• MUDNN_STATUS_BAD_PARAM_DUPLICATED_ENTRIES
• MUDNN_STATUS_BAD_PARAM_ATTRIBUTE_TYPE
• MUDNN_STATUS_BAD_PARAM_MUSA_GRAPH_MISMATCH
• MUDNN_STATUS_BAD_PARAM_DESCRIPTOR_TYPE
• MUDNN_STATUS_NOT_SUPPORTED
• MUDNN_STATUS_NOT_SUPPORTED_GRAPH_PATTERN
• MUDNN_STATUS_NOT_SUPPORTED_SHAPE
• MUDNN_STATUS_NOT_SUPPORTED_DATA_TYPE
• MUDNN_STATUS_NOT_SUPPORTED_LAYOUT
• MUDNN_STATUS_NOT_SUPPORTED_INCOMPATIBLE_MUSA_DRIVER
• MUDNN_STATUS_NOT_SUPPORTED_INCOMPATIBLE_MUSART
• MUDNN_STATUS_NOT_SUPPORTED_ARCH_MISMATCH
• MUDNN_STATUS_NOT_SUPPORTED_RUNTIME_PREREQUISITE_MISSING
• MUDNN_STATUS_NOT_SUPPORTED_SUBLIBRARY_UNAVAILABLE
• MUDNN_STATUS_NOT_SUPPORTED_SHARED_MEMORY_INSUFFICIENT
• MUDNN_STATUS_NOT_SUPPORTED_PADDING
• MUDNN_STATUS_NOT_SUPPORTED_BAD_LAUNCH_PARAM
• MUDNN_STATUS_NOT_SUPPORTED_MUSA_GRAPH_NATIVE_API
• MUDNN_STATUS_NOT_IMPLEMENTD
• MUDNN_STATUS_INTERNAL_ERROR
• MUDNN_STATUS_INTERNAL_ERROR_COMPILATION_FAILED
• MUDNN_STATUS_INTERNAL_ERROR_UNEXPECTED_VALUE
• MUDNN_STATUS_INTERNAL_ERROR_HOST_ALLOCATION_FAILED
• MUDNN_STATUS_INTERNAL_ERROR_DEVICE_ALLOCATION_FAILED
• MUDNN_STATUS_INTERNAL_ERROR_BAD_LAUNCH_PARAM
• MUDNN_STATUS_INTERNAL_ERROR_TEXTURE_CREATION_FAILED
• MUDNN_STATUS_EXECUTION_FAILED
• MUDNN_STATUS_EXECUTION_FAILED_MUSA_DRIVER
• MUDNN_STATUS_EXECUTION_FAILED_CUBLAS
• MUDNN_STATUS_EXECUTION_FAILED_MUSART
• MUDNN_STATUS_EXECUTION_FAILED_CURAND
• MUDNN_STATUS_ALLOC_FAILED
• MUDNN_STATUS_INVALID_VALUE：请改用 MUDNN_STATUS_BAD_PARAM
• MUDNN_STATUS_ARCH_MISMATCH
• MUDNN_STATUS_MAPPING_ERROR
• MUDNN_STATUS_RUNTIME_PREREQUISITE_MISSING
• MUDNN_STATUS_VERSION_MISMATCH

mudnnErrQueryMode_t

运行时错误查询模式。

• MUDNN_ERRQUERY_RAWCODE
• MUDNN_ERRQUERY_NONBLOCKING
• MUDNN_ERRQUERY_BLOCKING

mudnnDataType_t

Tensor 数据类型，参照 cuDNN Backend 的 cudnnDataType_t。

• MUDNN_DATA_FLOAT
• MUDNN_DATA_DOUBLE
• MUDNN_DATA_HALF
• MUDNN_DATA_INT8
• MUDNN_DATA_INT32
• MUDNN_DATA_UINT8
• MUDNN_DATA_BFLOAT16
• MUDNN_DATA_INT64
• MUDNN_DATA_BOOLEAN
• MUDNN_DATA_FP8_E4M3
• MUDNN_DATA_FP8_E5M2
• MUDNN_DATA_FAST_FLOAT_FOR_FP8
• MUDNN_DATA_FP8_E8M0
• MUDNN_DATA_FP4_E2M1
• MUDNN_DATA_INT16
• MUDNN_DATA_UINT16
• MUDNN_DATA_UINT32
• MUDNN_DATA_UINT64
• MUDNN_DATA_QINT4
• MUDNN_DATA_QINT8
• MUDNN_DATA_POINTER

mudnnMathType_t

计算精度/数学模式，兼容 cudnnMathType_t。

• MUDNN_DEFAULT_MATH：默认数学模式，使用常规核心指令。
• MUDNN_TENSOR_OP_MATH：Tensor Core 优先的数学模式，需硬件支持。
• MUDNN_TENSOR_OP_MATH_ALLOW_CONVERSION：允许内部类型转换以启用 Tensor Core。
• MUDNN_FMA_MATH：强制使用 FMA 以获得确定性或精度优势。

mudnnNanPropagation_t

NaN 传播策略（已弃用，保持兼容）。

• MUDNN_NOT_PROPAGATE_NAN
• MUDNN_PROPAGATE_NAN

mudnnCTCGradMode_t

CTC 梯度写入策略，等价 cudnnCTCGradMode。 用于控制 OOB 样本的处理方式。

• MUDNN_CTC_ZERO_OOB_GRADIENTS
• MUDNN_CTC_SKIP_OOB_GRADIENTS

mudnnTensorFormat_t

张量格式，兼容 cudnnTensorFormat_t 并扩展。

• MUDNN_TENSOR_NCHW：行主序 NCHW，wStride=1, hStride=w。
• MUDNN_TENSOR_NHWC：NHWC（通道最后，cStride=1，适合矢量化存取）。
• MUDNN_TENSOR_NCHW_VECT_C：NCHW 向量化通道格式（每点为通道向量）。
• MUDNN_TENSOR_HWCN：扩展：HWCN。
• MUDNN_TENSOR_NCW：扩展：NCW。
• MUDNN_TENSOR_NWC：扩展：NWC。
• MUDNN_TENSOR_NCDHW：扩展：NCDHW。
• MUDNN_TENSOR_NDHWC：扩展：NDHWC。
• MUDNN_TENSOR_DHWCN：扩展：DHWCN。

mudnnReduceTensorOp_t

Reduce 操作类型，兼容 cudnnReduceTensorOp_t。

枚举值	说明
MUDNN_REDUCE_TENSOR_ADD	求和。
MUDNN_REDUCE_TENSOR_MUL	连乘。
MUDNN_REDUCE_TENSOR_MIN	取最小值。
MUDNN_REDUCE_TENSOR_MAX	取最大值。
MUDNN_REDUCE_TENSOR_AMAX	绝对值最大。
MUDNN_REDUCE_TENSOR_AVG	取平均值。
MUDNN_REDUCE_TENSOR_NORM1	L1 范数。
MUDNN_REDUCE_TENSOR_NORM2	L2 范数。
MUDNN_REDUCE_TENSOR_MUL_NO_ZEROS	跳过零的连乘。

mudnnActivationMode_t

激活函数枚举（兼容 cudnnActivationMode，标记为废弃）。

• MUDNN_ACTIVATION_SIGMOID：Sigmoid 激活。
• MUDNN_ACTIVATION_RELU：ReLU 激活。
• MUDNN_ACTIVATION_TANH：Tanh 激活。
• MUDNN_ACTIVATION_CLIPPED_RELU：截断 ReLU。
• MUDNN_ACTIVATION_ELU：ELU 激活。
• MUDNN_ACTIVATION_IDENTITY：恒等映射。
• MUDNN_ACTIVATION_SWISH：Swish 激活。
• MUDNN_ACTIVATION_SILU：SiLU 激活（Swish 的变体）。

mudnnSeverity_t

日志/回调严重级别。

• MUDNN_SEV_FATAL
• MUDNN_SEV_ERROR
• MUDNN_SEV_WARNING
• MUDNN_SEV_INFO

mudnnMatMulEpilogue_t

MatMul 后处理模式，涵盖常见 Epilogue 组合。

• MUDNN_MATMULLT_EPILOGUE_DEFAULT
• MUDNN_MATMULLT_EPILOGUE_RELU
• MUDNN_MATMULLT_EPILOGUE_RELU_AUX
• MUDNN_MATMULLT_EPILOGUE_BIAS
• MUDNN_MATMULLT_EPILOGUE_RELU_BIAS
• MUDNN_MATMULLT_EPILOGUE_RELU_AUX_BIAS
• MUDNN_MATMULLT_EPILOGUE_DRELU
• MUDNN_MATMULLT_EPILOGUE_DRELU_BGRAD
• MUDNN_MATMULLT_EPILOGUE_GELU
• MUDNN_MATMULLT_EPILOGUE_GELU_AUX
• MUDNN_MATMULLT_EPILOGUE_GELU_BIAS
• MUDNN_MATMULLT_EPILOGUE_GELU_AUX_BIAS
• MUDNN_MATMULLT_EPILOGUE_DGELU
• MUDNN_MATMULLT_EPILOGUE_DGELU_BGRAD

mudnnConvolutionMode_t

卷积模式，匹配 cudnnConvolutionMode。

• MUDNN_CONVOLUTION
• MUDNN_CROSS_CORRELATION

mudnnReorderType_t

张量重排选项（已废弃，仅保留兼容）。

• MUDNN_DEFAULT_REORDER
• MUDNN_NO_REORDER

mudnnPointwiseMode_t

点算子模式，覆盖加减乘除与激活等。

• MUDNN_POINTWISE_ADD
• MUDNN_POINTWISE_ADD_SQUARE
• MUDNN_POINTWISE_DIV
• MUDNN_POINTWISE_MAX
• MUDNN_POINTWISE_MIN
• MUDNN_POINTWISE_MOD
• MUDNN_POINTWISE_MUL
• MUDNN_POINTWISE_POW
• MUDNN_POINTWISE_SUB
• MUDNN_POINTWISE_ABS
• MUDNN_POINTWISE_CEIL
• MUDNN_POINTWISE_COS
• MUDNN_POINTWISE_EXP
• MUDNN_POINTWISE_FLOOR
• MUDNN_POINTWISE_LOG
• MUDNN_POINTWISE_NEG
• MUDNN_POINTWISE_RSQRT
• MUDNN_POINTWISE_SIN
• MUDNN_POINTWISE_SQRT
• MUDNN_POINTWISE_TAN
• MUDNN_POINTWISE_ERF
• MUDNN_POINTWISE_IDENTITY
• MUDNN_POINTWISE_RECIPROCAL
• MUDNN_POINTWISE_ATAN2
• MUDNN_POINTWISE_RELU_FWD
• MUDNN_POINTWISE_TANH_FWD
• MUDNN_POINTWISE_SIGMOID_FWD
• MUDNN_POINTWISE_ELU_FWD
• MUDNN_POINTWISE_GELU_FWD
• MUDNN_POINTWISE_SOFTPLUS_FWD
• MUDNN_POINTWISE_SWISH_FWD
• MUDNN_POINTWISE_GELU_APPROX_TANH_FWD
• MUDNN_POINTWISE_RELU_BWD
• MUDNN_POINTWISE_TANH_BWD
• MUDNN_POINTWISE_SIGMOID_BWD
• MUDNN_POINTWISE_ELU_BWD
• MUDNN_POINTWISE_GELU_BWD
• MUDNN_POINTWISE_SOFTPLUS_BWD
• MUDNN_POINTWISE_SWISH_BWD
• MUDNN_POINTWISE_GELU_APPROX_TANH_BWD
• MUDNN_POINTWISE_CMP_EQ
• MUDNN_POINTWISE_CMP_NEQ
• MUDNN_POINTWISE_CMP_GT
• MUDNN_POINTWISE_CMP_GE
• MUDNN_POINTWISE_CMP_LT
• MUDNN_POINTWISE_CMP_LE
• MUDNN_POINTWISE_LOGICAL_AND
• MUDNN_POINTWISE_LOGICAL_OR
• MUDNN_POINTWISE_LOGICAL_NOT
• MUDNN_POINTWISE_GEN_INDEX
• MUDNN_POINTWISE_BINARY_SELECT

mudnnResampleMode_t

重采样/插值模式，对应 cudnnResampleMode。

• MUDNN_RESAMPLE_NEAREST
• MUDNN_RESAMPLE_BILINEAR
• MUDNN_RESAMPLE_AVGPOOL
• MUDNN_RESAMPLE_AVGPOOL_INCLUDE_PADDING
• MUDNN_RESAMPLE_AVGPOOL_EXCLUDE_PADDING
• MUDNN_RESAMPLE_MAXPOOL

mudnnSignalMode_t

信号操作模式。

• MUDNN_SIGNAL_SET
• MUDNN_SIGNAL_WAIT

mudnnGenStatsMode_t

统计计算模式（如求和/平方和）。

• MUDNN_GENSTATS_SUM_SQSUM

mudnnBnFinalizeStatsMode_t

BN finalize 阶段模式。

• MUDNN_BN_FINALIZE_STATISTICS_TRAINING
• MUDNN_BN_FINALIZE_STATISTICS_INFERENCE

mudnnRngDistribution_t

随机数分布类型。

• MUDNN_RNG_DISTRIBUTION_BERNOULLI
• MUDNN_RNG_DISTRIBUTION_UNIFORM
• MUDNN_RNG_DISTRIBUTION_NORMAL

mudnnBackendAttributeName_t

Backend 属性名，覆盖图/执行计划/张量等的属性键。

• MUDNN_ATTR_POINTWISE_MODE
• MUDNN_ATTR_POINTWISE_MATH_PREC
• MUDNN_ATTR_POINTWISE_NAN_PROPAGATION
• MUDNN_ATTR_POINTWISE_RELU_LOWER_CLIP
• MUDNN_ATTR_POINTWISE_RELU_UPPER_CLIP
• MUDNN_ATTR_POINTWISE_RELU_LOWER_CLIP_SLOPE
• MUDNN_ATTR_POINTWISE_ELU_ALPHA
• MUDNN_ATTR_POINTWISE_SOFTPLUS_BETA
• MUDNN_ATTR_POINTWISE_SWISH_BETA
• MUDNN_ATTR_POINTWISE_AXIS
• MUDNN_ATTR_CONVOLUTION_COMP_TYPE
• MUDNN_ATTR_CONVOLUTION_CONV_MODE
• MUDNN_ATTR_CONVOLUTION_DILATIONS
• MUDNN_ATTR_CONVOLUTION_FILTER_STRIDES
• MUDNN_ATTR_CONVOLUTION_POST_PADDINGS
• MUDNN_ATTR_CONVOLUTION_PRE_PADDINGS
• MUDNN_ATTR_CONVOLUTION_SPATIAL_DIMS
• MUDNN_ATTR_ENGINEHEUR_MODE
• MUDNN_ATTR_ENGINEHEUR_OPERATION_GRAPH
• MUDNN_ATTR_ENGINEHEUR_RESULTS
• MUDNN_ATTR_ENGINEHEUR_SM_COUNT_TARGET
• MUDNN_ATTR_ENGINEHEUR_DEVICEPROP
• MUDNN_ATTR_ENGINECFG_ENGINE
• MUDNN_ATTR_ENGINECFG_INTERMEDIATE_INFO
• MUDNN_ATTR_ENGINECFG_KNOB_CHOICES
• MUDNN_ATTR_ENGINECFG_WORKSPACE_SIZE
• MUDNN_ATTR_ENGINECFG_SHARED_MEMORY_USED
• MUDNN_ATTR_EXECUTION_PLAN_HANDLE
• MUDNN_ATTR_EXECUTION_PLAN_ENGINE_CONFIG
• MUDNN_ATTR_EXECUTION_PLAN_WORKSPACE_SIZE
• MUDNN_ATTR_EXECUTION_PLAN_COMPUTED_INTERMEDIATE_UIDS
• MUDNN_ATTR_EXECUTION_PLAN_RUN_ONLY_INTERMEDIATE_UIDS
• MUDNN_ATTR_EXECUTION_PLAN_JSON_REPRESENTATION
• MUDNN_ATTR_EXECUTION_PLAN_KERNEL_CACHE
• MUDNN_ATTR_EXECUTION_PLAN_DEVICEPROP
• MUDNN_ATTR_INTERMEDIATE_INFO_UNIQUE_ID
• MUDNN_ATTR_INTERMEDIATE_INFO_SIZE
• MUDNN_ATTR_INTERMEDIATE_INFO_DEPENDENT_DATA_UIDS
• MUDNN_ATTR_INTERMEDIATE_INFO_DEPENDENT_ATTRIBUTES
• MUDNN_ATTR_KNOB_CHOICE_KNOB_TYPE
• MUDNN_ATTR_KNOB_CHOICE_KNOB_VALUE
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_ALPHA
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_BETA
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_CONV_DESC
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_W
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_X
• MUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_Y
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_ALPHA
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_BETA
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_CONV_DESC
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_W
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_DX
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_DY
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_ALPHA
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_BETA
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_CONV_DESC
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_DW
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_X
• MUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_DY
• MUDNN_ATTR_OPERATION_POINTWISE_PW_DESCRIPTOR
• MUDNN_ATTR_OPERATION_POINTWISE_XDESC
• MUDNN_ATTR_OPERATION_POINTWISE_BDESC
• MUDNN_ATTR_OPERATION_POINTWISE_YDESC
• MUDNN_ATTR_OPERATION_POINTWISE_ALPHA1
• MUDNN_ATTR_OPERATION_POINTWISE_ALPHA2
• MUDNN_ATTR_OPERATION_POINTWISE_DXDESC
• MUDNN_ATTR_OPERATION_POINTWISE_DYDESC
• MUDNN_ATTR_OPERATION_POINTWISE_TDESC
• MUDNN_ATTR_OPERATION_GENSTATS_MODE
• MUDNN_ATTR_OPERATION_GENSTATS_MATH_PREC
• MUDNN_ATTR_OPERATION_GENSTATS_XDESC
• MUDNN_ATTR_OPERATION_GENSTATS_SUMDESC
• MUDNN_ATTR_OPERATION_GENSTATS_SQSUMDESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_STATS_MODE
• MUDNN_ATTR_OPERATION_BN_FINALIZE_MATH_PREC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_Y_SUM_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_Y_SQ_SUM_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_BIAS_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_PREV_RUNNING_MEAN_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_PREV_RUNNING_VAR_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_UPDATED_RUNNING_MEAN_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_UPDATED_RUNNING_VAR_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_SAVED_MEAN_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_SAVED_INV_STD_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_EQ_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_EQ_BIAS_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_ACCUM_COUNT_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_EPSILON_DESC
• MUDNN_ATTR_OPERATION_BN_FINALIZE_EXP_AVERATE_FACTOR_DESC
• MUDNN_ATTR_OPERATIONGRAPH_HANDLE
• MUDNN_ATTR_OPERATIONGRAPH_OPS
• MUDNN_ATTR_OPERATIONGRAPH_ENGINE_GLOBAL_COUNT
• MUDNN_ATTR_OPERATIONGRAPH_IS_DYNAMIC_SHAPE_ENABLED
• MUDNN_ATTR_OPERATIONGRAPH_IS_SAME_TOPOLOGY
• MUDNN_ATTR_TENSOR_BYTE_ALIGNMENT
• MUDNN_ATTR_TENSOR_DATA_TYPE
• MUDNN_ATTR_TENSOR_DIMENSIONS
• MUDNN_ATTR_TENSOR_STRIDES
• MUDNN_ATTR_TENSOR_VECTOR_COUNT
• MUDNN_ATTR_TENSOR_VECTORIZED_DIMENSION
• MUDNN_ATTR_TENSOR_UNIQUE_ID
• MUDNN_ATTR_TENSOR_IS_VIRTUAL
• MUDNN_ATTR_TENSOR_IS_BY_VALUE
• MUDNN_ATTR_TENSOR_REORDERING_MODE
• MUDNN_ATTR_TENSOR_RAGGED_OFFSET_DESC
• MUDNN_ATTR_VARIANT_PACK_UNIQUE_IDS
• MUDNN_ATTR_VARIANT_PACK_DATA_POINTERS
• MUDNN_ATTR_VARIANT_PACK_INTERMEDIATES
• MUDNN_ATTR_VARIANT_PACK_WORKSPACE
• MUDNN_ATTR_LAYOUT_INFO_TENSOR_UID
• MUDNN_ATTR_LAYOUT_INFO_TYPES
• MUDNN_ATTR_KNOB_INFO_TYPE
• MUDNN_ATTR_KNOB_INFO_MAXIMUM_VALUE
• MUDNN_ATTR_KNOB_INFO_MINIMUM_VALUE
• MUDNN_ATTR_KNOB_INFO_STRIDE
• MUDNN_ATTR_ENGINE_OPERATION_GRAPH
• MUDNN_ATTR_ENGINE_GLOBAL_INDEX
• MUDNN_ATTR_ENGINE_KNOB_INFO
• MUDNN_ATTR_ENGINE_NUMERICAL_NOTE
• MUDNN_ATTR_ENGINE_LAYOUT_INFO
• MUDNN_ATTR_ENGINE_BEHAVIOR_NOTE
• MUDNN_ATTR_ENGINE_SM_COUNT_TARGET
• MUDNN_ATTR_ENGINE_DEVICEPROP
• MUDNN_ATTR_MATMUL_COMP_TYPE
• MUDNN_ATTR_MATMUL_PADDING_VALUE
• MUDNN_ATTR_OPERATION_MATMUL_ADESC
• MUDNN_ATTR_OPERATION_MATMUL_BDESC
• MUDNN_ATTR_OPERATION_MATMUL_CDESC
• MUDNN_ATTR_OPERATION_MATMUL_DESC
• MUDNN_ATTR_OPERATION_MATMUL_IRREGULARLY_STRIDED_BATCH_COUNT
• MUDNN_ATTR_OPERATION_MATMUL_GEMM_M_OVERRIDE_DESC
• MUDNN_ATTR_OPERATION_MATMUL_GEMM_N_OVERRIDE_DESC
• MUDNN_ATTR_OPERATION_MATMUL_GEMM_K_OVERRIDE_DESC
• MUDNN_ATTR_REDUCTION_OPERATOR
• MUDNN_ATTR_REDUCTION_COMP_TYPE
• MUDNN_ATTR_OPERATION_REDUCTION_XDESC
• MUDNN_ATTR_OPERATION_REDUCTION_YDESC
• MUDNN_ATTR_OPERATION_REDUCTION_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_MATH_PREC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_MEAN_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_INVSTD_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_BN_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_X_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DY_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DBN_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DBN_BIAS_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_DY_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_X_SCALE_DESC
• MUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_BIAS
• MUDNN_ATTR_RESAMPLE_MODE
• MUDNN_ATTR_RESAMPLE_COMP_TYPE
• MUDNN_ATTR_RESAMPLE_SPATIAL_DIMS
• MUDNN_ATTR_RESAMPLE_POST_PADDINGS
• MUDNN_ATTR_RESAMPLE_PRE_PADDINGS
• MUDNN_ATTR_RESAMPLE_STRIDES
• MUDNN_ATTR_RESAMPLE_WINDOW_DIMS
• MUDNN_ATTR_RESAMPLE_NAN_PROPAGATION
• MUDNN_ATTR_RESAMPLE_PADDING_MODE
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_XDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_YDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_IDXDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_ALPHA
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_BETA
• MUDNN_ATTR_OPERATION_RESAMPLE_FWD_DESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_DXDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_DYDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_IDXDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_ALPHA
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_BETA
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_DESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_XDESC
• MUDNN_ATTR_OPERATION_RESAMPLE_BWD_YDESC
• MUDNN_ATTR_OPERATION_CONCAT_AXIS
• MUDNN_ATTR_OPERATION_CONCAT_INPUT_DESCS
• MUDNN_ATTR_OPERATION_CONCAT_INPLACE_INDEX
• MUDNN_ATTR_OPERATION_CONCAT_OUTPUT_DESC
• MUDNN_ATTR_OPERATION_SIGNAL_MODE
• MUDNN_ATTR_OPERATION_SIGNAL_FLAGDESC
• MUDNN_ATTR_OPERATION_SIGNAL_VALUE
• MUDNN_ATTR_OPERATION_SIGNAL_XDESC
• MUDNN_ATTR_OPERATION_SIGNAL_YDESC
• MUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_CONTAINER_DESC
• MUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_YDESC
• MUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_SEQUENCE_DESC
• MUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_PAGE_TABLE_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_MODE
• MUDNN_ATTR_OPERATION_NORM_FWD_PHASE
• MUDNN_ATTR_OPERATION_NORM_FWD_XDESC
• MUDNN_ATTR_OPERATION_NORM_FWD_MEAN_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_INV_VARIANCE_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_SCALE_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_BIAS_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_EPSILON_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_EXP_AVG_FACTOR_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_INPUT_RUNNING_MEAN_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_INPUT_RUNNING_VAR_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_OUTPUT_RUNNING_MEAN_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_OUTPUT_RUNNING_VAR_DESC
• MUDNN_ATTR_OPERATION_NORM_FWD_YDESC
• MUDNN_ATTR_OPERATION_NORM_FWD_PEER_STAT_DESCS
• MUDNN_ATTR_OPERATION_NORM_BWD_MODE
• MUDNN_ATTR_OPERATION_NORM_BWD_XDESC
• MUDNN_ATTR_OPERATION_NORM_BWD_MEAN_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_INV_VARIANCE_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_DYDESC
• MUDNN_ATTR_OPERATION_NORM_BWD_SCALE_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_EPSILON_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_DSCALE_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_DBIAS_DESC
• MUDNN_ATTR_OPERATION_NORM_BWD_DXDESC
• MUDNN_ATTR_OPERATION_NORM_BWD_PEER_STAT_DESCS
• MUDNN_ATTR_OPERATION_RESHAPE_XDESC
• MUDNN_ATTR_OPERATION_RESHAPE_YDESC
• MUDNN_ATTR_RNG_DISTRIBUTION
• MUDNN_ATTR_RNG_NORMAL_DIST_MEAN
• MUDNN_ATTR_RNG_NORMAL_DIST_STANDARD_DEVIATION
• MUDNN_ATTR_RNG_UNIFORM_DIST_MAXIMUM
• MUDNN_ATTR_RNG_UNIFORM_DIST_MINIMUM
• MUDNN_ATTR_RNG_BERNOULLI_DIST_PROBABILITY
• MUDNN_ATTR_OPERATION_RNG_YDESC
• MUDNN_ATTR_OPERATION_RNG_SEED
• MUDNN_ATTR_OPERATION_RNG_DESC
• MUDNN_ATTR_OPERATION_RNG_OFFSET_DESC
• MUDNN_ATTR_KERNEL_CACHE_OPERATION_GRAPH
• MUDNN_ATTR_KERNEL_CACHE_IS_ENGINECFG_KERNEL_CACHED
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_XDESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_YDESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_SCALE_DESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_MATH_PREC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_BLOCK_SIZE
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_XDESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_SCALE_DESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_YDESC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_MATH_PREC
• MUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_BLOCK_SIZE
• MUDNN_ATTR_DEVICEPROP_DEVICE_ID
• MUDNN_ATTR_DEVICEPROP_HANDLE
• MUDNN_ATTR_DEVICEPROP_JSON_REPRESENTATION

mudnnBackendAttributeType_t

Backend 属性值类型，对应 cudnnBackendAttributeType。

• MUDNN_TYPE_HANDLE
• MUDNN_TYPE_DATA_TYPE
• MUDNN_TYPE_BOOLEAN
• MUDNN_TYPE_INT64
• MUDNN_TYPE_FLOAT
• MUDNN_TYPE_DOUBLE
• MUDNN_TYPE_VOID_PTR
• MUDNN_TYPE_CONVOLUTION_MODE
• MUDNN_TYPE_HEUR_MODE
• MUDNN_TYPE_KNOB_TYPE
• MUDNN_TYPE_NAN_PROPOGATION
• MUDNN_TYPE_NUMERICAL_NOTE
• MUDNN_TYPE_LAYOUT_TYPE
• MUDNN_TYPE_ATTRIB_NAME
• MUDNN_TYPE_POINTWISE_MODE
• MUDNN_TYPE_BACKEND_DESCRIPTOR
• MUDNN_TYPE_GENSTATS_MODE
• MUDNN_TYPE_BN_FINALIZE_STATS_MODE
• MUDNN_TYPE_REDUCTION_OPERATOR_TYPE
• MUDNN_TYPE_BEHAVIOR_NOTE
• MUDNN_TYPE_TENSOR_REORDERING_MODE
• MUDNN_TYPE_RESAMPLE_MODE
• MUDNN_TYPE_PADDING_MODE
• MUDNN_TYPE_INT32
• MUDNN_TYPE_CHAR
• MUDNN_TYPE_SIGNAL_MODE
• MUDNN_TYPE_FRACTION
• MUDNN_TYPE_NORM_MODE
• MUDNN_TYPE_NORM_FWD_PHASE
• MUDNN_TYPE_RNG_DISTRIBUTION

mudnnBackendDescriptorType_t

Backend 描述符类型，映射到各类操作/计划/张量描述符。

• MUDNN_BACKEND_POINTWISE_DESCRIPTOR
• MUDNN_BACKEND_CONVOLUTION_DESCRIPTOR
• MUDNN_BACKEND_ENGINE_DESCRIPTOR
• MUDNN_BACKEND_ENGINECFG_DESCRIPTOR
• MUDNN_BACKEND_ENGINEHEUR_DESCRIPTOR
• MUDNN_BACKEND_EXECUTION_PLAN_DESCRIPTOR
• MUDNN_BACKEND_INTERMEDIATE_INFO_DESCRIPTOR
• MUDNN_BACKEND_KNOB_CHOICE_DESCRIPTOR
• MUDNN_BACKEND_KNOB_INFO_DESCRIPTOR
• MUDNN_BACKEND_LAYOUT_INFO_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_CONVOLUTION_FORWARD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_CONVOLUTION_BACKWARD_FILTER_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_CONVOLUTION_BACKWARD_DATA_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_POINTWISE_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_GEN_STATS_DESCRIPTOR
• MUDNN_BACKEND_OPERATIONGRAPH_DESCRIPTOR
• MUDNN_BACKEND_VARIANT_PACK_DESCRIPTOR
• MUDNN_BACKEND_TENSOR_DESCRIPTOR
• MUDNN_BACKEND_MATMUL_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_MATMUL_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_BN_FINALIZE_STATISTICS_DESCRIPTOR
• MUDNN_BACKEND_REDUCTION_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_REDUCTION_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_BN_BWD_WEIGHTS_DESCRIPTOR
• MUDNN_BACKEND_RESAMPLE_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_RESAMPLE_FWD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_RESAMPLE_BWD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_CONCAT_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_SIGNAL_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_NORM_FORWARD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_NORM_BACKWARD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_RESHAPE_DESCRIPTOR
• MUDNN_BACKEND_RNG_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_RNG_DESCRIPTOR
• MUDNN_BACKEND_KERNEL_CACHE_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_PAGED_CACHE_LOAD_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_BLOCK_SCALE_QUANTIZE_DESCRIPTOR
• MUDNN_BACKEND_OPERATION_BLOCK_SCALE_DEQUANTIZE_DESCRIPTOR
• MUDNN_BACKEND_DEVICEPROP_DESCRIPTOR

mudnnBackendNumericalNote_t

数值特性说明，用于引擎选择或诊断。

• MUDNN_NUMERICAL_NOTE_TENSOR_CORE
• MUDNN_NUMERICAL_NOTE_DOWN_CONVERT_INPUTS
• MUDNN_NUMERICAL_NOTE_REDUCED_PRECISION_REDUCTION
• MUDNN_NUMERICAL_NOTE_FFT
• MUDNN_NUMERICAL_NOTE_NONDETERMINISTIC
• MUDNN_NUMERICAL_NOTE_WINOGRAD
• MUDNN_NUMERICAL_NOTE_STRICT_NAN_PROP
• MUDNN_NUMERICAL_NOTE_TYPE_COUNT

mudnnBackendBehaviorNote_t

行为特性说明。

• MUDNN_BEHAVIOR_NOTE_RUNTIME_COMPILATION
• MUDNN_BEHAVIOR_NOTE_SUPPORTS_MUSA_GRAPH_NATIVE_API
• MUDNN_BEHAVIOR_NOTE_TYPE_COUNT

mudnnBackendKnobType_t

Kernel 调优维度，涵盖块/瓦片等选项。

• MUDNN_KNOB_TYPE_SPLIT_K
• MUDNN_KNOB_TYPE_SWIZZLE
• MUDNN_KNOB_TYPE_TILE_SIZE
• MUDNN_KNOB_TYPE_USE_TEX
• MUDNN_KNOB_TYPE_EDGE
• MUDNN_KNOB_TYPE_KBLOCK
• MUDNN_KNOB_TYPE_LDGA
• MUDNN_KNOB_TYPE_LDGB
• MUDNN_KNOB_TYPE_CHUNK_K
• MUDNN_KNOB_TYPE_SPLIT_H
• MUDNN_KNOB_TYPE_WINO_TILE
• MUDNN_KNOB_TYPE_MULTIPLY
• MUDNN_KNOB_TYPE_SPLIT_K_BUF
• MUDNN_KNOB_TYPE_TILEK
• MUDNN_KNOB_TYPE_STAGES
• MUDNN_KNOB_TYPE_REDUCTION_MODE
• MUDNN_KNOB_TYPE_CTA_SPLIT_K_MODE
• MUDNN_KNOB_TYPE_SPLIT_K_SLC
• MUDNN_KNOB_TYPE_IDX_MODE
• MUDNN_KNOB_TYPE_SLICED
• MUDNN_KNOB_TYPE_SPLIT_RS
• MUDNN_KNOB_TYPE_SINGLEBUFFER
• MUDNN_KNOB_TYPE_LDGC
• MUDNN_KNOB_TYPE_SPECFILT
• MUDNN_KNOB_TYPE_KERNEL_CFG
• MUDNN_KNOB_TYPE_WORKSPACE
• MUDNN_KNOB_TYPE_TILE_CGA
• MUDNN_KNOB_TYPE_TILE_CGA_M
• MUDNN_KNOB_TYPE_TILE_CGA_N
• MUDNN_KNOB_TYPE_BLOCK_SIZE
• MUDNN_KNOB_TYPE_OCCUPANCY
• MUDNN_KNOB_TYPE_ARRAY_SIZE_PER_THREAD
• MUDNN_KNOB_TYPE_NUM_C_PER_BLOCK
• MUDNN_KNOB_TYPE_SPLIT_COLS
• MUDNN_KNOB_TYPE_TILE_ROWS
• MUDNN_KNOB_TYPE_TILE_COLS
• MUDNN_KNOB_TYPE_LOAD_SIZE
• MUDNN_KNOB_TYPE_CTA_COUNT
• MUDNN_KNOB_TYPE_STREAM_K
• MUDNN_KNOB_TYPE_SPLIT_P_SLC
• MUDNN_KNOB_TYPE_TILE_M
• MUDNN_KNOB_TYPE_TILE_N
• MUDNN_KNOB_TYPE_WARP_SPEC_CFG
• MUDNN_KNOB_TYPE_COUNTS

mudnnBackendLayoutType_t

推荐的布局类型。

• MUDNN_LAYOUT_TYPE_PREFERRED_NCHW
• MUDNN_LAYOUT_TYPE_PREFERRED_NHWC
• MUDNN_LAYOUT_TYPE_PREFERRED_PAD4CK
• MUDNN_LAYOUT_TYPE_PREFERRED_PAD8CK
• MUDNN_LAYOUT_TYPE_COUNT

mudnnBackendHeurMode_t

引擎启发式模式。

• MUDNN_HEUR_MODE_INSTANT
• MUDNN_HEUR_MODE_B
• MUDNN_HEUR_MODE_FALLBACK
• MUDNN_HEUR_MODE_A
• MUDNN_HEUR_MODES_COUNT

mudnnBackendTensorReordering_t

张量重排模式。

• MUDNN_TENSOR_REORDERING_NONE

mudnnPaddingMode_t

Padding 模式。

• MUDNN_ZERO_PAD
• MUDNN_NEG_INF_PAD
• MUDNN_EDGE_VAL_PAD

mudnnBackendNormMode_t

归一化类型。

• MUDNN_LAYER_NORM
• MUDNN_INSTANCE_NORM
• MUDNN_BATCH_NORM
• MUDNN_GROUP_NORM
• MUDNN_RMS_NORM
• MUDNN_ADA_LAYER_NORM

mudnnBackendNormFwdPhase_t

归一化前向阶段。

• MUDNN_NORM_FWD_INFERENCE
• MUDNN_NORM_FWD_TRAINING

mudnnDeterminism_t

• MUDNN_NON_DETERMINISTIC
• MUDNN_DETERMINISTIC

mudnnFoldingDirection_t

• MUDNN_TRANSFORM_FOLD
• MUDNN_TRANSFORM_UNFOLD

mudnnOpTensorOp_t

• MUDNN_OP_TENSOR_ADD
• MUDNN_OP_TENSOR_MUL
• MUDNN_OP_TENSOR_MIN
• MUDNN_OP_TENSOR_MAX
• MUDNN_OP_TENSOR_SQRT
• MUDNN_OP_TENSOR_NOT

mudnnReduceTensorIndices_t

• MUDNN_REDUCE_TENSOR_NO_INDICES
• MUDNN_REDUCE_TENSOR_FLATTENED_INDICES

mudnnIndicesType_t

• MUDNN_32BIT_INDICES
• MUDNN_64BIT_INDICES
• MUDNN_16BIT_INDICES
• MUDNN_8BIT_INDICES

mudnnSoftmaxAlgorithm_t

• MUDNN_SOFTMAX_FAST：直接实现
• MUDNN_SOFTMAX_ACCURATE：从每个点减去最大值以避免溢出
• MUDNN_SOFTMAX_LOG

mudnnSoftmaxMode_t

• MUDNN_SOFTMAX_MODE_INSTANCE：对每个 N 在所有 C、H、W 上计算 Softmax
• MUDNN_SOFTMAX_MODE_CHANNEL：对每个 H、W、N 在所有 C 上计算 Softmax
• MUDNN_SOFTMAX_MODE_SOFTMAX
• MUDNN_SOFTMAX_MODE_LOG_SOFTMAX
• MUDNN_SOFTMAX_MODE_LOG_SUM_EXP

mudnnPoolingMode_t

• MUDNN_POOLING_MAX
• MUDNN_POOLING_AVERAGE_COUNT_INCLUDE_PADDING：平均值计算包含padding 值
• MUDNN_POOLING_AVERAGE_COUNT_EXCLUDE_PADDING：平均值计算不包含padding 值
• MUDNN_POOLING_MAX_DETERMINISTIC
• MUDNN_POOLING_GLOBAL_AVGPOOL
• MUDNN_POOLING_ADAPTIVE_MAXPOOL
• MUDNN_POOLING_ADAPTIVE_AVGPOOL

mudnnLRNMode_t

• MUDNN_LRN_CROSS_CHANNEL_DIM1：沿张量的 dimA[1] 维度normalization

mudnnDivNormMode_t

• MUDNN_DIVNORM_PRECOMPUTED_MEANS

mudnnBatchNormMode_t

• MUDNN_BATCHNORM_PER_ACTIVATION：bnScale、bnBias 张量维度为 1xCxHxWx..（每个 CHW... 切片一个值，沿 N 切片normalization）
• MUDNN_BATCHNORM_SPATIAL：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）
• MUDNN_BATCHNORM_SPATIAL_PERSISTENT：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）。可能比 MUDNN_BATCHNORM_SPATIAL 更快，但会限制取值范围

mudnnBatchNormOps_t

• MUDNN_BATCHNORM_OPS_BN：仅执行batch normalization
• MUDNN_BATCHNORM_OPS_BN_ACTIVATION：先执行 batchNorm，再执行激活
• MUDNN_BATCHNORM_OPS_BN_ADD_ACTIVATION：先执行 batchNorm，再执行 elemWiseAdd，再执行激活

mudnnNormMode_t

• MUDNN_NORM_PER_ACTIVATION：bnScale、bnBias 张量维度为 1xCxHxWx..（每个 CHW... 切片一个值，沿 N 切片normalization）
• MUDNN_NORM_PER_CHANNEL：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）

mudnnNormAlgo_t

• MUDNN_NORM_ALGO_STANDARD
• MUDNN_NORM_ALGO_PERSIST

mudnnLayerNormMode_t

• MUDNN_LAYER_NORM_MODE_DIRECT
• MUDNN_LAYER_NORM_MODE_WELFORD

mudnnRMSNormMode_t

• MUDNN_RMS_NORM_MODE_DIRECT
• MUDNN_RMS_NORM_MODE_WELFORD

mudnnInterpolateMode_t

• MUDNN_INTERPOLATE_NEAREST
• MUDNN_INTERPOLATE_NEAREST_EXACT
• MUDNN_INTERPOLATE_LINEAR
• MUDNN_INTERPOLATE_BICUBIC

mudnnScatterMode_t

• MUDNN_SCATTER_MODE_UPDATE_ONLY
• MUDNN_SCATTER_MODE_ADD
• MUDNN_SCATTER_MODE_SUB
• MUDNN_SCATTER_MODE_MUL

mudnnPadMode_t

• MUDNN_PAD_MODE_CONSTANT
• MUDNN_PAD_MODE_REFLECT
• MUDNN_PAD_MODE_REPLICATE
• MUDNN_PAD_MODE_CIRCULAR

mudnnNormOps_t

• MUDNN_NORM_OPS_NORM：仅执行normalization
• MUDNN_NORM_OPS_NORM_ACTIVATION：先执行 Norm，再执行激活
• MUDNN_NORM_OPS_NORM_ADD_ACTIVATION：先执行 Norm，再执行 elemWiseAdd，再执行激活

mudnnSamplerType_t

• MUDNN_SAMPLER_BILINEAR

mudnnConvolutionFwdAlgo_t

• MUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_GEMM
• MUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_PRECOMP_GEMM
• MUDNN_CONVOLUTION_FWD_ALGO_GEMM
• MUDNN_CONVOLUTION_FWD_ALGO_DIRECT
• MUDNN_CONVOLUTION_FWD_ALGO_FFT
• MUDNN_CONVOLUTION_FWD_ALGO_FFT_TILING
• MUDNN_CONVOLUTION_FWD_ALGO_WINOGRAD
• MUDNN_CONVOLUTION_FWD_ALGO_WINOGRAD_NONFUSED
• MUDNN_CONVOLUTION_FWD_ALGO_COUNT

mudnnConvolutionBwdFilterAlgo_t

• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_0：非确定性
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_1
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_FFT
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_3：非确定性
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_WINOGRAD：未实现
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_WINOGRAD_NONFUSED
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_FFT_TILING
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_IMPLICIT_GEMM
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_GEMM
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_DIRECT
• MUDNN_CONVOLUTION_BWD_FILTER_ALGO_COUNT

mudnnConvolutionBwdDataAlgo_t

• MUDNN_CONVOLUTION_BWD_DATA_ALGO_0：非确定性
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_1
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_FFT
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_FFT_TILING
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_WINOGRAD
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_WINOGRAD_NONFUSED
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_IMPLICIT_GEMM
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_GEMM
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_DIRECT
• MUDNN_CONVOLUTION_BWD_DATA_ALGO_COUNT

mudnnCTCLossAlgo_t

• MUDNN_CTC_LOSS_ALGO_DETERMINISTIC
• MUDNN_CTC_LOSS_ALGO_NON_DETERMINISTIC

mudnnUnaryMode_t

• MUDNN_UNARY_ADD
• MUDNN_UNARY_SUB
• MUDNN_UNARY_MUL
• MUDNN_UNARY_DIV
• MUDNN_UNARY_POW
• MUDNN_UNARY_SQRT
• MUDNN_UNARY_ROUND
• MUDNN_UNARY_RSQRT
• MUDNN_UNARY_RECIPROCAL
• MUDNN_UNARY_SQUARE
• MUDNN_UNARY_IS_FINITE
• MUDNN_UNARY_IS_INF
• MUDNN_UNARY_IS_NAN
• MUDNN_UNARY_IS_NONZERO
• MUDNN_UNARY_LOGICAL_AND
• MUDNN_UNARY_LOGICAL_OR
• MUDNN_UNARY_LOGICAL_XOR
• MUDNN_UNARY_EXP
• MUDNN_UNARY_LOG
• MUDNN_UNARY_LOG10
• MUDNN_UNARY_LOG2
• MUDNN_UNARY_LOG1P
• MUDNN_UNARY_SIN
• MUDNN_UNARY_COS
• MUDNN_UNARY_ACOS
• MUDNN_UNARY_TAN
• MUDNN_UNARY_ATAN
• MUDNN_UNARY_LT
• MUDNN_UNARY_LE
• MUDNN_UNARY_GT
• MUDNN_UNARY_GE
• MUDNN_UNARY_EQ
• MUDNN_UNARY_NE
• MUDNN_UNARY_MAX
• MUDNN_UNARY_MIN
• MUDNN_UNARY_CEIL
• MUDNN_UNARY_FLOOR
• MUDNN_UNARY_SIGMOID
• MUDNN_UNARY_HARDSIGMOID
• MUDNN_UNARY_RELU
• MUDNN_UNARY_LEAKY_RELU
• MUDNN_UNARY_RELU6
• MUDNN_UNARY_TANH
• MUDNN_UNARY_CLIP
• MUDNN_UNARY_ELU
• MUDNN_UNARY_SWISH
• MUDNN_UNARY_HARDSWISH
• MUDNN_UNARY_MISH
• MUDNN_UNARY_SILU
• MUDNN_UNARY_SOFTPLUS
• MUDNN_UNARY_GELU
• MUDNN_UNARY_GELU_TANH
• MUDNN_UNARY_ABS
• MUDNN_UNARY_ERF
• MUDNN_UNARY_IDENTITY
• MUDNN_UNARY_TRUEDIV
• MUDNN_UNARY_FLOORDIV
• MUDNN_UNARY_TRUNCATEDIV
• MUDNN_UNARY_FLOORMOD
• MUDNN_UNARY_TRUNCATEMOD
• MUDNN_UNARY_SUB_BY_ALPHA
• MUDNN_UNARY_DIV_BY_ALPHA
• MUDNN_UNARY_TRUNCATEDIV_BY_ALPHA
• MUDNN_UNARY_TRUEDIV_BY_ALPHA
• MUDNN_UNARY_FLOORDIV_BY_ALPHA
• MUDNN_UNARY_CAST
• MUDNN_UNARY_SIGN

mudnnBinaryMode_t

• MUDNN_BINARY_ADD
• MUDNN_BINARY_SUB
• MUDNN_BINARY_MUL
• MUDNN_BINARY_DIV
• MUDNN_BINARY_POW
• MUDNN_BINARY_ADD_ALPHA
• MUDNN_BINARY_SUB_ALPHA
• MUDNN_BINARY_LOGICAL_AND
• MUDNN_BINARY_LOGICAL_OR
• MUDNN_BINARY_LOGICAL_XOR
• MUDNN_BINARY_LT
• MUDNN_BINARY_LE
• MUDNN_BINARY_GT
• MUDNN_BINARY_GE
• MUDNN_BINARY_EQ
• MUDNN_BINARY_NE
• MUDNN_BINARY_MAX
• MUDNN_BINARY_MIN
• MUDNN_BINARY_PRELU
• MUDNN_BINARY_LEAKY_RELU_BW
• MUDNN_BINARY_RELU6_BW
• MUDNN_BINARY_THRESHOLD_BW
• MUDNN_BINARY_SIGMOID_BW
• MUDNN_BINARY_SILU_BW
• MUDNN_BINARY_TANH_BW
• MUDNN_BINARY_GELU_NONE_BW
• MUDNN_BINARY_GELU_TANH_BW
• MUDNN_BINARY_RSQRT_BW
• MUDNN_BINARY_TRUEDIV
• MUDNN_BINARY_FLOORDIV
• MUDNN_BINARY_TRUNCATEDIV
• MUDNN_BINARY_FLOORMOD
• MUDNN_BINARY_TRUNCATEMOD
• MUDNN_BINARY_DIVNONAN
• MUDNN_BINARY_SQUARED_DIFF

mudnnTernaryMode_t

• MUDNN_TERNARY_SELECT
• MUDNN_TERNARY_SELECTV2
• MUDNN_TERNARY_ADDCMUL
• MUDNN_TERNARY_ADDCMUL_ALPHA
• MUDNN_TERNARY_ADDCDIV
• MUDNN_TERNARY_ADDCDIV_ALPHA
• MUDNN_TERNARY_CLAMP

mudnnReduceMode_t

• MUDNN_REDUCE_MAX
• MUDNN_REDUCE_ADD
• MUDNN_REDUCE_MUL
• MUDNN_REDUCE_MEAN
• MUDNN_REDUCE_MIN
• MUDNN_REDUCE_PROD
• MUDNN_REDUCE_AND
• MUDNN_REDUCE_NORM
• MUDNN_REDUCE_OR
• MUDNN_REDUCE_MUL_NO_ZEROS
• MUDNN_REDUCE_L2LOSS
• MUDNN_REDUCE_MAX_UNSTABLE
• MUDNN_REDUCE_MIN_UNSTABLE
• MUDNN_REDUCE_VARIANCE
• MUDNN_REDUCE_STD

mudnnParamDataType_t

• MUDNN_PARAM_DATA_NONE
• MUDNN_PARAM_DATA_FLOAT
• MUDNN_PARAM_DATA_DOUBLE
• MUDNN_PARAM_DATA_INT64
• MUDNN_PARAM_DATA_POINTER
• MUDNN_PARAM_DATA_UINT64

mudnnLossReduceMode_t

• MUDNN_LOSS_REDUCE_MODE_NONE
• MUDNN_LOSS_REDUCE_MODE_MEAN
• MUDNN_LOSS_REDUCE_MODE_SUM
• MUDNN_LOSS_REDUCE_MODE_BATCHMEAN

mudnnCumMode_t

• MUDNN_CUM_ADD
• MUDNN_CUM_MUL

类型定义

• mudnnRNNDescriptor_t：typedef struct mudnnRNNStruct* mudnnRNNDescriptor_t
• mudnnRNNDataDescriptor_t：typedef struct mudnnRNNDataStruct* mudnnRNNDataDescriptor_t
• mudnnAttnDescriptor_t：typedef struct mudnnAttnStruct* mudnnAttnDescriptor_t MUDNN_DEPRECATED
• mudnnDotDescriptor_t：typedef struct mudnnDotStruct* mudnnDotDescriptor_t
• mudnnConvolutionBwdFilterAlgoPerfStruct：typedef struct mudnnConvolutionBwdFilterAlgoPerfStruct MUDNN_DEPRECATED；卷积描述符，兼容 cudnnConvolutionDescriptor。
• mudnnHandle_t：typedef struct mudnnHandleStruct* mudnnHandle_t
• mudnnRuntimeTag_t：typedef struct mudnnRuntimeTag_t mudnnRuntimeTag_t MUDNN_DEPRECATED；运行时 Tag（占位，已弃用）。
• mudnnDebug_t：typedef struct mudnnDebugStruct mudnnDebug_t；回调调试信息，类似 cudnnDebug_t。
• mudnnCallback_t：typedef void(* mudnnCallback_t) (mudnnSeverity_t sev, void *udata, const mudnnDebug_t *dbg, const char *msg)；回调函数原型，参照 cudnnSetCallback。
• mudnnBackendDescriptor_t：typedef void* mudnnBackendDescriptor_t；Backend 描述符通用句柄。
• mudnnFraction_t：typedef struct mudnnFractionStruct mudnnFraction_t；分数结构体，等价 cudnnFraction_t。
• mudnnTensorDescriptor_t：typedef struct mudnnTensorStruct* mudnnTensorDescriptor_t
• mudnnTensorTransformDescriptor_t：typedef struct mudnnTensorTransformStruct* mudnnTensorTransformDescriptor_t MUDNN_DEPRECATED
• mudnnLRNDescriptor_t：typedef struct mudnnLRNStruct* mudnnLRNDescriptor_t
• mudnnSpatialTransformerDescriptor_t：typedef struct mudnnSpatialTransformerStruct* mudnnSpatialTransformerDescriptor_t
• mudnnCTCLossDescriptor_t：typedef struct mudnnCTCLossStruct* mudnnCTCLossDescriptor_t
• mudnnUnaryDescriptor_t：typedef struct mudnnUnaryStruct * mudnnUnaryDescriptor_t
• mudnnBinaryDescriptor_t：typedef struct mudnnBinaryStruct * mudnnBinaryDescriptor_t
• mudnnTernaryDescriptor_t：typedef struct mudnnTernaryStruct * mudnnTernaryDescriptor_t
• mudnnReduceDescriptor_t：typedef struct mudnnReduceStruct* mudnnReduceDescriptor_t
• mudnnConcatDescriptor_t：typedef struct mudnnConcatStruct* mudnnConcatDescriptor_t
• mudnnNonzeroDescriptor_t：typedef struct mudnnNonzeroStruct* mudnnNonzeroDescriptor_t
• mudnnLayerNormDescriptor_t：typedef struct mudnnLayerNormStruct* mudnnLayerNormDescriptor_t
• mudnnDropoutDescriptor_t：typedef struct mudnnDropoutStruct* mudnnDropoutDescriptor_t
• mudnnInterpolateDescriptor_t：typedef struct mudnnInterpolateStruct* mudnnInterpolateDescriptor_t
• mudnnSortDescriptor_t：typedef struct mudnnSortStruct* mudnnSortDescriptor_t
• mudnnScatterDescriptor_t：typedef struct mudnnScatterStruct* mudnnScatterDescriptor_t
• mudnnScatterNDDescriptor_t：typedef struct mudnnScatterNDStruct* mudnnScatterNDDescriptor_t
• mudnnSoftmaxDescriptor_t：typedef struct mudnnSoftmaxStruct* mudnnSoftmaxDescriptor_t
• mudnnTopKDescriptor_t：typedef struct mudnnTopKStruct* mudnnTopKDescriptor_t
• mudnnRopeDescriptor_t：typedef struct mudnnRopeStruct* mudnnRopeDescriptor_t
• mudnnRMSNormDescriptor_t：typedef struct mudnnRMSNormStruct* mudnnRMSNormDescriptor_t
• mudnnSwiGluDescriptor_t：typedef struct mudnnSwiGluStruct* mudnnSwiGluDescriptor_t
• mudnnMaskedSelectDescriptor_t：typedef struct mudnnMaskedSelectStruct* mudnnMaskedSelectDescriptor_t
• mudnnGroupNormDescriptor_t：typedef struct mudnnGroupNormStruct* mudnnGroupNormDescriptor_t
• mudnnSortByKeyDescriptor_t：typedef struct mudnnSortByKeyStruct* mudnnSortByKeyDescriptor_t
• mudnnPadDescriptor_t：typedef struct mudnnPadStruct* mudnnPadDescriptor_t
• mudnnGluDescriptor_t：typedef struct mudnnGluStruct * mudnnGluDescriptor_t
• mudnnNLLLossDescriptor_t：typedef struct mudnnNLLLossStruct* mudnnNLLLossDescriptor_t
• mudnnKLDivLossDescriptor_t：typedef struct mudnnKLDivLossStruct* mudnnKLDivLossDescriptor_t
• mudnnCrossEntropyLossDescriptor_t：typedef struct mudnnCrossEntropyLossStruct* mudnnCrossEntropyLossDescriptor_t
• mudnnScaledDotProductAttentionDescriptor_t：typedef struct mudnnScaledDotProductAttentionStruct* mudnnScaledDotProductAttentionDescriptor_t
• mudnnBatchMatMulDescriptor_t：typedef struct mudnnBatchMatMulStruct* mudnnBatchMatMulDescriptor_t
• mudnnFillDescriptor_t：typedef struct mudnnFillStruct* mudnnFillDescriptor_t
• mudnnCumDescriptor_t：typedef struct mudnnCumStruct* mudnnCumDescriptor_t
• mudnnMaskedScatterDescriptor_t：typedef struct mudnnMaskedScatterStruct* mudnnMaskedScatterDescriptor_t
• mudnnBatchNormDescriptor_t：typedef struct mudnnBatchNormStruct* mudnnBatchNormDescriptor_t
• mudnnPermuteDescriptor_t：typedef struct mudnnPermuteStruct* mudnnPermuteDescriptor_t

API 函数

函数索引

mudnn_graph.h

• mudnnGetVersion
• mudnnGetMaxDeviceVersion
• mudnnGetMusartVersion
• mudnnGetErrorString
• mudnnGetLastErrorString
• mudnnQueryRuntimeError
• mudnnGetProperty
• mudnnCreate
• mudnnDestroy
• mudnnSetStream
• mudnnGetStream
• mudnnSetCallback
• mudnnGetCallback
• mudnnGraphVersionCheck
• mudnnBackendCreateDescriptor
• mudnnBackendDestroyDescriptor
• mudnnBackendInitialize
• mudnnBackendFinalize
• mudnnBackendSetAttribute
• mudnnBackendGetAttribute
• mudnnBackendExecute
• mudnnBackendPopulateMusaGraph
• mudnnBackendUpdateMusaGraph

mudnn_cnn.h

• mudnnCreateConvolutionDescriptor
• mudnnDestroyConvolutionDescriptor
• mudnnSetConvolutionMathType
• mudnnGetConvolutionMathType
• mudnnSetConvolutionGroupCount
• mudnnGetConvolutionGroupCount
• mudnnSetConvolutionReorderType
• mudnnGetConvolutionReorderType
• mudnnSetConvolution2dDescriptor
• mudnnGetConvolution2dDescriptor
• mudnnSetConvolutionNdDescriptor
• mudnnGetConvolutionNdDescriptor
• mudnnGetConvolution2dForwardOutputDim
• mudnnGetConvolutionNdForwardOutputDim
• mudnnGetConvolutionForwardAlgorithmMaxCount
• mudnnGetConvolutionForwardAlgorithm_v7
• mudnnFindConvolutionForwardAlgorithm
• mudnnFindConvolutionForwardAlgorithmEx
• mudnnIm2Col
• mudnnReorderFilterAndBias
• mudnnGetConvolutionForwardWorkspaceSize
• mudnnConvolutionForward
• mudnnConvolutionBiasActivationForward
• mudnnGetConvolutionBackwardDataAlgorithmMaxCount
• mudnnFindConvolutionBackwardDataAlgorithm
• mudnnFindConvolutionBackwardDataAlgorithmEx
• mudnnGetConvolutionBackwardDataAlgorithm_v7
• mudnnGetConvolutionBackwardDataWorkspaceSize
• mudnnConvolutionBackwardData
• mudnnGetFoldedConvBackwardDataDescriptors
• mudnnCnnVersionCheck
• mudnnGetConvolutionBackwardFilterAlgorithmMaxCount
• mudnnFindConvolutionBackwardFilterAlgorithm
• mudnnFindConvolutionBackwardFilterAlgorithmEx
• mudnnGetConvolutionBackwardFilterAlgorithm_v7
• mudnnGetConvolutionBackwardFilterWorkspaceSize
• mudnnConvolutionBackwardFilter
• mudnnConvolutionBackwardBias
• mudnnCreateFusedOpsConstParamPack
• mudnnDestroyFusedOpsConstParamPack
• mudnnSetFusedOpsConstParamPackAttribute
• mudnnGetFusedOpsConstParamPackAttribute
• mudnnCreateFusedOpsVariantParamPack
• mudnnDestroyFusedOpsVariantParamPack
• mudnnSetFusedOpsVariantParamPackAttribute
• mudnnGetFusedOpsVariantParamPackAttribute
• mudnnCreateFusedOpsPlan
• mudnnDestroyFusedOpsPlan
• mudnnMakeFusedOpsPlan
• mudnnFusedOpsExecute

mudnn_ops.h

• mudnnCreateTensorDescriptor
• mudnnSetTensor4dDescriptor
• mudnnSetTensor4dDescriptorEx
• mudnnGetTensor4dDescriptor
• mudnnSetTensorNdDescriptor
• mudnnSetTensorNdDescriptorEx
• mudnnGetTensorNdDescriptor
• mudnnGetTensorSizeInBytes
• mudnnDestroyTensorDescriptor
• mudnnInitTransformDest
• mudnnCreateTensorTransformDescriptor
• mudnnSetTensorTransformDescriptor
• mudnnGetTensorTransformDescriptor
• mudnnDestroyTensorTransformDescriptor
• mudnnTransformTensor
• mudnnTransformTensorEx
• mudnnAddTensor
• mudnnCreateOpTensorDescriptor
• mudnnSetOpTensorDescriptor
• mudnnGetOpTensorDescriptor
• mudnnDestroyOpTensorDescriptor
• mudnnOpTensor
• mudnnCreateReduceTensorDescriptor
• mudnnSetReduceTensorDescriptor
• mudnnGetReduceTensorDescriptor
• mudnnDestroyReduceTensorDescriptor
• mudnnGetReductionIndicesSize
• mudnnGetReductionWorkspaceSize
• mudnnReduceTensor
• mudnnSetTensor
• mudnnScaleTensor
• mudnnCreateFilterDescriptor
• mudnnSetFilter4dDescriptor
• mudnnGetFilter4dDescriptor
• mudnnSetFilterNdDescriptor
• mudnnSetFilterNdDescriptorWithScale
• mudnnGetFilterNdDescriptor
• mudnnGetFilterSizeInBytes
• mudnnTransformFilter
• mudnnDestroyFilterDescriptor
• mudnnSoftmaxForward
• mudnnCreatePoolingDescriptor
• mudnnSetPooling2dDescriptor
• mudnnGetPooling2dDescriptor
• mudnnSetPoolingNdDescriptor
• mudnnGetPoolingNdDescriptor
• mudnnGetPoolingNdForwardOutputDim
• mudnnGetPooling2dForwardOutputDim
• mudnnDestroyPoolingDescriptor
• mudnnSetPoolingNdDescriptorEx
• mudnnGetPoolingNdDescriptorEx
• mudnnPoolingForwardEx
• mudnnPoolingBackwardEx
• mudnnPoolingMaxPool2dGradGrad
• mudnnPoolingForward
• mudnnCreateActivationDescriptor
• mudnnSetActivationDescriptor
• mudnnGetActivationDescriptor
• mudnnSetActivationDescriptorSwishBeta
• mudnnGetActivationDescriptorSwishBeta
• mudnnDestroyActivationDescriptor
• mudnnActivationForward
• mudnnCreateLRNDescriptor
• mudnnSetLRNDescriptor
• mudnnGetLRNDescriptor
• mudnnDestroyLRNDescriptor
• mudnnLRNCrossChannelForward
• mudnnDivisiveNormalizationForward
• mudnnDeriveBNTensorDescriptor
• mudnnCreateBatchNormDescriptor
• mudnnSetBatchNormDescriptor
• mudnnGetBatchNormDescriptor
• mudnnBatchNormForwardTraining
• mudnnBatchNormForwardInference
• mudnnBatchNormBackward
• mudnnDestroyBatchNormDescriptor
• mudnnGetBatchNormForwardTrainingWorkspaceSize
• mudnnGetBatchNormBackwardWorkspaceSize
• mudnnBatchNormalizationForwardInference
• mudnnDeriveNormTensorDescriptor
• mudnnNormalizationForwardInference
• mudnnCreateSpatialTransformerDescriptor
• mudnnSetSpatialTransformerNdDescriptor
• mudnnDestroySpatialTransformerDescriptor
• mudnnSpatialTfGridGeneratorForward
• mudnnSpatialTfSamplerForward
• mudnnCreateDropoutDescriptor
• mudnnDestroyDropoutDescriptor
• mudnnDropoutGetStatesSize
• mudnnDropoutGetReserveSpaceSize
• mudnnSetDropoutDescriptor
• mudnnRestoreDropoutDescriptor
• mudnnGetDropoutDescriptor
• mudnnDropoutForward
• mudnnDropoutBackward
• mudnnOpsVersionCheck
• mudnnSoftmaxBackward
• mudnnPoolingBackward
• mudnnActivationBackward
• mudnnLRNCrossChannelBackward
• mudnnDivisiveNormalizationBackward
• mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize
• mudnnGetBatchNormalizationBackwardExWorkspaceSize
• mudnnGetBatchNormalizationTrainingExReserveSpaceSize
• mudnnBatchNormalizationForwardTraining
• mudnnBatchNormalizationForwardTrainingEx
• mudnnBatchNormalizationBackward
• mudnnBatchNormalizationBackwardEx
• mudnnGetNormalizationForwardTrainingWorkspaceSize
• mudnnGetNormalizationBackwardWorkspaceSize
• mudnnGetNormalizationTrainingReserveSpaceSize
• mudnnNormalizationForwardTraining
• mudnnNormalizationBackward
• mudnnSpatialTfGridGeneratorBackward
• mudnnSpatialTfSamplerBackward
• mudnnSetTensorNdDescriptorWithScale
• mudnnGetTensorNdDescriptorWithScale
• mudnnCreateUnaryDescriptor
• mudnnSetUnaryDescriptor
• mudnnUnary
• mudnnDestroyUnaryDescriptor
• mudnnCreateBinaryDescriptor
• mudnnSetBinaryDescriptor
• mudnnBinary
• mudnnDestroyBinaryDescriptor
• mudnnCreateTernaryDescriptor
• mudnnSetTernaryDescriptor
• mudnnTernary
• mudnnDestroyTernaryDescriptor
• mudnnCreateFillDescriptor
• mudnnSetFillDescriptor
• mudnnFill
• mudnnDestroyFillDescriptor
• mudnnCreateReduceDescriptor
• mudnnSetReduceDescriptor
• mudnnGetReduceWorkspaceSize
• mudnnReduce
• mudnnGetReduceMeanAndVarWorkspaceSize
• mudnnReduceMeanAndVar
• mudnnGetReduceIndicesWorkspaceSize
• mudnnReduceOnlyIndices
• mudnnGetReduceWithIndicesWorkspaceSize
• mudnnReduceWithIndices
• mudnnDestroyReduceDescriptor
• mudnnCreatePermuteDescriptor
• mudnnDestroyPermuteDescriptor
• mudnnSetPermuteSrcOffset
• mudnnSetPermuteDstOffset
• mudnnPermuteConfigDimStride
• mudnnPermuteConfigDimStrideForSlice
• mudnnPermuteConfigDimStrideForSliceEx
• mudnnPermute
• mudnnCreateConcatDescriptor
• mudnnSetConcatDescriptor
• mudnnGetConcatDescriptor
• mudnnConcat
• mudnnDestroyConcatDescriptor
• mudnnCreateNonzeroDescriptor
• mudnnDestroyDescriptor
• mudnnGetNonzeroWorkspaceSize
• mudnnNonzero
• mudnnCreateLayerNormDescriptor
• mudnnSetLayerNormDescriptor
• mudnnGetLayerNormDescriptor
• mudnnGetLayerNormForwardWorkspaceSize
• mudnnLayerNormForward
• mudnnGetLayerNormBackwardWorkspaceSize
• mudnnLayerNormBackward
• mudnnDestroyLayerNormDescriptor
• mudnnSetDropoutDescriptorEx
• mudnnDropoutForwardEx
• mudnnDropoutBackwardEx
• mudnnCreateInterpolateDescriptor
• mudnnSetInterpolateDescriptor
• mudnnGetInterpolateDescriptor
• mudnnInterpolateForward
• mudnnInterpolateBackward
• mudnnDestroyInterpolateDescriptor
• mudnnCreateSortDescriptor
• mudnnSetSortDescriptor
• mudnnGetSortDescriptor
• mudnnGetSortWorkspaceSize
• mudnnSort
• mudnnDestroySortDescriptor
• mudnnCreateSortByKeyDescriptor
• mudnnSetSortByKeyDescriptor
• mudnnGetSortByKeyDescriptor
• mudnnGetSortByKeyWorkspaceSize
• mudnnSortByKey
• mudnnDestroySortByKeyDescriptor
• mudnnCreateScatterDescriptor
• mudnnSetScatterDescriptor
• mudnnGetScatterDescriptor
• mudnnScatterInplace
• mudnnScatterNonInplace
• mudnnDestroyScatterDescriptor
• mudnnCreateScatterNDDescriptor
• mudnnSetScatterNDDescriptor
• mudnnGetScatterNDDescriptor
• mudnnScatterND
• mudnnDestroyScatterNDDescriptor
• mudnnCreateSoftmaxDescriptor
• mudnnSetSoftmaxDescriptor
• mudnnGetSoftmaxDescriptor
• mudnnGetSoftmaxForwardWorkspaceSize
• mudnnSoftmaxForwardEx
• mudnnGetSoftmaxBackwardWorkspaceSize
• mudnnSoftmaxBackwardEx
• mudnnDestroySoftmaxDescriptor
• mudnnCreateTopKDescriptor
• mudnnSetTopKDescriptor
• mudnnGetTopKDescriptor
• mudnnGetTopKWorkspaceSize
• mudnnTopK
• mudnnDestroyTopKDescriptor
• mudnnCreateRopeDescriptor
• mudnnSetRopeDescriptor
• mudnnGetRopeDescriptor
• mudnnRopeForward
• mudnnRopeBackward
• mudnnDestroyRopeDescriptor
• mudnnCreateRMSNormDescriptor
• mudnnSetRMSNormDescriptor
• mudnnGetRMSNormDescriptor
• mudnnRMSNormForward
• mudnnRMSNormBackward
• mudnnGetRMSNormBackwardWorkspaceSize
• mudnnDestroyRMSNormDescriptor
• mudnnCreateSwiGluDescriptor
• mudnnSwiGluForward
• mudnnSwiGluBackward
• mudnnDestroySwiGluDescriptor
• mudnnCreateNLLLossDescriptor
• mudnnDestroyNLLLossDescriptor
• mudnnSetNLLLossDescriptor
• mudnnGetNLLLossDescriptor
• mudnnGetNLLLossForwardWorkspaceSize
• mudnnNLLLossForward
• mudnnGetNLLLossBackwardWorkspaceSize
• mudnnNLLLossBackward
• mudnnCreateKLDivLossDescriptor
• mudnnDestroyKLDivLossDescriptor
• mudnnSetKLDivLossDescriptor
• mudnnGetKLDivLossDescriptor
• mudnnGetKLDivLossForwardWorkspaceSize
• mudnnKLDivLossForward
• mudnnGetKLDivLossBackwardWorkspaceSize
• mudnnKLDivLossBackward
• mudnnCreateCrossEntropyLossDescriptor
• mudnnDestroyCrossEntropyLossDescriptor
• mudnnSetCrossEntropyLossDescriptor
• mudnnGetCrossEntropyLossDescriptor
• mudnnGetCrossEntropyLossForwardWorkspaceSize
• mudnnCrossEntropyLossForward
• mudnnGetCrossEntropyLossBackwardWorkspaceSize
• mudnnCrossEntropyLossBackward
• mudnnCreateMaskedSelectDescriptor
• mudnnGetMaskedSelectWorkspaceSize
• mudnnMaskedSelect
• mudnnDestroyMaskedSelectDescriptor
• mudnnCreatePadDescriptor
• mudnnSetPadDescriptor
• mudnnGetPadDescriptor
• mudnnPad
• mudnnDestroyPadDescriptor
• mudnnCreateGroupNormDescriptor
• mudnnSetGroupNormDescriptor
• mudnnGetGroupNormDescriptor
• mudnnGroupNorm
• mudnnDestroyGroupNormDescriptor
• mudnnCreateGluDescriptor
• mudnnSetGluDescriptor
• mudnnGetGluDescriptor
• mudnnGlu
• mudnnDestroyGluDescriptor
• mudnnCreateCumDescriptor
• mudnnSetCumDescriptor
• mudnnGetCumDescriptor
• mudnnCum
• mudnnDestroyCumDescriptor
• mudnnCreateMaskedScatterDescriptor
• mudnnMaskedScatter
• mudnnDestroyMaskedScatterDescriptor

mudnn_adv.h

• mudnnCreateRNNDescriptor
• mudnnDestroyRNNDescriptor
• mudnnSetRNNDescriptor_v8
• mudnnGetRNNDescriptor_v8
• mudnnRNNSetClip_v8
• mudnnRNNSetClip_v9
• mudnnRNNGetClip_v8
• mudnnRNNGetClip_v9
• mudnnBuildRNNDynamic
• mudnnGetRNNTempSpaceSizes
• mudnnGetRNNWeightSpaceSize
• mudnnGetRNNWeightParams
• mudnnCreateRNNDataDescriptor
• mudnnDestroyRNNDataDescriptor
• mudnnSetRNNDataDescriptor
• mudnnGetRNNDataDescriptor
• mudnnRNNForward
• mudnnCreateSeqDataDescriptor
• mudnnDestroySeqDataDescriptor
• mudnnSetSeqDataDescriptor
• mudnnGetSeqDataDescriptor
• mudnnCreateAttnDescriptor
• mudnnDestroyAttnDescriptor
• mudnnSetAttnDescriptor
• mudnnGetAttnDescriptor
• mudnnGetMultiHeadAttnBuffers
• mudnnGetMultiHeadAttnWeights
• mudnnMultiHeadAttnForward
• mudnnAdvVersionCheck
• mudnnRNNBackwardData_v8
• mudnnRNNBackwardWeights_v8
• mudnnMultiHeadAttnBackwardData
• mudnnMultiHeadAttnBackwardWeights
• mudnnCreateCTCLossDescriptor
• mudnnSetCTCLossDescriptor
• mudnnSetCTCLossDescriptorEx
• mudnnSetCTCLossDescriptor_v8
• mudnnSetCTCLossDescriptor_v9
• mudnnGetCTCLossDescriptor
• mudnnGetCTCLossDescriptorEx
• mudnnGetCTCLossDescriptor_v8
• mudnnGetCTCLossDescriptor_v9
• mudnnDestroyCTCLossDescriptor
• mudnnCTCLoss
• mudnnCTCLoss_v8
• mudnnGetCTCLossWorkspaceSize
• mudnnGetCTCLossWorkspaceSize_v8
• mudnnSetCTCLossDescriptor_v10
• mudnnGetCTCLossDescriptor_v10
• mudnnCTCLoss_v10
• mudnnCTCLossGetWorkspaceSize_v10
• mudnnCTCLossBackward_v10
• mudnnCreateScaledDotProductAttentionDescriptor
• mudnnDestroyScaledDotProductAttentionDescriptor
• mudnnSetScaledDotProductAttentionDescriptor
• mudnnSetScaledDotProductAttentionDescriptorEx
• mudnnSetScaledDotProductAttentionVarlenDescriptor
• mudnnSetScaledDotProductAttentionVarlenDescriptorEx
• mudnnScaledDotProductAttentionFlashForward
• mudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSize
• mudnnScaledDotProductAttentionFlashBackward
• mudnnScaledDotProductAttentionFlashVarlenForward
• mudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSize
• mudnnScaledDotProductAttentionFlashVarlenBackward
• mudnnScaledDotProductAttentionMathForwardGetWorkspaceSize
• mudnnScaledDotProductAttentionMathForward
• mudnnScaledDotProductAttentionMathBackwardGetWorkspaceSize
• mudnnScaledDotProductAttentionMathBackward
• mudnnCreateBatchMatMulDescriptor
• mudnnDestroyBatchMatMulDescriptor
• mudnnSetBatchMatMulDescriptor
• mudnnSetBatchMatMulDescriptorEx
• mudnnBatchMatmulGetWorkspaceSize
• mudnnBatchMatMulBias
• mudnnBatchMatMulBiasTensorScale
• mudnnBatchMatMulBiasTensorScaleEpilogue
• mudnnCreateDotDescriptor
• mudnnDestroyDotDescriptor
• mudnnSetDotMathType
• mudnnGetDotWorkspaceSize
• mudnnDot

函数参考

mudnn_graph.h

mudnnGetVersion

size_t mudnnGetVersion(void)

声明位置：mudnn_graph.h

获取当前编译的 muDNN 版本号。

以整数编码的版本信息，主/次/补丁组合。

返回值

以整数编码的版本信息，主/次/补丁组合。

mudnnGetMaxDeviceVersion

size_t mudnnGetMaxDeviceVersion(void)

声明位置：mudnn_graph.h

查询支持的最高设备架构版本。

设备架构版本号。

返回值

设备架构版本号。

mudnnGetMusartVersion

size_t mudnnGetMusartVersion(void)

声明位置：mudnn_graph.h

获取静态链接的 MUSA Runtime 版本。

MUSA Runtime 版本号。

返回值

MUSA Runtime 版本号。

mudnnGetErrorString

const char *mudnnGetErrorString(mudnnStatus_t status)

声明位置：mudnn_graph.h

获取可读错误字符串，类似 cudnnGetErrorString。

参数

参数	类型	说明
status	mudnnStatus_t	-

mudnnGetLastErrorString

void mudnnGetLastErrorString(char *message, size_t max_size)

声明位置：mudnn_graph.h

获取最近一次错误字符串。

参数

参数	类型	说明
message	char *	用户缓冲区。
max_size	size_t	缓冲区大小。

mudnnQueryRuntimeError

mudnnStatus_t mudnnQueryRuntimeError(mudnnHandle_t handle, mudnnStatus_t *rstatus, mudnnErrQueryMode_t mode, mudnnRuntimeTag_t *tag)

声明位置：mudnn_graph.h

状态：已废弃。

查询运行时错误（已弃用，与 cudnnQueryRuntimeError 类似）。

参数

参数	类型	说明
handle	mudnnHandle_t	-
rstatus	mudnnStatus_t *	-
mode	mudnnErrQueryMode_t	-
tag	mudnnRuntimeTag_t *	-

mudnnGetProperty

mudnnStatus_t mudnnGetProperty(libraryPropertyType type, int *value)

声明位置：mudnn_graph.h

获取库属性，兼容 cudnnGetProperty。

参数

参数	类型	说明
type	libraryPropertyType	-
value	int *	-

mudnnCreate

mudnnStatus_t mudnnCreate(mudnnHandle_t *handle)

声明位置：mudnn_graph.h

创建/销毁 muDNN 上下文。

参数

参数	类型	说明
handle	mudnnHandle_t *	-

mudnnDestroy

mudnnStatus_t mudnnDestroy(mudnnHandle_t handle)

声明位置：mudnn_graph.h

创建/销毁 muDNN 上下文。

参数

参数	类型	说明
handle	mudnnHandle_t	-

mudnnSetStream

mudnnStatus_t mudnnSetStream(mudnnHandle_t handle, musaStream_t streamId)

声明位置：mudnn_graph.h

设置或获取流，类似 cudnnSetStream/cudnnGetStream。

参数

参数	类型	说明
handle	mudnnHandle_t	-
streamId	musaStream_t	-

mudnnGetStream

mudnnStatus_t mudnnGetStream(mudnnHandle_t handle, musaStream_t *streamId)

声明位置：mudnn_graph.h

设置或获取流，类似 cudnnSetStream/cudnnGetStream。

参数

参数	类型	说明
handle	mudnnHandle_t	-
streamId	musaStream_t *	-

mudnnSetCallback

mudnnStatus_t mudnnSetCallback(unsigned mask, void *udata, mudnnCallback_t fptr)

声明位置：mudnn_graph.h

注册回调或查询当前回调。

参数

参数	类型	说明
mask	unsigned	-
udata	void *	-
fptr	mudnnCallback_t	-

mudnnGetCallback

mudnnStatus_t mudnnGetCallback(unsigned *mask, void **udata, mudnnCallback_t *fptr)

声明位置：mudnn_graph.h

注册回调或查询当前回调。

参数

参数	类型	说明
mask	unsigned *	-
udata	void **	-
fptr	mudnnCallback_t *	-

mudnnGraphVersionCheck

mudnnStatus_t mudnnGraphVersionCheck(void)

声明位置：mudnn_graph.h

交叉库版本检测，与 cudnnGraphVersionCheck 类似。

成功或版本不匹配错误。

返回值

成功或版本不匹配错误。

mudnnBackendCreateDescriptor

mudnnStatus_t mudnnBackendCreateDescriptor(mudnnBackendDescriptorType_t descriptorType, mudnnBackendDescriptor_t *descriptor)

声明位置：mudnn_graph.h

创建 Backend 描述符，等价 cudnnBackendCreateDescriptor。

参数

参数	类型	说明
descriptorType	mudnnBackendDescriptorType_t	-
descriptor	mudnnBackendDescriptor_t *	-

mudnnBackendDestroyDescriptor

mudnnStatus_t mudnnBackendDestroyDescriptor(mudnnBackendDescriptor_t descriptor)

声明位置：mudnn_graph.h

销毁 Backend 描述符。

参数

参数	类型	说明
descriptor	mudnnBackendDescriptor_t	-

mudnnBackendInitialize

mudnnStatus_t mudnnBackendInitialize(mudnnBackendDescriptor_t descriptor)

声明位置：mudnn_graph.h

状态：已废弃。

初始化 Backend 描述符（已废弃）。

参数

参数	类型	说明
descriptor	mudnnBackendDescriptor_t	-

mudnnBackendFinalize

mudnnStatus_t mudnnBackendFinalize(mudnnBackendDescriptor_t descriptor)

声明位置：mudnn_graph.h

Finalize Backend 描述符，准备执行。

参数

参数	类型	说明
descriptor	mudnnBackendDescriptor_t	-

mudnnBackendSetAttribute

mudnnStatus_t mudnnBackendSetAttribute(mudnnBackendDescriptor_t descriptor, mudnnBackendAttributeName_t attributeName, mudnnBackendAttributeType_t attributeType, int64_t elementCount, const void *arrayOfElements)

声明位置：mudnn_graph.h

设置 Backend 属性，类似 cudnnBackendSetAttribute。

参数

参数	类型	说明
descriptor	mudnnBackendDescriptor_t	-
attributeName	mudnnBackendAttributeName_t	-
attributeType	mudnnBackendAttributeType_t	-
elementCount	int64_t	-
arrayOfElements	const void *	-

mudnnBackendGetAttribute

mudnnStatus_t mudnnBackendGetAttribute(mudnnBackendDescriptor_t const descriptor, mudnnBackendAttributeName_t attributeName, mudnnBackendAttributeType_t attributeType, int64_t requestedElementCount, int64_t *elementCount, void *arrayOfElements)

声明位置：mudnn_graph.h

获取 Backend 属性，类似 cudnnBackendGetAttribute。

参数

参数	类型	说明
descriptor	mudnnBackendDescriptor_t const	-
attributeName	mudnnBackendAttributeName_t	-
attributeType	mudnnBackendAttributeType_t	-
requestedElementCount	int64_t	-
elementCount	int64_t *	-
arrayOfElements	void *	-

mudnnBackendExecute

mudnnStatus_t mudnnBackendExecute(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack)

声明位置：mudnn_graph.h

执行已 final 的执行计划，类似 cudnnBackendExecute。

参数

参数	类型	说明
handle	mudnnHandle_t	-
executionPlan	mudnnBackendDescriptor_t	-
variantPack	mudnnBackendDescriptor_t	-

mudnnBackendPopulateMusaGraph

mudnnStatus_t mudnnBackendPopulateMusaGraph(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack, musaGraph_t graph)

声明位置：mudnn_graph.h

以 MUSA graph 填充执行计划，对标 cudnnBackendPopulateCudaGraph。

参数

参数	类型	说明
handle	mudnnHandle_t	-
executionPlan	mudnnBackendDescriptor_t	-
variantPack	mudnnBackendDescriptor_t	-
graph	musaGraph_t	-

mudnnBackendUpdateMusaGraph

mudnnStatus_t mudnnBackendUpdateMusaGraph(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack, musaGraph_t graph)

声明位置：mudnn_graph.h

用新的 VariantPack 更新已有 graph，类似 cudnnBackendUpdateCudaGraph。

参数

参数	类型	说明
handle	mudnnHandle_t	-
executionPlan	mudnnBackendDescriptor_t	-
variantPack	mudnnBackendDescriptor_t	-
graph	musaGraph_t	-

mudnn_cnn.h

mudnnCreateConvolutionDescriptor

mudnnStatus_t mudnnCreateConvolutionDescriptor(mudnnConvolutionDescriptor_t *convDesc)

声明位置：mudnn_cnn.h

状态：已废弃。

创建卷积描述符（类似 cudnnCreateConvolutionDescriptor）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t *	返回创建好的卷积描述符指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnDestroyConvolutionDescriptor

mudnnStatus_t mudnnDestroyConvolutionDescriptor(mudnnConvolutionDescriptor_t convDesc)

声明位置：mudnn_cnn.h

状态：已废弃。

销毁卷积描述符。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	待销毁的卷积描述符。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnSetConvolutionMathType

mudnnStatus_t mudnnSetConvolutionMathType(mudnnConvolutionDescriptor_t convDesc, mudnnMathType_t mathType)

声明位置：mudnn_cnn.h

状态：已废弃。

设置卷积计算模式。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
mathType	mudnnMathType_t	计算模式（如 TF32/FP16 等）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionMathType

mudnnStatus_t mudnnGetConvolutionMathType(mudnnConvolutionDescriptor_t convDesc, mudnnMathType_t *mathType)

声明位置：mudnn_cnn.h

状态：已废弃。

获取卷积计算模式。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
mathType	mudnnMathType_t *	返回的计算模式。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnSetConvolutionGroupCount

mudnnStatus_t mudnnSetConvolutionGroupCount(mudnnConvolutionDescriptor_t convDesc, int groupCount)

声明位置：mudnn_cnn.h

状态：已废弃。

设置分组卷积的组数。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
groupCount	int	分组数，默认 1。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionGroupCount

mudnnStatus_t mudnnGetConvolutionGroupCount(mudnnConvolutionDescriptor_t convDesc, int *groupCount)

声明位置：mudnn_cnn.h

状态：已废弃。

获取分组卷积的组数。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
groupCount	int *	返回的分组数。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnSetConvolutionReorderType

mudnnStatus_t mudnnSetConvolutionReorderType(mudnnConvolutionDescriptor_t convDesc, mudnnReorderType_t reorderType)

声明位置：mudnn_cnn.h

状态：已废弃。

设置重排类型（已废弃，兼容 cudnnReorderType）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
reorderType	mudnnReorderType_t	重排类型。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionReorderType

mudnnStatus_t mudnnGetConvolutionReorderType(mudnnConvolutionDescriptor_t convDesc, mudnnReorderType_t *reorderType)

声明位置：mudnn_cnn.h

状态：已废弃。

获取重排类型（已废弃）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	卷积描述符。
reorderType	mudnnReorderType_t *	返回的重排类型。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnSetConvolution2dDescriptor

mudnnStatus_t mudnnSetConvolution2dDescriptor(mudnnConvolutionDescriptor_t convDesc, int pad_h, int pad_w, int u, int v, int dilation_h, int dilation_w, mudnnConvolutionMode_t mode, mudnnDataType_t computeType)

声明位置：mudnn_cnn.h

状态：已废弃。

配置 2D 卷积参数。

参数

• convDesc (mudnnConvolutionDescriptor_t)
• pad_h (int)
• pad_w (int)
• u (int)
• v (int)
• dilation_h (int)
• dilation_w (int)
• mode (mudnnConvolutionMode_t)：卷积或互相关
• computeType (mudnnDataType_t)：计算类型（累加类型）

mudnnGetConvolution2dDescriptor

mudnnStatus_t mudnnGetConvolution2dDescriptor(const mudnnConvolutionDescriptor_t convDesc, int *pad_h, int *pad_w, int *u, int *v, int *dilation_h, int *dilation_w, mudnnConvolutionMode_t *mode, mudnnDataType_t *computeType)

声明位置：mudnn_cnn.h

状态：已废弃。

读取 2D 卷积参数。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
pad_h	int *	返回 padding 高度。
pad_w	int *	返回 padding 宽度。
u	int *	返回垂直 stride。
v	int *	返回水平 stride。
dilation_h	int *	返回垂直 dilation。
dilation_w	int *	返回水平 dilation。
mode	mudnnConvolutionMode_t *	返回卷积/互相关模式。
computeType	mudnnDataType_t *	返回累加计算类型。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnSetConvolutionNdDescriptor

mudnnStatus_t mudnnSetConvolutionNdDescriptor(mudnnConvolutionDescriptor_t convDesc, int arrayLength, const int padA[], const int filterStrideA[], const int dilationA[], mudnnConvolutionMode_t mode, mudnnDataType_t computeType)

声明位置：mudnn_cnn.h

状态：已废弃。

配置 Nd 卷积参数。

参数

参数	类型	说明
convDesc	mudnnConvolutionDescriptor_t	-
arrayLength	int	数组长度
padA	const int	padding数组
filterStrideA	const int	滤波步长数组
dilationA	const int	dilation数组
mode	mudnnConvolutionMode_t	卷积模式
computeType	mudnnDataType_t	计算类型（累加类型）

mudnnGetConvolutionNdDescriptor

mudnnStatus_t mudnnGetConvolutionNdDescriptor(const mudnnConvolutionDescriptor_t convDesc, int arrayLengthRequested, int *arrayLength, int padA[], int strideA[], int dilationA[], mudnnConvolutionMode_t *mode, mudnnDataType_t *computeType)

声明位置：mudnn_cnn.h

状态：已废弃。

读取 Nd 卷积参数。

padA/strideA/dilationA

返回的 padding/stride/dilation 数组

参数

参数	类型	说明
convDesc	const mudnnConvolutionDescriptor_t	-
arrayLengthRequested	int	输入/输出维度个数要求
arrayLength	int *	实际返回的维度个数（数组长度）
padA	int	-
strideA	int	-
dilationA	int	-
mode	mudnnConvolutionMode_t *	卷积模式
computeType	mudnnDataType_t *	计算类型（累加类型）

mudnnGetConvolution2dForwardOutputDim

mudnnStatus_t mudnnGetConvolution2dForwardOutputDim(const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t inputTensorDesc, const mudnnFilterDescriptor_t filterDesc, int *n, int *c, int *h, int *w)

声明位置：mudnn_cnn.h

状态：已废弃。

计算 2D 卷积输出尺寸（N,C,H,W）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
inputTensorDesc	const mudnnTensorDescriptor_t	输入张量描述符。
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
n	int *	输出批大小。
c	int *	输出通道数。
h	int *	输出高度。
w	int *	输出宽度。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionNdForwardOutputDim

mudnnStatus_t mudnnGetConvolutionNdForwardOutputDim(const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t inputTensorDesc, const mudnnFilterDescriptor_t filterDesc, int nbDims, int tensorOuputDimA[])

声明位置：mudnn_cnn.h

状态：已废弃。

计算 Nd 卷积输出尺寸。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
inputTensorDesc	const mudnnTensorDescriptor_t	输入张量描述符。
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
nbDims	int	期望的维度数。
tensorOuputDimA	int	输出张量各维尺寸数组，长度为 nbDims。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionForwardAlgorithmMaxCount

mudnnStatus_t mudnnGetConvolutionForwardAlgorithmMaxCount(mudnnHandle_t handle, int *count)

声明位置：mudnn_cnn.h

状态：已废弃。

查询前向卷积算法数量上限。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
count	int *	返回可用算法的最大个数。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionForwardAlgorithm_v7

mudnnStatus_t mudnnGetConvolutionForwardAlgorithm_v7(mudnnHandle_t handle, const mudnnTensorDescriptor_t srcDesc, const mudnnFilterDescriptor_t filterDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t destDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

查询前向卷积算法（v7 接口），返回性能结果。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
srcDesc	const mudnnTensorDescriptor_t	输入张量描述符。
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
destDesc	const mudnnTensorDescriptor_t	输出张量描述符。
requestedAlgoCount	const int	期望返回的算法数量上限。
returnedAlgoCount	int *	实际返回的算法数量。
perfResults	mudnnConvolutionFwdAlgoPerf_t *	算法性能结果数组。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionForwardAlgorithm

mudnnStatus_t mudnnFindConvolutionForwardAlgorithm(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索前向卷积算法（不携带实际数据）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
requestedAlgoCount	const int	期望返回的算法数量上限。
returnedAlgoCount	int *	实际返回的算法数量。
perfResults	mudnnConvolutionFwdAlgoPerf_t *	算法性能结果数组，长度不小于 requestedAlgoCount。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionForwardAlgorithmEx

mudnnStatus_t mudnnFindConvolutionForwardAlgorithmEx(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, void *y, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索前向卷积算法（含真实数据与 workspace）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
w	const void *	指向滤波器数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出张量数据的设备指针。
requestedAlgoCount	const int	期望返回的算法数量上限。
returnedAlgoCount	int *	实际返回的算法数量。
perfResults	mudnnConvolutionFwdAlgoPerf_t *	算法性能结果数组。
workSpace	void *	指向搜索用工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnIm2Col

mudnnStatus_t mudnnIm2Col(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, void *colBuffer)

声明位置：mudnn_cnn.h

状态：已废弃。

将输入张量转为 col 格式（im2col）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
colBuffer	void *	指向输出 col 缓冲区的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnReorderFilterAndBias

mudnnStatus_t mudnnReorderFilterAndBias(mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, mudnnReorderType_t reorderType, const void *filterData, void *reorderedFilterData, int reorderBias, const void *biasData, void *reorderedBiasData)

声明位置：mudnn_cnn.h

状态：已废弃。

重排滤波器与偏置数据。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
reorderType	mudnnReorderType_t	重排类型。
filterData	const void *	指向原始滤波器数据的设备指针。
reorderedFilterData	void *	指向重排后滤波器数据的设备指针。
reorderBias	int	是否重排偏置（非 0 则重排）。
biasData	const void *	指向原始偏置数据的设备指针。
reorderedBiasData	void *	指向重排后偏置数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionForwardWorkspaceSize

mudnnStatus_t mudnnGetConvolutionForwardWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, mudnnConvolutionFwdAlgo_t algo, size_t *sizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

查询前向卷积算法所需最小 workspace。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
algo	mudnnConvolutionFwdAlgo_t	指定的前向卷积算法。
sizeInBytes	size_t *	返回最小 workspace 大小（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnConvolutionForward

mudnnStatus_t mudnnConvolutionForward(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionFwdAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_cnn.h

状态：已废弃。

前向卷积：y = alpha * Conv(x,w) + beta * y。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	标量系数 alpha 指针（设备端）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
w	const void *	指向滤波器数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
algo	mudnnConvolutionFwdAlgo_t	前向卷积算法。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
beta	const void *	标量系数 beta 指针（设备端）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnConvolutionBiasActivationForward

mudnnStatus_t mudnnConvolutionBiasActivationForward(mudnnHandle_t handle, const void *alpha1, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionFwdAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *alpha2, const mudnnTensorDescriptor_t zDesc, const void *z, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_cnn.h

状态：已废弃。

融合卷积/偏置/激活前向计算：y = Act(alpha1conv(x)+alpha2z+bias)。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha1	const void *	卷积输出系数（设备端）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
w	const void *	指向滤波器数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
algo	mudnnConvolutionFwdAlgo_t	前向卷积算法。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
alpha2	const void *	残差张量系数（设备端）。
zDesc	const mudnnTensorDescriptor_t	残差张量描述符。
z	const void *	指向残差张量数据的设备指针，可为 NULL。
biasDesc	const mudnnTensorDescriptor_t	偏置张量描述符。
bias	const void *	指向偏置数据的设备指针，可为 NULL。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionBackwardDataAlgorithmMaxCount

mudnnStatus_t mudnnGetConvolutionBackwardDataAlgorithmMaxCount(mudnnHandle_t handle, int *count)

声明位置：mudnn_cnn.h

状态：已废弃。

返回可用的数据反向传播算法数量上限。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
count	int *	返回可用算法的最大个数。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionBackwardDataAlgorithm

mudnnStatus_t mudnnFindConvolutionBackwardDataAlgorithm(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索数据反向传播算法（无实际数据）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度张量描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
dxDesc	const mudnnTensorDescriptor_t	输入梯度张量描述符。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdDataAlgoPerf_t *	算法性能结果数组。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionBackwardDataAlgorithmEx

mudnnStatus_t mudnnFindConvolutionBackwardDataAlgorithmEx(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索数据反向传播算法（含真实数据与 workspace）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
w	const void *	指向滤波器数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdDataAlgoPerf_t *	算法性能结果数组。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionBackwardDataAlgorithm_v7

mudnnStatus_t mudnnGetConvolutionBackwardDataAlgorithm_v7(mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t gradDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

查询数据反向传播算法（v7 接口），返回性能结果。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
diffDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
gradDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdDataAlgoPerf_t *	算法性能结果数组。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionBackwardDataWorkspaceSize

mudnnStatus_t mudnnGetConvolutionBackwardDataWorkspaceSize(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, mudnnConvolutionBwdDataAlgo_t algo, size_t *sizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

查询数据反向传播算法所需最小 workspace。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
algo	mudnnConvolutionBwdDataAlgo_t	反向数据算法。
sizeInBytes	size_t *	返回所需最小 workspace（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnConvolutionBackwardData

mudnnStatus_t mudnnConvolutionBackwardData(mudnnHandle_t handle, const void *alpha, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionBwdDataAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)

声明位置：mudnn_cnn.h

状态：已废弃。

数据反向传播计算：dx = alphaConvBW(dy,w)+betadx。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	标量系数 alpha 指针（设备端）。
wDesc	const mudnnFilterDescriptor_t	滤波器描述符。
w	const void *	指向滤波器数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
algo	mudnnConvolutionBwdDataAlgo_t	反向数据算法。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
beta	const void *	标量系数 beta 指针（设备端）。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetFoldedConvBackwardDataDescriptors

mudnnStatus_t mudnnGetFoldedConvBackwardDataDescriptors(const mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorFormat_t transformFormat, mudnnFilterDescriptor_t foldedFilterDesc, mudnnTensorDescriptor_t paddedDiffDesc, mudnnConvolutionDescriptor_t foldedConvDesc, mudnnTensorDescriptor_t foldedGradDesc, mudnnTensorTransformDescriptor_t filterFoldTransDesc, mudnnTensorTransformDescriptor_t diffPadTransDesc, mudnnTensorTransformDescriptor_t gradFoldTransDesc, mudnnTensorTransformDescriptor_t gradUnfoldTransDesc)

声明位置：mudnn_cnn.h

状态：已废弃。

生成数据反向传播相关折叠描述符。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
filterDesc	const mudnnFilterDescriptor_t	原始滤波器描述符。
diffDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	原始卷积描述符。
gradDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
transformFormat	const mudnnTensorFormat_t	期望的折叠张量格式。
foldedFilterDesc	mudnnFilterDescriptor_t	折叠后的滤波器描述符。
paddedDiffDesc	mudnnTensorDescriptor_t	填充后的输出梯度描述符。
foldedConvDesc	mudnnConvolutionDescriptor_t	折叠后的卷积描述符。
foldedGradDesc	mudnnTensorDescriptor_t	折叠后的输入梯度描述符。
filterFoldTransDesc	mudnnTensorTransformDescriptor_t	滤波器折叠的变换描述符。
diffPadTransDesc	mudnnTensorTransformDescriptor_t	输出梯度填充的变换描述符。
gradFoldTransDesc	mudnnTensorTransformDescriptor_t	输入梯度折叠的变换描述符。
gradUnfoldTransDesc	mudnnTensorTransformDescriptor_t	输入梯度反折叠的变换描述符。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnCnnVersionCheck

mudnnStatus_t mudnnCnnVersionCheck(void)

声明位置：mudnn_cnn.h

mudnnGetConvolutionBackwardFilterAlgorithmMaxCount

mudnnStatus_t mudnnGetConvolutionBackwardFilterAlgorithmMaxCount(mudnnHandle_t handle, int *count)

声明位置：mudnn_cnn.h

状态：已废弃。

返回可用的滤波器反向传播算法数量上限。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
count	int *	返回可用算法的最大个数。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionBackwardFilterAlgorithm

mudnnStatus_t mudnnFindConvolutionBackwardFilterAlgorithm(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t dwDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索滤波器反向传播算法（无实际数据）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
dwDesc	const mudnnFilterDescriptor_t	滤波器梯度描述符。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdFilterAlgoPerf_t *	算法性能结果数组。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnFindConvolutionBackwardFilterAlgorithmEx

mudnnStatus_t mudnnFindConvolutionBackwardFilterAlgorithmEx(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *y, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t dwDesc, void *dw, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

搜索滤波器反向传播算法（含真实数据与 workspace）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
y	const void *	指向输出张量数据的设备指针（如果需要）。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
dwDesc	const mudnnFilterDescriptor_t	滤波器梯度描述符。
dw	void *	指向滤波器梯度数据的设备指针。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdFilterAlgoPerf_t *	算法性能结果数组。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionBackwardFilterAlgorithm_v7

mudnnStatus_t mudnnGetConvolutionBackwardFilterAlgorithm_v7(mudnnHandle_t handle, const mudnnTensorDescriptor_t srcDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t gradDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults)

声明位置：mudnn_cnn.h

状态：已废弃。

查询滤波器反向传播算法性能（v7 接口）。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
srcDesc	const mudnnTensorDescriptor_t	输入张量描述符。
diffDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
gradDesc	const mudnnFilterDescriptor_t	滤波器梯度描述符。
requestedAlgoCount	const int	期望返回算法数目。
returnedAlgoCount	int *	实际返回算法数目。
perfResults	mudnnConvolutionBwdFilterAlgoPerf_t *	算法性能结果数组。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnGetConvolutionBackwardFilterWorkspaceSize

mudnnStatus_t mudnnGetConvolutionBackwardFilterWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t gradDesc, mudnnConvolutionBwdFilterAlgo_t algo, size_t *sizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

查询滤波器反向传播算法所需最小 workspace。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
gradDesc	const mudnnFilterDescriptor_t	滤波器梯度描述符。
algo	mudnnConvolutionBwdFilterAlgo_t	反向滤波器算法。
sizeInBytes	size_t *	返回所需最小 workspace（字节）。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnConvolutionBackwardFilter

mudnnStatus_t mudnnConvolutionBackwardFilter(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionBwdFilterAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnFilterDescriptor_t dwDesc, void *dw)

声明位置：mudnn_cnn.h

状态：已废弃。

滤波器反向传播计算：dw = alphaConvBW(x,dy) + betadw。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	标量系数 alpha 指针（设备端）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
convDesc	const mudnnConvolutionDescriptor_t	卷积描述符。
algo	mudnnConvolutionBwdFilterAlgo_t	反向滤波器算法。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
beta	const void *	标量系数 beta 指针（设备端）。
dwDesc	const mudnnFilterDescriptor_t	滤波器梯度描述符。
dw	void *	指向滤波器梯度数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnConvolutionBackwardBias

mudnnStatus_t mudnnConvolutionBackwardBias(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *beta, const mudnnTensorDescriptor_t dbDesc, void *db)

声明位置：mudnn_cnn.h

状态：已废弃。

计算反向传播偏置梯度：db = alphaReduce(dy) + betadb。

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	标量系数 alpha 指针（设备端）。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
beta	const void *	标量系数 beta 指针（设备端）。
dbDesc	const mudnnTensorDescriptor_t	偏置梯度张量描述符。
db	void *	指向偏置梯度数据的设备指针。

返回值

mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。

mudnnCreateFusedOpsConstParamPack

mudnnStatus_t mudnnCreateFusedOpsConstParamPack(mudnnFusedOpsConstParamPack_t *constPack, mudnnFusedOps_t ops)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
constPack	mudnnFusedOpsConstParamPack_t *	-
ops	mudnnFusedOps_t	-

mudnnDestroyFusedOpsConstParamPack

mudnnStatus_t mudnnDestroyFusedOpsConstParamPack(mudnnFusedOpsConstParamPack_t constPack)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
constPack	mudnnFusedOpsConstParamPack_t	-

mudnnSetFusedOpsConstParamPackAttribute

mudnnStatus_t mudnnSetFusedOpsConstParamPackAttribute(mudnnFusedOpsConstParamPack_t constPack, mudnnFusedOpsConstParamLabel_t paramLabel, const void *param)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
constPack	mudnnFusedOpsConstParamPack_t	-
paramLabel	mudnnFusedOpsConstParamLabel_t	-
param	const void *	-

mudnnGetFusedOpsConstParamPackAttribute

mudnnStatus_t mudnnGetFusedOpsConstParamPackAttribute(const mudnnFusedOpsConstParamPack_t constPack, mudnnFusedOpsConstParamLabel_t paramLabel, void *param, int *isNULL)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
constPack	const mudnnFusedOpsConstParamPack_t	-
paramLabel	mudnnFusedOpsConstParamLabel_t	-
param	void *	-
isNULL	int *	-

mudnnCreateFusedOpsVariantParamPack

mudnnStatus_t mudnnCreateFusedOpsVariantParamPack(mudnnFusedOpsVariantParamPack_t *varPack, mudnnFusedOps_t ops)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
varPack	mudnnFusedOpsVariantParamPack_t *	-
ops	mudnnFusedOps_t	-

mudnnDestroyFusedOpsVariantParamPack

mudnnStatus_t mudnnDestroyFusedOpsVariantParamPack(mudnnFusedOpsVariantParamPack_t varPack)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
varPack	mudnnFusedOpsVariantParamPack_t	-

mudnnSetFusedOpsVariantParamPackAttribute

mudnnStatus_t mudnnSetFusedOpsVariantParamPackAttribute(mudnnFusedOpsVariantParamPack_t varPack, mudnnFusedOpsVariantParamLabel_t paramLabel, void *ptr)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
varPack	mudnnFusedOpsVariantParamPack_t	-
paramLabel	mudnnFusedOpsVariantParamLabel_t	-
ptr	void *	-

mudnnGetFusedOpsVariantParamPackAttribute

mudnnStatus_t mudnnGetFusedOpsVariantParamPackAttribute(const mudnnFusedOpsVariantParamPack_t varPack, mudnnFusedOpsVariantParamLabel_t paramLabel, void *ptr)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
varPack	const mudnnFusedOpsVariantParamPack_t	-
paramLabel	mudnnFusedOpsVariantParamLabel_t	-
ptr	void *	-

mudnnCreateFusedOpsPlan

mudnnStatus_t mudnnCreateFusedOpsPlan(mudnnFusedOpsPlan_t *plan, mudnnFusedOps_t ops)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
plan	mudnnFusedOpsPlan_t *	-
ops	mudnnFusedOps_t	-

mudnnDestroyFusedOpsPlan

mudnnStatus_t mudnnDestroyFusedOpsPlan(mudnnFusedOpsPlan_t plan)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
plan	mudnnFusedOpsPlan_t	-

mudnnMakeFusedOpsPlan

mudnnStatus_t mudnnMakeFusedOpsPlan(mudnnHandle_t handle, mudnnFusedOpsPlan_t plan, const mudnnFusedOpsConstParamPack_t constPack, size_t *workspaceSizeInBytes)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
handle	mudnnHandle_t	-
plan	mudnnFusedOpsPlan_t	-
constPack	const mudnnFusedOpsConstParamPack_t	-
workspaceSizeInBytes	size_t *	-

mudnnFusedOpsExecute

mudnnStatus_t mudnnFusedOpsExecute(mudnnHandle_t handle, const mudnnFusedOpsPlan_t plan, mudnnFusedOpsVariantParamPack_t varPack)

声明位置：mudnn_cnn.h

状态：已废弃。

参数

参数	类型	说明
handle	mudnnHandle_t	-
plan	const mudnnFusedOpsPlan_t	-
varPack	mudnnFusedOpsVariantParamPack_t	-

mudnn_ops.h

mudnnCreateTensorDescriptor

mudnnStatus_t mudnnCreateTensorDescriptor(mudnnTensorDescriptor_t *tensorDesc)

声明位置：mudnn_ops.h

创建空的张量描述符。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t *	返回创建好的张量描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensor4dDescriptor

mudnnStatus_t mudnnSetTensor4dDescriptor(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int n, int c, int h, int w)

声明位置：mudnn_ops.h

配置 4D 张量描述符（包含布局）。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	目标张量描述符。
format	mudnnTensorFormat_t	张量布局（如 NCHW/NHWC）。
dataType	mudnnDataType_t	数据类型。
n	int	批大小。
c	int	通道数。
h	int	高度。
w	int	宽度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensor4dDescriptorEx

mudnnStatus_t mudnnSetTensor4dDescriptorEx(mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t dataType, int n, int c, int h, int w, int nStride, int cStride, int hStride, int wStride)

声明位置：mudnn_ops.h

配置 4D 张量描述符（显式 stride）。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	目标张量描述符。
dataType	mudnnDataType_t	数据类型。
n	int	批大小。
c	int	通道数。
h	int	高度。
w	int	宽度。
nStride	int	N 方向步长。
cStride	int	C 方向步长。
hStride	int	H 方向步长。
wStride	int	W 方向步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTensor4dDescriptor

mudnnStatus_t mudnnGetTensor4dDescriptor(const mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t *dataType, int *n, int *c, int *h, int *w, int *nStride, int *cStride, int *hStride, int *wStride)

声明位置：mudnn_ops.h

查询 4D 张量描述符信息。

参数

参数	类型	说明
tensorDesc	const mudnnTensorDescriptor_t	目标张量描述符。
dataType	mudnnDataType_t *	返回数据类型。
n	int *	返回批大小。
c	int *	返回通道数。
h	int *	返回高度。
w	int *	返回宽度。
nStride	int *	返回 N 步长。
cStride	int *	返回 C 步长。
hStride	int *	返回 H 步长。
wStride	int *	返回 W 步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensorNdDescriptor

mudnnStatus_t mudnnSetTensorNdDescriptor(mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t dataType, int nbDims, const int dimA[], const int strideA[])

声明位置：mudnn_ops.h

配置 ND 张量描述符（显式维度与步长）。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	目标张量描述符。
dataType	mudnnDataType_t	数据类型。
nbDims	int	维度数。
dimA	const int	各维尺寸数组。
strideA	const int	各维步长数组。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensorNdDescriptorEx

mudnnStatus_t mudnnSetTensorNdDescriptorEx(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int nbDims, const int dimA[])

声明位置：mudnn_ops.h

配置 ND 张量描述符（基于格式推导步长）。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	目标张量描述符。
format	mudnnTensorFormat_t	张量布局。
dataType	mudnnDataType_t	数据类型。
nbDims	int	维度数。
dimA	const int	各维尺寸数组。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTensorNdDescriptor

mudnnStatus_t mudnnGetTensorNdDescriptor(const mudnnTensorDescriptor_t tensorDesc, int nbDimsRequested, mudnnDataType_t *dataType, int *nbDims, int dimA[], int strideA[])

声明位置：mudnn_ops.h

查询 ND 张量描述符信息。

参数

参数	类型	说明
tensorDesc	const mudnnTensorDescriptor_t	目标张量描述符。
nbDimsRequested	int	希望返回的最大维度数。
dataType	mudnnDataType_t *	返回数据类型。
nbDims	int *	返回实际维度数。
dimA	int	返回尺寸数组。
strideA	int	返回步长数组。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTensorSizeInBytes

mudnnStatus_t mudnnGetTensorSizeInBytes(const mudnnTensorDescriptor_t tensorDesc, size_t *size)

声明位置：mudnn_ops.h

计算张量所需字节数。

参数

参数	类型	说明
tensorDesc	const mudnnTensorDescriptor_t	目标张量描述符。
size	size_t *	返回张量占用字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyTensorDescriptor

mudnnStatus_t mudnnDestroyTensorDescriptor(mudnnTensorDescriptor_t tensorDesc)

声明位置：mudnn_ops.h

销毁张量描述符。

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnInitTransformDest

mudnnStatus_t mudnnInitTransformDest(const mudnnTensorTransformDescriptor_t transformDesc, const mudnnTensorDescriptor_t srcDesc, mudnnTensorDescriptor_t destDesc, size_t *destSizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

创建变换输出描述符并返回大小（Deprecated）。

参数

参数	类型	说明
transformDesc	const mudnnTensorTransformDescriptor_t	张量变换描述符。
srcDesc	const mudnnTensorDescriptor_t	源张量描述符。
destDesc	mudnnTensorDescriptor_t	目标张量描述符。
destSizeInBytes	size_t *	返回目标张量字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateTensorTransformDescriptor

mudnnStatus_t mudnnCreateTensorTransformDescriptor(mudnnTensorTransformDescriptor_t *transformDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建张量变换描述符（Deprecated）。

参数

参数	类型	说明
transformDesc	mudnnTensorTransformDescriptor_t *	返回变换描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensorTransformDescriptor

mudnnStatus_t mudnnSetTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc, const uint32_t nbDims, const mudnnTensorFormat_t destFormat, const int32_t padBeforeA[], const int32_t padAfterA[], const uint32_t foldA[], const mudnnFoldingDirection_t direction)

声明位置：mudnn_ops.h

状态：已废弃。

配置张量变换描述符（Deprecated）。

当前实现限制：

仅支持基本的格式转换（NCHW <-> NHWC）

padding、fold等高级特性尚未完整实现

参数

参数	类型	说明
transformDesc	mudnnTensorTransformDescriptor_t	变换描述符。
nbDims	const uint32_t	维度数量。
destFormat	const mudnnTensorFormat_t	目标格式。
padBeforeA	const int32_t	前向 padding 数组。
padAfterA	const int32_t	后向 padding 数组。
foldA	const uint32_t	折叠配置数组。
direction	const mudnnFoldingDirection_t	折叠/展开方向。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTensorTransformDescriptor

mudnnStatus_t mudnnGetTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc, uint32_t nbDimsRequested, mudnnTensorFormat_t *destFormat, int32_t padBeforeA[], int32_t padAfterA[], uint32_t foldA[], mudnnFoldingDirection_t *direction)

声明位置：mudnn_ops.h

状态：已废弃。

查询张量变换描述符内容（Deprecated）。

参数

参数	类型	说明
transformDesc	mudnnTensorTransformDescriptor_t	变换描述符。
nbDimsRequested	uint32_t	请求的最大维度数。
destFormat	mudnnTensorFormat_t *	返回目标格式。
padBeforeA	int32_t	返回前向 padding。
padAfterA	int32_t	返回后向 padding。
foldA	uint32_t	返回折叠配置。
direction	mudnnFoldingDirection_t *	返回折叠方向。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyTensorTransformDescriptor

mudnnStatus_t mudnnDestroyTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁张量变换描述符（Deprecated）。

参数

参数	类型	说明
transformDesc	mudnnTensorTransformDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnTransformTensor

mudnnStatus_t mudnnTransformTensor(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

状态：已废弃。

张量布局变换（output = alpha * x + beta * y，Deprecated）。

当前实现限制：

支持以下格式转换：

3D: NCW <-> NWC

4D: NCHW <-> NHWC

5D: NCDHW <-> NDHWC

beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnTransformTensorEx

mudnnStatus_t mudnnTransformTensorEx(mudnnHandle_t handle, const mudnnTensorTransformDescriptor_t transDesc, const void *alpha, const mudnnTensorDescriptor_t srcDesc, const void *srcData, const void *beta, const mudnnTensorDescriptor_t destDesc, void *destData)

声明位置：mudnn_ops.h

状态：已废弃。

张量布局变换扩展版（支持 transform 描述符，Deprecated）。

当前实现限制：

transform 描述符的配置功能尚未完整实现

alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

beta 仅支持 0.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

建议使用 mudnnTransformTensor 进行基本的格式转换

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
transDesc	const mudnnTensorTransformDescriptor_t	张量变换描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
srcDesc	const mudnnTensorDescriptor_t	源张量描述符。
srcData	const void *	指向源张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
destDesc	const mudnnTensorDescriptor_t	目标张量描述符。
destData	void *	指向目标张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnAddTensor

mudnnStatus_t mudnnAddTensor(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t aDesc, const void *A, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)

声明位置：mudnn_ops.h

状态：已废弃。

张量加法：C = alpha * A + beta * C（Deprecated）。

当前实现限制：

beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

alpha 支持任意值

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
aDesc	const mudnnTensorDescriptor_t	输入张量 A 描述符。
A	const void *	指向输入张量 A 数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
cDesc	const mudnnTensorDescriptor_t	输出张量 C 描述符。
C	void *	指向输出/累加张量 C 数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateOpTensorDescriptor

mudnnStatus_t mudnnCreateOpTensorDescriptor(mudnnOpTensorDescriptor_t *opTensorDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建 OpTensor 描述符（Deprecated）。

参数

参数	类型	说明
opTensorDesc	mudnnOpTensorDescriptor_t *	返回 OpTensor 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetOpTensorDescriptor

mudnnStatus_t mudnnSetOpTensorDescriptor(mudnnOpTensorDescriptor_t opTensorDesc, mudnnOpTensorOp_t opTensorOp, mudnnDataType_t opTensorCompType, mudnnNanPropagation_t opTensorNanOpt)

声明位置：mudnn_ops.h

状态：已废弃。

配置 OpTensor 描述符（Deprecated）。

参数

参数	类型	说明
opTensorDesc	mudnnOpTensorDescriptor_t	OpTensor 描述符。
opTensorOp	mudnnOpTensorOp_t	操作类型（加/乘/最值等）。
opTensorCompType	mudnnDataType_t	计算类型。
opTensorNanOpt	mudnnNanPropagation_t	NaN 传播选项。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetOpTensorDescriptor

mudnnStatus_t mudnnGetOpTensorDescriptor(const mudnnOpTensorDescriptor_t opTensorDesc, mudnnOpTensorOp_t *opTensorOp, mudnnDataType_t *opTensorCompType, mudnnNanPropagation_t *opTensorNanOpt)

声明位置：mudnn_ops.h

状态：已废弃。

查询 OpTensor 描述符（Deprecated）。

参数

参数	类型	说明
opTensorDesc	const mudnnOpTensorDescriptor_t	OpTensor 描述符。
opTensorOp	mudnnOpTensorOp_t *	返回操作类型。
opTensorCompType	mudnnDataType_t *	返回计算类型。
opTensorNanOpt	mudnnNanPropagation_t *	返回 NaN 传播选项。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyOpTensorDescriptor

mudnnStatus_t mudnnDestroyOpTensorDescriptor(mudnnOpTensorDescriptor_t opTensorDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁 OpTensor 描述符（Deprecated）。

参数

参数	类型	说明
opTensorDesc	mudnnOpTensorDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnOpTensor

mudnnStatus_t mudnnOpTensor(mudnnHandle_t handle, const mudnnOpTensorDescriptor_t opTensorDesc, const void *alpha1, const mudnnTensorDescriptor_t aDesc, const void *A, const void *alpha2, const mudnnTensorDescriptor_t bDesc, const void *B, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)

声明位置：mudnn_ops.h

状态：已废弃。

张量算子计算：C = op(alpha1A, alpha2B) + beta*C（Deprecated）

对 SQRT/NOT 时 B 输入被忽略

当前实现限制：

alpha2 仅支持 1.0（或 NULL），其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

对于二元操作，beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

对于一元操作（SQRT），alpha1 仅支持 1.0，beta 仅支持 0.0

对于一元操作（NOT）尚未实现支持

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
opTensorDesc	const mudnnOpTensorDescriptor_t	运算描述符（加/乘/最值等）
alpha1	const void *	缩放系数 alpha1（主机端单元素指针）。
aDesc	const mudnnTensorDescriptor_t	输入张量 A 描述符。
A	const void *	输入张量 A。
alpha2	const void *	缩放系数 alpha2（主机端单元素指针）。
bDesc	const mudnnTensorDescriptor_t	输入张量 B 描述符。
B	const void *	输入张量 B（部分算子可忽略）。
beta	const void *	缩放系数 beta（主机端单元素指针）。
cDesc	const mudnnTensorDescriptor_t	输出张量 C 描述符。
C	void *	输出/累加张量 C。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateReduceTensorDescriptor

mudnnStatus_t mudnnCreateReduceTensorDescriptor(mudnnReduceTensorDescriptor_t *reduceTensorDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建归约描述符（Deprecated）。

参数

参数	类型	说明
reduceTensorDesc	mudnnReduceTensorDescriptor_t *	返回归约描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetReduceTensorDescriptor

mudnnStatus_t mudnnSetReduceTensorDescriptor(mudnnReduceTensorDescriptor_t reduceTensorDesc, mudnnReduceTensorOp_t reduceTensorOp, mudnnDataType_t reduceTensorCompType, mudnnNanPropagation_t reduceTensorNanOpt, mudnnReduceTensorIndices_t reduceTensorIndices, mudnnIndicesType_t reduceTensorIndicesType)

声明位置：mudnn_ops.h

状态：已废弃。

配置归约描述符（Deprecated）。

当前实现限制：

索引输出功能（indices）配置被存储但尚未完整实现

AMAX 操作映射为 MAX，未包含 ABS 操作

参数

参数	类型	说明
reduceTensorDesc	mudnnReduceTensorDescriptor_t	归约描述符。
reduceTensorOp	mudnnReduceTensorOp_t	归约操作类型。
reduceTensorCompType	mudnnDataType_t	计算类型。
reduceTensorNanOpt	mudnnNanPropagation_t	NaN 传播选项。
reduceTensorIndices	mudnnReduceTensorIndices_t	索引输出类型。
reduceTensorIndicesType	mudnnIndicesType_t	索引精度类型。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReduceTensorDescriptor

mudnnStatus_t mudnnGetReduceTensorDescriptor(const mudnnReduceTensorDescriptor_t reduceTensorDesc, mudnnReduceTensorOp_t *reduceTensorOp, mudnnDataType_t *reduceTensorCompType, mudnnNanPropagation_t *reduceTensorNanOpt, mudnnReduceTensorIndices_t *reduceTensorIndices, mudnnIndicesType_t *reduceTensorIndicesType)

声明位置：mudnn_ops.h

状态：已废弃。

查询归约描述符（Deprecated）。

参数

参数	类型	说明
reduceTensorDesc	const mudnnReduceTensorDescriptor_t	归约描述符。
reduceTensorOp	mudnnReduceTensorOp_t *	返回操作类型。
reduceTensorCompType	mudnnDataType_t *	返回计算类型。
reduceTensorNanOpt	mudnnNanPropagation_t *	返回 NaN 传播选项。
reduceTensorIndices	mudnnReduceTensorIndices_t *	返回索引输出类型。
reduceTensorIndicesType	mudnnIndicesType_t *	返回索引精度类型。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyReduceTensorDescriptor

mudnnStatus_t mudnnDestroyReduceTensorDescriptor(mudnnReduceTensorDescriptor_t reduceTensorDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁归约描述符（Deprecated）。

参数

参数	类型	说明
reduceTensorDesc	mudnnReduceTensorDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReductionIndicesSize

mudnnStatus_t mudnnGetReductionIndicesSize(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

查询归约所需的索引缓冲区大小（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceTensorDesc	const mudnnReduceTensorDescriptor_t	归约描述符。
aDesc	const mudnnTensorDescriptor_t	输入张量描述符。
cDesc	const mudnnTensorDescriptor_t	输出张量描述符。
sizeInBytes	size_t *	返回索引缓冲区大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReductionWorkspaceSize

mudnnStatus_t mudnnGetReductionWorkspaceSize(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

查询归约所需 workspace 大小（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceTensorDesc	const mudnnReduceTensorDescriptor_t	归约描述符。
aDesc	const mudnnTensorDescriptor_t	输入张量描述符。
cDesc	const mudnnTensorDescriptor_t	输出张量描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnReduceTensor

mudnnStatus_t mudnnReduceTensor(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, void *indices, size_t indicesSizeInBytes, void *workspace, size_t workspaceSizeInBytes, const void *alpha, const mudnnTensorDescriptor_t aDesc, const void *A, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)

声明位置：mudnn_ops.h

状态：已废弃。

执行归约计算：C = reduce(alphaA) + betaC（Deprecated）。

当前实现限制：

alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

beta 仅支持 0.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED

索引输出（indices）功能尚未完整实现

维度通过输入/输出形状差异自动推断，可能不适用于所有场景

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceTensorDesc	const mudnnReduceTensorDescriptor_t	归约描述符。
indices	void *	指向索引输出缓冲区的设备指针（可选）。
indicesSizeInBytes	size_t	索引缓冲区大小（字节）。
workspace	void *	指向工作区的设备指针。
workspaceSizeInBytes	size_t	工作区大小（字节）。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
aDesc	const mudnnTensorDescriptor_t	输入张量描述符。
A	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
cDesc	const mudnnTensorDescriptor_t	输出张量描述符。
C	void *	指向输出/累加张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensor

mudnnStatus_t mudnnSetTensor(mudnnHandle_t handle, const mudnnTensorDescriptor_t yDesc, void *y, const void *valuePtr)

声明位置：mudnn_ops.h

张量赋常量：y[i] = value[0]。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
yDesc	const mudnnTensorDescriptor_t	目标张量描述符。
y	void *	指向目标张量数据的设备指针。
valuePtr	const void *	常量值指针（设备端）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaleTensor

mudnnStatus_t mudnnScaleTensor(mudnnHandle_t handle, const mudnnTensorDescriptor_t yDesc, void *y, const void *alpha)

声明位置：mudnn_ops.h

状态：已废弃。

张量按标量缩放：y[i] = alpha * y[i]（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
yDesc	const mudnnTensorDescriptor_t	目标张量描述符。
y	void *	指向目标张量数据的设备指针。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateFilterDescriptor

mudnnStatus_t mudnnCreateFilterDescriptor(mudnnFilterDescriptor_t *filterDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建卷积滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	mudnnFilterDescriptor_t *	返回滤波器描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetFilter4dDescriptor

mudnnStatus_t mudnnSetFilter4dDescriptor(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int k, int c, int h, int w)

声明位置：mudnn_ops.h

状态：已废弃。

配置 4D 滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	mudnnFilterDescriptor_t	滤波器描述符。
dataType	mudnnDataType_t	数据类型。
format	mudnnTensorFormat_t	布局格式。
k	int	输出通道数。
c	int	输入通道数。
h	int	滤波器高度。
w	int	滤波器宽度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetFilter4dDescriptor

mudnnStatus_t mudnnGetFilter4dDescriptor(const mudnnFilterDescriptor_t filterDesc, mudnnDataType_t *dataType, mudnnTensorFormat_t *format, int *k, int *c, int *h, int *w)

声明位置：mudnn_ops.h

状态：已废弃。

查询 4D 滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
dataType	mudnnDataType_t *	返回数据类型。
format	mudnnTensorFormat_t *	返回布局格式。
k	int *	返回输出通道数。
c	int *	返回输入通道数。
h	int *	返回高度。
w	int *	返回宽度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetFilterNdDescriptor

mudnnStatus_t mudnnSetFilterNdDescriptor(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int nbDims, const int filterDimA[])

声明位置：mudnn_ops.h

状态：已废弃。

配置 ND 滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	mudnnFilterDescriptor_t	滤波器描述符。
dataType	mudnnDataType_t	数据类型。
format	mudnnTensorFormat_t	布局格式。
nbDims	int	维度数。
filterDimA	const int	各维尺寸。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetFilterNdDescriptorWithScale

mudnnStatus_t mudnnSetFilterNdDescriptorWithScale(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int nbDims, const int filterDimA[], float scale)

声明位置：mudnn_ops.h

状态：已废弃。

扩展接口：是。

配置 ND 滤波器（含 scale，量化用途，Deprecated）。

参数

参数	类型	说明
filterDesc	mudnnFilterDescriptor_t	滤波器描述符。
dataType	mudnnDataType_t	数据类型。
format	mudnnTensorFormat_t	布局格式。
nbDims	int	维度数。
filterDimA	const int	各维尺寸。
scale	float	量化 scale。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetFilterNdDescriptor

mudnnStatus_t mudnnGetFilterNdDescriptor(const mudnnFilterDescriptor_t filterDesc, int nbDimsRequested, mudnnDataType_t *dataType, mudnnTensorFormat_t *format, int *nbDims, int filterDimA[])

声明位置：mudnn_ops.h

状态：已废弃。

查询 ND 滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
nbDimsRequested	int	希望返回的最大维度。
dataType	mudnnDataType_t *	返回数据类型。
format	mudnnTensorFormat_t *	返回布局格式。
nbDims	int *	返回实际维度。
filterDimA	int	返回各维尺寸。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetFilterSizeInBytes

mudnnStatus_t mudnnGetFilterSizeInBytes(const mudnnFilterDescriptor_t filterDesc, size_t *size)

声明位置：mudnn_ops.h

状态：已废弃。

计算滤波器占用字节数（Deprecated）。

参数

参数	类型	说明
filterDesc	const mudnnFilterDescriptor_t	滤波器描述符。
size	size_t *	返回字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnTransformFilter

mudnnStatus_t mudnnTransformFilter(mudnnHandle_t handle, const mudnnTensorTransformDescriptor_t transDesc, const void *alpha, const mudnnFilterDescriptor_t srcDesc, const void *srcData, const void *beta, const mudnnFilterDescriptor_t destDesc, void *destData)

声明位置：mudnn_ops.h

状态：已废弃。

滤波器布局变换（Deprecated）

srcDesc/destDesc

源/目标滤波器描述符

alpha/beta

缩放系数

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
transDesc	const mudnnTensorTransformDescriptor_t	变换描述符
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
srcDesc	const mudnnFilterDescriptor_t	源滤波器描述符。
srcData	const void *	指向源滤波器数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
destDesc	const mudnnFilterDescriptor_t	目标滤波器描述符。
destData	void *	指向目标滤波器数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyFilterDescriptor

mudnnStatus_t mudnnDestroyFilterDescriptor(mudnnFilterDescriptor_t filterDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁滤波器描述符（Deprecated）。

参数

参数	类型	说明
filterDesc	mudnnFilterDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSoftmaxForward

mudnnStatus_t mudnnSoftmaxForward(mudnnHandle_t handle, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

Softmax 前向：output = alpha * softmax(x) + beta * y.

参数

• handle (mudnnHandle_t)
• algo (mudnnSoftmaxAlgorithm_t)：算法（FAST/ACCURATE/LOG）
• mode (mudnnSoftmaxMode_t)：归约维度模式
• alpha (const void *)
• xDesc (const mudnnTensorDescriptor_t)
• x (const void *)
• beta (const void *)
• yDesc (const mudnnTensorDescriptor_t)
• y (void *)

mudnnCreatePoolingDescriptor

mudnnStatus_t mudnnCreatePoolingDescriptor(mudnnPoolingDescriptor_t *poolingDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t *	返回池化描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPooling2dDescriptor

mudnnStatus_t mudnnSetPooling2dDescriptor(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t mode, mudnnNanPropagation_t maxpoolingNanOpt, int windowHeight, int windowWidth, int verticalPadding, int horizontalPadding, int verticalStride, int horizontalStride)

声明位置：mudnn_ops.h

状态：已废弃。

配置 2D 池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t	池化描述符。
mode	mudnnPoolingMode_t	池化模式。
maxpoolingNanOpt	mudnnNanPropagation_t	NaN 传播选项。
windowHeight	int	窗口高。
windowWidth	int	窗口宽。
verticalPadding	int	垂直 padding。
horizontalPadding	int	水平 padding。
verticalStride	int	垂直步长。
horizontalStride	int	水平步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetPooling2dDescriptor

mudnnStatus_t mudnnGetPooling2dDescriptor(const mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t *mode, mudnnNanPropagation_t *maxpoolingNanOpt, int *windowHeight, int *windowWidth, int *verticalPadding, int *horizontalPadding, int *verticalStride, int *horizontalStride)

声明位置：mudnn_ops.h

状态：已废弃。

查询 2D 池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	const mudnnPoolingDescriptor_t	池化描述符。
mode	mudnnPoolingMode_t *	返回模式。
maxpoolingNanOpt	mudnnNanPropagation_t *	返回 NaN 选项。
windowHeight	int *	返回窗口高。
windowWidth	int *	返回窗口宽。
verticalPadding	int *	返回垂直 padding。
horizontalPadding	int *	返回水平 padding。
verticalStride	int *	返回垂直步长。
horizontalStride	int *	返回水平步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPoolingNdDescriptor

mudnnStatus_t mudnnSetPoolingNdDescriptor(mudnnPoolingDescriptor_t poolingDesc, const mudnnPoolingMode_t mode, const mudnnNanPropagation_t maxpoolingNanOpt, int nbDims, const int windowDimA[], const int paddingA[], const int strideA[])

声明位置：mudnn_ops.h

状态：已废弃。

配置 ND 池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t	池化描述符。
mode	const mudnnPoolingMode_t	池化模式。
maxpoolingNanOpt	const mudnnNanPropagation_t	NaN 选项。
nbDims	int	维度数。
windowDimA	const int	窗口尺寸数组。
paddingA	const int	padding 数组。
strideA	const int	步长数组。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetPoolingNdDescriptor

mudnnStatus_t mudnnGetPoolingNdDescriptor(const mudnnPoolingDescriptor_t poolingDesc, int nbDimsRequested, mudnnPoolingMode_t *mode, mudnnNanPropagation_t *maxpoolingNanOpt, int *nbDims, int windowDimA[], int paddingA[], int strideA[])

声明位置：mudnn_ops.h

状态：已废弃。

查询 ND 池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	const mudnnPoolingDescriptor_t	池化描述符。
nbDimsRequested	int	请求的最大维度数。
mode	mudnnPoolingMode_t *	返回池化模式。
maxpoolingNanOpt	mudnnNanPropagation_t *	返回 NaN 选项。
nbDims	int *	返回实际维度数。
windowDimA	int	返回窗口尺寸。
paddingA	int	返回 padding。
strideA	int	返回步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetPoolingNdForwardOutputDim

mudnnStatus_t mudnnGetPoolingNdForwardOutputDim(const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t inputTensorDesc, int nbDims, int outputTensorDimA[])

声明位置：mudnn_ops.h

状态：已废弃。

参数

参数	类型	说明
poolingDesc	const mudnnPoolingDescriptor_t	-
inputTensorDesc	const mudnnTensorDescriptor_t	-
nbDims	int	-
outputTensorDimA	int	-

mudnnGetPooling2dForwardOutputDim

mudnnStatus_t mudnnGetPooling2dForwardOutputDim(const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t inputTensorDesc, int *n, int *c, int *h, int *w)

声明位置：mudnn_ops.h

状态：已废弃。

参数

参数	类型	说明
poolingDesc	const mudnnPoolingDescriptor_t	-
inputTensorDesc	const mudnnTensorDescriptor_t	-
n	int *	-
c	int *	-
h	int *	-
w	int *	-

mudnnDestroyPoolingDescriptor

mudnnStatus_t mudnnDestroyPoolingDescriptor(mudnnPoolingDescriptor_t poolingDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁池化描述符（Deprecated）。

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPoolingNdDescriptorEx

mudnnStatus_t mudnnSetPoolingNdDescriptorEx(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t mode, int divisor, int nbDims, const int windowDimA[], const int paddingA[], const int strideA[], const int dilation[])

声明位置：mudnn_ops.h

扩展接口：是。

配置 ND 池化扩展（支持 dilation/divisor）

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t	-
mode	mudnnPoolingMode_t	-
divisor	int	-
nbDims	int	-
windowDimA	const int	-
paddingA	const int	-
strideA	const int	-
dilation	const int	-

mudnnGetPoolingNdDescriptorEx

mudnnStatus_t mudnnGetPoolingNdDescriptorEx(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t *mode, int *divisor, int *nbDims, int **windowDimA, int **paddingA, int **strideA, int **dilation)

声明位置：mudnn_ops.h

扩展接口：是。

查询 ND 池化扩展配置

参数

参数	类型	说明
poolingDesc	mudnnPoolingDescriptor_t	-
mode	mudnnPoolingMode_t *	-
divisor	int *	-
nbDims	int *	-
windowDimA	int **	-
paddingA	int **	-
strideA	int **	-
dilation	int **	-

mudnnPoolingForwardEx

mudnnStatus_t mudnnPoolingForwardEx(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, void *indiices)

声明位置：mudnn_ops.h

扩展接口：是。

池化前向（扩展版，含索引输出）

参数

参数	类型	说明
handle	mudnnHandle_t	-
poolingDesc	const mudnnPoolingDescriptor_t	-
outputDesc	const mudnnTensorDescriptor_t	-
output	void *	-
inputDesc	const mudnnTensorDescriptor_t	-
input	const void *	-
indiicesDesc	const mudnnTensorDescriptor_t	-
indiices	void *	-

mudnnPoolingBackwardEx

mudnnStatus_t mudnnPoolingBackwardEx(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, void *indiices)

声明位置：mudnn_ops.h

扩展接口：是。

池化反向（扩展版，含索引输入）

参数

参数	类型	说明
handle	mudnnHandle_t	-
poolingDesc	const mudnnPoolingDescriptor_t	-
outputDesc	const mudnnTensorDescriptor_t	-
output	void *	-
inputDesc	const mudnnTensorDescriptor_t	-
input	const void *	-
indiicesDesc	const mudnnTensorDescriptor_t	-
indiices	void *	-

mudnnPoolingMaxPool2dGradGrad

mudnnStatus_t mudnnPoolingMaxPool2dGradGrad(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, const void *indiices)

声明位置：mudnn_ops.h

扩展接口：是。

MaxPool2d 的二阶梯度接口

参数

参数	类型	说明
handle	mudnnHandle_t	-
poolingDesc	const mudnnPoolingDescriptor_t	-
outputDesc	const mudnnTensorDescriptor_t	-
output	void *	-
inputDesc	const mudnnTensorDescriptor_t	-
input	const void *	-
indiicesDesc	const mudnnTensorDescriptor_t	-
indiices	const void *	-

mudnnPoolingForward

mudnnStatus_t mudnnPoolingForward(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

状态：已废弃。

池化前向：y = alpha * pool(x) + beta * y（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
poolingDesc	const mudnnPoolingDescriptor_t	池化描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateActivationDescriptor

mudnnStatus_t mudnnCreateActivationDescriptor(mudnnActivationDescriptor_t *activationDesc)

声明位置：mudnn_ops.h

状态：已废弃。

创建激活描述符（Deprecated）。

参数

参数	类型	说明
activationDesc	mudnnActivationDescriptor_t *	返回激活描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetActivationDescriptor

mudnnStatus_t mudnnSetActivationDescriptor(mudnnActivationDescriptor_t activationDesc, mudnnActivationMode_t mode, mudnnNanPropagation_t reluNanOpt, double coef)

声明位置：mudnn_ops.h

状态：已废弃。

配置激活描述符（Deprecated）。

参数

参数	类型	说明
activationDesc	mudnnActivationDescriptor_t	激活描述符。
mode	mudnnActivationMode_t	激活模式。
reluNanOpt	mudnnNanPropagation_t	NaN 传播选项。
coef	double	激活系数（如 clipped RELU 上限、ELU alpha）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetActivationDescriptor

mudnnStatus_t mudnnGetActivationDescriptor(const mudnnActivationDescriptor_t activationDesc, mudnnActivationMode_t *mode, mudnnNanPropagation_t *reluNanOpt, double *coef)

声明位置：mudnn_ops.h

状态：已废弃。

查询激活描述符（Deprecated）。

参数

参数	类型	说明
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
mode	mudnnActivationMode_t *	返回激活模式。
reluNanOpt	mudnnNanPropagation_t *	返回 NaN 选项。
coef	double *	返回激活系数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetActivationDescriptorSwishBeta

mudnnStatus_t mudnnSetActivationDescriptorSwishBeta(mudnnActivationDescriptor_t activationDesc, double swish_beta)

声明位置：mudnn_ops.h

状态：已废弃。

设置 Swish Beta（Deprecated）。

参数

参数	类型	说明
activationDesc	mudnnActivationDescriptor_t	激活描述符。
swish_beta	double	Swish beta 参数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetActivationDescriptorSwishBeta

mudnnStatus_t mudnnGetActivationDescriptorSwishBeta(mudnnActivationDescriptor_t activationDesc, double *swish_beta)

声明位置：mudnn_ops.h

状态：已废弃。

查询 Swish Beta（Deprecated）。

参数

参数	类型	说明
activationDesc	mudnnActivationDescriptor_t	激活描述符。
swish_beta	double *	返回 Swish beta。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyActivationDescriptor

mudnnStatus_t mudnnDestroyActivationDescriptor(mudnnActivationDescriptor_t activationDesc)

声明位置：mudnn_ops.h

状态：已废弃。

销毁激活描述符（Deprecated）。

参数

参数	类型	说明
activationDesc	mudnnActivationDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnActivationForward

mudnnStatus_t mudnnActivationForward(mudnnHandle_t handle, mudnnActivationDescriptor_t activationDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

状态：已废弃。

激活前向：y = alpha * act(x) + beta * y（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateLRNDescriptor

mudnnStatus_t mudnnCreateLRNDescriptor(mudnnLRNDescriptor_t *normDesc)

声明位置：mudnn_ops.h

创建 LRN 描述符

参数

参数	类型	说明
normDesc	mudnnLRNDescriptor_t *	-

mudnnSetLRNDescriptor

mudnnStatus_t mudnnSetLRNDescriptor(mudnnLRNDescriptor_t normDesc, unsigned lrnN, double lrnAlpha, double lrnBeta, double lrnK)

声明位置：mudnn_ops.h

配置 LRN 描述符

参数

参数	类型	说明
normDesc	mudnnLRNDescriptor_t	-
lrnN	unsigned	-
lrnAlpha	double	-
lrnBeta	double	-
lrnK	double	-

mudnnGetLRNDescriptor

mudnnStatus_t mudnnGetLRNDescriptor(mudnnLRNDescriptor_t normDesc, unsigned *lrnN, double *lrnAlpha, double *lrnBeta, double *lrnK)

声明位置：mudnn_ops.h

查询 LRN 描述符

参数

参数	类型	说明
normDesc	mudnnLRNDescriptor_t	-
lrnN	unsigned *	-
lrnAlpha	double *	-
lrnBeta	double *	-
lrnK	double *	-

mudnnDestroyLRNDescriptor

mudnnStatus_t mudnnDestroyLRNDescriptor(mudnnLRNDescriptor_t lrnDesc)

声明位置：mudnn_ops.h

销毁 LRN 描述符

参数

参数	类型	说明
lrnDesc	mudnnLRNDescriptor_t	-

mudnnLRNCrossChannelForward

mudnnStatus_t mudnnLRNCrossChannelForward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnLRNMode_t lrnMode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

LRN 前向：跨通道normalization。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
normDesc	mudnnLRNDescriptor_t	LRN 描述符。
lrnMode	mudnnLRNMode_t	LRN 模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	指向输出/累加张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDivisiveNormalizationForward

mudnnStatus_t mudnnDivisiveNormalizationForward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnDivNormMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *means, void *temp, void *temp2, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

LCN/除性normalization前向：y = alpha * norm(x) + beta * y。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
normDesc	mudnnLRNDescriptor_t	LRN 描述符。
mode	mudnnDivNormMode_t	除性归一化模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符（means/temp/temp2 同形）。
x	const void *	输入张量。
means	const void *	均值张量，NULL 则视为 0。
temp	void *	临时缓冲。
temp2	void *	临时缓冲。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	输出张量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDeriveBNTensorDescriptor

mudnnStatus_t mudnnDeriveBNTensorDescriptor(mudnnTensorDescriptor_t derivedBnDesc, const mudnnTensorDescriptor_t xDesc, mudnnBatchNormMode_t mode)

声明位置：mudnn_ops.h

状态：已废弃。

从输入描述符派生 BatchNorm 相关张量描述符（Deprecated）。

参数

参数	类型	说明
derivedBnDesc	mudnnTensorDescriptor_t	输出的派生描述符。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
mode	mudnnBatchNormMode_t	BatchNorm 模式（per-activation / spatial）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateBatchNormDescriptor

mudnnStatus_t mudnnCreateBatchNormDescriptor(mudnnBatchNormDescriptor_t *bnDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 BatchNorm 描述符（扩展）。

参数

参数	类型	说明
bnDesc	mudnnBatchNormDescriptor_t *	返回 BatchNorm 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetBatchNormDescriptor

mudnnStatus_t mudnnSetBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc, mudnnBatchNormMode_t mode, double epsilon, bool isTraining)

声明位置：mudnn_ops.h

扩展接口：是。

配置 BatchNorm 描述符（模式 / epsilon / 是否训练）。

参数

参数	类型	说明
bnDesc	mudnnBatchNormDescriptor_t	BatchNorm 描述符。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
epsilon	double	数值稳定项。
isTraining	bool	是否训练模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormDescriptor

mudnnStatus_t mudnnGetBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc, mudnnBatchNormMode_t *mode, double *epsilon, bool *isTraining)

声明位置：mudnn_ops.h

扩展接口：是。

查询 BatchNorm 描述符配置。

参数

参数	类型	说明
bnDesc	mudnnBatchNormDescriptor_t	BatchNorm 描述符。
mode	mudnnBatchNormMode_t *	返回 BatchNorm 模式。
epsilon	double *	返回 epsilon。
isTraining	bool *	返回是否训练模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormForwardTraining

mudnnStatus_t mudnnBatchNormForwardTraining(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t accMeanDesc, void *accMean, const mudnnTensorDescriptor_t accVarDesc, void *accVar, const mudnnTensorDescriptor_t freshMeanDesc, void *freshMean, const mudnnTensorDescriptor_t freshVarDesc, void *freshVar, const mudnnTensorDescriptor_t scaleDesc, const void *scale, const mudnnTensorDescriptor_t biasDesc, const void *bias, double momentum, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

BatchNorm 前向（训练）

accMean/accVar

累积均值方差输出

freshMean/freshVar

当前 batch 均值方差输出

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
bnDesc	const mudnnBatchNormDescriptor_t	BatchNorm 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
accMeanDesc	const mudnnTensorDescriptor_t	累积均值描述符。
accMean	void *	指向累积均值的设备指针。
accVarDesc	const mudnnTensorDescriptor_t	累积方差描述符。
accVar	void *	指向累积方差的设备指针。
freshMeanDesc	const mudnnTensorDescriptor_t	当前 batch 均值描述符。
freshMean	void *	指向当前 batch 均值的设备指针。
freshVarDesc	const mudnnTensorDescriptor_t	当前 batch 方差描述符。
freshVar	void *	指向当前 batch 方差的设备指针。
scaleDesc	const mudnnTensorDescriptor_t	Scale 描述符。
scale	const void *	指向 Scale 数据的设备指针。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
bias	const void *	指向 Bias 数据的设备指针。
momentum	double	动量。
workSpace	void *	可选 workspace
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormForwardInference

mudnnStatus_t mudnnBatchNormForwardInference(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t finalMeanDesc, void *finalMean, const mudnnTensorDescriptor_t finalVarDesc, void *finalVar, const mudnnTensorDescriptor_t scaleDesc, const void *scale, const mudnnTensorDescriptor_t biasDesc, const void *bias)

声明位置：mudnn_ops.h

扩展接口：是。

BatchNorm 前向（推理）

finalMean/finalVar

传入的均值方差

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
bnDesc	const mudnnBatchNormDescriptor_t	BatchNorm 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
finalMeanDesc	const mudnnTensorDescriptor_t	均值描述符。
finalMean	void *	指向均值数据的设备指针。
finalVarDesc	const mudnnTensorDescriptor_t	方差描述符。
finalVar	void *	指向方差数据的设备指针。
scaleDesc	const mudnnTensorDescriptor_t	Scale 描述符。
scale	const void *	指向 Scale 数据的设备指针。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
bias	const void *	指向 Bias 数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormBackward

mudnnStatus_t mudnnBatchNormBackward(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dmDesc, void *dm, const mudnnTensorDescriptor_t dvDesc, void *dv, const mudnnTensorDescriptor_t dgDesc, void *dg, const mudnnTensorDescriptor_t dbDesc, void *db, const mudnnTensorDescriptor_t xDesc, void *x, const mudnnTensorDescriptor_t dyDesc, void *dy, const mudnnTensorDescriptor_t mDesc, void *m, const mudnnTensorDescriptor_t vDesc, void *v, const mudnnTensorDescriptor_t gDesc, void *g, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

BatchNorm 反向

dx/dm/dv/dg/db

输出梯度张量

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
bnDesc	const mudnnBatchNormDescriptor_t	BatchNorm 描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dx	void *	指向输入梯度的设备指针。
dmDesc	const mudnnTensorDescriptor_t	dm 描述符。
dm	void *	指向均值梯度的设备指针。
dvDesc	const mudnnTensorDescriptor_t	dv 描述符。
dv	void *	指向方差梯度的设备指针。
dgDesc	const mudnnTensorDescriptor_t	dg 描述符。
dg	void *	指向 scale 梯度的设备指针。
dbDesc	const mudnnTensorDescriptor_t	db 描述符。
db	void *	指向 bias 梯度的设备指针。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	void *	指向输入数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	void *	指向输出梯度的设备指针。
mDesc	const mudnnTensorDescriptor_t	均值描述符。
m	void *	指向均值数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	方差描述符。
v	void *	指向方差数据的设备指针。
gDesc	const mudnnTensorDescriptor_t	scale 描述符。
g	void *	指向 scale 数据的设备指针。
workSpace	void *	可选 workspace
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyBatchNormDescriptor

mudnnStatus_t mudnnDestroyBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 BatchNorm 描述符（扩展）。

参数

参数	类型	说明
bnDesc	mudnnBatchNormDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormForwardTrainingWorkspaceSize

mudnnStatus_t mudnnGetBatchNormForwardTrainingWorkspaceSize(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t accMeanDesc, const mudnnTensorDescriptor_t accVarDesc, const mudnnTensorDescriptor_t freshMeanDesc, const mudnnTensorDescriptor_t freshVarDesc, const mudnnTensorDescriptor_t scaleDesc, const mudnnTensorDescriptor_t biasDesc, size_t *sizeInByte)

声明位置：mudnn_ops.h

扩展接口：是。

查询 BatchNorm 训练前向所需 workspace 大小。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
bnDesc	const mudnnBatchNormDescriptor_t	BatchNorm 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
accMeanDesc	const mudnnTensorDescriptor_t	累积均值描述符。
accVarDesc	const mudnnTensorDescriptor_t	累积方差描述符。
freshMeanDesc	const mudnnTensorDescriptor_t	当前均值描述符。
freshVarDesc	const mudnnTensorDescriptor_t	当前方差描述符。
scaleDesc	const mudnnTensorDescriptor_t	Scale 描述符。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
sizeInByte	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormBackwardWorkspaceSize

mudnnStatus_t mudnnGetBatchNormBackwardWorkspaceSize(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dmDesc, const mudnnTensorDescriptor_t dvDesc, const mudnnTensorDescriptor_t dgDesc, const mudnnTensorDescriptor_t dbDesc, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t mDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t gDesc, size_t *sizeInByte)

声明位置：mudnn_ops.h

扩展接口：是。

查询 BatchNorm 反向所需 workspace 大小。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
bnDesc	const mudnnBatchNormDescriptor_t	BatchNorm 描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dmDesc	const mudnnTensorDescriptor_t	dm 描述符。
dvDesc	const mudnnTensorDescriptor_t	dv 描述符。
dgDesc	const mudnnTensorDescriptor_t	dg 描述符。
dbDesc	const mudnnTensorDescriptor_t	db 描述符。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
mDesc	const mudnnTensorDescriptor_t	均值描述符。
vDesc	const mudnnTensorDescriptor_t	方差描述符。
gDesc	const mudnnTensorDescriptor_t	scale 描述符。
sizeInByte	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormalizationForwardInference

mudnnStatus_t mudnnBatchNormalizationForwardInference(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, const void *estimatedMean, const void *estimatedVariance, double epsilon)

声明位置：mudnn_ops.h

状态：已废弃。

BatchNorm 推理（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
beta	const void *	缩放系数 beta（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	输出描述符。
y	void *	指向输出数据的设备指针。
bnScaleBiasMeanVarDesc	const mudnnTensorDescriptor_t	Scale/Bias/Mean/Var 描述符。
bnScale	const void *	指向 Scale 数据的设备指针。
bnBias	const void *	指向 Bias 数据的设备指针。
estimatedMean	const void *	指向均值的设备指针。
estimatedVariance	const void *	指向方差的设备指针。
epsilon	double	数值稳定项。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDeriveNormTensorDescriptor

mudnnStatus_t mudnnDeriveNormTensorDescriptor(mudnnTensorDescriptor_t derivedNormScaleBiasDesc, mudnnTensorDescriptor_t derivedNormMeanVarDesc, const mudnnTensorDescriptor_t xDesc, mudnnNormMode_t mode, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

从输入描述符派生 Normalization 相关描述符（Deprecated）。

参数

参数	类型	说明
derivedNormScaleBiasDesc	mudnnTensorDescriptor_t	返回 scale/bias 描述符。
derivedNormMeanVarDesc	mudnnTensorDescriptor_t	返回 mean/var 描述符。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
mode	mudnnNormMode_t	Normalization 模式（per-activation/per-channel）。
groupCnt	int	预留参数（当前应为 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNormalizationForwardInference

mudnnStatus_t mudnnNormalizationForwardInference(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t normScaleBiasDesc, const void *normScale, const void *normBias, const mudnnTensorDescriptor_t normMeanVarDesc, const void *estimatedMean, const void *estimatedVariance, const mudnnTensorDescriptor_t zDesc, const void *z, mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t yDesc, void *y, double epsilon, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

Normalization 推理（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	是否包含激活/残差。
algo	mudnnNormAlgo_t	计算算法。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
beta	const void *	缩放系数 beta（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
normScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 描述符。
normScale	const void *	指向 scale 数据的设备指针。
normBias	const void *	指向 bias 数据的设备指针。
normMeanVarDesc	const mudnnTensorDescriptor_t	均值/方差描述符。
estimatedMean	const void *	指向均值的设备指针。
estimatedVariance	const void *	指向方差的设备指针。
zDesc	const mudnnTensorDescriptor_t	残差描述符。
z	const void *	指向残差数据的设备指针。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
yDesc	const mudnnTensorDescriptor_t	输出描述符。
y	void *	指向输出数据的设备指针。
epsilon	double	数值稳定项。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSpatialTransformerDescriptor

mudnnStatus_t mudnnCreateSpatialTransformerDescriptor(mudnnSpatialTransformerDescriptor_t *stDesc)

声明位置：mudnn_ops.h

创建空间变换描述符。

参数

参数	类型	说明
stDesc	mudnnSpatialTransformerDescriptor_t *	返回空间变换描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetSpatialTransformerNdDescriptor

mudnnStatus_t mudnnSetSpatialTransformerNdDescriptor(mudnnSpatialTransformerDescriptor_t stDesc, mudnnSamplerType_t samplerType, mudnnDataType_t dataType, const int nbDims, const int dimA[])

声明位置：mudnn_ops.h

配置空间变换描述符。

参数

参数	类型	说明
stDesc	mudnnSpatialTransformerDescriptor_t	空间变换描述符。
samplerType	mudnnSamplerType_t	采样类型（如双线性）。
dataType	mudnnDataType_t	数据类型。
nbDims	const int	维度数。
dimA	const int	各维尺寸。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroySpatialTransformerDescriptor

mudnnStatus_t mudnnDestroySpatialTransformerDescriptor(mudnnSpatialTransformerDescriptor_t stDesc)

声明位置：mudnn_ops.h

销毁空间变换描述符。

参数

参数	类型	说明
stDesc	mudnnSpatialTransformerDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSpatialTfGridGeneratorForward

mudnnStatus_t mudnnSpatialTfGridGeneratorForward(mudnnHandle_t handle, const mudnnSpatialTransformerDescriptor_t stDesc, const void *theta, void *grid)

声明位置：mudnn_ops.h

生成仿射网格（前向）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
stDesc	const mudnnSpatialTransformerDescriptor_t	空间变换描述符。
theta	const void *	变换矩阵。
grid	void *	输出网格。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSpatialTfSamplerForward

mudnnStatus_t mudnnSpatialTfSamplerForward(mudnnHandle_t handle, mudnnSpatialTransformerDescriptor_t stDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *grid, const void *beta, mudnnTensorDescriptor_t yDesc, void *y)

声明位置：mudnn_ops.h

空间变换采样（前向）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
stDesc	mudnnSpatialTransformerDescriptor_t	空间变换描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	输入张量。
grid	const void *	采样网格。
beta	const void *	缩放系数 beta（主机端单元素指针）。
yDesc	mudnnTensorDescriptor_t	输出张量描述符。
y	void *	输出/累加张量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateDropoutDescriptor

mudnnStatus_t mudnnCreateDropoutDescriptor(mudnnDropoutDescriptor_t *dropoutDesc)

声明位置：mudnn_ops.h

创建 Dropout 描述符。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t *	返回描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyDropoutDescriptor

mudnnStatus_t mudnnDestroyDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc)

声明位置：mudnn_ops.h

销毁 Dropout 描述符。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutGetStatesSize

mudnnStatus_t mudnnDropoutGetStatesSize(mudnnHandle_t handle, size_t *sizeInBytes)

声明位置：mudnn_ops.h

查询 Dropout 状态缓冲区大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sizeInBytes	size_t *	返回状态缓冲区大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutGetReserveSpaceSize

mudnnStatus_t mudnnDropoutGetReserveSpaceSize(mudnnTensorDescriptor_t xdesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

查询 Dropout 预留空间大小。

参数

参数	类型	说明
xdesc	mudnnTensorDescriptor_t	输入张量描述符。
sizeInBytes	size_t *	返回预留空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetDropoutDescriptor

mudnnStatus_t mudnnSetDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float dropout, void *states, size_t stateSizeInBytes, uint64_t seed)

声明位置：mudnn_ops.h

配置 Dropout 描述符（含随机状态）。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t	Dropout 描述符。
handle	mudnnHandle_t	muDNN 句柄。
dropout	float	丢弃概率。
states	void *	随机状态缓冲区。
stateSizeInBytes	size_t	状态缓冲区大小（字节）。
seed	uint64_t	随机种子。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRestoreDropoutDescriptor

mudnnStatus_t mudnnRestoreDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float dropout, void *states, size_t stateSizeInBytes, uint64_t seed)

声明位置：mudnn_ops.h

恢复 Dropout 描述符到保存状态。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t	Dropout 描述符。
handle	mudnnHandle_t	muDNN 句柄。
dropout	float	丢弃概率。
states	void *	随机状态缓冲区。
stateSizeInBytes	size_t	状态缓冲区大小（字节）。
seed	uint64_t	随机种子。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetDropoutDescriptor

mudnnStatus_t mudnnGetDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float *dropout, void **states, uint64_t *seed)

声明位置：mudnn_ops.h

查询 Dropout 描述符配置。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t	Dropout 描述符。
handle	mudnnHandle_t	muDNN 句柄。
dropout	float *	返回丢弃概率。
states	void **	返回随机状态指针。
seed	uint64_t *	返回随机种子。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutForward

mudnnStatus_t mudnnDropoutForward(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t xdesc, const void *x, const mudnnTensorDescriptor_t ydesc, void *y, void *reserveSpace, size_t reserveSpaceSizeInBytes)

声明位置：mudnn_ops.h

Dropout 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dropoutDesc	const mudnnDropoutDescriptor_t	Dropout 描述符。
xdesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	输入张量。
ydesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	输出张量。
reserveSpace	void *	预留空间（设备端）。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutBackward

mudnnStatus_t mudnnDropoutBackward(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t dydesc, const void *dy, const mudnnTensorDescriptor_t dxdesc, void *dx, void *reserveSpace, size_t reserveSpaceSizeInBytes)

声明位置：mudnn_ops.h

Dropout 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dropoutDesc	const mudnnDropoutDescriptor_t	Dropout 描述符。
dydesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	输出梯度。
dxdesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	输入梯度。
reserveSpace	void *	前向生成的预留空间（设备端）。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnOpsVersionCheck

mudnnStatus_t mudnnOpsVersionCheck(void)

声明位置：mudnn_ops.h

交叉子库版本检查。

MUDNN_STATUS_SUCCESS 表示依赖版本匹配， MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示版本不一致。

返回值

MUDNN_STATUS_SUCCESS 表示依赖版本匹配， MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示版本不一致。

mudnnSoftmaxBackward

mudnnStatus_t mudnnSoftmaxBackward(mudnnHandle_t handle, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)

声明位置：mudnn_ops.h

Softmax 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
algo	mudnnSoftmaxAlgorithm_t	算法。
mode	mudnnSoftmaxMode_t	归约模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
y	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPoolingBackward

mudnnStatus_t mudnnPoolingBackward(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)

声明位置：mudnn_ops.h

状态：已废弃。

池化反向（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
poolingDesc	const mudnnPoolingDescriptor_t	池化描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
y	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnActivationBackward

mudnnStatus_t mudnnActivationBackward(mudnnHandle_t handle, mudnnActivationDescriptor_t activationDesc, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)

声明位置：mudnn_ops.h

状态：已废弃。

激活反向（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
y	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnLRNCrossChannelBackward

mudnnStatus_t mudnnLRNCrossChannelBackward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnLRNMode_t lrnMode, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)

声明位置：mudnn_ops.h

LRN 反向：跨通道normalization梯度。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
normDesc	mudnnLRNDescriptor_t	LRN 描述符。
lrnMode	mudnnLRNMode_t	LRN 模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
y	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	指向输入张量数据的设备指针。
beta	const void *	缩放系数 beta（主机端单元素指针）。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDivisiveNormalizationBackward

mudnnStatus_t mudnnDivisiveNormalizationBackward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnDivNormMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *means, const void *dy, void *temp, void *temp2, const void *beta, const mudnnTensorDescriptor_t dXdMeansDesc, void *dx, void *dMeans)

声明位置：mudnn_ops.h

LCN/除性normalization反向：输出 dx 与 dMeans。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
normDesc	mudnnLRNDescriptor_t	LRN 描述符。
mode	mudnnDivNormMode_t	除性归一化模式。
alpha	const void *	缩放系数 alpha（主机端单元素指针）。
xDesc	const mudnnTensorDescriptor_t	输入描述符（x/means/dy/temp/temp2 共用）。
x	const void *	输入张量。
means	const void *	均值张量，NULL 视为 0。
dy	const void *	输出梯度。
temp	void *	临时缓冲。
temp2	void *	临时缓冲。
beta	const void *	缩放系数 beta（主机端单元素指针）。
dXdMeansDesc	const mudnnTensorDescriptor_t	dx/dMeans 描述符。
dx	void *	输出 dx。
dMeans	void *	输出 dMeans，可为 NULL。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize

mudnnStatus_t mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t zDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const mudnnActivationDescriptor_t activationDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

查询 BatchNorm 扩展前向 workspace（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
bnOps	mudnnBatchNormOps_t	是否包含激活/残差。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
zDesc	const mudnnTensorDescriptor_t	残差张量描述符。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
bnScaleBiasMeanVarDesc	const mudnnTensorDescriptor_t	scale/bias/mean/var 描述符。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormalizationBackwardExWorkspaceSize

mudnnStatus_t mudnnGetBatchNormalizationBackwardExWorkspaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t dzDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

查询 BatchNorm 扩展反向所需 workspace（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
bnOps	mudnnBatchNormOps_t	是否包含激活/残差。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dzDesc	const mudnnTensorDescriptor_t	残差梯度描述符。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dBnScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 梯度描述符。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetBatchNormalizationTrainingExReserveSpaceSize

mudnnStatus_t mudnnGetBatchNormalizationTrainingExReserveSpaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t xDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

查询 BatchNorm 扩展训练的 reserve space 大小（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
bnOps	mudnnBatchNormOps_t	是否包含激活/残差。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
sizeInBytes	size_t *	返回 reserve space 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormalizationForwardTraining

mudnnStatus_t mudnnBatchNormalizationForwardTraining(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, double exponentialAverageFactor, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance)

声明位置：mudnn_ops.h

状态：已废弃。

BatchNorm 训练前向（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
alpha	const void *	结果混合系数。
beta	const void *	目标混合系数。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	输出描述符。
y	void *	指向输出数据的设备指针。
bnScaleBiasMeanVarDesc	const mudnnTensorDescriptor_t	共享描述符（scale/bias/mean/var）。
bnScale	const void *	指向 scale 数据的设备指针。
bnBias	const void *	指向 bias 数据的设备指针。
exponentialAverageFactor	double	动量/指数平均系数。
resultRunningMean	void *	指向运行均值的设备指针。
resultRunningVariance	void *	指向运行方差的设备指针。
epsilon	double	数值稳定项。
resultSaveMean	void *	指向保存均值的设备指针。
resultSaveInvVariance	void *	指向保存逆方差的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormalizationForwardTrainingEx

mudnnStatus_t mudnnBatchNormalizationForwardTrainingEx(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t zDesc, const void *zData, const mudnnTensorDescriptor_t yDesc, void *yData, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, double exponentialAverageFactor, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance, mudnnActivationDescriptor_t activationDesc, void *workspace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

BatchNorm + 激活 + Add 训练前向（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
bnOps	mudnnBatchNormOps_t	BatchNorm 组合操作。
alpha	const void *	结果混合系数。
beta	const void *	目标混合系数。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
xData	const void *	指向输入数据的设备指针。
zDesc	const mudnnTensorDescriptor_t	残差描述符。
zData	const void *	指向残差数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	输出描述符。
yData	void *	指向输出数据的设备指针。
bnScaleBiasMeanVarDesc	const mudnnTensorDescriptor_t	共享描述符。
bnScale	const void *	指向 scale 数据的设备指针。
bnBias	const void *	指向 bias 数据的设备指针。
exponentialAverageFactor	double	动量系数。
resultRunningMean	void *	指向运行均值的设备指针。
resultRunningVariance	void *	指向运行方差的设备指针。
epsilon	double	数值稳定项。
resultSaveMean	void *	指向保存均值的设备指针。
resultSaveInvVariance	void *	指向保存逆方差的设备指针。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
workspace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
reserveSpace	void *	指向预留空间的设备指针。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormalizationBackward

mudnnStatus_t mudnnBatchNormalizationBackward(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const void *bnScale, void *dBnScaleResult, void *dBnBiasResult, double epsilon, const void *savedMean, const void *savedInvVariance)

声明位置：mudnn_ops.h

状态：已废弃。

BatchNorm 反向（旧接口，返回 x/scale/bias 梯度，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
alphaDataDiff	const void *	数据梯度混合系数。
betaDataDiff	const void *	数据梯度偏移系数。
alphaParamDiff	const void *	参数梯度混合系数。
betaParamDiff	const void *	参数梯度偏移系数。
xDesc	const mudnnTensorDescriptor_t	输入/输出描述符（x/dx/dy）。
x	const void *	指向输入数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度的设备指针。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	指向输入梯度的设备指针。
dBnScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 梯度描述符。
bnScale	const void *	指向 scale 数据的设备指针。
dBnScaleResult	void *	指向 scale 梯度输出的设备指针。
dBnBiasResult	void *	指向 bias 梯度输出的设备指针。
epsilon	double	数值稳定项。
savedMean	const void *	指向前向保存均值的设备指针。
savedInvVariance	const void *	指向前向保存逆方差的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchNormalizationBackwardEx

mudnnStatus_t mudnnBatchNormalizationBackwardEx(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t yDesc, const void *yData, const mudnnTensorDescriptor_t dyDesc, const void *dyData, const mudnnTensorDescriptor_t dzDesc, void *dzData, const mudnnTensorDescriptor_t dxDesc, void *dxData, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const void *bnScaleData, const void *bnBiasData, void *dBnScaleData, void *dBnBiasData, double epsilon, const void *savedMean, const void *savedInvVariance, mudnnActivationDescriptor_t activationDesc, void *workSpace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes)

声明位置：mudnn_ops.h

状态：已废弃。

BatchNorm 反向扩展版（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnBatchNormMode_t	BatchNorm 模式。
bnOps	mudnnBatchNormOps_t	BatchNorm 组合操作。
alphaDataDiff	const void *	数据梯度混合系数。
betaDataDiff	const void *	数据梯度偏移系数。
alphaParamDiff	const void *	参数梯度混合系数。
betaParamDiff	const void *	参数梯度偏移系数。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
xData	const void *	指向输入数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
yData	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dyData	const void *	指向输出梯度数据的设备指针。
dzDesc	const mudnnTensorDescriptor_t	残差梯度描述符。
dzData	void *	指向残差梯度数据的设备指针。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dxData	void *	指向输入梯度数据的设备指针。
dBnScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 梯度描述符。
bnScaleData	const void *	指向 scale 数据的设备指针。
bnBiasData	const void *	指向 bias 数据的设备指针。
dBnScaleData	void *	指向 scale 梯度输出的设备指针。
dBnBiasData	void *	指向 bias 梯度输出的设备指针。
epsilon	double	数值稳定项。
savedMean	const void *	指向前向保存均值的设备指针。
savedInvVariance	const void *	指向前向保存逆方差的设备指针。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
reserveSpace	void *	指向预留空间的设备指针。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNormalizationForwardTrainingWorkspaceSize

mudnnStatus_t mudnnGetNormalizationForwardTrainingWorkspaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t zDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t normScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t normMeanVarDesc, size_t *sizeInBytes, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

查询 Normalization 训练前向 workspace（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	组合操作。
algo	mudnnNormAlgo_t	算法。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
zDesc	const mudnnTensorDescriptor_t	残差描述符。
yDesc	const mudnnTensorDescriptor_t	输出描述符。
normScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 描述符。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
normMeanVarDesc	const mudnnTensorDescriptor_t	均值/方差描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNormalizationBackwardWorkspaceSize

mudnnStatus_t mudnnGetNormalizationBackwardWorkspaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t dzDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dNormScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t normMeanVarDesc, size_t *sizeInBytes, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

查询 Normalization 反向 workspace（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	组合操作。
algo	mudnnNormAlgo_t	算法。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dzDesc	const mudnnTensorDescriptor_t	残差梯度描述符。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dNormScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 梯度描述符。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
normMeanVarDesc	const mudnnTensorDescriptor_t	均值/方差描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNormalizationTrainingReserveSpaceSize

mudnnStatus_t mudnnGetNormalizationTrainingReserveSpaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t xDesc, size_t *sizeInBytes, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

查询 Normalization 训练 reserve space（Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	组合操作。
algo	mudnnNormAlgo_t	算法。
activationDesc	const mudnnActivationDescriptor_t	激活描述符。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
sizeInBytes	size_t *	返回 reserve space 大小（字节）。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNormalizationForwardTraining

mudnnStatus_t mudnnNormalizationForwardTraining(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t normScaleBiasDesc, const void *normScale, const void *normBias, double exponentialAverageFactor, const mudnnTensorDescriptor_t normMeanVarDesc, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance, mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t zDesc, const void *zData, const mudnnTensorDescriptor_t yDesc, void *yData, void *workspace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

Normalization 训练前向（旧接口，含可选激活，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	组合操作。
algo	mudnnNormAlgo_t	算法。
alpha	const void *	结果混合系数（设备端）。
beta	const void *	目标混合系数（设备端）。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
xData	const void *	指向输入张量数据的设备指针。
normScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 描述符。
normScale	const void *	指向 scale 数据的设备指针。
normBias	const void *	指向 bias 数据的设备指针。
exponentialAverageFactor	double	指数平均系数。
normMeanVarDesc	const mudnnTensorDescriptor_t	均值/方差描述符。
resultRunningMean	void *	指向运行均值的设备指针。
resultRunningVariance	void *	指向运行方差的设备指针。
epsilon	double	数值稳定项。
resultSaveMean	void *	指向保存均值的设备指针。
resultSaveInvVariance	void *	指向保存逆方差的设备指针。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
zDesc	const mudnnTensorDescriptor_t	残差张量描述符。
zData	const void *	指向残差数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	输出张量描述符。
yData	void *	指向输出张量数据的设备指针。
workspace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
reserveSpace	void *	指向预留空间的设备指针。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNormalizationBackward

mudnnStatus_t mudnnNormalizationBackward(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t yDesc, const void *yData, const mudnnTensorDescriptor_t dyDesc, const void *dyData, const mudnnTensorDescriptor_t dzDesc, void *dzData, const mudnnTensorDescriptor_t dxDesc, void *dxData, const mudnnTensorDescriptor_t dNormScaleBiasDesc, const void *normScaleData, const void *normBiasData, void *dNormScaleData, void *dNormBiasData, double epsilon, const mudnnTensorDescriptor_t normMeanVarDesc, const void *savedMean, const void *savedInvVariance, mudnnActivationDescriptor_t activationDesc, void *workSpace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes, int groupCnt)

声明位置：mudnn_ops.h

状态：已废弃。

Normalization 反向（旧接口，Deprecated）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
mode	mudnnNormMode_t	Normalization 模式。
normOps	mudnnNormOps_t	组合操作。
algo	mudnnNormAlgo_t	算法。
alphaDataDiff	const void *	数据梯度混合系数。
betaDataDiff	const void *	数据梯度偏移系数。
alphaParamDiff	const void *	参数梯度混合系数。
betaParamDiff	const void *	参数梯度偏移系数。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
xData	const void *	指向输入数据的设备指针。
yDesc	const mudnnTensorDescriptor_t	正向输出描述符。
yData	const void *	指向正向输出数据的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dyData	const void *	指向输出梯度数据的设备指针。
dzDesc	const mudnnTensorDescriptor_t	残差梯度描述符。
dzData	void *	指向残差梯度数据的设备指针。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dxData	void *	指向输入梯度数据的设备指针。
dNormScaleBiasDesc	const mudnnTensorDescriptor_t	scale/bias 梯度描述符。
normScaleData	const void *	指向 scale 数据的设备指针。
normBiasData	const void *	指向 bias 数据的设备指针。
dNormScaleData	void *	指向 scale 梯度输出的设备指针。
dNormBiasData	void *	指向 bias 梯度输出的设备指针。
epsilon	double	数值稳定项。
normMeanVarDesc	const mudnnTensorDescriptor_t	均值/方差描述符。
savedMean	const void *	前向保存均值。
savedInvVariance	const void *	前向保存逆方差。
activationDesc	mudnnActivationDescriptor_t	激活描述符。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
reserveSpace	void *	指向预留空间的设备指针。
reserveSpaceSizeInBytes	size_t	预留空间大小（字节）。
groupCnt	int	组数（占位，默认 1）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSpatialTfGridGeneratorBackward

mudnnStatus_t mudnnSpatialTfGridGeneratorBackward(mudnnHandle_t handle, const mudnnSpatialTransformerDescriptor_t stDesc, const void *dgrid, void *dtheta)

声明位置：mudnn_ops.h

仿射网格生成反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
stDesc	const mudnnSpatialTransformerDescriptor_t	空间变换描述符。
dgrid	const void *	网格梯度。
dtheta	void *	变换矩阵梯度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSpatialTfSamplerBackward

mudnnStatus_t mudnnSpatialTfSamplerBackward(mudnnHandle_t handle, mudnnSpatialTransformerDescriptor_t stDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx, const void *alphaDgrid, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *grid, const void *betaDgrid, void *dgrid)

声明位置：mudnn_ops.h

空间变换采样反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
stDesc	mudnnSpatialTransformerDescriptor_t	空间变换描述符。
alpha	const void *	缩放系数 alpha（设备端）用于 dx。
xDesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	输入张量。
beta	const void *	缩放系数 beta（设备端）用于 dx。
dxDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
dx	void *	输入梯度。
alphaDgrid	const void *	缩放系数 alpha（设备端）用于 dgrid。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	输出梯度。
grid	const void *	采样网格。
betaDgrid	const void *	缩放系数 beta（设备端）用于 dgrid。
dgrid	void *	网格梯度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTensorNdDescriptorWithScale

mudnnStatus_t mudnnSetTensorNdDescriptorWithScale(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int nbDims, const int64_t dimA[], const int64_t strideA[], float scale)

声明位置：mudnn_ops.h

扩展接口：是。

配置带 scale 的 ND 张量描述符（扩展）

参数

参数	类型	说明
tensorDesc	mudnnTensorDescriptor_t	-
format	mudnnTensorFormat_t	-
dataType	mudnnDataType_t	-
nbDims	int	-
dimA	const int64_t	-
strideA	const int64_t	-
scale	float	-

mudnnGetTensorNdDescriptorWithScale

mudnnStatus_t mudnnGetTensorNdDescriptorWithScale(const mudnnTensorDescriptor_t tensorDesc, int nbDimsRequested, mudnnDataType_t *dataType, int *nbDims, int64_t dimA[], int64_t strideA[], float *scale)

声明位置：mudnn_ops.h

扩展接口：是。

获取带 scale 的 ND 张量描述符（扩展）

参数

参数	类型	说明
tensorDesc	const mudnnTensorDescriptor_t	-
nbDimsRequested	int	-
dataType	mudnnDataType_t *	-
nbDims	int *	-
dimA	int64_t	-
strideA	int64_t	-
scale	float *	-

mudnnCreateUnaryDescriptor

mudnnStatus_t mudnnCreateUnaryDescriptor(mudnnUnaryDescriptor_t *unaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建一元算子描述符。

参数

参数	类型	说明
unaryDesc	mudnnUnaryDescriptor_t *	返回一元算子描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetUnaryDescriptor

mudnnStatus_t mudnnSetUnaryDescriptor(mudnnUnaryDescriptor_t unaryDesc, mudnnUnaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta)

声明位置：mudnn_ops.h

扩展接口：是。

配置一元算子描述符。

参数

参数	类型	说明
unaryDesc	mudnnUnaryDescriptor_t	一元算子描述符。
mode	mudnnUnaryMode_t	一元算子模式。
alphaType	mudnnParamDataType_t	alpha 参数类型。
alpha	void *	alpha 参数指针。
betaType	mudnnParamDataType_t	beta 参数类型。
beta	void *	beta 参数指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnUnary

mudnnStatus_t mudnnUnary(mudnnHandle_t handle, const mudnnUnaryDescriptor_t unaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t inputDesc, const void *inputData)

声明位置：mudnn_ops.h

扩展接口：是。

执行一元算子。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
unaryDesc	const mudnnUnaryDescriptor_t	一元算子描述符。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
outputData	void *	指向输出数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
inputData	const void *	指向输入数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyUnaryDescriptor

mudnnStatus_t mudnnDestroyUnaryDescriptor(mudnnUnaryDescriptor_t unaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁一元算子描述符。

参数

参数	类型	说明
unaryDesc	mudnnUnaryDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateBinaryDescriptor

mudnnStatus_t mudnnCreateBinaryDescriptor(mudnnBinaryDescriptor_t *binaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建二元算子描述符。

参数

参数	类型	说明
binaryDesc	mudnnBinaryDescriptor_t *	返回二元算子描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetBinaryDescriptor

mudnnStatus_t mudnnSetBinaryDescriptor(mudnnBinaryDescriptor_t binaryDesc, mudnnBinaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta)

声明位置：mudnn_ops.h

扩展接口：是。

配置二元算子描述符。

参数

参数	类型	说明
binaryDesc	mudnnBinaryDescriptor_t	二元算子描述符。
mode	mudnnBinaryMode_t	二元算子模式。
alphaType	mudnnParamDataType_t	alpha 参数类型。
alpha	void *	alpha 参数指针。
betaType	mudnnParamDataType_t	beta 参数类型。
beta	void *	beta 参数指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBinary

mudnnStatus_t mudnnBinary(mudnnHandle_t handle, const mudnnBinaryDescriptor_t binaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t leftDesc, const void *leftData, const mudnnTensorDescriptor_t rightDesc, const void *rightData)

声明位置：mudnn_ops.h

扩展接口：是。

执行二元算子。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
binaryDesc	const mudnnBinaryDescriptor_t	二元算子描述符。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
outputData	void *	指向输出数据的设备指针。
leftDesc	const mudnnTensorDescriptor_t	左输入描述符。
leftData	const void *	指向左输入数据的设备指针。
rightDesc	const mudnnTensorDescriptor_t	右输入描述符。
rightData	const void *	指向右输入数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyBinaryDescriptor

mudnnStatus_t mudnnDestroyBinaryDescriptor(mudnnBinaryDescriptor_t binaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁二元算子描述符。

参数

参数	类型	说明
binaryDesc	mudnnBinaryDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateTernaryDescriptor

mudnnStatus_t mudnnCreateTernaryDescriptor(mudnnTernaryDescriptor_t *ternaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建三元算子描述符。

参数

参数	类型	说明
ternaryDesc	mudnnTernaryDescriptor_t *	返回三元算子描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTernaryDescriptor

mudnnStatus_t mudnnSetTernaryDescriptor(mudnnTernaryDescriptor_t ternaryDesc, mudnnTernaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta, mudnnParamDataType_t gammaType, void *gamma)

声明位置：mudnn_ops.h

扩展接口：是。

配置三元算子描述符。

参数

参数	类型	说明
ternaryDesc	mudnnTernaryDescriptor_t	三元算子描述符。
mode	mudnnTernaryMode_t	三元算子模式。
alphaType	mudnnParamDataType_t	alpha 参数类型。
alpha	void *	alpha 参数指针。
betaType	mudnnParamDataType_t	beta 参数类型。
beta	void *	beta 参数指针。
gammaType	mudnnParamDataType_t	gamma 参数类型。
gamma	void *	gamma 参数指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnTernary

mudnnStatus_t mudnnTernary(mudnnHandle_t handle, const mudnnTernaryDescriptor_t ternaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t inputDesc0, const void *inputData0, const mudnnTensorDescriptor_t inputDesc1, const void *inputData1, const mudnnTensorDescriptor_t inputDesc2, const void *inputData2)

声明位置：mudnn_ops.h

扩展接口：是。

执行三元算子。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ternaryDesc	const mudnnTernaryDescriptor_t	三元算子描述符。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
outputData	void *	指向输出数据的设备指针。
inputDesc0	const mudnnTensorDescriptor_t	第 0 输入描述符。
inputData0	const void *	指向第 0 输入数据的设备指针。
inputDesc1	const mudnnTensorDescriptor_t	第 1 输入描述符。
inputData1	const void *	指向第 1 输入数据的设备指针。
inputDesc2	const mudnnTensorDescriptor_t	第 2 输入描述符。
inputData2	const void *	指向第 2 输入数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyTernaryDescriptor

mudnnStatus_t mudnnDestroyTernaryDescriptor(mudnnTernaryDescriptor_t ternaryDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁三元算子描述符。

参数

参数	类型	说明
ternaryDesc	mudnnTernaryDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateFillDescriptor

mudnnStatus_t mudnnCreateFillDescriptor(mudnnFillDescriptor_t *fillDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建填充描述符。

参数

参数	类型	说明
fillDesc	mudnnFillDescriptor_t *	返回填充描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetFillDescriptor

mudnnStatus_t mudnnSetFillDescriptor(mudnnFillDescriptor_t fillDesc, mudnnParamDataType_t type, void *value)

声明位置：mudnn_ops.h

扩展接口：是。

配置padding 值及类型。

参数

参数	类型	说明
fillDesc	mudnnFillDescriptor_t	填充描述符。
type	mudnnParamDataType_t	padding 值类型。
value	void *	padding 值指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnFill

mudnnStatus_t mudnnFill(mudnnHandle_t handle, const mudnnFillDescriptor_t fillDesc, const mudnnTensorDescriptor_t maskDesc, const void *maskAddress, mudnnTensorDescriptor_t outputDesc, void *outputAddress)

声明位置：mudnn_ops.h

扩展接口：是。

执行填充（支持掩码）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
fillDesc	const mudnnFillDescriptor_t	填充描述符。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
maskAddress	const void *	指向掩码数据的设备指针。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
outputAddress	void *	指向输出张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyFillDescriptor

mudnnStatus_t mudnnDestroyFillDescriptor(mudnnFillDescriptor_t fillDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁填充描述符。

参数

参数	类型	说明
fillDesc	mudnnFillDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateReduceDescriptor

mudnnStatus_t mudnnCreateReduceDescriptor(mudnnReduceDescriptor_t *reduceDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建归约描述符（扩展）。

参数

参数	类型	说明
reduceDesc	mudnnReduceDescriptor_t *	返回归约描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetReduceDescriptor

mudnnStatus_t mudnnSetReduceDescriptor(mudnnReduceDescriptor_t reduceDesc, mudnnReduceMode_t mode, int ndim, const int *dim, float ord, int correction)

声明位置：mudnn_ops.h

扩展接口：是。

配置归约描述符（扩展）。

参数

参数	类型	说明
reduceDesc	mudnnReduceDescriptor_t	归约描述符。
mode	mudnnReduceMode_t	归约模式。
ndim	int	轴数。
dim	const int *	归约轴数组。
ord	float	范数阶（用于部分归约）。
correction	int	修正项（如无偏估计）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReduceWorkspaceSize

mudnnStatus_t mudnnGetReduceWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t *sizeInBytes, mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc)

声明位置：mudnn_ops.h

扩展接口：是。

查询归约 workspace 大小（扩展）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnReduce

mudnnStatus_t mudnnReduce(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData)

声明位置：mudnn_ops.h

扩展接口：是。

执行归约（扩展）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
inputData	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
outputData	void *	指向输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReduceMeanAndVarWorkspaceSize

mudnnStatus_t mudnnGetReduceMeanAndVarWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputVarDesc, mudnnTensorDescriptor_t outputMeanDesc, const mudnnTensorDescriptor_t inputDesc)

声明位置：mudnn_ops.h

扩展接口：是。

查询均值/方差归约 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
sizeInBytes	size_t &	返回 workspace 大小（字节）。
outputVarDesc	mudnnTensorDescriptor_t	方差输出描述符。
outputMeanDesc	mudnnTensorDescriptor_t	均值输出描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnReduceMeanAndVar

mudnnStatus_t mudnnReduceMeanAndVar(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputVarDesc, void *outputVarData, mudnnTensorDescriptor_t outputMeanDesc, void *outputMeanData)

声明位置：mudnn_ops.h

扩展接口：是。

计算均值与方差（扩展）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
inputData	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputVarDesc	mudnnTensorDescriptor_t	方差输出描述符。
outputVarData	void *	指向方差输出数据的设备指针。
outputMeanDesc	mudnnTensorDescriptor_t	均值输出描述符。
outputMeanData	void *	指向均值输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReduceIndicesWorkspaceSize

mudnnStatus_t mudnnGetReduceIndicesWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc)

声明位置：mudnn_ops.h

扩展接口：是。

查询仅索引归约 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
sizeInBytes	size_t &	返回 workspace 大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出张量描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnReduceOnlyIndices

mudnnStatus_t mudnnReduceOnlyIndices(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData)

声明位置：mudnn_ops.h

扩展接口：是。

执行仅索引归约。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
inputData	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出描述符。
outputData	void *	指向输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetReduceWithIndicesWorkspaceSize

mudnnStatus_t mudnnGetReduceWithIndicesWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputDesc, mudnnTensorDescriptor_t outputIndicesDesc, const mudnnTensorDescriptor_t inputDesc)

声明位置：mudnn_ops.h

扩展接口：是。

查询带索引归约 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
sizeInBytes	size_t &	返回 workspace 大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出描述符。
outputIndicesDesc	mudnnTensorDescriptor_t	索引输出描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnReduceWithIndices

mudnnStatus_t mudnnReduceWithIndices(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData, mudnnTensorDescriptor_t outputIndicesDesc, void *outputIndices)

声明位置：mudnn_ops.h

扩展接口：是。

执行带索引归约。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
reduceDesc	const mudnnReduceDescriptor_t	归约描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
inputData	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputDesc	mudnnTensorDescriptor_t	输出描述符。
outputData	void *	指向输出数据的设备指针。
outputIndicesDesc	mudnnTensorDescriptor_t	索引输出描述符。
outputIndices	void *	指向索引输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyReduceDescriptor

mudnnStatus_t mudnnDestroyReduceDescriptor(mudnnReduceDescriptor_t reduceDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁归约描述符（扩展）。

参数

参数	类型	说明
reduceDesc	mudnnReduceDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreatePermuteDescriptor

mudnnStatus_t mudnnCreatePermuteDescriptor(mudnnPermuteDescriptor_t *permuteDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建排列描述符。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t *	返回排列描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyPermuteDescriptor

mudnnStatus_t mudnnDestroyPermuteDescriptor(mudnnPermuteDescriptor_t permuteDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁排列描述符。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPermuteSrcOffset

mudnnStatus_t mudnnSetPermuteSrcOffset(mudnnPermuteDescriptor_t permuteDesc, int64_t src_offset)

声明位置：mudnn_ops.h

扩展接口：是。

设置排列源偏移。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	排列描述符。
src_offset	int64_t	源偏移（元素为单位）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPermuteDstOffset

mudnnStatus_t mudnnSetPermuteDstOffset(mudnnPermuteDescriptor_t permuteDesc, int64_t dst_offset)

声明位置：mudnn_ops.h

扩展接口：是。

设置排列目标偏移。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	排列描述符。
dst_offset	int64_t	目标偏移（元素为单位）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPermuteConfigDimStride

mudnnStatus_t mudnnPermuteConfigDimStride(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, int len, const int64_t *permute_dims)

声明位置：mudnn_ops.h

扩展接口：是。

配置排列维度/步长。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	排列描述符。
outDesc	mudnnTensorDescriptor_t	输出张量描述符。
inDesc	const mudnnTensorDescriptor_t	输入张量描述符。
len	int	维度个数。
permute_dims	const int64_t *	维度重排数组。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPermuteConfigDimStrideForSlice

mudnnStatus_t mudnnPermuteConfigDimStrideForSlice(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, const int64_t *start)

声明位置：mudnn_ops.h

扩展接口：是。

配置切片排列。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	排列描述符。
outDesc	mudnnTensorDescriptor_t	输出张量描述符。
inDesc	const mudnnTensorDescriptor_t	输入张量描述符。
start	const int64_t *	切片起始位置。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPermuteConfigDimStrideForSliceEx

mudnnStatus_t mudnnPermuteConfigDimStrideForSliceEx(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, const int64_t *start, const int64_t *stride)

声明位置：mudnn_ops.h

扩展接口：是。

配置切片排列（含 stride）。

参数

参数	类型	说明
permuteDesc	mudnnPermuteDescriptor_t	排列描述符。
outDesc	mudnnTensorDescriptor_t	输出张量描述符。
inDesc	const mudnnTensorDescriptor_t	输入张量描述符。
start	const int64_t *	切片起始位置。
stride	const int64_t *	切片步长。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPermute

mudnnStatus_t mudnnPermute(mudnnHandle_t handle, const mudnnPermuteDescriptor_t permuteDesc, const mudnnTensorDescriptor_t outDesc, void *out, const mudnnTensorDescriptor_t inDesc, const void *in)

声明位置：mudnn_ops.h

扩展接口：是。

执行排列。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
permuteDesc	const mudnnPermuteDescriptor_t	排列描述符。
outDesc	const mudnnTensorDescriptor_t	输出张量描述符。
out	void *	指向输出数据的设备指针。
inDesc	const mudnnTensorDescriptor_t	输入张量描述符。
in	const void *	指向输入数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateConcatDescriptor

mudnnStatus_t mudnnCreateConcatDescriptor(mudnnConcatDescriptor_t *concatDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建拼接描述符。

参数

参数	类型	说明
concatDesc	mudnnConcatDescriptor_t *	返回拼接描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetConcatDescriptor

mudnnStatus_t mudnnSetConcatDescriptor(mudnnConcatDescriptor_t concatDesc, int axis)

声明位置：mudnn_ops.h

扩展接口：是。

设置拼接轴。

参数

参数	类型	说明
concatDesc	mudnnConcatDescriptor_t	拼接描述符。
axis	int	拼接轴。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetConcatDescriptor

mudnnStatus_t mudnnGetConcatDescriptor(const mudnnConcatDescriptor_t concatDesc, int *axis)

声明位置：mudnn_ops.h

扩展接口：是。

查询拼接轴。

参数

参数	类型	说明
concatDesc	const mudnnConcatDescriptor_t	拼接描述符。
axis	int *	返回拼接轴。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnConcat

mudnnStatus_t mudnnConcat(mudnnHandle_t handle, const mudnnConcatDescriptor_t concatDesc, const mudnnTensorDescriptor_t *inputDescs, const void **inputs, int numInputs, const mudnnTensorDescriptor_t outputDesc, void *output)

声明位置：mudnn_ops.h

扩展接口：是。

执行张量拼接。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
concatDesc	const mudnnConcatDescriptor_t	拼接描述符。
inputDescs	const mudnnTensorDescriptor_t *	输入张量描述符数组。
inputs	const void **	指向输入张量数据的设备指针数组。
numInputs	int	输入数量。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyConcatDescriptor

mudnnStatus_t mudnnDestroyConcatDescriptor(mudnnConcatDescriptor_t concatDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁拼接描述符。

参数

参数	类型	说明
concatDesc	mudnnConcatDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateNonzeroDescriptor

mudnnStatus_t mudnnCreateNonzeroDescriptor(mudnnNonzeroDescriptor_t *nonZeroDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 Nonzero 描述符。

参数

参数	类型	说明
nonZeroDesc	mudnnNonzeroDescriptor_t *	返回 Nonzero 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyDescriptor

mudnnStatus_t mudnnDestroyDescriptor(mudnnNonzeroDescriptor_t nonZeroDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 Nonzero 描述符。

参数

参数	类型	说明
nonZeroDesc	mudnnNonzeroDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNonzeroWorkspaceSize

mudnnStatus_t mudnnGetNonzeroWorkspaceSize(mudnnHandle_t handle, const mudnnNonzeroDescriptor_t nonZeroDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Nonzero 工作区大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nonZeroDesc	const mudnnNonzeroDescriptor_t	Nonzero 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNonzero

mudnnStatus_t mudnnNonzero(mudnnHandle_t handle, mudnnNonzeroDescriptor_t nonZeroDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)

声明位置：mudnn_ops.h

扩展接口：是。

执行 Nonzero。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nonZeroDesc	mudnnNonzeroDescriptor_t	Nonzero 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
output	void *	指向输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateLayerNormDescriptor

mudnnStatus_t mudnnCreateLayerNormDescriptor(mudnnLayerNormDescriptor_t *layerNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 LayerNorm 描述符。

参数

参数	类型	说明
layerNormDesc	mudnnLayerNormDescriptor_t *	返回 LayerNorm 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetLayerNormDescriptor

mudnnStatus_t mudnnSetLayerNormDescriptor(mudnnLayerNormDescriptor_t layerNormDesc, double epsilon, mudnnLayerNormMode_t mode, int *axes, int numAxes)

声明位置：mudnn_ops.h

扩展接口：是。

配置 LayerNorm 描述符（epsilon/模式/轴）。

参数

参数	类型	说明
layerNormDesc	mudnnLayerNormDescriptor_t	描述符。
epsilon	double	数值稳定项。
mode	mudnnLayerNormMode_t	LayerNorm 模式。
axes	int *	归一化轴数组。
numAxes	int	轴数量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetLayerNormDescriptor

mudnnStatus_t mudnnGetLayerNormDescriptor(const mudnnLayerNormDescriptor_t layerNormDesc, double *epsilon, mudnnLayerNormMode_t *mode, int **axes, int *numAxes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 LayerNorm 描述符。

参数

参数	类型	说明
layerNormDesc	const mudnnLayerNormDescriptor_t	描述符。
epsilon	double *	返回 epsilon。
mode	mudnnLayerNormMode_t *	返回模式。
axes	int **	返回轴数组指针。
numAxes	int *	返回轴数量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetLayerNormForwardWorkspaceSize

mudnnStatus_t mudnnGetLayerNormForwardWorkspaceSize(const mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t meanDesc, const mudnnTensorDescriptor_t varianceDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t gammaDesc, const mudnnTensorDescriptor_t betaDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 LayerNorm 前向 workspace 大小。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
layerNormDesc	const mudnnLayerNormDescriptor_t	LayerNorm 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
meanDesc	const mudnnTensorDescriptor_t	均值描述符。
varianceDesc	const mudnnTensorDescriptor_t	方差描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
betaDesc	const mudnnTensorDescriptor_t	beta 描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnLayerNormForward

mudnnStatus_t mudnnLayerNormForward(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t meanDesc, const void *mean, const mudnnTensorDescriptor_t varianceDesc, const void *variance, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, const mudnnTensorDescriptor_t betaDesc, const void *beta, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

LayerNorm 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
layerNormDesc	const mudnnLayerNormDescriptor_t	描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
output	void *	指向输出数据的设备指针。
meanDesc	const mudnnTensorDescriptor_t	均值描述符。
mean	const void *	指向均值数据的设备指针。
varianceDesc	const mudnnTensorDescriptor_t	方差描述符。
variance	const void *	指向方差数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入数据的设备指针。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
gamma	const void *	指向 gamma 数据的设备指针。
betaDesc	const mudnnTensorDescriptor_t	beta 描述符。
beta	const void *	指向 beta 数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetLayerNormBackwardWorkspaceSize

mudnnStatus_t mudnnGetLayerNormBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t dxDesc, const void *dx, const mudnnTensorDescriptor_t dgammaDesc, const void *dgamma, const mudnnTensorDescriptor_t dbetaDesc, const void *dbeta, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t meanDesc, const mudnnTensorDescriptor_t varianceDesc, const mudnnTensorDescriptor_t gammaDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 LayerNorm 反向 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
layerNormDesc	const mudnnLayerNormDescriptor_t	描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dx	const void *	指向 dx 数据的设备指针（可选）。
dgammaDesc	const mudnnTensorDescriptor_t	dgamma 描述符。
dgamma	const void *	指向 dgamma 数据的设备指针（可选）。
dbetaDesc	const mudnnTensorDescriptor_t	dbeta 描述符。
dbeta	const void *	指向 dbeta 数据的设备指针（可选）。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
meanDesc	const mudnnTensorDescriptor_t	均值描述符。
varianceDesc	const mudnnTensorDescriptor_t	方差描述符。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnLayerNormBackward

mudnnStatus_t mudnnLayerNormBackward(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dgammaDesc, void *dgamma, const mudnnTensorDescriptor_t dbetaDesc, void *dbeta, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t meanDesc, const void *mean, const mudnnTensorDescriptor_t varianceDesc, const void *variance, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

LayerNorm 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
layerNormDesc	const mudnnLayerNormDescriptor_t	描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dx	void *	dx 输出。
dgammaDesc	const mudnnTensorDescriptor_t	dgamma 描述符。
dgamma	void *	dgamma 输出。
dbetaDesc	const mudnnTensorDescriptor_t	dbeta 描述符。
dbeta	void *	dbeta 输出。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度数据的设备指针。
xDesc	const mudnnTensorDescriptor_t	输入描述符。
x	const void *	指向输入数据的设备指针。
meanDesc	const mudnnTensorDescriptor_t	均值描述符。
mean	const void *	指向均值数据的设备指针。
varianceDesc	const mudnnTensorDescriptor_t	方差描述符。
variance	const void *	指向方差数据的设备指针。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
gamma	const void *	指向 gamma 数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyLayerNormDescriptor

mudnnStatus_t mudnnDestroyLayerNormDescriptor(mudnnLayerNormDescriptor_t layerNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 LayerNorm 描述符。

参数

参数	类型	说明
layerNormDesc	mudnnLayerNormDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetDropoutDescriptorEx

mudnnStatus_t mudnnSetDropoutDescriptorEx(mudnnDropoutDescriptor_t dropoutDesc, double dropout, double scale, mudnnParamDataType_t seedType, void *seed, mudnnParamDataType_t offsetType, void *offset, uint64_t sub_offset)

声明位置：mudnn_ops.h

扩展接口：是。

配置 Dropout 描述符（扩展，含 scale/seed/offset）。

参数

参数	类型	说明
dropoutDesc	mudnnDropoutDescriptor_t	Dropout 描述符。
dropout	double	Dropout 比例。
scale	double	缩放系数。
seedType	mudnnParamDataType_t	种子类型。
seed	void *	种子指针。
offsetType	mudnnParamDataType_t	偏移类型。
offset	void *	偏移指针。
sub_offset	uint64_t	额外子偏移。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutForwardEx

mudnnStatus_t mudnnDropoutForwardEx(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t xdesc, const void *x, const mudnnTensorDescriptor_t ydesc, void *y, const mudnnTensorDescriptor_t maskDesc, void *mask)

声明位置：mudnn_ops.h

扩展接口：是。

Dropout 扩展前向（生成 mask）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dropoutDesc	const mudnnDropoutDescriptor_t	Dropout 描述符。
xdesc	const mudnnTensorDescriptor_t	输入张量描述符。
x	const void *	输入张量。
ydesc	const mudnnTensorDescriptor_t	输出张量描述符。
y	void *	输出张量。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	void *	掩码输出。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDropoutBackwardEx

mudnnStatus_t mudnnDropoutBackwardEx(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t maskDesc, const void *mask)

声明位置：mudnn_ops.h

扩展接口：是。

Dropout 扩展反向（使用 mask）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dropoutDesc	const mudnnDropoutDescriptor_t	Dropout 描述符。
yDesc	const mudnnTensorDescriptor_t	反向输出描述符。
y	void *	指向反向输出数据（dx）的设备指针。
gradDesc	const mudnnTensorDescriptor_t	梯度描述符。
grad	const void *	指向梯度输入数据（dy）的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateInterpolateDescriptor

mudnnStatus_t mudnnCreateInterpolateDescriptor(mudnnInterpolateDescriptor_t *interpolateDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建插值描述符。

参数

参数	类型	说明
interpolateDesc	mudnnInterpolateDescriptor_t *	返回插值描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetInterpolateDescriptor

mudnnStatus_t mudnnSetInterpolateDescriptor(mudnnInterpolateDescriptor_t interpolateDesc, mudnnInterpolateMode_t mode, int nscales, float *scales, bool alignCorners, bool antialias)

声明位置：mudnn_ops.h

扩展接口：是。

配置插值描述符（模式、scales、alignCorners、抗锯齿）。

参数

参数	类型	说明
interpolateDesc	mudnnInterpolateDescriptor_t	插值描述符。
mode	mudnnInterpolateMode_t	插值模式。
nscales	int	scale 数量。
scales	float *	scale 数组。
alignCorners	bool	是否对齐角点。
antialias	bool	是否抗锯齿。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetInterpolateDescriptor

mudnnStatus_t mudnnGetInterpolateDescriptor(const mudnnInterpolateDescriptor_t interpolateDesc, mudnnInterpolateMode_t *mode, int *nscales, float **scales, bool *alignCorners, bool *antialias)

声明位置：mudnn_ops.h

扩展接口：是。

查询插值描述符。

参数

参数	类型	说明
interpolateDesc	const mudnnInterpolateDescriptor_t	插值描述符。
mode	mudnnInterpolateMode_t *	返回插值模式。
nscales	int *	返回 scale 数量。
scales	float **	返回 scale 数组指针。
alignCorners	bool *	返回是否对齐角点。
antialias	bool *	返回是否抗锯齿。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnInterpolateForward

mudnnStatus_t mudnnInterpolateForward(mudnnHandle_t handle, const mudnnInterpolateDescriptor_t interpolateDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

插值前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
interpolateDesc	const mudnnInterpolateDescriptor_t	插值描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	输出张量。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	输入张量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnInterpolateBackward

mudnnStatus_t mudnnInterpolateBackward(mudnnHandle_t handle, const mudnnInterpolateDescriptor_t interpolateDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

插值反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
interpolateDesc	const mudnnInterpolateDescriptor_t	插值描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	输出张量（梯度累加）。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	输入张量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyInterpolateDescriptor

mudnnStatus_t mudnnDestroyInterpolateDescriptor(mudnnInterpolateDescriptor_t interpolateDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁插值描述符。

参数

参数	类型	说明
interpolateDesc	mudnnInterpolateDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSortDescriptor

mudnnStatus_t mudnnCreateSortDescriptor(mudnnSortDescriptor_t *sortDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建排序描述符。

参数

参数	类型	说明
sortDesc	mudnnSortDescriptor_t *	返回排序描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetSortDescriptor

mudnnStatus_t mudnnSetSortDescriptor(mudnnSortDescriptor_t sortDesc, int dim, bool stable, bool descending)

声明位置：mudnn_ops.h

扩展接口：是。

配置排序描述符（维度/稳定性/升降序）。

参数

参数	类型	说明
sortDesc	mudnnSortDescriptor_t	排序描述符。
dim	int	排序维度。
stable	bool	是否稳定排序。
descending	bool	是否降序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSortDescriptor

mudnnStatus_t mudnnGetSortDescriptor(const mudnnSortDescriptor_t sortDesc, int *dim, bool *stable, bool *descending)

声明位置：mudnn_ops.h

扩展接口：是。

查询排序描述符。

参数

参数	类型	说明
sortDesc	const mudnnSortDescriptor_t	排序描述符。
dim	int *	返回排序维度。
stable	bool *	返回是否稳定排序。
descending	bool *	返回是否降序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSortWorkspaceSize

mudnnStatus_t mudnnGetSortWorkspaceSize(mudnnHandle_t handle, const mudnnSortDescriptor_t sortDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t indicesDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询排序 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sortDesc	const mudnnSortDescriptor_t	排序描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
indicesDesc	const mudnnTensorDescriptor_t	索引描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSort

mudnnStatus_t mudnnSort(mudnnHandle_t handle, const mudnnSortDescriptor_t sortDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t indicesDesc, void *indices)

声明位置：mudnn_ops.h

扩展接口：是。

执行排序（输出值与索引）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sortDesc	const mudnnSortDescriptor_t	排序描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
output	void *	指向输出数据的设备指针。
indicesDesc	const mudnnTensorDescriptor_t	索引描述符。
indices	void *	指向输出索引的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroySortDescriptor

mudnnStatus_t mudnnDestroySortDescriptor(mudnnSortDescriptor_t sortDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁排序描述符。

参数

参数	类型	说明
sortDesc	mudnnSortDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSortByKeyDescriptor

mudnnStatus_t mudnnCreateSortByKeyDescriptor(mudnnSortByKeyDescriptor_t *sortByKeyDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建键值排序描述符。

参数

参数	类型	说明
sortByKeyDesc	mudnnSortByKeyDescriptor_t *	返回键值排序描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetSortByKeyDescriptor

mudnnStatus_t mudnnSetSortByKeyDescriptor(mudnnSortByKeyDescriptor_t sortByKeyDesc, int dim, bool stable, bool descending)

声明位置：mudnn_ops.h

扩展接口：是。

配置键值排序描述符。

参数

参数	类型	说明
sortByKeyDesc	mudnnSortByKeyDescriptor_t	描述符。
dim	int	排序维度。
stable	bool	是否稳定排序。
descending	bool	是否降序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSortByKeyDescriptor

mudnnStatus_t mudnnGetSortByKeyDescriptor(const mudnnSortByKeyDescriptor_t sortByKeyDesc, int *dim, bool *stable, bool *descending)

声明位置：mudnn_ops.h

扩展接口：是。

查询键值排序描述符。

参数

参数	类型	说明
sortByKeyDesc	const mudnnSortByKeyDescriptor_t	描述符。
dim	int *	返回维度。
stable	bool *	返回稳定性。
descending	bool *	返回是否降序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSortByKeyWorkspaceSize

mudnnStatus_t mudnnGetSortByKeyWorkspaceSize(mudnnHandle_t handle, const mudnnSortByKeyDescriptor_t sortByKeyDesc, const mudnnTensorDescriptor_t keyOutDesc, const mudnnTensorDescriptor_t valueOutDesc, const mudnnTensorDescriptor_t keyInDesc, const mudnnTensorDescriptor_t valueInDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询键值排序 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sortByKeyDesc	const mudnnSortByKeyDescriptor_t	描述符。
keyOutDesc	const mudnnTensorDescriptor_t	key 输出描述符。
valueOutDesc	const mudnnTensorDescriptor_t	value 输出描述符。
keyInDesc	const mudnnTensorDescriptor_t	key 输入描述符。
valueInDesc	const mudnnTensorDescriptor_t	value 输入描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSortByKey

mudnnStatus_t mudnnSortByKey(mudnnHandle_t handle, const mudnnSortByKeyDescriptor_t sortByKeyDesc, const mudnnTensorDescriptor_t keyInDesc, void *keyIn, const mudnnTensorDescriptor_t valueInDesc, void *valueIn, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t keyOutDesc, void *keyOut, const mudnnTensorDescriptor_t valueOutDesc, void *valueOut)

声明位置：mudnn_ops.h

扩展接口：是。

执行键值排序。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sortByKeyDesc	const mudnnSortByKeyDescriptor_t	描述符。
keyInDesc	const mudnnTensorDescriptor_t	key 输入描述符。
keyIn	void *	指向 key 输入/输出数据的设备指针。
valueInDesc	const mudnnTensorDescriptor_t	value 输入描述符。
valueIn	void *	指向 value 输入/输出数据的设备指针。
workSpace	void *	指向工作区的设备指针。
workSpaceSizeInBytes	size_t	工作区大小（字节）。
keyOutDesc	const mudnnTensorDescriptor_t	key 输出描述符。
keyOut	void *	指向 key 输出数据的设备指针。
valueOutDesc	const mudnnTensorDescriptor_t	value 输出描述符。
valueOut	void *	指向 value 输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroySortByKeyDescriptor

mudnnStatus_t mudnnDestroySortByKeyDescriptor(mudnnSortByKeyDescriptor_t sortByKeyDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁键值排序描述符。

参数

参数	类型	说明
sortByKeyDesc	mudnnSortByKeyDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateScatterDescriptor

mudnnStatus_t mudnnCreateScatterDescriptor(mudnnScatterDescriptor_t *scatterDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 scatter 描述符。

参数

参数	类型	说明
scatterDesc	mudnnScatterDescriptor_t *	返回 scatter 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScatterDescriptor

mudnnStatus_t mudnnSetScatterDescriptor(mudnnScatterDescriptor_t scatterDesc, mudnnScatterMode_t mode)

声明位置：mudnn_ops.h

扩展接口：是。

配置 scatter 模式。

参数

参数	类型	说明
scatterDesc	mudnnScatterDescriptor_t	描述符。
mode	mudnnScatterMode_t	scatter 模式（更新/加/减/乘）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetScatterDescriptor

mudnnStatus_t mudnnGetScatterDescriptor(const mudnnScatterDescriptor_t scatterDesc, mudnnScatterMode_t *mode)

声明位置：mudnn_ops.h

扩展接口：是。

查询 scatter 描述符。

参数

参数	类型	说明
scatterDesc	const mudnnScatterDescriptor_t	描述符。
mode	mudnnScatterMode_t *	返回 scatter 模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScatterInplace

mudnnStatus_t mudnnScatterInplace(mudnnHandle_t handle, const mudnnScatterDescriptor_t scatterDesc, const mudnnTensorDescriptor_t selfDesc, void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update, int dim)

声明位置：mudnn_ops.h

扩展接口：是。

原地 scatter 更新。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
scatterDesc	const mudnnScatterDescriptor_t	描述符。
selfDesc	const mudnnTensorDescriptor_t	目标张量描述符。
self	void *	指向目标张量数据的设备指针。
idxDesc	const mudnnTensorDescriptor_t	索引描述符。
idx	const void *	指向索引数据的设备指针。
updateDesc	const mudnnTensorDescriptor_t	更新张量描述符。
update	const void *	指向更新张量数据的设备指针。
dim	int	scatter 维度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScatterNonInplace

mudnnStatus_t mudnnScatterNonInplace(mudnnHandle_t handle, const mudnnScatterDescriptor_t scatterDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t selfDesc, const void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update, int dim)

声明位置：mudnn_ops.h

扩展接口：是。

非原地 scatter 更新。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
scatterDesc	const mudnnScatterDescriptor_t	描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。
selfDesc	const mudnnTensorDescriptor_t	输入张量描述符。
self	const void *	指向输入张量数据的设备指针。
idxDesc	const mudnnTensorDescriptor_t	索引描述符。
idx	const void *	指向索引数据的设备指针。
updateDesc	const mudnnTensorDescriptor_t	更新张量描述符。
update	const void *	指向更新张量数据的设备指针。
dim	int	scatter 维度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyScatterDescriptor

mudnnStatus_t mudnnDestroyScatterDescriptor(mudnnScatterDescriptor_t scatterDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 scatter 描述符。

参数

参数	类型	说明
scatterDesc	mudnnScatterDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateScatterNDDescriptor

mudnnStatus_t mudnnCreateScatterNDDescriptor(mudnnScatterNDDescriptor_t *scatterNDDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 scatterND 描述符。

参数

参数	类型	说明
scatterNDDesc	mudnnScatterNDDescriptor_t *	返回 scatterND 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScatterNDDescriptor

mudnnStatus_t mudnnSetScatterNDDescriptor(mudnnScatterNDDescriptor_t scatterNDDesc, mudnnScatterMode_t mode)

声明位置：mudnn_ops.h

扩展接口：是。

配置 scatterND 描述符。

参数

参数	类型	说明
scatterNDDesc	mudnnScatterNDDescriptor_t	描述符。
mode	mudnnScatterMode_t	scatter 模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetScatterNDDescriptor

mudnnStatus_t mudnnGetScatterNDDescriptor(const mudnnScatterNDDescriptor_t scatterNDDesc, mudnnScatterMode_t *mode)

声明位置：mudnn_ops.h

扩展接口：是。

查询 scatterND 描述符。

参数

参数	类型	说明
scatterNDDesc	const mudnnScatterNDDescriptor_t	描述符。
mode	mudnnScatterMode_t *	返回 scatter 模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScatterND

mudnnStatus_t mudnnScatterND(mudnnHandle_t handle, const mudnnScatterNDDescriptor_t scatterNDDesc, const mudnnTensorDescriptor_t selfDesc, void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update)

声明位置：mudnn_ops.h

扩展接口：是。

执行 scatterND。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
scatterNDDesc	const mudnnScatterNDDescriptor_t	描述符。
selfDesc	const mudnnTensorDescriptor_t	目标张量描述符。
self	void *	指向目标张量数据的设备指针。
idxDesc	const mudnnTensorDescriptor_t	索引张量描述符。
idx	const void *	指向索引数据的设备指针。
updateDesc	const mudnnTensorDescriptor_t	更新张量描述符。
update	const void *	指向更新张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyScatterNDDescriptor

mudnnStatus_t mudnnDestroyScatterNDDescriptor(mudnnScatterNDDescriptor_t scatterNDDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 scatterND 描述符。

参数

参数	类型	说明
scatterNDDesc	mudnnScatterNDDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSoftmaxDescriptor

mudnnStatus_t mudnnCreateSoftmaxDescriptor(mudnnSoftmaxDescriptor_t *softmaxDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 Softmax 描述符（扩展）。

参数

参数	类型	说明
softmaxDesc	mudnnSoftmaxDescriptor_t *	返回创建好的 Softmax 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetSoftmaxDescriptor

mudnnStatus_t mudnnSetSoftmaxDescriptor(mudnnSoftmaxDescriptor_t softmaxDesc, int dim, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode)

声明位置：mudnn_ops.h

扩展接口：是。

配置 Softmax 描述符。

参数

参数	类型	说明
softmaxDesc	mudnnSoftmaxDescriptor_t	Softmax 描述符。
dim	int	归约维度（对该轴做 softmax）。
algo	mudnnSoftmaxAlgorithm_t	计算算法（FAST/ACCURATE/LOG）。
mode	mudnnSoftmaxMode_t	归约模式（CHANNEL/INSTANCE 等）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSoftmaxDescriptor

mudnnStatus_t mudnnGetSoftmaxDescriptor(const mudnnSoftmaxDescriptor_t softmaxDesc, int *dim, mudnnSoftmaxAlgorithm_t *algo, mudnnSoftmaxMode_t *mode)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Softmax 描述符。

参数

参数	类型	说明
softmaxDesc	const mudnnSoftmaxDescriptor_t	Softmax 描述符。
dim	int *	返回归约维度。
algo	mudnnSoftmaxAlgorithm_t *	返回算法类型。
mode	mudnnSoftmaxMode_t *	返回归约模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSoftmaxForwardWorkspaceSize

mudnnStatus_t mudnnGetSoftmaxForwardWorkspaceSize(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Softmax 前向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
softmaxDesc	const mudnnSoftmaxDescriptor_t	Softmax 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSoftmaxForwardEx

mudnnStatus_t mudnnSoftmaxForwardEx(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)

声明位置：mudnn_ops.h

扩展接口：是。

Softmax 前向（扩展）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
softmaxDesc	const mudnnSoftmaxDescriptor_t	Softmax 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入张量数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSoftmaxBackwardWorkspaceSize

mudnnStatus_t mudnnGetSoftmaxBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t gradOutDesc, const mudnnTensorDescriptor_t gradInDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Softmax 反向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
softmaxDesc	const mudnnSoftmaxDescriptor_t	Softmax 描述符。
outputDesc	const mudnnTensorDescriptor_t	正向输出张量描述符。
gradOutDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
gradInDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSoftmaxBackwardEx

mudnnStatus_t mudnnSoftmaxBackwardEx(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t outputDesc, const void *output, const mudnnTensorDescriptor_t gradOutDesc, void *gradOut, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t gradInDesc, void *gradIn)

声明位置：mudnn_ops.h

扩展接口：是。

Softmax 反向（扩展）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
softmaxDesc	const mudnnSoftmaxDescriptor_t	Softmax 描述符。
outputDesc	const mudnnTensorDescriptor_t	正向输出描述符。
output	const void *	指向正向输出数据的设备指针。
gradOutDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
gradOut	void *	指向输出梯度数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
gradInDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
gradIn	void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroySoftmaxDescriptor

mudnnStatus_t mudnnDestroySoftmaxDescriptor(mudnnSoftmaxDescriptor_t softmaxDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 Softmax 描述符（扩展）。

参数

参数	类型	说明
softmaxDesc	mudnnSoftmaxDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateTopKDescriptor

mudnnStatus_t mudnnCreateTopKDescriptor(mudnnTopKDescriptor_t *topKDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 TopK 描述符。

参数

参数	类型	说明
topKDesc	mudnnTopKDescriptor_t *	返回创建好的 TopK 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetTopKDescriptor

mudnnStatus_t mudnnSetTopKDescriptor(mudnnTopKDescriptor_t topKDesc, int k, int dim, bool largest, bool sorted)

声明位置：mudnn_ops.h

扩展接口：是。

配置 TopK 描述符。

参数

参数	类型	说明
topKDesc	mudnnTopKDescriptor_t	TopK 描述符。
k	int	需要选取的前 K 个元素。
dim	int	进行 TopK 的维度。
largest	bool	是否选取最大值（true）或最小值（false）。
sorted	bool	是否对结果排序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTopKDescriptor

mudnnStatus_t mudnnGetTopKDescriptor(const mudnnTopKDescriptor_t topKDesc, int *k, int *dim, bool *largest, bool *sorted)

声明位置：mudnn_ops.h

扩展接口：是。

查询 TopK 描述符。

参数

参数	类型	说明
topKDesc	const mudnnTopKDescriptor_t	TopK 描述符。
k	int *	返回 K 值。
dim	int *	返回维度。
largest	bool *	返回是否取最大值。
sorted	bool *	返回是否排序。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetTopKWorkspaceSize

mudnnStatus_t mudnnGetTopKWorkspaceSize(mudnnHandle_t handle, const mudnnTopKDescriptor_t topKDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t indicesDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 TopK 所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
topKDesc	const mudnnTopKDescriptor_t	TopK 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
indicesDesc	const mudnnTensorDescriptor_t	索引输出描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnTopK

mudnnStatus_t mudnnTopK(mudnnHandle_t handle, const mudnnTopKDescriptor_t topKDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t indicesDesc, void *indices)

声明位置：mudnn_ops.h

扩展接口：是。

TopK 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
topKDesc	const mudnnTopKDescriptor_t	TopK 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向 TopK 值输出的设备指针。
indicesDesc	const mudnnTensorDescriptor_t	索引输出描述符。
indices	void *	指向 TopK 索引输出的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyTopKDescriptor

mudnnStatus_t mudnnDestroyTopKDescriptor(mudnnTopKDescriptor_t topKDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 TopK 描述符。

参数

参数	类型	说明
topKDesc	mudnnTopKDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateRopeDescriptor

mudnnStatus_t mudnnCreateRopeDescriptor(mudnnRopeDescriptor_t *ropeDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 Rope 描述符。

参数

参数	类型	说明
ropeDesc	mudnnRopeDescriptor_t *	返回创建的 Rope 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetRopeDescriptor

mudnnStatus_t mudnnSetRopeDescriptor(mudnnRopeDescriptor_t ropeDesc, bool rotaryInterleaved, bool batchFirst, bool multiLatentAttention)

声明位置：mudnn_ops.h

扩展接口：是。

配置 Rope 描述符（插值方式/布局）。

参数

参数	类型	说明
ropeDesc	mudnnRopeDescriptor_t	Rope 描述符。
rotaryInterleaved	bool	是否使用交织式 rotary。
batchFirst	bool	输入是否为 batch-first 布局。
multiLatentAttention	bool	是否使用多潜变量注意力。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRopeDescriptor

mudnnStatus_t mudnnGetRopeDescriptor(const mudnnRopeDescriptor_t ropeDesc, bool *rotaryInterleaved, bool *batchFirst, bool *multiLatentAttention)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Rope 描述符。

参数

参数	类型	说明
ropeDesc	const mudnnRopeDescriptor_t	Rope 描述符。
rotaryInterleaved	bool *	返回是否交织式 rotary。
batchFirst	bool *	返回是否 batch-first。
multiLatentAttention	bool *	返回是否多潜变量注意力。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRopeForward

mudnnStatus_t mudnnRopeForward(mudnnHandle_t handle, const mudnnRopeDescriptor_t ropeDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t freqsCisDesc, const void *freqsCis)

声明位置：mudnn_ops.h

扩展接口：是。

Rope 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ropeDesc	const mudnnRopeDescriptor_t	Rope 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
freqsCisDesc	const mudnnTensorDescriptor_t	频率张量描述符。
freqsCis	const void *	指向频率张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRopeBackward

mudnnStatus_t mudnnRopeBackward(mudnnHandle_t handle, const mudnnRopeDescriptor_t ropeDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t gradOutDesc, void *gradOut, const mudnnTensorDescriptor_t freqsCisDesc, const void *freqsCis)

声明位置：mudnn_ops.h

扩展接口：是。

Rope 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ropeDesc	const mudnnRopeDescriptor_t	Rope 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据（梯度累加）的设备指针。
gradOutDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
gradOut	void *	指向输出梯度的设备指针。
freqsCisDesc	const mudnnTensorDescriptor_t	频率张量描述符。
freqsCis	const void *	指向频率张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyRopeDescriptor

mudnnStatus_t mudnnDestroyRopeDescriptor(mudnnRopeDescriptor_t ropeDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 Rope 描述符。

参数

参数	类型	说明
ropeDesc	mudnnRopeDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateRMSNormDescriptor

mudnnStatus_t mudnnCreateRMSNormDescriptor(mudnnRMSNormDescriptor_t *rmsNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 RMSNorm 描述符。

参数

参数	类型	说明
rmsNormDesc	mudnnRMSNormDescriptor_t *	返回 RMSNorm 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetRMSNormDescriptor

mudnnStatus_t mudnnSetRMSNormDescriptor(mudnnRMSNormDescriptor_t rmsNormDesc, mudnnRMSNormMode_t mode, double epsilon, int *axis, int numAxis)

声明位置：mudnn_ops.h

扩展接口：是。

配置 RMSNorm 描述符。

参数

参数	类型	说明
rmsNormDesc	mudnnRMSNormDescriptor_t	描述符。
mode	mudnnRMSNormMode_t	RMSNorm 模式。
epsilon	double	数值稳定项。
axis	int *	归一化轴数组。
numAxis	int	轴数量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRMSNormDescriptor

mudnnStatus_t mudnnGetRMSNormDescriptor(const mudnnRMSNormDescriptor_t rmsNormDesc, mudnnRMSNormMode_t *mode, double *epsilon, int **axis, int *numAxis)

声明位置：mudnn_ops.h

扩展接口：是。

查询 RMSNorm 描述符。

参数

参数	类型	说明
rmsNormDesc	const mudnnRMSNormDescriptor_t	描述符。
mode	mudnnRMSNormMode_t *	返回 RMSNorm 模式。
epsilon	double *	返回 epsilon。
axis	int **	返回轴数组指针。
numAxis	int *	返回轴数量。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRMSNormForward

mudnnStatus_t mudnnRMSNormForward(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t invVarDesc, const void *invVar, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma)

声明位置：mudnn_ops.h

扩展接口：是。

RMSNorm 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rmsNormDesc	const mudnnRMSNormDescriptor_t	描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
output	void *	指向输出数据的设备指针。
invVarDesc	const mudnnTensorDescriptor_t	逆方差描述符。
invVar	const void *	指向逆方差数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入数据的设备指针。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
gamma	const void *	指向 gamma 数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRMSNormBackward

mudnnStatus_t mudnnRMSNormBackward(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dgammaDesc, void *dgamma, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t invVarDesc, const void *invVar, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

RMSNorm 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rmsNormDesc	const mudnnRMSNormDescriptor_t	描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dx	void *	指向 dx 输出的设备指针。
dgammaDesc	const mudnnTensorDescriptor_t	dgamma 描述符。
dgamma	void *	指向 dgamma 输出的设备指针。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
dy	const void *	指向输出梯度的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入数据的设备指针。
invVarDesc	const mudnnTensorDescriptor_t	逆方差描述符。
invVar	const void *	指向逆方差数据的设备指针。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
gamma	const void *	指向 gamma 数据的设备指针。
workSpace	void *	指向工作区的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	工作区大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRMSNormBackwardWorkspaceSize

mudnnStatus_t mudnnGetRMSNormBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t dxDesc, const void *dx, const mudnnTensorDescriptor_t dgammaDesc, const void *dgamma, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t invVarDesc, const mudnnTensorDescriptor_t gammaDesc, size_t *workspaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 RMSNorm 反向 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rmsNormDesc	const mudnnRMSNormDescriptor_t	描述符。
dxDesc	const mudnnTensorDescriptor_t	dx 描述符。
dx	const void *	指向 dx 数据的设备指针（可选）。
dgammaDesc	const mudnnTensorDescriptor_t	dgamma 描述符。
dgamma	const void *	指向 dgamma 数据的设备指针（可选）。
dyDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
invVarDesc	const mudnnTensorDescriptor_t	逆方差描述符。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
workspaceSizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyRMSNormDescriptor

mudnnStatus_t mudnnDestroyRMSNormDescriptor(mudnnRMSNormDescriptor_t rmsNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 RMSNorm 描述符。

参数

参数	类型	说明
rmsNormDesc	mudnnRMSNormDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSwiGluDescriptor

mudnnStatus_t mudnnCreateSwiGluDescriptor(mudnnSwiGluDescriptor_t *swiGluDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 SwiGLU 描述符。

参数

参数	类型	说明
swiGluDesc	mudnnSwiGluDescriptor_t *	返回创建的 SwiGLU 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSwiGluForward

mudnnStatus_t mudnnSwiGluForward(mudnnHandle_t handle, const mudnnSwiGluDescriptor_t swiGluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

SwiGLU 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
swiGluDesc	const mudnnSwiGluDescriptor_t	SwiGLU 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSwiGluBackward

mudnnStatus_t mudnnSwiGluBackward(mudnnHandle_t handle, const mudnnSwiGluDescriptor_t swiGluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gradDesc, const void *grad)

声明位置：mudnn_ops.h

扩展接口：是。

SwiGLU 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
swiGluDesc	const mudnnSwiGluDescriptor_t	SwiGLU 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据（可累加）的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
gradDesc	const mudnnTensorDescriptor_t	梯度张量描述符。
grad	const void *	指向输入梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroySwiGluDescriptor

mudnnStatus_t mudnnDestroySwiGluDescriptor(mudnnSwiGluDescriptor_t swiGluDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 SwiGLU 描述符。

参数

参数	类型	说明
swiGluDesc	mudnnSwiGluDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateNLLLossDescriptor

mudnnStatus_t mudnnCreateNLLLossDescriptor(mudnnNLLLossDescriptor_t *nllLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 NLLLoss 描述符。

参数

参数	类型	说明
nllLossDesc	mudnnNLLLossDescriptor_t *	返回创建的 NLLLoss 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyNLLLossDescriptor

mudnnStatus_t mudnnDestroyNLLLossDescriptor(mudnnNLLLossDescriptor_t nllLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 NLLLoss 描述符。

参数

参数	类型	说明
nllLossDesc	mudnnNLLLossDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetNLLLossDescriptor

mudnnStatus_t mudnnSetNLLLossDescriptor(mudnnNLLLossDescriptor_t nllLossDesc, mudnnLossReduceMode_t mode, int IgnoreIndex)

声明位置：mudnn_ops.h

扩展接口：是。

配置 NLLLoss 描述符。

参数

参数	类型	说明
nllLossDesc	mudnnNLLLossDescriptor_t	NLLLoss 描述符。
mode	mudnnLossReduceMode_t	损失归约模式。
IgnoreIndex	int	被忽略的标签索引。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNLLLossDescriptor

mudnnStatus_t mudnnGetNLLLossDescriptor(const mudnnNLLLossDescriptor_t nllLossDesc, mudnnLossReduceMode_t *mode, int *IgnoreIndex)

声明位置：mudnn_ops.h

扩展接口：是。

查询 NLLLoss 描述符。

参数

参数	类型	说明
nllLossDesc	const mudnnNLLLossDescriptor_t	NLLLoss 描述符。
mode	mudnnLossReduceMode_t *	返回归约模式。
IgnoreIndex	int *	返回被忽略的标签索引。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNLLLossForwardWorkspaceSize

mudnnStatus_t mudnnGetNLLLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t totalWeightDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 NLLLoss 前向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nllLossDesc	const mudnnNLLLossDescriptor_t	NLLLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
targetDesc	const mudnnTensorDescriptor_t	标签张量描述符。
weightDesc	const mudnnTensorDescriptor_t	权重张量描述符。
outputDesc	const mudnnTensorDescriptor_t	损失输出描述符。
totalWeightDesc	const mudnnTensorDescriptor_t	总权重输出描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNLLLossForward

mudnnStatus_t mudnnNLLLossForward(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t totalWeightDesc, void *totalWeight, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

NLLLoss 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nllLossDesc	const mudnnNLLLossDescriptor_t	NLLLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
targetDesc	const mudnnTensorDescriptor_t	标签张量描述符。
target	const void *	指向标签数据的设备指针。
weightDesc	const mudnnTensorDescriptor_t	权重张量描述符。
weight	const void *	指向权重数据的设备指针，可为 NULL。
outputDesc	const mudnnTensorDescriptor_t	损失输出描述符。
output	void *	指向损失输出的设备指针。
totalWeightDesc	const mudnnTensorDescriptor_t	总权重输出描述符。
totalWeight	void *	指向总权重输出的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetNLLLossBackwardWorkspaceSize

mudnnStatus_t mudnnGetNLLLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t totalWeightDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 NLLLoss 反向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nllLossDesc	const mudnnNLLLossDescriptor_t	NLLLoss 描述符。
gradDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
targetDesc	const mudnnTensorDescriptor_t	标签描述符。
weightDesc	const mudnnTensorDescriptor_t	权重描述符。
totalWeightDesc	const mudnnTensorDescriptor_t	总权重描述符。
outDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnNLLLossBackward

mudnnStatus_t mudnnNLLLossBackward(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, const mudnnTensorDescriptor_t totalWeightDesc, const void *totalWeight, const mudnnTensorDescriptor_t outDesc, void *out, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

NLLLoss 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
nllLossDesc	const mudnnNLLLossDescriptor_t	NLLLoss 描述符。
gradDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
grad	const void *	指向损失梯度输入的设备指针。
targetDesc	const mudnnTensorDescriptor_t	标签描述符。
target	const void *	指向标签数据的设备指针。
weightDesc	const mudnnTensorDescriptor_t	权重描述符。
weight	const void *	指向权重数据的设备指针，可为 NULL。
totalWeightDesc	const mudnnTensorDescriptor_t	总权重描述符。
totalWeight	const void *	指向总权重数据的设备指针。
outDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
out	void *	指向输出梯度的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateKLDivLossDescriptor

mudnnStatus_t mudnnCreateKLDivLossDescriptor(mudnnKLDivLossDescriptor_t *klDivLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 KLDivLoss 描述符。

参数

参数	类型	说明
klDivLossDesc	mudnnKLDivLossDescriptor_t *	返回创建的 KLDivLoss 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyKLDivLossDescriptor

mudnnStatus_t mudnnDestroyKLDivLossDescriptor(mudnnKLDivLossDescriptor_t klDivLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 KLDivLoss 描述符。

参数

参数	类型	说明
klDivLossDesc	mudnnKLDivLossDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetKLDivLossDescriptor

mudnnStatus_t mudnnSetKLDivLossDescriptor(mudnnKLDivLossDescriptor_t klDivLossDesc, mudnnLossReduceMode_t mode, bool log_target)

声明位置：mudnn_ops.h

扩展接口：是。

配置 KLDivLoss 描述符。

参数

参数	类型	说明
klDivLossDesc	mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
mode	mudnnLossReduceMode_t	损失归约模式。
log_target	bool	目标是否为对数形式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetKLDivLossDescriptor

mudnnStatus_t mudnnGetKLDivLossDescriptor(const mudnnKLDivLossDescriptor_t klDivLossDesc, mudnnLossReduceMode_t *mode, bool *log_target)

声明位置：mudnn_ops.h

扩展接口：是。

查询 KLDivLoss 描述符。

参数

参数	类型	说明
klDivLossDesc	const mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
mode	mudnnLossReduceMode_t *	返回归约模式。
log_target	bool *	返回目标是否为对数形式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetKLDivLossForwardWorkspaceSize

mudnnStatus_t mudnnGetKLDivLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 KLDivLoss 前向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
klDivLossDesc	const mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
targetDesc	const mudnnTensorDescriptor_t	目标张量描述符。
outDesc	mudnnTensorDescriptor_t	损失输出描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnKLDivLossForward

mudnnStatus_t mudnnKLDivLossForward(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)

声明位置：mudnn_ops.h

扩展接口：是。

KLDivLoss 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
klDivLossDesc	const mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
targetDesc	const mudnnTensorDescriptor_t	目标张量描述符。
target	const void *	指向目标数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
outDesc	const mudnnTensorDescriptor_t	损失输出描述符。
out	void *	指向损失输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetKLDivLossBackwardWorkspaceSize

mudnnStatus_t mudnnGetKLDivLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 KLDivLoss 反向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
klDivLossDesc	const mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
gradDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
targetDesc	const mudnnTensorDescriptor_t	目标张量描述符。
outDesc	mudnnTensorDescriptor_t	输出梯度描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnKLDivLossBackward

mudnnStatus_t mudnnKLDivLossBackward(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)

声明位置：mudnn_ops.h

扩展接口：是。

KLDivLoss 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
klDivLossDesc	const mudnnKLDivLossDescriptor_t	KLDivLoss 描述符。
gradDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
grad	const void *	指向损失梯度输入的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
targetDesc	const mudnnTensorDescriptor_t	目标张量描述符。
target	const void *	指向目标数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
outDesc	const mudnnTensorDescriptor_t	输出梯度描述符。
out	void *	指向输出梯度数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateCrossEntropyLossDescriptor

mudnnStatus_t mudnnCreateCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t *crossEntropyLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 CrossEntropyLoss 描述符。

参数

参数	类型	说明
crossEntropyLossDesc	mudnnCrossEntropyLossDescriptor_t *	返回创建的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyCrossEntropyLossDescriptor

mudnnStatus_t mudnnDestroyCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 CrossEntropyLoss 描述符。

参数

参数	类型	说明
crossEntropyLossDesc	mudnnCrossEntropyLossDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCrossEntropyLossDescriptor

mudnnStatus_t mudnnSetCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, mudnnLossReduceMode_t mode, int64_t ignoreIndex, float label_smoothing)

声明位置：mudnn_ops.h

扩展接口：是。

配置 CrossEntropyLoss 描述符。

参数

参数	类型	说明
crossEntropyLossDesc	mudnnCrossEntropyLossDescriptor_t	描述符。
mode	mudnnLossReduceMode_t	损失归约模式。
ignoreIndex	int64_t	被忽略的标签值。
label_smoothing	float	标签平滑系数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCrossEntropyLossDescriptor

mudnnStatus_t mudnnGetCrossEntropyLossDescriptor(const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, mudnnLossReduceMode_t *mode, int64_t *ignoreIndex, float *label_smoothing)

声明位置：mudnn_ops.h

扩展接口：是。

查询 CrossEntropyLoss 描述符。

参数

参数	类型	说明
crossEntropyLossDesc	const mudnnCrossEntropyLossDescriptor_t	描述符。
mode	mudnnLossReduceMode_t *	返回归约模式。
ignoreIndex	int64_t *	返回忽略标签。
label_smoothing	float *	返回标签平滑系数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCrossEntropyLossForwardWorkspaceSize

mudnnStatus_t mudnnGetCrossEntropyLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 CrossEntropyLoss 前向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
crossEntropyLossDesc	const mudnnCrossEntropyLossDescriptor_t	CrossEntropyLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
targetDesc	const mudnnTensorDescriptor_t	标签张量描述符。
weightDesc	const mudnnTensorDescriptor_t	权重张量描述符。
outDesc	const mudnnTensorDescriptor_t	损失输出描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCrossEntropyLossForward

mudnnStatus_t mudnnCrossEntropyLossForward(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)

声明位置：mudnn_ops.h

扩展接口：是。

CrossEntropyLoss 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
crossEntropyLossDesc	const mudnnCrossEntropyLossDescriptor_t	CrossEntropyLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
targetDesc	const mudnnTensorDescriptor_t	标签张量描述符。
target	const void *	指向标签数据的设备指针。
weightDesc	const mudnnTensorDescriptor_t	权重张量描述符。
weight	const void *	指向权重数据的设备指针，可为 NULL。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
outDesc	const mudnnTensorDescriptor_t	损失输出描述符。
out	void *	指向损失输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCrossEntropyLossBackwardWorkspaceSize

mudnnStatus_t mudnnGetCrossEntropyLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t gradOutDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t gradInDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 CrossEntropyLoss 反向所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
crossEntropyLossDesc	const mudnnCrossEntropyLossDescriptor_t	CrossEntropyLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
gradOutDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
targetDesc	const mudnnTensorDescriptor_t	标签描述符。
weightDesc	const mudnnTensorDescriptor_t	权重描述符。
gradInDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCrossEntropyLossBackward

mudnnStatus_t mudnnCrossEntropyLossBackward(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gradOutDesc, const void *gradOut, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t gradInDesc, void *gradIn)

声明位置：mudnn_ops.h

扩展接口：是。

CrossEntropyLoss 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
crossEntropyLossDesc	const mudnnCrossEntropyLossDescriptor_t	CrossEntropyLoss 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
gradOutDesc	const mudnnTensorDescriptor_t	损失梯度描述符。
gradOut	const void *	指向损失梯度数据的设备指针。
targetDesc	const mudnnTensorDescriptor_t	标签描述符。
target	const void *	指向标签数据的设备指针。
weightDesc	const mudnnTensorDescriptor_t	权重描述符。
weight	const void *	指向权重数据的设备指针，可为 NULL。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
gradInDesc	const mudnnTensorDescriptor_t	输入梯度描述符。
gradIn	void *	指向输入梯度输出的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateMaskedSelectDescriptor

mudnnStatus_t mudnnCreateMaskedSelectDescriptor(mudnnMaskedSelectDescriptor_t *maskedSelectDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 MaskedSelect 描述符。

参数

参数	类型	说明
maskedSelectDesc	mudnnMaskedSelectDescriptor_t *	返回创建的 MaskedSelect 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetMaskedSelectWorkspaceSize

mudnnStatus_t mudnnGetMaskedSelectWorkspaceSize(mudnnHandle_t handle, const mudnnMaskedSelectDescriptor_t maskedSelectDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

查询 MaskedSelect 所需 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
maskedSelectDesc	const mudnnMaskedSelectDescriptor_t	MaskedSelect 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
maskDesc	const mudnnTensorDescriptor_t	掩码张量描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
sizeInBytes	size_t *	返回 workspace 字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnMaskedSelect

mudnnStatus_t mudnnMaskedSelect(mudnnHandle_t handle, const mudnnMaskedSelectDescriptor_t maskedSelectDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outputDesc, void *output, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_ops.h

扩展接口：是。

执行 MaskedSelect。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
maskedSelectDesc	const mudnnMaskedSelectDescriptor_t	MaskedSelect 描述符。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码张量描述符。
mask	const void *	指向掩码数据的设备指针。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出数据的设备指针。
workSpace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyMaskedSelectDescriptor

mudnnStatus_t mudnnDestroyMaskedSelectDescriptor(mudnnMaskedSelectDescriptor_t maskedSelectDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 MaskedSelect 描述符。

参数

参数	类型	说明
maskedSelectDesc	mudnnMaskedSelectDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreatePadDescriptor

mudnnStatus_t mudnnCreatePadDescriptor(mudnnPadDescriptor_t *padDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 Pad 描述符。

参数

参数	类型	说明
padDesc	mudnnPadDescriptor_t *	返回创建的 Pad 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetPadDescriptor

mudnnStatus_t mudnnSetPadDescriptor(mudnnPadDescriptor_t padDesc, mudnnPadMode_t mode, mudnnParamDataType_t valueType, void *value, int *paddingInfo, size_t infoLength)

声明位置：mudnn_ops.h

扩展接口：是。

配置 Pad 描述符（模式/padding 值/边界信息）。

参数

参数	类型	说明
padDesc	mudnnPadDescriptor_t	Pad 描述符。
mode	mudnnPadMode_t	填充模式（常量/反射/复制/循环）。
valueType	mudnnParamDataType_t	padding 值类型。
value	void *	padding 值指针。
paddingInfo	int *	padding 信息数组，按 [before, after] 顺序给出。
infoLength	size_t	paddingInfo 元素个数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetPadDescriptor

mudnnStatus_t mudnnGetPadDescriptor(mudnnPadDescriptor_t padDesc, mudnnPadMode_t *mode, int **paddingInfo, size_t *infoLength)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Pad 描述符。

参数

参数	类型	说明
padDesc	mudnnPadDescriptor_t	Pad 描述符。
mode	mudnnPadMode_t *	返回填充模式。
paddingInfo	int **	返回 padding 信息指针。
infoLength	size_t *	返回 padding 信息长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnPad

mudnnStatus_t mudnnPad(const mudnnHandle_t handle, const mudnnPadDescriptor_t padDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

执行 Pad。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
padDesc	const mudnnPadDescriptor_t	Pad 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyPadDescriptor

mudnnStatus_t mudnnDestroyPadDescriptor(mudnnPadDescriptor_t padDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 Pad 描述符。

参数

参数	类型	说明
padDesc	mudnnPadDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateGroupNormDescriptor

mudnnStatus_t mudnnCreateGroupNormDescriptor(mudnnGroupNormDescriptor_t *groupNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 GroupNorm 描述符。

参数

参数	类型	说明
groupNormDesc	mudnnGroupNormDescriptor_t *	返回 GroupNorm 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetGroupNormDescriptor

mudnnStatus_t mudnnSetGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc, double epsilon, int axis, int group)

声明位置：mudnn_ops.h

扩展接口：是。

配置 GroupNorm 描述符。

参数

参数	类型	说明
groupNormDesc	mudnnGroupNormDescriptor_t	描述符。
epsilon	double	数值稳定项。
axis	int	归一化轴。
group	int	分组数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetGroupNormDescriptor

mudnnStatus_t mudnnGetGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc, double *epsilon, int *axis, int *group)

声明位置：mudnn_ops.h

扩展接口：是。

查询 GroupNorm 描述符。

参数

参数	类型	说明
groupNormDesc	mudnnGroupNormDescriptor_t	描述符。
epsilon	double *	返回 epsilon。
axis	int *	返回轴。
group	int *	返回分组数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGroupNorm

mudnnStatus_t mudnnGroupNorm(const mudnnHandle_t handle, const mudnnGroupNormDescriptor_t groupNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t meanDesc, void *mean, const mudnnTensorDescriptor_t invVarDesc, void *invVar, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, const mudnnTensorDescriptor_t betaDesc, const void *beta)

声明位置：mudnn_ops.h

扩展接口：是。

GroupNorm 前向。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
groupNormDesc	const mudnnGroupNormDescriptor_t	描述符。
outputDesc	const mudnnTensorDescriptor_t	输出描述符。
output	void *	指向输出张量的设备指针。
meanDesc	const mudnnTensorDescriptor_t	均值描述符。
mean	void *	指向均值输出的设备指针。
invVarDesc	const mudnnTensorDescriptor_t	逆方差描述符。
invVar	void *	指向逆方差输出的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入描述符。
input	const void *	指向输入张量的设备指针。
gammaDesc	const mudnnTensorDescriptor_t	gamma 描述符。
gamma	const void *	指向 gamma 数据的设备指针。
betaDesc	const mudnnTensorDescriptor_t	beta 描述符。
beta	const void *	指向 beta 数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyGroupNormDescriptor

mudnnStatus_t mudnnDestroyGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 GroupNorm 描述符。

参数

参数	类型	说明
groupNormDesc	mudnnGroupNormDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateGluDescriptor

mudnnStatus_t mudnnCreateGluDescriptor(mudnnGluDescriptor_t *gluDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 GLU 描述符。

参数

参数	类型	说明
gluDesc	mudnnGluDescriptor_t *	返回创建的 GLU 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetGluDescriptor

mudnnStatus_t mudnnSetGluDescriptor(mudnnGluDescriptor_t gluDesc, int axis)

声明位置：mudnn_ops.h

扩展接口：是。

配置 GLU 描述符（axis）。

参数

参数	类型	说明
gluDesc	mudnnGluDescriptor_t	GLU 描述符。
axis	int	分割并应用激活的轴。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetGluDescriptor

mudnnStatus_t mudnnGetGluDescriptor(mudnnGluDescriptor_t gluDesc, int *axis)

声明位置：mudnn_ops.h

扩展接口：是。

查询 GLU 描述符。

参数

参数	类型	说明
gluDesc	mudnnGluDescriptor_t	GLU 描述符。
axis	int *	返回 axis 配置。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGlu

mudnnStatus_t mudnnGlu(const mudnnHandle_t handle, const mudnnGluDescriptor_t gluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

GLU 前向。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
gluDesc	const mudnnGluDescriptor_t	GLU 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyGluDescriptor

mudnnStatus_t mudnnDestroyGluDescriptor(mudnnGluDescriptor_t gluDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 GLU 描述符。

参数

参数	类型	说明
gluDesc	mudnnGluDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateCumDescriptor

mudnnStatus_t mudnnCreateCumDescriptor(mudnnCumDescriptor_t *cumDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 Cum 描述符。

参数

参数	类型	说明
cumDesc	mudnnCumDescriptor_t *	返回 Cum 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCumDescriptor

mudnnStatus_t mudnnSetCumDescriptor(mudnnCumDescriptor_t cumDesc, int dim, mudnnCumMode_t mode)

声明位置：mudnn_ops.h

扩展接口：是。

配置 Cum 描述符（dim/mode）。

参数

参数	类型	说明
cumDesc	mudnnCumDescriptor_t	Cum 描述符。
dim	int	累积维度。
mode	mudnnCumMode_t	累积模式（ADD/MUL）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCumDescriptor

mudnnStatus_t mudnnGetCumDescriptor(mudnnCumDescriptor_t cumDesc, int *dim, mudnnCumMode_t *mode)

声明位置：mudnn_ops.h

扩展接口：是。

查询 Cum 描述符。

参数

参数	类型	说明
cumDesc	mudnnCumDescriptor_t	Cum 描述符。
dim	int *	返回累积维度。
mode	mudnnCumMode_t *	返回累积模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCum

mudnnStatus_t mudnnCum(const mudnnHandle_t handle, const mudnnCumDescriptor_t cumDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)

声明位置：mudnn_ops.h

扩展接口：是。

执行 Cum 前向。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
cumDesc	const mudnnCumDescriptor_t	Cum 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针。
inputDesc	const mudnnTensorDescriptor_t	输入张量描述符。
input	const void *	指向输入张量数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyCumDescriptor

mudnnStatus_t mudnnDestroyCumDescriptor(mudnnCumDescriptor_t cumDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 Cum 描述符。

参数

参数	类型	说明
cumDesc	mudnnCumDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateMaskedScatterDescriptor

mudnnStatus_t mudnnCreateMaskedScatterDescriptor(mudnnMaskedScatterDescriptor_t *maskedScatterDesc)

声明位置：mudnn_ops.h

扩展接口：是。

创建 MaskedScatter 描述符。

参数

参数	类型	说明
maskedScatterDesc	mudnnMaskedScatterDescriptor_t *	返回 MaskedScatter 描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnMaskedScatter

mudnnStatus_t mudnnMaskedScatter(const mudnnHandle_t handle, const mudnnMaskedScatterDescriptor_t maskedScatterDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t sourceDesc, const void *source)

声明位置：mudnn_ops.h

扩展接口：是。

执行 MaskedScatter（原地更新 output）。

参数

参数	类型	说明
handle	const mudnnHandle_t	muDNN 句柄。
maskedScatterDesc	const mudnnMaskedScatterDescriptor_t	MaskedScatter 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出张量描述符。
output	void *	指向输出张量数据的设备指针（会被原地更新）。
maskDesc	const mudnnTensorDescriptor_t	mask 张量描述符。
mask	const void *	指向 mask 数据的设备指针。
sourceDesc	const mudnnTensorDescriptor_t	source 张量描述符。
source	const void *	指向 source 数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyMaskedScatterDescriptor

mudnnStatus_t mudnnDestroyMaskedScatterDescriptor(mudnnMaskedScatterDescriptor_t maskedScatterDesc)

声明位置：mudnn_ops.h

扩展接口：是。

销毁 MaskedScatter 描述符。

参数

参数	类型	说明
maskedScatterDesc	mudnnMaskedScatterDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnn_adv.h

mudnnCreateRNNDescriptor

mudnnStatus_t mudnnCreateRNNDescriptor(mudnnRNNDescriptor_t *rnnDesc)

声明位置：mudnn_adv.h

创建 RNN 描述符。

兼容 cuDNN backend 的 RNN descriptor create，创建后需调用 mudnnDestroyRNNDescriptor 释放。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t *	返回的描述符指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyRNNDescriptor

mudnnStatus_t mudnnDestroyRNNDescriptor(mudnnRNNDescriptor_t rnnDesc)

声明位置：mudnn_adv.h

销毁 RNN 描述符。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	要释放的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetRNNDescriptor_v8

mudnnStatus_t mudnnSetRNNDescriptor_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNAlgo_t algo, mudnnRNNMode_t cellMode, mudnnRNNBiasMode_t biasMode, mudnnDirectionMode_t dirMode, mudnnRNNInputMode_t inputMode, mudnnDataType_t dataType, mudnnDataType_t mathPrec, mudnnMathType_t mathType, int32_t inputSize, int32_t hiddenSize, int32_t projSize, int32_t numLayers, mudnnDropoutDescriptor_t dropoutDesc, uint32_t auxFlags)

声明位置：mudnn_adv.h

配置 RNN 描述符（v8）。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
algo	mudnnRNNAlgo_t	RNN 算法选择。
cellMode	mudnnRNNMode_t	RNN 单元类型（RNN/LSTM/GRU）。
biasMode	mudnnRNNBiasMode_t	偏置模式。
dirMode	mudnnDirectionMode_t	单向或双向。
inputMode	mudnnRNNInputMode_t	输入是否线性映射或跳过。
dataType	mudnnDataType_t	输入/输出及权重数据类型。
mathPrec	mudnnDataType_t	计算精度。
mathType	mudnnMathType_t	Tensor Core 等数学模式。
inputSize	int32_t	输入特征维度。
hiddenSize	int32_t	隐状态维度。
projSize	int32_t	投影维度（0 表示无投影）。
numLayers	int32_t	堆叠层数。
dropoutDesc	mudnnDropoutDescriptor_t	Dropout 描述符。
auxFlags	uint32_t	额外标志位（如 padding）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRNNDescriptor_v8

mudnnStatus_t mudnnGetRNNDescriptor_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNAlgo_t *algo, mudnnRNNMode_t *cellMode, mudnnRNNBiasMode_t *biasMode, mudnnDirectionMode_t *dirMode, mudnnRNNInputMode_t *inputMode, mudnnDataType_t *dataType, mudnnDataType_t *mathPrec, mudnnMathType_t *mathType, int32_t *inputSize, int32_t *hiddenSize, int32_t *projSize, int32_t *numLayers, mudnnDropoutDescriptor_t *dropoutDesc, uint32_t *auxFlags)

声明位置：mudnn_adv.h

获取 RNN 描述符配置（v8）。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
algo	mudnnRNNAlgo_t *	返回算法。
cellMode	mudnnRNNMode_t *	返回单元类型。
biasMode	mudnnRNNBiasMode_t *	返回偏置模式。
dirMode	mudnnDirectionMode_t *	返回方向模式。
inputMode	mudnnRNNInputMode_t *	返回输入模式。
dataType	mudnnDataType_t *	返回数据类型。
mathPrec	mudnnDataType_t *	返回计算精度。
mathType	mudnnMathType_t *	返回数学模式。
inputSize	int32_t *	返回输入维度。
hiddenSize	int32_t *	返回隐状态维度。
projSize	int32_t *	返回投影维度。
numLayers	int32_t *	返回层数。
dropoutDesc	mudnnDropoutDescriptor_t *	返回 Dropout 描述符。
auxFlags	uint32_t *	返回附加标志。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNSetClip_v8

mudnnStatus_t mudnnRNNSetClip_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t clipMode, mudnnNanPropagation_t clipNanOpt, double lclip, double rclip)

声明位置：mudnn_adv.h

状态：已废弃。

设置 RNN 裁剪配置（v8，包含 NaN 传播选项）。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
clipMode	mudnnRNNClipMode_t	裁剪模式。
clipNanOpt	mudnnNanPropagation_t	NaN 传播选项。
lclip	double	左侧剪裁阈值。
rclip	double	右侧剪裁阈值。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNSetClip_v9

mudnnStatus_t mudnnRNNSetClip_v9(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t clipMode, double lclip, double rclip)

声明位置：mudnn_adv.h

设置 RNN 裁剪配置（v9，移除 NaN 传播选项）

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
clipMode	mudnnRNNClipMode_t	裁剪模式。
lclip	double	左侧剪裁阈值。
rclip	double	右侧剪裁阈值。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNGetClip_v8

mudnnStatus_t mudnnRNNGetClip_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t *clipMode, mudnnNanPropagation_t *clipNanOpt, double *lclip, double *rclip)

声明位置：mudnn_adv.h

状态：已废弃。

获取 RNN 裁剪配置（v8）。

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
clipMode	mudnnRNNClipMode_t *	返回裁剪模式。
clipNanOpt	mudnnNanPropagation_t *	返回 NaN 传播选项。
lclip	double *	返回左侧阈值。
rclip	double *	返回右侧阈值。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNGetClip_v9

mudnnStatus_t mudnnRNNGetClip_v9(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t *clipMode, double *lclip, double *rclip)

声明位置：mudnn_adv.h

获取 RNN 裁剪配置（v9）

参数

参数	类型	说明
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
clipMode	mudnnRNNClipMode_t *	返回裁剪模式。
lclip	double *	返回左侧阈值。
rclip	double *	返回右侧阈值。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBuildRNNDynamic

mudnnStatus_t mudnnBuildRNNDynamic(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, int miniBatch)

声明位置：mudnn_adv.h

为指定 batch 尺寸构建 RNN 动态计划

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
miniBatch	int	批大小。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRNNTempSpaceSizes

mudnnStatus_t mudnnGetRNNTempSpaceSizes(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnForwardMode_t fwdMode, mudnnRNNDataDescriptor_t xDesc, size_t *workSpaceSize, size_t *reserveSpaceSize)

声明位置：mudnn_adv.h

查询 RNN workspace 与 reserve space 大小

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
fwdMode	mudnnForwardMode_t	前向模式（推理/训练）。
xDesc	mudnnRNNDataDescriptor_t	输入序列描述符。
workSpaceSize	size_t *	返回 workspace 字节数。
reserveSpaceSize	size_t *	返回保留空间字节数。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRNNWeightSpaceSize

mudnnStatus_t mudnnGetRNNWeightSpaceSize(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, size_t *weightSpaceSize)

声明位置：mudnn_adv.h

查询 RNN 权重空间大小

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
weightSpaceSize	size_t *	返回权重空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRNNWeightParams

mudnnStatus_t mudnnGetRNNWeightParams(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, int32_t pseudoLayer, size_t weightSpaceSize, const void *weightSpace, int32_t linLayerID, mudnnTensorDescriptor_t mDesc, void **mAddr, mudnnTensorDescriptor_t bDesc, void **bAddr)

声明位置：mudnn_adv.h

解析 RNN 权重空间中的矩阵与偏置视图

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
pseudoLayer	int32_t	层索引（含正向/反向、投影等）。
weightSpaceSize	size_t	权重空间字节数。
weightSpace	const void *	权重空间基址。
linLayerID	int32_t	线性层编号，遵循 cuDNN RNN 线性层定义。
mDesc	mudnnTensorDescriptor_t	矩阵描述符。
mAddr	void **	矩阵基址。
bDesc	mudnnTensorDescriptor_t	偏置描述符。
bAddr	void **	偏置基址。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateRNNDataDescriptor

mudnnStatus_t mudnnCreateRNNDataDescriptor(mudnnRNNDataDescriptor_t *rnnDataDesc)

声明位置：mudnn_adv.h

创建 RNN 序列描述符。

参数

参数	类型	说明
rnnDataDesc	mudnnRNNDataDescriptor_t *	返回序列描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyRNNDataDescriptor

mudnnStatus_t mudnnDestroyRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc)

声明位置：mudnn_adv.h

销毁 RNN 序列描述符。

参数

参数	类型	说明
rnnDataDesc	mudnnRNNDataDescriptor_t	待销毁的序列描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetRNNDataDescriptor

mudnnStatus_t mudnnSetRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc, mudnnDataType_t dataType, mudnnRNNDataLayout_t layout, int maxSeqLength, int batchSize, int vectorSize, const int seqLengthArray[], void *paddingFill)

声明位置：mudnn_adv.h

设置 RNN 输入/输出数据描述符

参数

参数	类型	说明
rnnDataDesc	mudnnRNNDataDescriptor_t	序列描述符。
dataType	mudnnDataType_t	数据类型。
layout	mudnnRNNDataLayout_t	数据布局。
maxSeqLength	int	序列最大长度。
batchSize	int	批大小。
vectorSize	int	特征维度。
seqLengthArray	const int	每个样本的真实长度
paddingFill	void *	填充区域padding 值（device 内存）

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetRNNDataDescriptor

mudnnStatus_t mudnnGetRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc, mudnnDataType_t *dataType, mudnnRNNDataLayout_t *layout, int *maxSeqLength, int *batchSize, int *vectorSize, int arrayLengthRequested, int seqLengthArray[], void *paddingFill)

声明位置：mudnn_adv.h

获取 RNN 输入/输出数据描述符。

参数

参数	类型	说明
rnnDataDesc	mudnnRNNDataDescriptor_t	序列描述符。
dataType	mudnnDataType_t *	返回数据类型。
layout	mudnnRNNDataLayout_t *	返回数据布局。
maxSeqLength	int *	返回最大序列长度。
batchSize	int *	返回批大小。
vectorSize	int *	返回特征维度。
arrayLengthRequested	int	请求返回的序列长度数组大小。
seqLengthArray	int	返回序列长度数组。
paddingFill	void *	返回padding 值。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNForward

mudnnStatus_t mudnnRNNForward(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnForwardMode_t fwdMode, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t xDesc, const void *x, mudnnRNNDataDescriptor_t yDesc, void *y, mudnnTensorDescriptor_t hDesc, const void *hx, void *hy, mudnnTensorDescriptor_t cDesc, const void *cx, void *cy, size_t weightSpaceSize, const void *weightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)

声明位置：mudnn_adv.h

RNN 前向计算（推理或训练）

输入/输出张量布局由对应的 descriptor 决定，遵循 cuDNN RNN 前向 API。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
fwdMode	mudnnForwardMode_t	前向模式（推理/训练）。
devSeqLengths	const int32_t	设备端序列长度数组，可为 NULL 表示等长
xDesc	mudnnRNNDataDescriptor_t	输入序列描述符。
x	const void *	指向输入序列数据的设备指针。
yDesc	mudnnRNNDataDescriptor_t	输出序列描述符。
y	void *	指向输出序列数据的设备指针。
hDesc	mudnnTensorDescriptor_t	隐状态描述符。
hx	const void *	指向初始隐状态的设备指针。
hy	void *	指向输出隐状态的设备指针。
cDesc	mudnnTensorDescriptor_t	记忆状态描述符。
cx	const void *	指向初始记忆状态的设备指针。
cy	void *	指向输出记忆状态的设备指针。
weightSpaceSize	size_t	权重空间大小（字节）。
weightSpace	const void *	指向权重空间的设备指针。
workSpaceSize	size_t	workspace 大小（字节）。
workSpace	void *	运行时 workspace（设备端）
reserveSpaceSize	size_t	训练保留空间大小（字节）。
reserveSpace	void *	训练模式下保存中间结果（设备端）

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateSeqDataDescriptor

mudnnStatus_t mudnnCreateSeqDataDescriptor(mudnnSeqDataDescriptor_t *seqDataDesc)

声明位置：mudnn_adv.h

状态：已废弃。

创建序列数据描述符（已废弃，使用 RNNDataDescriptor 替代）

参数

参数	类型	说明
seqDataDesc	mudnnSeqDataDescriptor_t *	-

mudnnDestroySeqDataDescriptor

mudnnStatus_t mudnnDestroySeqDataDescriptor(mudnnSeqDataDescriptor_t seqDataDesc)

声明位置：mudnn_adv.h

状态：已废弃。

销毁序列数据描述符（已废弃）

参数

参数	类型	说明
seqDataDesc	mudnnSeqDataDescriptor_t	-

mudnnSetSeqDataDescriptor

mudnnStatus_t mudnnSetSeqDataDescriptor(mudnnSeqDataDescriptor_t seqDataDesc, mudnnDataType_t dataType, int nbDims, const int dimA[], const mudnnSeqDataAxis_t axes[], size_t seqLengthArraySize, const int seqLengthArray[], void *paddingFill)

声明位置：mudnn_adv.h

状态：已废弃。

设置序列数据描述符（已废弃）。

参数

参数	类型	说明
seqDataDesc	mudnnSeqDataDescriptor_t	序列描述符。
dataType	mudnnDataType_t	数据类型。
nbDims	int	维度数量。
dimA	const int	维度数组。
axes	const mudnnSeqDataAxis_t	轴含义映射。
seqLengthArraySize	size_t	序列长度数组大小。
seqLengthArray	const int	序列长度数组。
paddingFill	void *	padding 值指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetSeqDataDescriptor

mudnnStatus_t mudnnGetSeqDataDescriptor(const mudnnSeqDataDescriptor_t seqDataDesc, mudnnDataType_t *dataType, int *nbDims, int nbDimsRequested, int dimA[], mudnnSeqDataAxis_t axes[], size_t *seqLengthArraySize, size_t seqLengthSizeRequested, int seqLengthArray[], void *paddingFill)

声明位置：mudnn_adv.h

状态：已废弃。

获取序列数据描述符（已废弃）。

参数

参数	类型	说明
seqDataDesc	const mudnnSeqDataDescriptor_t	序列描述符。
dataType	mudnnDataType_t *	返回数据类型。
nbDims	int *	返回维度数量。
nbDimsRequested	int	请求返回的维度数量上限。
dimA	int	返回维度数组。
axes	mudnnSeqDataAxis_t	返回轴映射。
seqLengthArraySize	size_t *	返回序列长度数组大小。
seqLengthSizeRequested	size_t	请求返回的序列长度数组上限。
seqLengthArray	int	返回序列长度数组。
paddingFill	void *	返回padding 值指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateAttnDescriptor

mudnnStatus_t mudnnCreateAttnDescriptor(mudnnAttnDescriptor_t *attnDesc)

声明位置：mudnn_adv.h

状态：已废弃。

创建多头注意力描述符（已废弃，建议使用 SDPA 接口）

参数

参数	类型	说明
attnDesc	mudnnAttnDescriptor_t *	-

mudnnDestroyAttnDescriptor

mudnnStatus_t mudnnDestroyAttnDescriptor(mudnnAttnDescriptor_t attnDesc)

声明位置：mudnn_adv.h

状态：已废弃。

销毁多头注意力描述符（已废弃）

参数

参数	类型	说明
attnDesc	mudnnAttnDescriptor_t	-

mudnnSetAttnDescriptor

mudnnStatus_t mudnnSetAttnDescriptor(mudnnAttnDescriptor_t attnDesc, unsigned attnMode, int nHeads, double smScaler, mudnnDataType_t dataType, mudnnDataType_t computePrec, mudnnMathType_t mathType, mudnnDropoutDescriptor_t attnDropoutDesc, mudnnDropoutDescriptor_t postDropoutDesc, int qSize, int kSize, int vSize, int qProjSize, int kProjSize, int vProjSize, int oProjSize, int qoMaxSeqLength, int kvMaxSeqLength, int maxBatchSize, int maxBeamSize)

声明位置：mudnn_adv.h

状态：已废弃。

配置多头注意力描述符（已废弃） 对应 cuDNN 传统 multi-head attention 前向/反向接口。

参数

参数	类型	说明
attnDesc	mudnnAttnDescriptor_t	注意力描述符。
attnMode	unsigned	注意力模式标志位。
nHeads	int	头数。
smScaler	double	softmax 缩放系数。
dataType	mudnnDataType_t	输入/输出数据类型。
computePrec	mudnnDataType_t	计算精度。
mathType	mudnnMathType_t	数学模式。
attnDropoutDesc	mudnnDropoutDescriptor_t	注意力 Dropout 描述符。
postDropoutDesc	mudnnDropoutDescriptor_t	输出 Dropout 描述符。
qSize	int	Q 向量长度。
kSize	int	K 向量长度。
vSize	int	V 向量长度。
qProjSize	int	Q 投影长度。
kProjSize	int	K 投影长度。
vProjSize	int	V 投影长度。
oProjSize	int	输出投影长度。
qoMaxSeqLength	int	Q/O 最大序列长度。
kvMaxSeqLength	int	K/V 最大序列长度。
maxBatchSize	int	最大 batch。
maxBeamSize	int	最大 beam。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetAttnDescriptor

mudnnStatus_t mudnnGetAttnDescriptor(mudnnAttnDescriptor_t attnDesc, unsigned *attnMode, int *nHeads, double *smScaler, mudnnDataType_t *dataType, mudnnDataType_t *computePrec, mudnnMathType_t *mathType, mudnnDropoutDescriptor_t *attnDropoutDesc, mudnnDropoutDescriptor_t *postDropoutDesc, int *qSize, int *kSize, int *vSize, int *qProjSize, int *kProjSize, int *vProjSize, int *oProjSize, int *qoMaxSeqLength, int *kvMaxSeqLength, int *maxBatchSize, int *maxBeamSize)

声明位置：mudnn_adv.h

状态：已废弃。

获取多头注意力描述符配置（已废弃）。

参数

参数	类型	说明
attnDesc	mudnnAttnDescriptor_t	注意力描述符。
attnMode	unsigned *	返回模式标志。
nHeads	int *	返回头数。
smScaler	double *	返回 softmax 缩放系数。
dataType	mudnnDataType_t *	返回数据类型。
computePrec	mudnnDataType_t *	返回计算精度。
mathType	mudnnMathType_t *	返回数学模式。
attnDropoutDesc	mudnnDropoutDescriptor_t *	返回注意力 Dropout 描述符。
postDropoutDesc	mudnnDropoutDescriptor_t *	返回输出 Dropout 描述符。
qSize	int *	返回 Q 长度。
kSize	int *	返回 K 长度。
vSize	int *	返回 V 长度。
qProjSize	int *	返回 Q 投影长度。
kProjSize	int *	返回 K 投影长度。
vProjSize	int *	返回 V 投影长度。
oProjSize	int *	返回输出投影长度。
qoMaxSeqLength	int *	返回 Q/O 最大序列长度。
kvMaxSeqLength	int *	返回 K/V 最大序列长度。
maxBatchSize	int *	返回最大 batch。
maxBeamSize	int *	返回最大 beam。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetMultiHeadAttnBuffers

mudnnStatus_t mudnnGetMultiHeadAttnBuffers(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, size_t *weightSizeInBytes, size_t *workSpaceSizeInBytes, size_t *reserveSpaceSizeInBytes)

声明位置：mudnn_adv.h

状态：已废弃。

查询多头注意力需要的权重、workspace、reserve 空间大小（已废弃）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnDesc	const mudnnAttnDescriptor_t	注意力描述符。
weightSizeInBytes	size_t *	返回权重大小（字节）。
workSpaceSizeInBytes	size_t *	返回 workspace 大小（字节）。
reserveSpaceSizeInBytes	size_t *	返回 reserve 空间大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetMultiHeadAttnWeights

mudnnStatus_t mudnnGetMultiHeadAttnWeights(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, mudnnMultiHeadAttnWeightKind_t wKind, size_t weightSizeInBytes, const void *weights, mudnnTensorDescriptor_t wDesc, void **wAddr)

声明位置：mudnn_adv.h

状态：已废弃。

解析多头注意力权重/偏置视图（已废弃）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnDesc	const mudnnAttnDescriptor_t	注意力描述符。
wKind	mudnnMultiHeadAttnWeightKind_t	权重/偏置种类。
weightSizeInBytes	size_t	权重总大小（字节）。
weights	const void *	权重基址。
wDesc	mudnnTensorDescriptor_t	返回张量描述符。
wAddr	void **	返回切片基址。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnMultiHeadAttnForward

mudnnStatus_t mudnnMultiHeadAttnForward(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, int currIdx, const int loWinIdx[], const int hiWinIdx[], const int devSeqLengthsQO[], const int devSeqLengthsKV[], const mudnnSeqDataDescriptor_t qDesc, const void *queries, const void *residuals, const mudnnSeqDataDescriptor_t kDesc, const void *keys, const mudnnSeqDataDescriptor_t vDesc, const void *values, const mudnnSeqDataDescriptor_t oDesc, void *out, size_t weightSizeInBytes, const void *weights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)

声明位置：mudnn_adv.h

状态：已废弃。

多头注意力前向计算（已废弃）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnDesc	const mudnnAttnDescriptor_t	注意力描述符。
currIdx	int	当前步索引。
loWinIdx	const int	窗口起始索引数组。
hiWinIdx	const int	窗口结束索引数组。
devSeqLengthsQO	const int	Q/O 序列长度（设备端）。
devSeqLengthsKV	const int	K/V 序列长度（设备端）。
qDesc	const mudnnSeqDataDescriptor_t	Q 描述符。
queries	const void *	指向 Q 数据的设备指针。
residuals	const void *	指向残差数据的设备指针。
kDesc	const mudnnSeqDataDescriptor_t	K 描述符。
keys	const void *	指向 K 数据的设备指针。
vDesc	const mudnnSeqDataDescriptor_t	V 描述符。
values	const void *	指向 V 数据的设备指针。
oDesc	const mudnnSeqDataDescriptor_t	O 描述符。
out	void *	指向 O 数据的设备指针。
weightSizeInBytes	size_t	权重大小（字节）。
weights	const void *	指向权重数据的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
workSpace	void *	指向 workspace 的设备指针。
reserveSpaceSizeInBytes	size_t	reserve 空间大小（字节）。
reserveSpace	void *	指向 reserve 空间的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnAdvVersionCheck

mudnnStatus_t mudnnAdvVersionCheck(void)

声明位置：mudnn_adv.h

交叉子库版本检查。

MUDNN_STATUS_SUCCESS 表示版本匹配，MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示不匹配。

返回值

MUDNN_STATUS_SUCCESS 表示版本匹配，MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示不匹配。

mudnnRNNBackwardData_v8

mudnnStatus_t mudnnRNNBackwardData_v8(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t yDesc, const void *y, const void *dy, mudnnRNNDataDescriptor_t xDesc, void *dx, mudnnTensorDescriptor_t hDesc, const void *hx, const void *dhy, void *dhx, mudnnTensorDescriptor_t cDesc, const void *cx, const void *dcy, void *dcx, size_t weightSpaceSize, const void *weightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)

声明位置：mudnn_adv.h

RNN 反向求解输入/隐状态梯度（v8）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
devSeqLengths	const int32_t	序列长度（设备端），可为 NULL 表示等长。
yDesc	mudnnRNNDataDescriptor_t	输出序列描述符。
y	const void *	指向输出序列数据的设备指针。
dy	const void *	指向输出梯度的设备指针。
xDesc	mudnnRNNDataDescriptor_t	输入序列描述符。
dx	void *	指向输入梯度的设备指针。
hDesc	mudnnTensorDescriptor_t	隐状态描述符。
hx	const void *	指向初始隐状态的设备指针。
dhy	const void *	指向终态隐状态梯度的设备指针。
dhx	void *	指向初始隐状态梯度的设备指针。
cDesc	mudnnTensorDescriptor_t	记忆状态描述符。
cx	const void *	指向初始记忆状态的设备指针。
dcy	const void *	指向终态记忆状态梯度的设备指针。
dcx	void *	指向初始记忆状态梯度的设备指针。
weightSpaceSize	size_t	权重空间大小（字节）。
weightSpace	const void *	指向权重空间数据的设备指针。
workSpaceSize	size_t	workspace 大小（字节）。
workSpace	void *	指向 workspace 的设备指针。
reserveSpaceSize	size_t	reserve 空间大小（字节）。
reserveSpace	void *	指向 reserve 空间的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnRNNBackwardWeights_v8

mudnnStatus_t mudnnRNNBackwardWeights_v8(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnWgradMode_t addGrad, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t xDesc, const void *x, mudnnTensorDescriptor_t hDesc, const void *hx, mudnnRNNDataDescriptor_t yDesc, const void *y, size_t weightSpaceSize, void *dweightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)

声明位置：mudnn_adv.h

计算 RNN 权重梯度（v8）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
rnnDesc	mudnnRNNDescriptor_t	RNN 描述符。
addGrad	mudnnWgradMode_t	选择累加或覆盖 dweightSpace。
devSeqLengths	const int32_t	序列长度（设备端）。
xDesc	mudnnRNNDataDescriptor_t	输入序列描述符。
x	const void *	指向输入序列数据的设备指针。
hDesc	mudnnTensorDescriptor_t	隐状态描述符。
hx	const void *	指向初始隐状态的设备指针。
yDesc	mudnnRNNDataDescriptor_t	输出序列描述符。
y	const void *	指向输出序列数据的设备指针。
weightSpaceSize	size_t	权重空间大小（字节）。
dweightSpace	void *	指向权重梯度输出的设备指针。
workSpaceSize	size_t	workspace 大小（字节）。
workSpace	void *	指向 workspace 的设备指针。
reserveSpaceSize	size_t	reserve 空间大小（字节）。
reserveSpace	void *	指向 reserve 空间的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnMultiHeadAttnBackwardData

mudnnStatus_t mudnnMultiHeadAttnBackwardData(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, const int loWinIdx[], const int hiWinIdx[], const int devSeqLengthsDQDO[], const int devSeqLengthsDKDV[], const mudnnSeqDataDescriptor_t doDesc, const void *dout, const mudnnSeqDataDescriptor_t dqDesc, void *dqueries, const void *queries, const mudnnSeqDataDescriptor_t dkDesc, void *dkeys, const void *keys, const mudnnSeqDataDescriptor_t dvDesc, void *dvalues, const void *values, size_t weightSizeInBytes, const void *weights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)

声明位置：mudnn_adv.h

状态：已废弃。

多头注意力反向求解输入梯度（已废弃）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnDesc	const mudnnAttnDescriptor_t	注意力描述符。
loWinIdx	const int	窗口起始索引数组。
hiWinIdx	const int	窗口结束索引数组。
devSeqLengthsDQDO	const int	dQ/dO 序列长度（设备端）。
devSeqLengthsDKDV	const int	dK/dV 序列长度（设备端）。
doDesc	const mudnnSeqDataDescriptor_t	dO 描述符。
dout	const void *	指向 dO 数据的设备指针。
dqDesc	const mudnnSeqDataDescriptor_t	dQ 描述符。
dqueries	void *	指向 dQ 数据的设备指针。
queries	const void *	指向 Q 原数据的设备指针。
dkDesc	const mudnnSeqDataDescriptor_t	dK 描述符。
dkeys	void *	指向 dK 数据的设备指针。
keys	const void *	指向 K 原数据的设备指针。
dvDesc	const mudnnSeqDataDescriptor_t	dV 描述符。
dvalues	void *	指向 dV 数据的设备指针。
values	const void *	指向 V 原数据的设备指针。
weightSizeInBytes	size_t	权重大小（字节）。
weights	const void *	指向权重数据的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
workSpace	void *	指向 workspace 的设备指针。
reserveSpaceSizeInBytes	size_t	reserve 空间大小（字节）。
reserveSpace	void *	指向 reserve 空间的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnMultiHeadAttnBackwardWeights

mudnnStatus_t mudnnMultiHeadAttnBackwardWeights(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, mudnnWgradMode_t addGrad, const mudnnSeqDataDescriptor_t qDesc, const void *queries, const mudnnSeqDataDescriptor_t kDesc, const void *keys, const mudnnSeqDataDescriptor_t vDesc, const void *values, const mudnnSeqDataDescriptor_t doDesc, const void *dout, size_t weightSizeInBytes, const void *weights, void *dweights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)

声明位置：mudnn_adv.h

状态：已废弃。

多头注意力反向求解权重梯度（已废弃）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnDesc	const mudnnAttnDescriptor_t	注意力描述符。
addGrad	mudnnWgradMode_t	累加或覆盖模式。
qDesc	const mudnnSeqDataDescriptor_t	Q 描述符。
queries	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnSeqDataDescriptor_t	K 描述符。
keys	const void *	指向 K 数据的设备指针。
vDesc	const mudnnSeqDataDescriptor_t	V 描述符。
values	const void *	指向 V 数据的设备指针。
doDesc	const mudnnSeqDataDescriptor_t	dO 描述符。
dout	const void *	指向 dO 数据的设备指针。
weightSizeInBytes	size_t	权重大小（字节）。
weights	const void *	指向权重数据的设备指针。
dweights	void *	指向权重梯度输出的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
workSpace	void *	指向 workspace 的设备指针。
reserveSpaceSizeInBytes	size_t	reserve 空间大小（字节）。
reserveSpace	void *	指向 reserve 空间的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateCTCLossDescriptor

mudnnStatus_t mudnnCreateCTCLossDescriptor(mudnnCTCLossDescriptor_t *ctcLossDesc)

声明位置：mudnn_adv.h

创建 CTC Loss 描述符。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t *	返回描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCTCLossDescriptor

mudnnStatus_t mudnnSetCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType)

声明位置：mudnn_adv.h

状态：已废弃。

设置 CTC Loss 描述符（旧接口，计算类型）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t	计算类型。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCTCLossDescriptorEx

mudnnStatus_t mudnnSetCTCLossDescriptorEx(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnNanPropagation_t gradMode)

声明位置：mudnn_adv.h

状态：已废弃。

设置 CTC Loss 描述符，含normalization与 NaN 处理（旧接口）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t	计算类型。
normMode	mudnnLossNormalizationMode_t	归一化模式。
gradMode	mudnnNanPropagation_t	NaN 传播模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCTCLossDescriptor_v8

mudnnStatus_t mudnnSetCTCLossDescriptor_v8(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnNanPropagation_t gradMode, int maxLabelLength)

声明位置：mudnn_adv.h

状态：已废弃。

设置 CTC Loss 描述符 v8，包含最大标签长度（旧接口）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t	计算类型。
normMode	mudnnLossNormalizationMode_t	归一化模式。
gradMode	mudnnNanPropagation_t	NaN 传播模式。
maxLabelLength	int	最大标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCTCLossDescriptor_v9

mudnnStatus_t mudnnSetCTCLossDescriptor_v9(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnCTCGradMode_t ctcGradMode, int maxLabelLength)

声明位置：mudnn_adv.h

设置 CTC Loss 描述符 v9（含梯度模式）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t	计算类型。
normMode	mudnnLossNormalizationMode_t	归一化模式。
ctcGradMode	mudnnCTCGradMode_t	梯度模式。
maxLabelLength	int	最大标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossDescriptor

mudnnStatus_t mudnnGetCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType)

声明位置：mudnn_adv.h

状态：已废弃。

获取 CTC Loss 描述符（旧接口，仅 compType）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t *	返回计算类型。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossDescriptorEx

mudnnStatus_t mudnnGetCTCLossDescriptorEx(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnNanPropagation_t *gradMode)

声明位置：mudnn_adv.h

状态：已废弃。

获取 CTC Loss 描述符（旧接口，含normalization与 NaN）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t *	返回计算类型。
normMode	mudnnLossNormalizationMode_t *	返回归一化模式。
gradMode	mudnnNanPropagation_t *	返回 NaN 传播模式。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossDescriptor_v8

mudnnStatus_t mudnnGetCTCLossDescriptor_v8(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnNanPropagation_t *gradMode, int *maxLabelLength)

声明位置：mudnn_adv.h

状态：已废弃。

获取 CTC Loss 描述符 v8（旧接口）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t *	返回计算类型。
normMode	mudnnLossNormalizationMode_t *	返回归一化模式。
gradMode	mudnnNanPropagation_t *	返回 NaN 传播模式。
maxLabelLength	int *	返回最大标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossDescriptor_v9

mudnnStatus_t mudnnGetCTCLossDescriptor_v9(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnCTCGradMode_t *ctcGradMode, int *maxLabelLength)

声明位置：mudnn_adv.h

获取 CTC Loss 描述符 v9（推荐，含 ctcGradMode）。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
compType	mudnnDataType_t *	返回计算类型。
normMode	mudnnLossNormalizationMode_t *	返回归一化模式。
ctcGradMode	mudnnCTCGradMode_t *	返回梯度模式。
maxLabelLength	int *	返回最大标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyCTCLossDescriptor

mudnnStatus_t mudnnDestroyCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc)

声明位置：mudnn_adv.h

销毁 CTC Loss 描述符。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCTCLoss

mudnnStatus_t mudnnCTCLoss(mudnnHandle_t handle, const mudnnTensorDescriptor_t probsDesc, const void *probs, const int hostLabels[], const int hostLabelLengths[], const int hostInputLengths[], void *costs, const mudnnTensorDescriptor_t gradientsDesc, void *gradients, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

CTC Loss 前向/反向（host label 版本，已弃用）。

labels/lengths 位于 host 端，其他张量位于 device。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
probsDesc	const mudnnTensorDescriptor_t	概率张量描述符。
probs	const void *	指向概率张量数据的设备指针。
hostLabels	const int	主机端标签数组。
hostLabelLengths	const int	主机端每样本标签长度。
hostInputLengths	const int	主机端输入长度。
costs	void *	指向输出损失的设备指针。
gradientsDesc	const mudnnTensorDescriptor_t	梯度张量描述符。
gradients	void *	指向输出梯度的设备指针。
algo	mudnnCTCLossAlgo_t	算法选择。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCTCLoss_v8

mudnnStatus_t mudnnCTCLoss_v8(mudnnHandle_t handle, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t probsDesc, const void *probs, const int labels[], const int labelLengths[], const int inputLengths[], void *costs, const mudnnTensorDescriptor_t gradientsDesc, void *gradients, size_t workSpaceSizeInBytes, void *workspace)

声明位置：mudnn_adv.h

CTC Loss 前向/反向 v8（device label，已弃用）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
algo	mudnnCTCLossAlgo_t	算法选择。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
probsDesc	const mudnnTensorDescriptor_t	概率张量描述符。
probs	const void *	概率张量。
labels	const int	设备端标签。
labelLengths	const int	标签长度数组。
inputLengths	const int	输入长度数组。
costs	void *	输出损失。
gradientsDesc	const mudnnTensorDescriptor_t	梯度张量描述符。
gradients	void *	输出梯度。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。
workspace	void *	workspace 指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossWorkspaceSize

mudnnStatus_t mudnnGetCTCLossWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t probsDesc, const mudnnTensorDescriptor_t gradientsDesc, const int *labels, const int *labelLengths, const int *inputLengths, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

查询 CTC Loss workspace（host labels，已弃用）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
probsDesc	const mudnnTensorDescriptor_t	概率张量描述符。
gradientsDesc	const mudnnTensorDescriptor_t	梯度张量描述符。
labels	const int *	主机端标签。
labelLengths	const int *	标签长度。
inputLengths	const int *	输入长度。
algo	mudnnCTCLossAlgo_t	算法选择。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetCTCLossWorkspaceSize_v8

mudnnStatus_t mudnnGetCTCLossWorkspaceSize_v8(mudnnHandle_t handle, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t probsDesc, const mudnnTensorDescriptor_t gradientsDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

查询 CTC Loss workspace v8（device labels，已弃用）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
algo	mudnnCTCLossAlgo_t	算法选择。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
probsDesc	const mudnnTensorDescriptor_t	概率张量描述符。
gradientsDesc	const mudnnTensorDescriptor_t	梯度张量描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetCTCLossDescriptor_v10

mudnnStatus_t mudnnSetCTCLossDescriptor_v10(mudnnCTCLossDescriptor_t ctcLossDesc, int64_t blank, bool zeroInfinity, int64_t maxTargetLength)

声明位置：mudnn_adv.h

扩展接口：是。

配置 CTC Loss 描述符 v10（对齐 cuDNN backend v9/v10 行为）

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	-
blank	int64_t	-
zeroInfinity	bool	-
maxTargetLength	int64_t	-

mudnnGetCTCLossDescriptor_v10

mudnnStatus_t mudnnGetCTCLossDescriptor_v10(mudnnCTCLossDescriptor_t ctcLossDesc, int64_t *blank, bool *zeroInfinity, int64_t *maxTargetLength)

声明位置：mudnn_adv.h

扩展接口：是。

查询 CTC Loss 描述符 v10。

参数

参数	类型	说明
ctcLossDesc	mudnnCTCLossDescriptor_t	描述符。
blank	int64_t *	返回 blank 标签。
zeroInfinity	bool *	返回 zeroInfinity 标志。
maxTargetLength	int64_t *	返回最大标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCTCLoss_v10

mudnnStatus_t mudnnCTCLoss_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t alphaDesc, void *alpha, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetsDesc, const void *targets, const mudnnTensorDescriptor_t inputLengthsDesc, const void *inputLengths, const mudnnTensorDescriptor_t targetLengthDesc, const void *targetLength)

声明位置：mudnn_adv.h

扩展接口：是。

CTC Loss 前向 v10（基于 backend 风格张量描述符）。

所有张量均为 device 端，支持零填充等行为与 cuDNN 对齐。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出损失描述符。
output	void *	输出损失。
alphaDesc	const mudnnTensorDescriptor_t	alpha 描述符。
alpha	void *	alpha 缓冲区。
inputDesc	const mudnnTensorDescriptor_t	输入概率描述符。
input	const void *	输入概率。
targetsDesc	const mudnnTensorDescriptor_t	目标标签描述符。
targets	const void *	目标标签。
inputLengthsDesc	const mudnnTensorDescriptor_t	输入长度描述符。
inputLengths	const void *	输入长度。
targetLengthDesc	const mudnnTensorDescriptor_t	标签长度描述符。
targetLength	const void *	标签长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCTCLossGetWorkspaceSize_v10

mudnnStatus_t mudnnCTCLossGetWorkspaceSize_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t logProbsDesc, const mudnnTensorDescriptor_t targetsDesc, const mudnnTensorDescriptor_t inputLengthsDesc, const mudnnTensorDescriptor_t targetLengthDesc, const mudnnTensorDescriptor_t lossDesc, const mudnnTensorDescriptor_t alphaDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

查询 CTC Loss v10 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出损失描述符。
gradDesc	const mudnnTensorDescriptor_t	梯度描述符。
logProbsDesc	const mudnnTensorDescriptor_t	log-prob 描述符。
targetsDesc	const mudnnTensorDescriptor_t	标签描述符。
inputLengthsDesc	const mudnnTensorDescriptor_t	输入长度描述符。
targetLengthDesc	const mudnnTensorDescriptor_t	标签长度描述符。
lossDesc	const mudnnTensorDescriptor_t	损失张量描述符。
alphaDesc	const mudnnTensorDescriptor_t	alpha 张量描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCTCLossBackward_v10

mudnnStatus_t mudnnCTCLossBackward_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t logProbsDesc, const void *logProbs, const mudnnTensorDescriptor_t targetsDesc, const void *targets, const mudnnTensorDescriptor_t inputLengthsDesc, const void *inputLengths, const mudnnTensorDescriptor_t targetLengthDesc, const void *targetLength, const mudnnTensorDescriptor_t lossDesc, const void *loss, const mudnnTensorDescriptor_t alphaDesc, const void *alpha, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

CTC Loss 反向 v10。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
ctcLossDesc	mudnnCTCLossDescriptor_t	CTC 描述符。
outputDesc	const mudnnTensorDescriptor_t	输出损失描述符。
output	void *	指向输出损失的设备指针。
gradDesc	const mudnnTensorDescriptor_t	梯度描述符。
grad	const void *	指向上游梯度的设备指针。
logProbsDesc	const mudnnTensorDescriptor_t	log-prob 描述符。
logProbs	const void *	指向 log-prob 数据的设备指针。
targetsDesc	const mudnnTensorDescriptor_t	标签描述符。
targets	const void *	指向标签数据的设备指针。
inputLengthsDesc	const mudnnTensorDescriptor_t	输入长度描述符。
inputLengths	const void *	指向输入长度的设备指针。
targetLengthDesc	const mudnnTensorDescriptor_t	标签长度描述符。
targetLength	const void *	指向标签长度的设备指针。
lossDesc	const mudnnTensorDescriptor_t	损失张量描述符。
loss	const void *	指向损失数据的设备指针。
alphaDesc	const mudnnTensorDescriptor_t	alpha 描述符。
alpha	const void *	指向 alpha 数据的设备指针。
workspace	void *	指向设备端工作区的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateScaledDotProductAttentionDescriptor

mudnnStatus_t mudnnCreateScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t *sdpaDesc)

声明位置：mudnn_adv.h

扩展接口：是。

创建 SDPA 描述符（与 cuDNN backend SDPA 对齐）

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t *	-

mudnnDestroyScaledDotProductAttentionDescriptor

mudnnStatus_t mudnnDestroyScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc)

声明位置：mudnn_adv.h

扩展接口：是。

销毁 SDPA 描述符。

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScaledDotProductAttentionDescriptor

mudnnStatus_t mudnnSetScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool keyFormatBHDS, bool isTraining, bool isCausal, bool isDeterministic)

声明位置：mudnn_adv.h

扩展接口：是。

配置定长 SDPA 描述符。

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
mathType	mudnnMathType_t	数学模式。
embedDim	int	嵌入维度。
batchSize	int	批大小。
numHeads	int	头数。
scale	double	缩放系数。
usePadMask	bool	是否使用 pad mask。
keyFormatBHDS	bool	K 格式是否为 BHDS。
isTraining	bool	是否训练模式。
isCausal	bool	是否因果掩码。
isDeterministic	bool	是否确定性。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScaledDotProductAttentionDescriptorEx

mudnnStatus_t mudnnSetScaledDotProductAttentionDescriptorEx(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool keyFormatBHDS, bool isTraining, bool isCausal, bool isDeterministic, double p, uint64_t seed, uint64_t offset, int dropoutMode, uint64_t *deviceSeed, uint64_t *deviceOffset, uint64_t graphOffset)

声明位置：mudnn_adv.h

扩展接口：是。

配置定长 SDPA 描述符（含 dropout 种子/偏移）。

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
mathType	mudnnMathType_t	数学模式。
embedDim	int	嵌入维度。
batchSize	int	批大小。
numHeads	int	头数。
scale	double	缩放系数。
usePadMask	bool	是否使用 pad mask。
keyFormatBHDS	bool	K 格式是否为 BHDS。
isTraining	bool	是否训练模式。
isCausal	bool	是否因果掩码。
isDeterministic	bool	是否确定性。
p	double	dropout 概率。
seed	uint64_t	dropout 种子。
offset	uint64_t	dropout 偏移。
dropoutMode	int	dropout 模式。
deviceSeed	uint64_t *	设备端种子输出。
deviceOffset	uint64_t *	设备端偏移输出。
graphOffset	uint64_t	图偏移。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScaledDotProductAttentionVarlenDescriptor

mudnnStatus_t mudnnSetScaledDotProductAttentionVarlenDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool isTraining, bool isCausal, bool isDeterministic, int maxSeqlenQ, int maxSeqlenK)

声明位置：mudnn_adv.h

扩展接口：是。

配置变长 SDPA 描述符。

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
mathType	mudnnMathType_t	数学模式。
embedDim	int	嵌入维度。
batchSize	int	批大小。
numHeads	int	头数。
scale	double	缩放系数。
usePadMask	bool	是否使用 pad mask。
isTraining	bool	是否训练模式。
isCausal	bool	是否因果掩码。
isDeterministic	bool	是否确定性。
maxSeqlenQ	int	Q 最大序列长度。
maxSeqlenK	int	K 最大序列长度。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetScaledDotProductAttentionVarlenDescriptorEx

mudnnStatus_t mudnnSetScaledDotProductAttentionVarlenDescriptorEx(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool isTraining, bool isCausal, bool isDeterministic, int maxSeqlenQ, int maxSeqlenK, double p, uint64_t seed, uint64_t offset, int dropoutMode, uint64_t *deviceSeed, uint64_t *deviceOffset, uint64_t graphOffset)

声明位置：mudnn_adv.h

扩展接口：是。

配置变长 SDPA 描述符（含 dropout 配置）。

参数

参数	类型	说明
sdpaDesc	mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
mathType	mudnnMathType_t	数学模式。
embedDim	int	嵌入维度。
batchSize	int	批大小。
numHeads	int	头数。
scale	double	缩放系数。
usePadMask	bool	是否使用 pad mask。
isTraining	bool	是否训练模式。
isCausal	bool	是否因果掩码。
isDeterministic	bool	是否确定性。
maxSeqlenQ	int	Q 最大序列长度。
maxSeqlenK	int	K 最大序列长度。
p	double	dropout 概率。
seed	uint64_t	dropout 种子。
offset	uint64_t	dropout 偏移。
dropoutMode	int	dropout 模式。
deviceSeed	uint64_t *	设备端种子输出。
deviceOffset	uint64_t *	设备端偏移输出。
graphOffset	uint64_t	图偏移。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashForward

mudnnStatus_t mudnnScaledDotProductAttentionFlashForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
logsumexp	const void *	指向 logsumexp 输出的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针，可为 NULL。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dropoutMaskDesc	mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	void *	指向 Dropout 掩码输出的设备指针，可为 NULL。
outDesc	mudnnTensorDescriptor_t	输出描述符。
out	void *	指向输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSize

mudnnStatus_t mudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t logsumexpDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t dqDesc, const mudnnTensorDescriptor_t dkDesc, const mudnnTensorDescriptor_t dvDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 反向 workspace 查询。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
outDesc	const mudnnTensorDescriptor_t	输出描述符。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
dqDesc	const mudnnTensorDescriptor_t	dQ 描述符。
dkDesc	const mudnnTensorDescriptor_t	dK 描述符。
dvDesc	const mudnnTensorDescriptor_t	dV 描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashBackward

mudnnStatus_t mudnnScaledDotProductAttentionFlashBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outDesc, const void *out, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
dout	const void *	指向 dOut 数据的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针，可为 NULL。
outDesc	const mudnnTensorDescriptor_t	输出描述符。
out	const void *	指向输出数据的设备指针。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
logsumexp	const void *	指向 logsumexp 数据的设备指针。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	const void *	指向 Dropout 掩码数据的设备指针，可为 NULL。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dqDesc	mudnnTensorDescriptor_t	dQ 描述符。
dq	void *	指向 dQ 数据的设备指针。
dkDesc	mudnnTensorDescriptor_t	dK 描述符。
dk	void *	指向 dK 数据的设备指针。
dvDesc	mudnnTensorDescriptor_t	dV 描述符。
dv	void *	指向 dV 数据的设备指针。
workspace	void *	指向 workspace 的设备指针，可为 NULL。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashVarlenForward

mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t cuSeqlensQDesc, const void *cuSeqlensQ, const mudnnTensorDescriptor_t cuSeqlensKDesc, const void *cuSeqlensK, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 变长前向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
logsumexp	const void *	指向 logsumexp 输出的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针，可为 NULL。
cuSeqlensQDesc	const mudnnTensorDescriptor_t	Q 累积长度描述符。
cuSeqlensQ	const void *	指向 Q 累积长度的设备指针。
cuSeqlensKDesc	const mudnnTensorDescriptor_t	K 累积长度描述符。
cuSeqlensK	const void *	指向 K 累积长度的设备指针。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dropoutMaskDesc	mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	void *	指向 Dropout 掩码输出的设备指针，可为 NULL。
outDesc	mudnnTensorDescriptor_t	输出描述符。
out	void *	指向输出数据的设备指针。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSize

mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t logsumexpDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t cuSeqlensQDesc, const mudnnTensorDescriptor_t cuSeqlensKDesc, const mudnnTensorDescriptor_t dqDesc, const mudnnTensorDescriptor_t dkDesc, const mudnnTensorDescriptor_t dvDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 变长反向 workspace 查询。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
outDesc	const mudnnTensorDescriptor_t	输出描述符。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
cuSeqlensQDesc	const mudnnTensorDescriptor_t	Q 累积长度描述符。
cuSeqlensKDesc	const mudnnTensorDescriptor_t	K 累积长度描述符。
dqDesc	const mudnnTensorDescriptor_t	dQ 描述符。
dkDesc	const mudnnTensorDescriptor_t	dK 描述符。
dvDesc	const mudnnTensorDescriptor_t	dV 描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionFlashVarlenBackward

mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outDesc, const void *out, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnTensorDescriptor_t cuSeqlensQDesc, const void *cuSeqlensQ, const mudnnTensorDescriptor_t cuSeqlensKDesc, const void *cuSeqlensK, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA FlashAttention 变长反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
dout	const void *	指向 dOut 数据的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针。
outDesc	const mudnnTensorDescriptor_t	输出描述符。
out	const void *	指向输出数据的设备指针。
logsumexpDesc	const mudnnTensorDescriptor_t	logsumexp 描述符。
logsumexp	const void *	指向 logsumexp 数据的设备指针。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	const void *	指向 Dropout 掩码数据的设备指针。
cuSeqlensQDesc	const mudnnTensorDescriptor_t	Q 累积长度描述符。
cuSeqlensQ	const void *	指向 Q 累积长度的设备指针。
cuSeqlensKDesc	const mudnnTensorDescriptor_t	K 累积长度描述符。
cuSeqlensK	const void *	指向 K 累积长度的设备指针。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dqDesc	mudnnTensorDescriptor_t	dQ 描述符。
dq	void *	指向 dQ 数据的设备指针。
dkDesc	mudnnTensorDescriptor_t	dK 描述符。
dk	void *	指向 dK 数据的设备指针。
dvDesc	mudnnTensorDescriptor_t	dV 描述符。
dv	void *	指向 dV 数据的设备指针。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionMathForwardGetWorkspaceSize

mudnnStatus_t mudnnScaledDotProductAttentionMathForwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t attnProbsDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA Math 路径前向 workspace 查询。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
attnProbsDesc	const mudnnTensorDescriptor_t	注意力概率描述符。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
outDesc	const mudnnTensorDescriptor_t	输出描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionMathForward

mudnnStatus_t mudnnScaledDotProductAttentionMathForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t attnProbsDesc, const void *attnProbs, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA Math 路径前向（支持显式 attnProbs）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
attnProbsDesc	const mudnnTensorDescriptor_t	注意力概率描述符。
attnProbs	const void *	指向注意力概率数据的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
maskDesc	const mudnnTensorDescriptor_t	掩码描述符。
mask	const void *	指向掩码数据的设备指针。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dropoutMaskDesc	mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	void *	指向 Dropout 掩码数据的设备指针。
outDesc	mudnnTensorDescriptor_t	输出描述符。
out	void *	指向输出数据的设备指针。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionMathBackwardGetWorkspaceSize

mudnnStatus_t mudnnScaledDotProductAttentionMathBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA Math 路径反向 workspace 查询。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnScaledDotProductAttentionMathBackward

mudnnStatus_t mudnnScaledDotProductAttentionMathBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t dattnProbsDesc, const void *dattnProbs, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t attnProbsDesc, const void *attnProbs, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

SDPA Math 路径反向。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dattnProbsDesc	const mudnnTensorDescriptor_t	dAttnProbs 描述符。
dattnProbs	const void *	指向 dAttnProbs 数据的设备指针。
doutDesc	const mudnnTensorDescriptor_t	dOut 描述符。
dout	const void *	指向 dOut 数据的设备指针。
qDesc	const mudnnTensorDescriptor_t	Q 描述符。
q	const void *	指向 Q 数据的设备指针。
kDesc	const mudnnTensorDescriptor_t	K 描述符。
k	const void *	指向 K 数据的设备指针。
vDesc	const mudnnTensorDescriptor_t	V 描述符。
v	const void *	指向 V 数据的设备指针。
attnProbsDesc	const mudnnTensorDescriptor_t	AttnProbs 描述符。
attnProbs	const void *	指向 AttnProbs 数据的设备指针。
dropoutMaskDesc	const mudnnTensorDescriptor_t	Dropout 掩码描述符。
dropoutMask	const void *	指向 Dropout 掩码数据的设备指针。
sdpaDesc	const mudnnScaledDotProductAttentionDescriptor_t	SDPA 描述符。
dqDesc	mudnnTensorDescriptor_t	dQ 描述符。
dq	void *	指向 dQ 数据的设备指针。
dkDesc	mudnnTensorDescriptor_t	dK 描述符。
dk	void *	指向 dK 数据的设备指针。
dvDesc	mudnnTensorDescriptor_t	dV 描述符。
dv	void *	指向 dV 数据的设备指针。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateBatchMatMulDescriptor

mudnnStatus_t mudnnCreateBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t *batchMatMulDesc)

声明位置：mudnn_adv.h

扩展接口：是。

创建批量矩阵乘描述符。

参数

参数	类型	说明
batchMatMulDesc	mudnnBatchMatMulDescriptor_t *	返回描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyBatchMatMulDescriptor

mudnnStatus_t mudnnDestroyBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t batchMatMulDesc)

声明位置：mudnn_adv.h

扩展接口：是。

销毁批量矩阵乘描述符。

参数

参数	类型	说明
batchMatMulDesc	mudnnBatchMatMulDescriptor_t	待销毁描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetBatchMatMulDescriptor

mudnnStatus_t mudnnSetBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t batchMatMulDesc, mudnnMathType_t mathType, bool trans_a, bool trans_b)

声明位置：mudnn_adv.h

扩展接口：是。

配置批量矩阵乘（转置/数学模式）。

参数

参数	类型	说明
batchMatMulDesc	mudnnBatchMatMulDescriptor_t	描述符。
mathType	mudnnMathType_t	数学模式。
trans_a	bool	A 是否转置。
trans_b	bool	B 是否转置。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetBatchMatMulDescriptorEx

mudnnStatus_t mudnnSetBatchMatMulDescriptorEx(mudnnBatchMatMulDescriptor_t batchMatMulDesc, mudnnMathType_t mathType, bool trans_a, bool trans_b, bool deterministic, mudnnMatMulEpilogue_t epilogue, int mp_limit, double alpha, double beta, double gamma)

声明位置：mudnn_adv.h

扩展接口：是。

配置批量矩阵乘扩展选项（确定性/epilogue 等）。

参数

参数	类型	说明
batchMatMulDesc	mudnnBatchMatMulDescriptor_t	描述符。
mathType	mudnnMathType_t	数学模式。
trans_a	bool	A 是否转置。
trans_b	bool	B 是否转置。
deterministic	bool	是否确定性。
epilogue	mudnnMatMulEpilogue_t	epilogue 类型。
mp_limit	int	混合精度限制。
alpha	double	缩放系数 alpha。
beta	double	缩放系数 beta。
gamma	double	缩放系数 gamma。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchMatmulGetWorkspaceSize

mudnnStatus_t mudnnBatchMatmulGetWorkspaceSize(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t bDesc, const mudnnTensorDescriptor_t cDesc, const mudnnTensorDescriptor_t dDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

查询批量矩阵乘 workspace 大小。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
batchMatMulDesc	const mudnnBatchMatMulDescriptor_t	描述符。
aDesc	const mudnnTensorDescriptor_t	A 张量描述符。
bDesc	const mudnnTensorDescriptor_t	B 张量描述符。
cDesc	const mudnnTensorDescriptor_t	C 张量描述符。
dDesc	const mudnnTensorDescriptor_t	D 张量描述符。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchMatMulBias

mudnnStatus_t mudnnBatchMatMulBias(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

执行批量矩阵乘 + Bias。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
batchMatMulDesc	const mudnnBatchMatMulDescriptor_t	描述符。
aDesc	const mudnnTensorDescriptor_t	A矩阵 描述符。
a	const void *	指向 A矩阵 数据的设备指针。
bDesc	const mudnnTensorDescriptor_t	B矩阵 描述符。
b	const void *	指向 B矩阵 数据的设备指针。
cDesc	const mudnnTensorDescriptor_t	C矩阵 描述符。
c	const void *	指向 C矩阵 数据的设备指针。
dDesc	const mudnnTensorDescriptor_t	D矩阵 描述符。
d	void *	指向 D矩阵 数据输出的设备指针。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
bias	const void *	指向 Bias 数据的设备指针。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchMatMulBiasTensorScale

mudnnStatus_t mudnnBatchMatMulBiasTensorScale(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnTensorDescriptor_t scaleADesc, const void *scaleA, const mudnnTensorDescriptor_t scaleBDesc, const void *scaleB, const mudnnTensorDescriptor_t scaleCDesc, const void *scaleC, const mudnnTensorDescriptor_t scaleDDesc, const void *scaleD, int quantTile, bool fixedScaleLayout, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

批量矩阵乘 + Bias + 张量尺度（量化场景）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
batchMatMulDesc	const mudnnBatchMatMulDescriptor_t	描述符。
aDesc	const mudnnTensorDescriptor_t	A矩阵 描述符。
a	const void *	指向 A矩阵 数据的设备指针。
bDesc	const mudnnTensorDescriptor_t	B矩阵 描述符。
b	const void *	指向 B矩阵 数据的设备指针。
cDesc	const mudnnTensorDescriptor_t	C矩阵 描述符。
c	const void *	指向 C矩阵 数据的设备指针。
dDesc	const mudnnTensorDescriptor_t	D矩阵 描述符。
d	void *	指向 D矩阵 数据的设备指针。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
bias	const void *	指向 Bias 数据的设备指针。
scaleADesc	const mudnnTensorDescriptor_t	A scale 描述符。
scaleA	const void *	指向 A scale 数据的设备指针。
scaleBDesc	const mudnnTensorDescriptor_t	B scale 描述符。
scaleB	const void *	指向 B scale 数据的设备指针。
scaleCDesc	const mudnnTensorDescriptor_t	C scale 描述符。
scaleC	const void *	指向 C scale 数据的设备指针。
scaleDDesc	const mudnnTensorDescriptor_t	D scale 描述符。
scaleD	const void *	指向 D scale 数据的设备指针。
quantTile	int	量化 tile 大小。
fixedScaleLayout	bool	是否固定 scale 布局。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnBatchMatMulBiasTensorScaleEpilogue

mudnnStatus_t mudnnBatchMatMulBiasTensorScaleEpilogue(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnTensorDescriptor_t scaleADesc, const void *scaleA, const mudnnTensorDescriptor_t scaleBDesc, const void *scaleB, const mudnnTensorDescriptor_t scaleCDesc, const void *scaleC, const mudnnTensorDescriptor_t scaleDDesc, const void *scaleD, int quantTile, bool fixedScaleLayout, const mudnnTensorDescriptor_t amaxDDesc, void *amaxD, const mudnnTensorDescriptor_t scaleAuxDesc, void *scaleAux, const mudnnTensorDescriptor_t auxDesc, void *aux, const mudnnTensorDescriptor_t atomicSyncInDesc, void *atomicSyncIn, const mudnnTensorDescriptor_t atomicSyncOutDesc, void *atomicSyncOut, void *workspace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

批量矩阵乘 + Bias + 张量尺度 + 扩展 epilogue（AMAX/scale/aux 输出）。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
batchMatMulDesc	const mudnnBatchMatMulDescriptor_t	描述符。
aDesc	const mudnnTensorDescriptor_t	A矩阵 描述符。
a	const void *	指向 A矩阵 数据的设备指针。
bDesc	const mudnnTensorDescriptor_t	B矩阵 描述符。
b	const void *	指向 B矩阵 数据的设备指针。
cDesc	const mudnnTensorDescriptor_t	C矩阵 描述符。
c	const void *	指向 C矩阵 数据的设备指针。
dDesc	const mudnnTensorDescriptor_t	D矩阵 描述符。
d	void *	指向 D矩阵 数据的设备指针。
biasDesc	const mudnnTensorDescriptor_t	Bias 描述符。
bias	const void *	指向 Bias 数据的设备指针。
scaleADesc	const mudnnTensorDescriptor_t	A scale 描述符。
scaleA	const void *	指向 A scale 数据的设备指针。
scaleBDesc	const mudnnTensorDescriptor_t	B scale 描述符。
scaleB	const void *	指向 B scale 数据的设备指针。
scaleCDesc	const mudnnTensorDescriptor_t	C scale 描述符。
scaleC	const void *	指向 C scale 数据的设备指针。
scaleDDesc	const mudnnTensorDescriptor_t	D scale 描述符。
scaleD	const void *	指向 D scale 数据的设备指针。
quantTile	int	量化 tile 大小。
fixedScaleLayout	bool	是否固定 scale 布局。
amaxDDesc	const mudnnTensorDescriptor_t	AMAX 描述符。
amaxD	void *	指向 AMAX 输出的设备指针。
scaleAuxDesc	const mudnnTensorDescriptor_t	辅助 scale 描述符。
scaleAux	void *	指向辅助 scale 输出的设备指针。
auxDesc	const mudnnTensorDescriptor_t	辅助输出描述符。
aux	void *	指向辅助输出的设备指针。
atomicSyncInDesc	const mudnnTensorDescriptor_t	原子同步输入描述符。
atomicSyncIn	void *	指向原子同步输入的设备指针。
atomicSyncOutDesc	const mudnnTensorDescriptor_t	原子同步输出描述符。
atomicSyncOut	void *	指向原子同步输出的设备指针。
workspace	void *	指向 workspace 的设备指针。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnCreateDotDescriptor

mudnnStatus_t mudnnCreateDotDescriptor(mudnnDotDescriptor_t *dotDesc)

声明位置：mudnn_adv.h

扩展接口：是。

创建 Dot 描述符。

参数

参数	类型	说明
dotDesc	mudnnDotDescriptor_t *	返回创建的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDestroyDotDescriptor

mudnnStatus_t mudnnDestroyDotDescriptor(mudnnDotDescriptor_t dotDesc)

声明位置：mudnn_adv.h

扩展接口：是。

销毁 Dot 描述符。

参数

参数	类型	说明
dotDesc	mudnnDotDescriptor_t	待销毁的描述符。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnSetDotMathType

mudnnStatus_t mudnnSetDotMathType(mudnnDotDescriptor_t dotDesc, mudnnMathType_t mathType)

声明位置：mudnn_adv.h

扩展接口：是。

设置 Dot 描述符的计算模式。

参数

参数	类型	说明
dotDesc	mudnnDotDescriptor_t	Dot 描述符。
mathType	mudnnMathType_t	数学模式（MUDNN_DEFAULT_MATH, MUDNN_TENSOR_OP_MATH, MUDNN_FMA_MATH）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnGetDotWorkspaceSize

mudnnStatus_t mudnnGetDotWorkspaceSize(mudnnHandle_t handle, mudnnDotDescriptor_t dotDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t bDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

查询 Dot 运算所需 workspace 大小。

Dot 内部通过 MatMul 实现，可能需要 workspace。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dotDesc	mudnnDotDescriptor_t	Dot 描述符。
aDesc	const mudnnTensorDescriptor_t	输入张量 a 描述符（1D）。
bDesc	const mudnnTensorDescriptor_t	输入张量 b 描述符（1D）。
cDesc	const mudnnTensorDescriptor_t	输出张量 c 描述符（1D，形状为 (1,)）。
sizeInBytes	size_t *	返回 workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。

mudnnDot

mudnnStatus_t mudnnDot(mudnnHandle_t handle, mudnnDotDescriptor_t dotDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, void *c, void *workSpace, size_t workSpaceSizeInBytes)

声明位置：mudnn_adv.h

扩展接口：是。

执行 Dot 运算：c = dot(a, b)。

仅支持 1D 输入，与 torch.dot 语义对齐。

参数

参数	类型	说明
handle	mudnnHandle_t	muDNN 句柄。
dotDesc	mudnnDotDescriptor_t	Dot 描述符。
aDesc	const mudnnTensorDescriptor_t	输入张量 a 描述符（1D）。
a	const void *	输入张量 a 数据指针。
bDesc	const mudnnTensorDescriptor_t	输入张量 b 描述符（1D）。
b	const void *	输入张量 b 数据指针。
cDesc	const mudnnTensorDescriptor_t	输出张量 c 描述符（1D，形状为 (1,)）。
c	void *	输出张量 c 数据指针。
workSpace	void *	workspace 指针（可为 nullptr）。
workSpaceSizeInBytes	size_t	workspace 大小（字节）。

返回值

MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。