muDNN C API 参考
数据类型参考
结构体
mudnnConvolutionBwdDataAlgoPerfStruct
helper: 返回数据反向传播算法的性能结果。
| 字段 | 类型 | 说明 |
|---|---|---|
algo | mudnnConvolutionBwdDataAlgo_t | 选用的数据反向传播算法。 |
status | mudnnStatus_t | 执行状态。 |
time | float | 估计耗时（毫秒）。 |
memory | size_t | 额外显存需求。 |
determinism | mudnnDeterminism_t | 是否返回确定性结果。 |
mathType | mudnnMathType_t | 计算模式。 |
reserved | int | - |
mudnnConvolutionBwdFilterAlgoPerfStruct
helper: 返回滤波器反向传播算法的性能结果。
| 字段 | 类型 | 说明 |
|---|---|---|
algo | mudnnConvolutionBwdFilterAlgo_t | 选用的滤波器反向传播算法。 |
status | mudnnStatus_t | 执行状态。 |
time | float | 估计耗时（毫秒）。 |
memory | size_t | 额外显存需求。 |
determinism | mudnnDeterminism_t | 是否返回确定性结果。 |
mathType | mudnnMathType_t | 计算模式。 |
reserved | int | - |
mudnnConvolutionFwdAlgoPerfStruct
前向卷积算法性能信息，兼容 cudnnConvolutionFwdAlgoPerf。
| 字段 | 类型 | 说明 |
|---|---|---|
algo | mudnnConvolutionFwdAlgo_t | 选用的前向算法。 |
status | mudnnStatus_t | 执行返回状态。 |
time | float | 估计耗时（毫秒）。 |
memory | size_t | 额外显存需求。 |
determinism | mudnnDeterminism_t | 是否返回确定性结果。 |
mathType | mudnnMathType_t | 计算模式。 |
reserved | int | - |
mudnnDebugStruct
回调调试信息，类似 cudnnDebug_t。
| 字段 | 类型 | 说明 |
|---|---|---|
mudnn_version | unsigned | - |
mudnnStatus | mudnnStatus_t | - |
time_sec | unsigned | epoch 时间（秒） |
time_usec | unsigned | epoch 时间的微秒部分 |
time_delta | unsigned | 自启动以来的时间（秒） |
handle | mudnnHandle_t | muDNN 句柄 |
stream | musaStream_t | MUSA 流 ID |
pid | uint64_t | 进程 ID |
tid | uint64_t | 线程 ID |
musaDeviceId | int | MUSA 设备 ID |
reserved | int | 保留供将来使用 |
mudnnFractionStruct
分数结构体，等价 cudnnFraction_t。
| 字段 | 类型 | 说明 |
|---|---|---|
numerator | int64_t | - |
denominator | int64_t | - |
不透明描述符类型
下表列出 muDNN C API 中常用的不透明描述符类型及其典型生命周期。描述符通常先创建，再通过 Set/Get 类 API 配置或查询，最后由对应 Destroy API 释放。
枚举
mudnnRNNAlgo_t
BASIC RNN API.
MUDNN_RNN_ALGO_STANDARDMUDNN_RNN_ALGO_PERSIST_STATICMUDNN_RNN_ALGO_PERSIST_DYNAMICMUDNN_RNN_ALGO_PERSIST_STATIC_SMALL_HMUDNN_RNN_ALGO_COUNT
mudnnForwardMode_t
MUDNN_FWD_MODE_INFERENCEMUDNN_FWD_MODE_TRAINING
mudnnRNNMode_t
MUDNN_RNN_RELUMUDNN_RNN_TANHMUDNN_LSTMMUDNN_GRU
mudnnRNNBiasMode_t
MUDNN_RNN_NO_BIAS：RNN 单元公式不使用偏置MUDNN_RNN_SINGLE_INP_BIAS：RNN 单元公式在输入 GEMM 中使用一个输入偏置MUDNN_RNN_DOUBLE_BIAS：默认值，RNN 单元公式使用两个偏置向量MUDNN_RNN_SINGLE_REC_BIAS：RNN 单元公式在循环 GEMM 中使用一个循环偏置
mudnnDirectionMode_t
MUDNN_UNIDIRECTIONAL：单向网络MUDNN_BIDIRECTIONAL：每层输出拼接
mudnnRNNInputMode_t
MUDNN_LINEAR_INPUT：第一层输入 GEMM 使用可调整的权重矩阵MUDNN_SKIP_INPUT：第一层输入 GEMM 使用固定的单位矩阵
mudnnRNNClipMode_t
MUDNN_RNN_CLIP_NONE：禁用 LSTM 单元裁剪MUDNN_RNN_CLIP_MINMAX：启用 LSTM 单元裁剪
mudnnRNNDataLayout_t
MUDNN_RNN_DATA_LAYOUT_SEQ_MAJOR_UNPACKED：带 padding，外层步长从一个时间步到下一个时间步MUDNN_RNN_DATA_LAYOUT_SEQ_MAJOR_PACKED：按基础 RNN API 的方式按序列长度排序并打包MUDNN_RNN_DATA_LAYOUT_BATCH_MAJOR_UNPACKED：带 padding，外层步长从一个批次到下一个批次
mudnnSeqDataAxis_t
MUDNN_SEQDATA_TIME_DIM：time 维索引MUDNN_SEQDATA_BATCH_DIM：batch 维索引MUDNN_SEQDATA_BEAM_DIM：beam 维索引MUDNN_SEQDATA_VECT_DIM：vector 维索引
mudnnMultiHeadAttnWeightKind_t
MUDNN_MH_ATTN_Q_WEIGHTS：query 的输入投影权重MUDNN_MH_ATTN_K_WEIGHTS：key 的输入投影权重MUDNN_MH_ATTN_V_WEIGHTS：value 的输入投影权重MUDNN_MH_ATTN_O_WEIGHTS：输出投影权重MUDNN_MH_ATTN_Q_BIASES：query 的输入投影偏置张量MUDNN_MH_ATTN_K_BIASES：key 的输入投影偏置MUDNN_MH_ATTN_V_BIASES：value 的输入投影偏置MUDNN_MH_ATTN_O_BIASES：输出投影偏置
mudnnWgradMode_t
MUDNN_WGRAD_MODE_ADD：将部分梯度累加到 wgrad 输出缓冲区MUDNN_WGRAD_MODE_SET：将部分梯度写入 wgrad 输出缓冲区
mudnnLossNormalizationMode_t
MUDNN_LOSS_NORMALIZATION_NONEMUDNN_LOSS_NORMALIZATION_SOFTMAX
mudnnFusedOps_t
MUDNN_FUSED_SCALE_BIAS_ACTIVATION_CONV_BNSTATS：方括号中的每个操作都可通过传入 NULL 指针禁用；[per channel scale]、[per channel bias]、[activation]、convolution、[generate BN stats]MUDNN_FUSED_SCALE_BIAS_ACTIVATION_WGRAD：[per channel scale]、[per channel bias]、[activation]、convolutionBackwardWeightsMUDNN_FUSED_BN_FINALIZE_STATISTICS_TRAINING：BN-conv 融合中用于 BN 训练的工具；根据 ySum、ySqSum 以及学习得到的 scale 和 bias 计算等效 scale 和 bias；可选更新 running stats 并生成 saved statsMUDNN_FUSED_BN_FINALIZE_STATISTICS_INFERENCE：BN-conv 融合中用于 BN 推理的工具；根据学习得到的 running stats 以及学习得到的 scale 和 bias 计算等效 scale 和 biasMUDNN_FUSED_CONV_SCALE_BIAS_ADD_ACTIVATION：保留供将来使用：convolution、[per channel scale]、[per channel bias]、[residual add]、[activation]MUDNN_FUSED_SCALE_BIAS_ADD_ACTIVATION_GEN_BITMASK：保留供将来使用：[per channel scale]、[per channel bias]、[residual add]、activation、bitmaskMUDNN_FUSED_DACTIVATION_FORK_DBATCHNORM：保留供将来使用
mudnnFusedOpsConstParamLabel_t
| 枚举值 | 说明 |
|---|---|
MUDNN_PARAM_XDESC | 设置 XDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 XDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_XDATA_PLACEHOLDER | 设置/获取 XDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_MODE | 设置/获取 BN_MODE：传入 mudnnBatchNormMode_t* |
MUDNN_PARAM_BN_EQSCALEBIAS_DESC | 设置 MUDNN_PARAM_BN_EQSCALEBIAS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 MUDNN_PARAM_BN_EQSCALEBIAS_DESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_BN_EQSCALE_PLACEHOLDER | 设置/获取 BN_EQSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_EQBIAS_PLACEHOLDER | 设置/获取 BN_EQBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_ACTIVATION_DESC | 设置 ACTIVATION_DESC：传入已初始化的 mudnnActivationDescriptor_t；获取 ACTIVATION_DESC：传入已创建的 mudnnActivationDescriptor_t |
MUDNN_PARAM_CONV_DESC | 设置 CONV_DESC：传入已初始化的 mudnnConvolutionDescriptor_t；获取 CONV_DESC：传入已创建的 mudnnConvolutionDescriptor_t |
MUDNN_PARAM_WDESC | 设置 WDESC：传入已初始化的 mudnnFilterDescriptor_t；获取 WDESC：传入已创建的 mudnnFilterDescriptor_t |
MUDNN_PARAM_WDATA_PLACEHOLDER | 设置/获取 WDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_DWDESC | 设置 DWDESC：传入已初始化的 mudnnFilterDescriptor_t；获取 DWDESC：传入已创建的 mudnnFilterDescriptor_t |
MUDNN_PARAM_DWDATA_PLACEHOLDER | 设置/获取 DWDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_YDESC | 设置 YDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 YDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_YDATA_PLACEHOLDER | 设置/获取 YDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_DYDESC | 设置 DYDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DYDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_DYDATA_PLACEHOLDER | 设置/获取 DYDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_YSTATS_DESC | 设置 YSTATS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 YSTATS_DESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_YSUM_PLACEHOLDER | 设置/获取 YSUM_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_YSQSUM_PLACEHOLDER | 设置/获取 YSQSUM_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC | 设置 MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 MUDNN_PARAM_BN_SCALEBIAS_MEANVAR_DESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_BN_SCALE_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_SCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_BIAS_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_BIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_SAVED_MEAN_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_SAVED_MEAN_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_SAVED_INVSTD_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_SAVED_INVSTD_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_RUNNING_MEAN_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_RUNNING_MEAN_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_RUNNING_VAR_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_RUNNING_VAR_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_ZDESC | 设置 ZDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 ZDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_ZDATA_PLACEHOLDER | 设置/获取 ZDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_Z_EQSCALEBIAS_DESC | 设置 BN_Z_EQSCALEBIAS_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 BN_Z_EQSCALEBIAS_DESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_BN_Z_EQSCALE_PLACEHOLDER | 设置/获取 BN_Z_EQSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_Z_EQBIAS_PLACEHOLDER | 设置/获取 BN_Z_EQBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_ACTIVATION_BITMASK_DESC | 设置 ACTIVATION_BITMASK_DESC：传入已初始化的 mudnnTensorDescriptor_t；获取 ACTIVATION_BITMASK_DESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_ACTIVATION_BITMASK_PLACEHOLDER | 设置/获取 ACTIVATION_BITMASK_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_DXDESC | 设置 DXDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DXDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_DXDATA_PLACEHOLDER | 设置/获取 DXDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_DZDESC | 设置 DZDESC：传入已初始化的 mudnnTensorDescriptor_t；获取 DZDESC：传入已创建的 mudnnTensorDescriptor_t |
MUDNN_PARAM_DZDATA_PLACEHOLDER | 设置/获取 DZDATA_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_DSCALE_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_DSCALE_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
MUDNN_PARAM_BN_DBIAS_PLACEHOLDER | 设置/获取 MUDNN_PARAM_BN_DBIAS_PLACEHOLDER：传入 mudnnFusedOpsPointerPlaceHolder_t* |
mudnnFusedOpsPointerPlaceHolder_t
MUDNN_PTR_NULLMUDNN_PTR_ELEM_ALIGNEDMUDNN_PTR_16B_ALIGNED
mudnnFusedOpsVariantParamLabel_t
MUDNN_PTR_XDATA：设置时传入指向设备内存的 void*；获取时传入指向主机内存的 void**MUDNN_PTR_BN_EQSCALEMUDNN_PTR_BN_EQBIASMUDNN_PTR_WDATAMUDNN_PTR_DWDATAMUDNN_PTR_YDATAMUDNN_PTR_DYDATAMUDNN_PTR_YSUMMUDNN_PTR_YSQSUMMUDNN_PTR_WORKSPACEMUDNN_PTR_BN_SCALEMUDNN_PTR_BN_BIASMUDNN_PTR_BN_SAVED_MEANMUDNN_PTR_BN_SAVED_INVSTDMUDNN_PTR_BN_RUNNING_MEANMUDNN_PTR_BN_RUNNING_VARMUDNN_PTR_ZDATAMUDNN_PTR_BN_Z_EQSCALEMUDNN_PTR_BN_Z_EQBIASMUDNN_PTR_ACTIVATION_BITMASKMUDNN_PTR_DXDATAMUDNN_PTR_DZDATAMUDNN_PTR_BN_DSCALEMUDNN_PTR_BN_DBIASMUDNN_SCALAR_SIZE_T_WORKSPACE_SIZE_IN_BYTES：设置/获取：传入指向主机内存的 size_t*MUDNN_SCALAR_INT64_T_BN_ACCUMULATION_COUNT：设置/获取：传入指向主机内存的 int64_t*MUDNN_SCALAR_DOUBLE_BN_EXP_AVG_FACTOR：设置/获取：传入指向主机内存的 double*MUDNN_SCALAR_DOUBLE_BN_EPSILON：设置/获取：传入指向主机内存的 double*
mudnnStatus_t
muDNN 返回码，兼容 cuDNN Graph/Backend 状态分类。
MUDNN_STATUS_SUCCESSMUDNN_STATUS_NOT_INITIALIZED：未分类错误MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCHMUDNN_STATUS_SERIALIZATION_VERSION_MISMATCHMUDNN_STATUS_DEPRECATEDMUDNN_STATUS_LICENSE_ERRORMUDNN_STATUS_RUNTIME_IN_PROGRESSMUDNN_STATUS_RUNTIME_FP_OVERFLOWMUDNN_STATUS_SUBLIBRARY_LOADING_FAILEDMUDNN_STATUS_BAD_PARAMMUDNN_STATUS_BAD_PARAM_NULL_POINTERMUDNN_STATUS_BAD_PARAM_MISALIGNED_POINTERMUDNN_STATUS_BAD_PARAM_NOT_FINALIZEDMUDNN_STATUS_BAD_PARAM_OUT_OF_BOUNDMUDNN_STATUS_BAD_PARAM_SIZE_INSUFFICIENTMUDNN_STATUS_BAD_PARAM_STREAM_MISMATCHMUDNN_STATUS_BAD_PARAM_SHAPE_MISMATCHMUDNN_STATUS_BAD_PARAM_DUPLICATED_ENTRIESMUDNN_STATUS_BAD_PARAM_ATTRIBUTE_TYPEMUDNN_STATUS_BAD_PARAM_MUSA_GRAPH_MISMATCHMUDNN_STATUS_BAD_PARAM_DESCRIPTOR_TYPEMUDNN_STATUS_NOT_SUPPORTEDMUDNN_STATUS_NOT_SUPPORTED_GRAPH_PATTERNMUDNN_STATUS_NOT_SUPPORTED_SHAPEMUDNN_STATUS_NOT_SUPPORTED_DATA_TYPEMUDNN_STATUS_NOT_SUPPORTED_LAYOUTMUDNN_STATUS_NOT_SUPPORTED_INCOMPATIBLE_MUSA_DRIVERMUDNN_STATUS_NOT_SUPPORTED_INCOMPATIBLE_MUSARTMUDNN_STATUS_NOT_SUPPORTED_ARCH_MISMATCHMUDNN_STATUS_NOT_SUPPORTED_RUNTIME_PREREQUISITE_MISSINGMUDNN_STATUS_NOT_SUPPORTED_SUBLIBRARY_UNAVAILABLEMUDNN_STATUS_NOT_SUPPORTED_SHARED_MEMORY_INSUFFICIENTMUDNN_STATUS_NOT_SUPPORTED_PADDINGMUDNN_STATUS_NOT_SUPPORTED_BAD_LAUNCH_PARAMMUDNN_STATUS_NOT_SUPPORTED_MUSA_GRAPH_NATIVE_APIMUDNN_STATUS_NOT_IMPLEMENTDMUDNN_STATUS_INTERNAL_ERRORMUDNN_STATUS_INTERNAL_ERROR_COMPILATION_FAILEDMUDNN_STATUS_INTERNAL_ERROR_UNEXPECTED_VALUEMUDNN_STATUS_INTERNAL_ERROR_HOST_ALLOCATION_FAILEDMUDNN_STATUS_INTERNAL_ERROR_DEVICE_ALLOCATION_FAILEDMUDNN_STATUS_INTERNAL_ERROR_BAD_LAUNCH_PARAMMUDNN_STATUS_INTERNAL_ERROR_TEXTURE_CREATION_FAILEDMUDNN_STATUS_EXECUTION_FAILEDMUDNN_STATUS_EXECUTION_FAILED_MUSA_DRIVERMUDNN_STATUS_EXECUTION_FAILED_CUBLASMUDNN_STATUS_EXECUTION_FAILED_MUSARTMUDNN_STATUS_EXECUTION_FAILED_CURANDMUDNN_STATUS_ALLOC_FAILEDMUDNN_STATUS_INVALID_VALUE：请改用 MUDNN_STATUS_BAD_PARAMMUDNN_STATUS_ARCH_MISMATCHMUDNN_STATUS_MAPPING_ERRORMUDNN_STATUS_RUNTIME_PREREQUISITE_MISSINGMUDNN_STATUS_VERSION_MISMATCH
mudnnErrQueryMode_t
运行时错误查询模式。
MUDNN_ERRQUERY_RAWCODEMUDNN_ERRQUERY_NONBLOCKINGMUDNN_ERRQUERY_BLOCKING
mudnnDataType_t
Tensor 数据类型，参照 cuDNN Backend 的 cudnnDataType_t。
MUDNN_DATA_FLOATMUDNN_DATA_DOUBLEMUDNN_DATA_HALFMUDNN_DATA_INT8MUDNN_DATA_INT32MUDNN_DATA_UINT8MUDNN_DATA_BFLOAT16MUDNN_DATA_INT64MUDNN_DATA_BOOLEANMUDNN_DATA_FP8_E4M3MUDNN_DATA_FP8_E5M2MUDNN_DATA_FAST_FLOAT_FOR_FP8MUDNN_DATA_FP8_E8M0MUDNN_DATA_FP4_E2M1MUDNN_DATA_INT16MUDNN_DATA_UINT16MUDNN_DATA_UINT32MUDNN_DATA_UINT64MUDNN_DATA_QINT4MUDNN_DATA_QINT8MUDNN_DATA_POINTER
mudnnMathType_t
计算精度/数学模式，兼容 cudnnMathType_t。
MUDNN_DEFAULT_MATH：默认数学模式，使用常规核心指令。MUDNN_TENSOR_OP_MATH：Tensor Core 优先的数学模式，需硬件支持。MUDNN_TENSOR_OP_MATH_ALLOW_CONVERSION：允许内部类型转换以启用 Tensor Core。MUDNN_FMA_MATH：强制使用 FMA 以获得确定性或精度优势。
mudnnNanPropagation_t
NaN 传播策略（已弃用，保持兼容）。
MUDNN_NOT_PROPAGATE_NANMUDNN_PROPAGATE_NAN
mudnnCTCGradMode_t
CTC 梯度写入策略，等价 cudnnCTCGradMode。 用于控制 OOB 样本的处理方式。
MUDNN_CTC_ZERO_OOB_GRADIENTSMUDNN_CTC_SKIP_OOB_GRADIENTS
mudnnTensorFormat_t
张量格式，兼容 cudnnTensorFormat_t 并扩展。
MUDNN_TENSOR_NCHW：行主序 NCHW，wStride=1, hStride=w。MUDNN_TENSOR_NHWC：NHWC（通道最后，cStride=1，适合矢量化存取）。MUDNN_TENSOR_NCHW_VECT_C：NCHW 向量化通道格式（每点为通道向量）。MUDNN_TENSOR_HWCN：扩展：HWCN。MUDNN_TENSOR_NCW：扩展：NCW。MUDNN_TENSOR_NWC：扩展：NWC。MUDNN_TENSOR_NCDHW：扩展：NCDHW。MUDNN_TENSOR_NDHWC：扩展：NDHWC。MUDNN_TENSOR_DHWCN：扩展：DHWCN。
mudnnReduceTensorOp_t
Reduce 操作类型，兼容 cudnnReduceTensorOp_t。
| 枚举值 | 说明 |
|---|---|
MUDNN_REDUCE_TENSOR_ADD | 求和。 |
MUDNN_REDUCE_TENSOR_MUL | 连乘。 |
MUDNN_REDUCE_TENSOR_MIN | 取最小值。 |
MUDNN_REDUCE_TENSOR_MAX | 取最大值。 |
MUDNN_REDUCE_TENSOR_AMAX | 绝对值最大。 |
MUDNN_REDUCE_TENSOR_AVG | 取平均值。 |
MUDNN_REDUCE_TENSOR_NORM1 | L1 范数。 |
MUDNN_REDUCE_TENSOR_NORM2 | L2 范数。 |
MUDNN_REDUCE_TENSOR_MUL_NO_ZEROS | 跳过零的连乘。 |
mudnnActivationMode_t
激活函数枚举（兼容 cudnnActivationMode，标记为废弃）。
MUDNN_ACTIVATION_SIGMOID：Sigmoid 激活。MUDNN_ACTIVATION_RELU：ReLU 激活。MUDNN_ACTIVATION_TANH：Tanh 激活。MUDNN_ACTIVATION_CLIPPED_RELU：截断 ReLU。MUDNN_ACTIVATION_ELU：ELU 激活。MUDNN_ACTIVATION_IDENTITY：恒等映射。MUDNN_ACTIVATION_SWISH：Swish 激活。MUDNN_ACTIVATION_SILU：SiLU 激活（Swish 的变体）。
mudnnSeverity_t
日志/回调严重级别。
MUDNN_SEV_FATALMUDNN_SEV_ERRORMUDNN_SEV_WARNINGMUDNN_SEV_INFO
mudnnMatMulEpilogue_t
MatMul 后处理模式，涵盖常见 Epilogue 组合。
MUDNN_MATMULLT_EPILOGUE_DEFAULTMUDNN_MATMULLT_EPILOGUE_RELUMUDNN_MATMULLT_EPILOGUE_RELU_AUXMUDNN_MATMULLT_EPILOGUE_BIASMUDNN_MATMULLT_EPILOGUE_RELU_BIASMUDNN_MATMULLT_EPILOGUE_RELU_AUX_BIASMUDNN_MATMULLT_EPILOGUE_DRELUMUDNN_MATMULLT_EPILOGUE_DRELU_BGRADMUDNN_MATMULLT_EPILOGUE_GELUMUDNN_MATMULLT_EPILOGUE_GELU_AUXMUDNN_MATMULLT_EPILOGUE_GELU_BIASMUDNN_MATMULLT_EPILOGUE_GELU_AUX_BIASMUDNN_MATMULLT_EPILOGUE_DGELUMUDNN_MATMULLT_EPILOGUE_DGELU_BGRAD
mudnnConvolutionMode_t
卷积模式，匹配 cudnnConvolutionMode。
MUDNN_CONVOLUTIONMUDNN_CROSS_CORRELATION
mudnnReorderType_t
张量重排选项（已废弃，仅保留兼容）。
MUDNN_DEFAULT_REORDERMUDNN_NO_REORDER
mudnnPointwiseMode_t
点算子模式，覆盖加减乘除与激活等。
MUDNN_POINTWISE_ADDMUDNN_POINTWISE_ADD_SQUAREMUDNN_POINTWISE_DIVMUDNN_POINTWISE_MAXMUDNN_POINTWISE_MINMUDNN_POINTWISE_MODMUDNN_POINTWISE_MULMUDNN_POINTWISE_POWMUDNN_POINTWISE_SUBMUDNN_POINTWISE_ABSMUDNN_POINTWISE_CEILMUDNN_POINTWISE_COSMUDNN_POINTWISE_EXPMUDNN_POINTWISE_FLOORMUDNN_POINTWISE_LOGMUDNN_POINTWISE_NEGMUDNN_POINTWISE_RSQRTMUDNN_POINTWISE_SINMUDNN_POINTWISE_SQRTMUDNN_POINTWISE_TANMUDNN_POINTWISE_ERFMUDNN_POINTWISE_IDENTITYMUDNN_POINTWISE_RECIPROCALMUDNN_POINTWISE_ATAN2MUDNN_POINTWISE_RELU_FWDMUDNN_POINTWISE_TANH_FWDMUDNN_POINTWISE_SIGMOID_FWDMUDNN_POINTWISE_ELU_FWDMUDNN_POINTWISE_GELU_FWDMUDNN_POINTWISE_SOFTPLUS_FWDMUDNN_POINTWISE_SWISH_FWDMUDNN_POINTWISE_GELU_APPROX_TANH_FWDMUDNN_POINTWISE_RELU_BWDMUDNN_POINTWISE_TANH_BWDMUDNN_POINTWISE_SIGMOID_BWDMUDNN_POINTWISE_ELU_BWDMUDNN_POINTWISE_GELU_BWDMUDNN_POINTWISE_SOFTPLUS_BWDMUDNN_POINTWISE_SWISH_BWDMUDNN_POINTWISE_GELU_APPROX_TANH_BWDMUDNN_POINTWISE_CMP_EQMUDNN_POINTWISE_CMP_NEQMUDNN_POINTWISE_CMP_GTMUDNN_POINTWISE_CMP_GEMUDNN_POINTWISE_CMP_LTMUDNN_POINTWISE_CMP_LEMUDNN_POINTWISE_LOGICAL_ANDMUDNN_POINTWISE_LOGICAL_ORMUDNN_POINTWISE_LOGICAL_NOTMUDNN_POINTWISE_GEN_INDEXMUDNN_POINTWISE_BINARY_SELECT
mudnnResampleMode_t
重采样/插值模式，对应 cudnnResampleMode。
MUDNN_RESAMPLE_NEARESTMUDNN_RESAMPLE_BILINEARMUDNN_RESAMPLE_AVGPOOLMUDNN_RESAMPLE_AVGPOOL_INCLUDE_PADDINGMUDNN_RESAMPLE_AVGPOOL_EXCLUDE_PADDINGMUDNN_RESAMPLE_MAXPOOL
mudnnSignalMode_t
信号操作模式。
MUDNN_SIGNAL_SETMUDNN_SIGNAL_WAIT
mudnnGenStatsMode_t
统计计算模式（如求和/平方和）。
MUDNN_GENSTATS_SUM_SQSUM
mudnnBnFinalizeStatsMode_t
BN finalize 阶段模式。
MUDNN_BN_FINALIZE_STATISTICS_TRAININGMUDNN_BN_FINALIZE_STATISTICS_INFERENCE
mudnnRngDistribution_t
随机数分布类型。
MUDNN_RNG_DISTRIBUTION_BERNOULLIMUDNN_RNG_DISTRIBUTION_UNIFORMMUDNN_RNG_DISTRIBUTION_NORMAL
mudnnBackendAttributeName_t
Backend 属性名，覆盖图/执行计划/张量等的属性键。
MUDNN_ATTR_POINTWISE_MODEMUDNN_ATTR_POINTWISE_MATH_PRECMUDNN_ATTR_POINTWISE_NAN_PROPAGATIONMUDNN_ATTR_POINTWISE_RELU_LOWER_CLIPMUDNN_ATTR_POINTWISE_RELU_UPPER_CLIPMUDNN_ATTR_POINTWISE_RELU_LOWER_CLIP_SLOPEMUDNN_ATTR_POINTWISE_ELU_ALPHAMUDNN_ATTR_POINTWISE_SOFTPLUS_BETAMUDNN_ATTR_POINTWISE_SWISH_BETAMUDNN_ATTR_POINTWISE_AXISMUDNN_ATTR_CONVOLUTION_COMP_TYPEMUDNN_ATTR_CONVOLUTION_CONV_MODEMUDNN_ATTR_CONVOLUTION_DILATIONSMUDNN_ATTR_CONVOLUTION_FILTER_STRIDESMUDNN_ATTR_CONVOLUTION_POST_PADDINGSMUDNN_ATTR_CONVOLUTION_PRE_PADDINGSMUDNN_ATTR_CONVOLUTION_SPATIAL_DIMSMUDNN_ATTR_ENGINEHEUR_MODEMUDNN_ATTR_ENGINEHEUR_OPERATION_GRAPHMUDNN_ATTR_ENGINEHEUR_RESULTSMUDNN_ATTR_ENGINEHEUR_SM_COUNT_TARGETMUDNN_ATTR_ENGINEHEUR_DEVICEPROPMUDNN_ATTR_ENGINECFG_ENGINEMUDNN_ATTR_ENGINECFG_INTERMEDIATE_INFOMUDNN_ATTR_ENGINECFG_KNOB_CHOICESMUDNN_ATTR_ENGINECFG_WORKSPACE_SIZEMUDNN_ATTR_ENGINECFG_SHARED_MEMORY_USEDMUDNN_ATTR_EXECUTION_PLAN_HANDLEMUDNN_ATTR_EXECUTION_PLAN_ENGINE_CONFIGMUDNN_ATTR_EXECUTION_PLAN_WORKSPACE_SIZEMUDNN_ATTR_EXECUTION_PLAN_COMPUTED_INTERMEDIATE_UIDSMUDNN_ATTR_EXECUTION_PLAN_RUN_ONLY_INTERMEDIATE_UIDSMUDNN_ATTR_EXECUTION_PLAN_JSON_REPRESENTATIONMUDNN_ATTR_EXECUTION_PLAN_KERNEL_CACHEMUDNN_ATTR_EXECUTION_PLAN_DEVICEPROPMUDNN_ATTR_INTERMEDIATE_INFO_UNIQUE_IDMUDNN_ATTR_INTERMEDIATE_INFO_SIZEMUDNN_ATTR_INTERMEDIATE_INFO_DEPENDENT_DATA_UIDSMUDNN_ATTR_INTERMEDIATE_INFO_DEPENDENT_ATTRIBUTESMUDNN_ATTR_KNOB_CHOICE_KNOB_TYPEMUDNN_ATTR_KNOB_CHOICE_KNOB_VALUEMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_ALPHAMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_BETAMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_CONV_DESCMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_WMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_XMUDNN_ATTR_OPERATION_CONVOLUTION_FORWARD_YMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_ALPHAMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_BETAMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_CONV_DESCMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_WMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_DXMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_DATA_DYMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_ALPHAMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_BETAMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_CONV_DESCMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_DWMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_XMUDNN_ATTR_OPERATION_CONVOLUTION_BWD_FILTER_DYMUDNN_ATTR_OPERATION_POINTWISE_PW_DESCRIPTORMUDNN_ATTR_OPERATION_POINTWISE_XDESCMUDNN_ATTR_OPERATION_POINTWISE_BDESCMUDNN_ATTR_OPERATION_POINTWISE_YDESCMUDNN_ATTR_OPERATION_POINTWISE_ALPHA1MUDNN_ATTR_OPERATION_POINTWISE_ALPHA2MUDNN_ATTR_OPERATION_POINTWISE_DXDESCMUDNN_ATTR_OPERATION_POINTWISE_DYDESCMUDNN_ATTR_OPERATION_POINTWISE_TDESCMUDNN_ATTR_OPERATION_GENSTATS_MODEMUDNN_ATTR_OPERATION_GENSTATS_MATH_PRECMUDNN_ATTR_OPERATION_GENSTATS_XDESCMUDNN_ATTR_OPERATION_GENSTATS_SUMDESCMUDNN_ATTR_OPERATION_GENSTATS_SQSUMDESCMUDNN_ATTR_OPERATION_BN_FINALIZE_STATS_MODEMUDNN_ATTR_OPERATION_BN_FINALIZE_MATH_PRECMUDNN_ATTR_OPERATION_BN_FINALIZE_Y_SUM_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_Y_SQ_SUM_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_SCALE_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_BIAS_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_PREV_RUNNING_MEAN_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_PREV_RUNNING_VAR_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_UPDATED_RUNNING_MEAN_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_UPDATED_RUNNING_VAR_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_SAVED_MEAN_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_SAVED_INV_STD_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_EQ_SCALE_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_EQ_BIAS_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_ACCUM_COUNT_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_EPSILON_DESCMUDNN_ATTR_OPERATION_BN_FINALIZE_EXP_AVERATE_FACTOR_DESCMUDNN_ATTR_OPERATIONGRAPH_HANDLEMUDNN_ATTR_OPERATIONGRAPH_OPSMUDNN_ATTR_OPERATIONGRAPH_ENGINE_GLOBAL_COUNTMUDNN_ATTR_OPERATIONGRAPH_IS_DYNAMIC_SHAPE_ENABLEDMUDNN_ATTR_OPERATIONGRAPH_IS_SAME_TOPOLOGYMUDNN_ATTR_TENSOR_BYTE_ALIGNMENTMUDNN_ATTR_TENSOR_DATA_TYPEMUDNN_ATTR_TENSOR_DIMENSIONSMUDNN_ATTR_TENSOR_STRIDESMUDNN_ATTR_TENSOR_VECTOR_COUNTMUDNN_ATTR_TENSOR_VECTORIZED_DIMENSIONMUDNN_ATTR_TENSOR_UNIQUE_IDMUDNN_ATTR_TENSOR_IS_VIRTUALMUDNN_ATTR_TENSOR_IS_BY_VALUEMUDNN_ATTR_TENSOR_REORDERING_MODEMUDNN_ATTR_TENSOR_RAGGED_OFFSET_DESCMUDNN_ATTR_VARIANT_PACK_UNIQUE_IDSMUDNN_ATTR_VARIANT_PACK_DATA_POINTERSMUDNN_ATTR_VARIANT_PACK_INTERMEDIATESMUDNN_ATTR_VARIANT_PACK_WORKSPACEMUDNN_ATTR_LAYOUT_INFO_TENSOR_UIDMUDNN_ATTR_LAYOUT_INFO_TYPESMUDNN_ATTR_KNOB_INFO_TYPEMUDNN_ATTR_KNOB_INFO_MAXIMUM_VALUEMUDNN_ATTR_KNOB_INFO_MINIMUM_VALUEMUDNN_ATTR_KNOB_INFO_STRIDEMUDNN_ATTR_ENGINE_OPERATION_GRAPHMUDNN_ATTR_ENGINE_GLOBAL_INDEXMUDNN_ATTR_ENGINE_KNOB_INFOMUDNN_ATTR_ENGINE_NUMERICAL_NOTEMUDNN_ATTR_ENGINE_LAYOUT_INFOMUDNN_ATTR_ENGINE_BEHAVIOR_NOTEMUDNN_ATTR_ENGINE_SM_COUNT_TARGETMUDNN_ATTR_ENGINE_DEVICEPROPMUDNN_ATTR_MATMUL_COMP_TYPEMUDNN_ATTR_MATMUL_PADDING_VALUEMUDNN_ATTR_OPERATION_MATMUL_ADESCMUDNN_ATTR_OPERATION_MATMUL_BDESCMUDNN_ATTR_OPERATION_MATMUL_CDESCMUDNN_ATTR_OPERATION_MATMUL_DESCMUDNN_ATTR_OPERATION_MATMUL_IRREGULARLY_STRIDED_BATCH_COUNTMUDNN_ATTR_OPERATION_MATMUL_GEMM_M_OVERRIDE_DESCMUDNN_ATTR_OPERATION_MATMUL_GEMM_N_OVERRIDE_DESCMUDNN_ATTR_OPERATION_MATMUL_GEMM_K_OVERRIDE_DESCMUDNN_ATTR_REDUCTION_OPERATORMUDNN_ATTR_REDUCTION_COMP_TYPEMUDNN_ATTR_OPERATION_REDUCTION_XDESCMUDNN_ATTR_OPERATION_REDUCTION_YDESCMUDNN_ATTR_OPERATION_REDUCTION_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_MATH_PRECMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_MEAN_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_INVSTD_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_BN_SCALE_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_X_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DY_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DBN_SCALE_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_DBN_BIAS_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_DY_SCALE_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_X_SCALE_DESCMUDNN_ATTR_OPERATION_BN_BWD_WEIGHTS_EQ_BIASMUDNN_ATTR_RESAMPLE_MODEMUDNN_ATTR_RESAMPLE_COMP_TYPEMUDNN_ATTR_RESAMPLE_SPATIAL_DIMSMUDNN_ATTR_RESAMPLE_POST_PADDINGSMUDNN_ATTR_RESAMPLE_PRE_PADDINGSMUDNN_ATTR_RESAMPLE_STRIDESMUDNN_ATTR_RESAMPLE_WINDOW_DIMSMUDNN_ATTR_RESAMPLE_NAN_PROPAGATIONMUDNN_ATTR_RESAMPLE_PADDING_MODEMUDNN_ATTR_OPERATION_RESAMPLE_FWD_XDESCMUDNN_ATTR_OPERATION_RESAMPLE_FWD_YDESCMUDNN_ATTR_OPERATION_RESAMPLE_FWD_IDXDESCMUDNN_ATTR_OPERATION_RESAMPLE_FWD_ALPHAMUDNN_ATTR_OPERATION_RESAMPLE_FWD_BETAMUDNN_ATTR_OPERATION_RESAMPLE_FWD_DESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_DXDESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_DYDESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_IDXDESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_ALPHAMUDNN_ATTR_OPERATION_RESAMPLE_BWD_BETAMUDNN_ATTR_OPERATION_RESAMPLE_BWD_DESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_XDESCMUDNN_ATTR_OPERATION_RESAMPLE_BWD_YDESCMUDNN_ATTR_OPERATION_CONCAT_AXISMUDNN_ATTR_OPERATION_CONCAT_INPUT_DESCSMUDNN_ATTR_OPERATION_CONCAT_INPLACE_INDEXMUDNN_ATTR_OPERATION_CONCAT_OUTPUT_DESCMUDNN_ATTR_OPERATION_SIGNAL_MODEMUDNN_ATTR_OPERATION_SIGNAL_FLAGDESCMUDNN_ATTR_OPERATION_SIGNAL_VALUEMUDNN_ATTR_OPERATION_SIGNAL_XDESCMUDNN_ATTR_OPERATION_SIGNAL_YDESCMUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_CONTAINER_DESCMUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_YDESCMUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_SEQUENCE_DESCMUDNN_ATTR_OPERATION_PAGED_CACHE_LOAD_PAGE_TABLE_DESCMUDNN_ATTR_OPERATION_NORM_FWD_MODEMUDNN_ATTR_OPERATION_NORM_FWD_PHASEMUDNN_ATTR_OPERATION_NORM_FWD_XDESCMUDNN_ATTR_OPERATION_NORM_FWD_MEAN_DESCMUDNN_ATTR_OPERATION_NORM_FWD_INV_VARIANCE_DESCMUDNN_ATTR_OPERATION_NORM_FWD_SCALE_DESCMUDNN_ATTR_OPERATION_NORM_FWD_BIAS_DESCMUDNN_ATTR_OPERATION_NORM_FWD_EPSILON_DESCMUDNN_ATTR_OPERATION_NORM_FWD_EXP_AVG_FACTOR_DESCMUDNN_ATTR_OPERATION_NORM_FWD_INPUT_RUNNING_MEAN_DESCMUDNN_ATTR_OPERATION_NORM_FWD_INPUT_RUNNING_VAR_DESCMUDNN_ATTR_OPERATION_NORM_FWD_OUTPUT_RUNNING_MEAN_DESCMUDNN_ATTR_OPERATION_NORM_FWD_OUTPUT_RUNNING_VAR_DESCMUDNN_ATTR_OPERATION_NORM_FWD_YDESCMUDNN_ATTR_OPERATION_NORM_FWD_PEER_STAT_DESCSMUDNN_ATTR_OPERATION_NORM_BWD_MODEMUDNN_ATTR_OPERATION_NORM_BWD_XDESCMUDNN_ATTR_OPERATION_NORM_BWD_MEAN_DESCMUDNN_ATTR_OPERATION_NORM_BWD_INV_VARIANCE_DESCMUDNN_ATTR_OPERATION_NORM_BWD_DYDESCMUDNN_ATTR_OPERATION_NORM_BWD_SCALE_DESCMUDNN_ATTR_OPERATION_NORM_BWD_EPSILON_DESCMUDNN_ATTR_OPERATION_NORM_BWD_DSCALE_DESCMUDNN_ATTR_OPERATION_NORM_BWD_DBIAS_DESCMUDNN_ATTR_OPERATION_NORM_BWD_DXDESCMUDNN_ATTR_OPERATION_NORM_BWD_PEER_STAT_DESCSMUDNN_ATTR_OPERATION_RESHAPE_XDESCMUDNN_ATTR_OPERATION_RESHAPE_YDESCMUDNN_ATTR_RNG_DISTRIBUTIONMUDNN_ATTR_RNG_NORMAL_DIST_MEANMUDNN_ATTR_RNG_NORMAL_DIST_STANDARD_DEVIATIONMUDNN_ATTR_RNG_UNIFORM_DIST_MAXIMUMMUDNN_ATTR_RNG_UNIFORM_DIST_MINIMUMMUDNN_ATTR_RNG_BERNOULLI_DIST_PROBABILITYMUDNN_ATTR_OPERATION_RNG_YDESCMUDNN_ATTR_OPERATION_RNG_SEEDMUDNN_ATTR_OPERATION_RNG_DESCMUDNN_ATTR_OPERATION_RNG_OFFSET_DESCMUDNN_ATTR_KERNEL_CACHE_OPERATION_GRAPHMUDNN_ATTR_KERNEL_CACHE_IS_ENGINECFG_KERNEL_CACHEDMUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_XDESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_YDESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_SCALE_DESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_MATH_PRECMUDNN_ATTR_OPERATION_BLOCK_SCALE_QUANTIZE_BLOCK_SIZEMUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_XDESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_SCALE_DESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_YDESCMUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_MATH_PRECMUDNN_ATTR_OPERATION_BLOCK_SCALE_DEQUANTIZE_BLOCK_SIZEMUDNN_ATTR_DEVICEPROP_DEVICE_IDMUDNN_ATTR_DEVICEPROP_HANDLEMUDNN_ATTR_DEVICEPROP_JSON_REPRESENTATION
mudnnBackendAttributeType_t
Backend 属性值类型，对应 cudnnBackendAttributeType。
MUDNN_TYPE_HANDLEMUDNN_TYPE_DATA_TYPEMUDNN_TYPE_BOOLEANMUDNN_TYPE_INT64MUDNN_TYPE_FLOATMUDNN_TYPE_DOUBLEMUDNN_TYPE_VOID_PTRMUDNN_TYPE_CONVOLUTION_MODEMUDNN_TYPE_HEUR_MODEMUDNN_TYPE_KNOB_TYPEMUDNN_TYPE_NAN_PROPOGATIONMUDNN_TYPE_NUMERICAL_NOTEMUDNN_TYPE_LAYOUT_TYPEMUDNN_TYPE_ATTRIB_NAMEMUDNN_TYPE_POINTWISE_MODEMUDNN_TYPE_BACKEND_DESCRIPTORMUDNN_TYPE_GENSTATS_MODEMUDNN_TYPE_BN_FINALIZE_STATS_MODEMUDNN_TYPE_REDUCTION_OPERATOR_TYPEMUDNN_TYPE_BEHAVIOR_NOTEMUDNN_TYPE_TENSOR_REORDERING_MODEMUDNN_TYPE_RESAMPLE_MODEMUDNN_TYPE_PADDING_MODEMUDNN_TYPE_INT32MUDNN_TYPE_CHARMUDNN_TYPE_SIGNAL_MODEMUDNN_TYPE_FRACTIONMUDNN_TYPE_NORM_MODEMUDNN_TYPE_NORM_FWD_PHASEMUDNN_TYPE_RNG_DISTRIBUTION
mudnnBackendDescriptorType_t
Backend 描述符类型，映射到各类操作/计划/张量描述符。
MUDNN_BACKEND_POINTWISE_DESCRIPTORMUDNN_BACKEND_CONVOLUTION_DESCRIPTORMUDNN_BACKEND_ENGINE_DESCRIPTORMUDNN_BACKEND_ENGINECFG_DESCRIPTORMUDNN_BACKEND_ENGINEHEUR_DESCRIPTORMUDNN_BACKEND_EXECUTION_PLAN_DESCRIPTORMUDNN_BACKEND_INTERMEDIATE_INFO_DESCRIPTORMUDNN_BACKEND_KNOB_CHOICE_DESCRIPTORMUDNN_BACKEND_KNOB_INFO_DESCRIPTORMUDNN_BACKEND_LAYOUT_INFO_DESCRIPTORMUDNN_BACKEND_OPERATION_CONVOLUTION_FORWARD_DESCRIPTORMUDNN_BACKEND_OPERATION_CONVOLUTION_BACKWARD_FILTER_DESCRIPTORMUDNN_BACKEND_OPERATION_CONVOLUTION_BACKWARD_DATA_DESCRIPTORMUDNN_BACKEND_OPERATION_POINTWISE_DESCRIPTORMUDNN_BACKEND_OPERATION_GEN_STATS_DESCRIPTORMUDNN_BACKEND_OPERATIONGRAPH_DESCRIPTORMUDNN_BACKEND_VARIANT_PACK_DESCRIPTORMUDNN_BACKEND_TENSOR_DESCRIPTORMUDNN_BACKEND_MATMUL_DESCRIPTORMUDNN_BACKEND_OPERATION_MATMUL_DESCRIPTORMUDNN_BACKEND_OPERATION_BN_FINALIZE_STATISTICS_DESCRIPTORMUDNN_BACKEND_REDUCTION_DESCRIPTORMUDNN_BACKEND_OPERATION_REDUCTION_DESCRIPTORMUDNN_BACKEND_OPERATION_BN_BWD_WEIGHTS_DESCRIPTORMUDNN_BACKEND_RESAMPLE_DESCRIPTORMUDNN_BACKEND_OPERATION_RESAMPLE_FWD_DESCRIPTORMUDNN_BACKEND_OPERATION_RESAMPLE_BWD_DESCRIPTORMUDNN_BACKEND_OPERATION_CONCAT_DESCRIPTORMUDNN_BACKEND_OPERATION_SIGNAL_DESCRIPTORMUDNN_BACKEND_OPERATION_NORM_FORWARD_DESCRIPTORMUDNN_BACKEND_OPERATION_NORM_BACKWARD_DESCRIPTORMUDNN_BACKEND_OPERATION_RESHAPE_DESCRIPTORMUDNN_BACKEND_RNG_DESCRIPTORMUDNN_BACKEND_OPERATION_RNG_DESCRIPTORMUDNN_BACKEND_KERNEL_CACHE_DESCRIPTORMUDNN_BACKEND_OPERATION_PAGED_CACHE_LOAD_DESCRIPTORMUDNN_BACKEND_OPERATION_BLOCK_SCALE_QUANTIZE_DESCRIPTORMUDNN_BACKEND_OPERATION_BLOCK_SCALE_DEQUANTIZE_DESCRIPTORMUDNN_BACKEND_DEVICEPROP_DESCRIPTOR
mudnnBackendNumericalNote_t
数值特性说明，用于引擎选择或诊断。
MUDNN_NUMERICAL_NOTE_TENSOR_COREMUDNN_NUMERICAL_NOTE_DOWN_CONVERT_INPUTSMUDNN_NUMERICAL_NOTE_REDUCED_PRECISION_REDUCTIONMUDNN_NUMERICAL_NOTE_FFTMUDNN_NUMERICAL_NOTE_NONDETERMINISTICMUDNN_NUMERICAL_NOTE_WINOGRADMUDNN_NUMERICAL_NOTE_STRICT_NAN_PROPMUDNN_NUMERICAL_NOTE_TYPE_COUNT
mudnnBackendBehaviorNote_t
行为特性说明。
MUDNN_BEHAVIOR_NOTE_RUNTIME_COMPILATIONMUDNN_BEHAVIOR_NOTE_SUPPORTS_MUSA_GRAPH_NATIVE_APIMUDNN_BEHAVIOR_NOTE_TYPE_COUNT
mudnnBackendKnobType_t
Kernel 调优维度，涵盖块/瓦片等选项。
MUDNN_KNOB_TYPE_SPLIT_KMUDNN_KNOB_TYPE_SWIZZLEMUDNN_KNOB_TYPE_TILE_SIZEMUDNN_KNOB_TYPE_USE_TEXMUDNN_KNOB_TYPE_EDGEMUDNN_KNOB_TYPE_KBLOCKMUDNN_KNOB_TYPE_LDGAMUDNN_KNOB_TYPE_LDGBMUDNN_KNOB_TYPE_CHUNK_KMUDNN_KNOB_TYPE_SPLIT_HMUDNN_KNOB_TYPE_WINO_TILEMUDNN_KNOB_TYPE_MULTIPLYMUDNN_KNOB_TYPE_SPLIT_K_BUFMUDNN_KNOB_TYPE_TILEKMUDNN_KNOB_TYPE_STAGESMUDNN_KNOB_TYPE_REDUCTION_MODEMUDNN_KNOB_TYPE_CTA_SPLIT_K_MODEMUDNN_KNOB_TYPE_SPLIT_K_SLCMUDNN_KNOB_TYPE_IDX_MODEMUDNN_KNOB_TYPE_SLICEDMUDNN_KNOB_TYPE_SPLIT_RSMUDNN_KNOB_TYPE_SINGLEBUFFERMUDNN_KNOB_TYPE_LDGCMUDNN_KNOB_TYPE_SPECFILTMUDNN_KNOB_TYPE_KERNEL_CFGMUDNN_KNOB_TYPE_WORKSPACEMUDNN_KNOB_TYPE_TILE_CGAMUDNN_KNOB_TYPE_TILE_CGA_MMUDNN_KNOB_TYPE_TILE_CGA_NMUDNN_KNOB_TYPE_BLOCK_SIZEMUDNN_KNOB_TYPE_OCCUPANCYMUDNN_KNOB_TYPE_ARRAY_SIZE_PER_THREADMUDNN_KNOB_TYPE_NUM_C_PER_BLOCKMUDNN_KNOB_TYPE_SPLIT_COLSMUDNN_KNOB_TYPE_TILE_ROWSMUDNN_KNOB_TYPE_TILE_COLSMUDNN_KNOB_TYPE_LOAD_SIZEMUDNN_KNOB_TYPE_CTA_COUNTMUDNN_KNOB_TYPE_STREAM_KMUDNN_KNOB_TYPE_SPLIT_P_SLCMUDNN_KNOB_TYPE_TILE_MMUDNN_KNOB_TYPE_TILE_NMUDNN_KNOB_TYPE_WARP_SPEC_CFGMUDNN_KNOB_TYPE_COUNTS
mudnnBackendLayoutType_t
推荐的布局类型。
MUDNN_LAYOUT_TYPE_PREFERRED_NCHWMUDNN_LAYOUT_TYPE_PREFERRED_NHWCMUDNN_LAYOUT_TYPE_PREFERRED_PAD4CKMUDNN_LAYOUT_TYPE_PREFERRED_PAD8CKMUDNN_LAYOUT_TYPE_COUNT
mudnnBackendHeurMode_t
引擎启发式模式。
MUDNN_HEUR_MODE_INSTANTMUDNN_HEUR_MODE_BMUDNN_HEUR_MODE_FALLBACKMUDNN_HEUR_MODE_AMUDNN_HEUR_MODES_COUNT
mudnnBackendTensorReordering_t
张量重排模式。
MUDNN_TENSOR_REORDERING_NONE
mudnnPaddingMode_t
Padding 模式。
MUDNN_ZERO_PADMUDNN_NEG_INF_PADMUDNN_EDGE_VAL_PAD
mudnnBackendNormMode_t
归一化类型。
MUDNN_LAYER_NORMMUDNN_INSTANCE_NORMMUDNN_BATCH_NORMMUDNN_GROUP_NORMMUDNN_RMS_NORMMUDNN_ADA_LAYER_NORM
mudnnBackendNormFwdPhase_t
归一化前向阶段。
MUDNN_NORM_FWD_INFERENCEMUDNN_NORM_FWD_TRAINING
mudnnDeterminism_t
MUDNN_NON_DETERMINISTICMUDNN_DETERMINISTIC
mudnnFoldingDirection_t
MUDNN_TRANSFORM_FOLDMUDNN_TRANSFORM_UNFOLD
mudnnOpTensorOp_t
MUDNN_OP_TENSOR_ADDMUDNN_OP_TENSOR_MULMUDNN_OP_TENSOR_MINMUDNN_OP_TENSOR_MAXMUDNN_OP_TENSOR_SQRTMUDNN_OP_TENSOR_NOT
mudnnReduceTensorIndices_t
MUDNN_REDUCE_TENSOR_NO_INDICESMUDNN_REDUCE_TENSOR_FLATTENED_INDICES
mudnnIndicesType_t
MUDNN_32BIT_INDICESMUDNN_64BIT_INDICESMUDNN_16BIT_INDICESMUDNN_8BIT_INDICES
mudnnSoftmaxAlgorithm_t
MUDNN_SOFTMAX_FAST：直接实现MUDNN_SOFTMAX_ACCURATE：从每个点减去最大值以避免溢出MUDNN_SOFTMAX_LOG
mudnnSoftmaxMode_t
MUDNN_SOFTMAX_MODE_INSTANCE：对每个 N 在所有 C、H、W 上计算 SoftmaxMUDNN_SOFTMAX_MODE_CHANNEL：对每个 H、W、N 在所有 C 上计算 SoftmaxMUDNN_SOFTMAX_MODE_SOFTMAXMUDNN_SOFTMAX_MODE_LOG_SOFTMAXMUDNN_SOFTMAX_MODE_LOG_SUM_EXP
mudnnPoolingMode_t
MUDNN_POOLING_MAXMUDNN_POOLING_AVERAGE_COUNT_INCLUDE_PADDING：平均值计算包含padding 值MUDNN_POOLING_AVERAGE_COUNT_EXCLUDE_PADDING：平均值计算不包含padding 值MUDNN_POOLING_MAX_DETERMINISTICMUDNN_POOLING_GLOBAL_AVGPOOLMUDNN_POOLING_ADAPTIVE_MAXPOOLMUDNN_POOLING_ADAPTIVE_AVGPOOL
mudnnLRNMode_t
MUDNN_LRN_CROSS_CHANNEL_DIM1：沿张量的 dimA[1] 维度normalization
mudnnDivNormMode_t
MUDNN_DIVNORM_PRECOMPUTED_MEANS
mudnnBatchNormMode_t
MUDNN_BATCHNORM_PER_ACTIVATION：bnScale、bnBias 张量维度为 1xCxHxWx..（每个 CHW... 切片一个值，沿 N 切片normalization）MUDNN_BATCHNORM_SPATIAL：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）MUDNN_BATCHNORM_SPATIAL_PERSISTENT：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）。可能比 MUDNN_BATCHNORM_SPATIAL 更快，但会限制取值范围
mudnnBatchNormOps_t
MUDNN_BATCHNORM_OPS_BN：仅执行batch normalizationMUDNN_BATCHNORM_OPS_BN_ACTIVATION：先执行 batchNorm，再执行激活MUDNN_BATCHNORM_OPS_BN_ADD_ACTIVATION：先执行 batchNorm，再执行 elemWiseAdd，再执行激活
mudnnNormMode_t
MUDNN_NORM_PER_ACTIVATION：bnScale、bnBias 张量维度为 1xCxHxWx..（每个 CHW... 切片一个值，沿 N 切片normalization）MUDNN_NORM_PER_CHANNEL：bnScale、bnBias 张量维度为 1xCx1x1（每个 C 维一个值，沿 Nx1xHxW 子张量normalization）
mudnnNormAlgo_t
MUDNN_NORM_ALGO_STANDARDMUDNN_NORM_ALGO_PERSIST
mudnnLayerNormMode_t
MUDNN_LAYER_NORM_MODE_DIRECTMUDNN_LAYER_NORM_MODE_WELFORD
mudnnRMSNormMode_t
MUDNN_RMS_NORM_MODE_DIRECTMUDNN_RMS_NORM_MODE_WELFORD
mudnnInterpolateMode_t
MUDNN_INTERPOLATE_NEARESTMUDNN_INTERPOLATE_NEAREST_EXACTMUDNN_INTERPOLATE_LINEARMUDNN_INTERPOLATE_BICUBIC
mudnnScatterMode_t
MUDNN_SCATTER_MODE_UPDATE_ONLYMUDNN_SCATTER_MODE_ADDMUDNN_SCATTER_MODE_SUBMUDNN_SCATTER_MODE_MUL
mudnnPadMode_t
MUDNN_PAD_MODE_CONSTANTMUDNN_PAD_MODE_REFLECTMUDNN_PAD_MODE_REPLICATEMUDNN_PAD_MODE_CIRCULAR
mudnnGatherMode_t
MUDNN_GATHER_MODE_GATHER：按axis和batchDims语义执行标准 Gather。MUDNN_GATHER_MODE_GATHER_ND：按多维索引执行 GatherND。MUDNN_GATHER_MODE_GATHER_ELEMENTS：沿指定轴按元素索引采样。
mudnnScanMode_t
MUDNN_SCAN_MODE_INCLUSIVE：输出包含当前位置元素的前缀结果。MUDNN_SCAN_MODE_EXCLUSIVE：输出不包含当前位置元素的前缀结果。
mudnnScanOpType_t
MUDNN_SCAN_OP_TYPE_ADD：使用加法执行前缀扫描。MUDNN_SCAN_OP_TYPE_MUL：使用乘法执行前缀扫描。
mudnnNormOps_t
MUDNN_NORM_OPS_NORM：仅执行normalizationMUDNN_NORM_OPS_NORM_ACTIVATION：先执行 Norm，再执行激活MUDNN_NORM_OPS_NORM_ADD_ACTIVATION：先执行 Norm，再执行 elemWiseAdd，再执行激活
mudnnSamplerType_t
MUDNN_SAMPLER_BILINEAR
mudnnConvolutionFwdAlgo_t
MUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_GEMMMUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_PRECOMP_GEMMMUDNN_CONVOLUTION_FWD_ALGO_GEMMMUDNN_CONVOLUTION_FWD_ALGO_DIRECTMUDNN_CONVOLUTION_FWD_ALGO_FFTMUDNN_CONVOLUTION_FWD_ALGO_FFT_TILINGMUDNN_CONVOLUTION_FWD_ALGO_WINOGRADMUDNN_CONVOLUTION_FWD_ALGO_WINOGRAD_NONFUSEDMUDNN_CONVOLUTION_FWD_ALGO_COUNT
mudnnConvolutionBwdFilterAlgo_t
MUDNN_CONVOLUTION_BWD_FILTER_ALGO_0：非确定性MUDNN_CONVOLUTION_BWD_FILTER_ALGO_1MUDNN_CONVOLUTION_BWD_FILTER_ALGO_FFTMUDNN_CONVOLUTION_BWD_FILTER_ALGO_3：非确定性MUDNN_CONVOLUTION_BWD_FILTER_ALGO_WINOGRAD：未实现MUDNN_CONVOLUTION_BWD_FILTER_ALGO_WINOGRAD_NONFUSEDMUDNN_CONVOLUTION_BWD_FILTER_ALGO_FFT_TILINGMUDNN_CONVOLUTION_BWD_FILTER_ALGO_IMPLICIT_GEMMMUDNN_CONVOLUTION_BWD_FILTER_ALGO_GEMMMUDNN_CONVOLUTION_BWD_FILTER_ALGO_DIRECTMUDNN_CONVOLUTION_BWD_FILTER_ALGO_COUNT
mudnnConvolutionBwdDataAlgo_t
MUDNN_CONVOLUTION_BWD_DATA_ALGO_0：非确定性MUDNN_CONVOLUTION_BWD_DATA_ALGO_1MUDNN_CONVOLUTION_BWD_DATA_ALGO_FFTMUDNN_CONVOLUTION_BWD_DATA_ALGO_FFT_TILINGMUDNN_CONVOLUTION_BWD_DATA_ALGO_WINOGRADMUDNN_CONVOLUTION_BWD_DATA_ALGO_WINOGRAD_NONFUSEDMUDNN_CONVOLUTION_BWD_DATA_ALGO_IMPLICIT_GEMMMUDNN_CONVOLUTION_BWD_DATA_ALGO_GEMMMUDNN_CONVOLUTION_BWD_DATA_ALGO_DIRECTMUDNN_CONVOLUTION_BWD_DATA_ALGO_COUNT
mudnnCTCLossAlgo_t
MUDNN_CTC_LOSS_ALGO_DETERMINISTICMUDNN_CTC_LOSS_ALGO_NON_DETERMINISTIC
mudnnUnaryMode_t
MUDNN_UNARY_ADDMUDNN_UNARY_SUBMUDNN_UNARY_MULMUDNN_UNARY_DIVMUDNN_UNARY_POWMUDNN_UNARY_SQRTMUDNN_UNARY_ROUNDMUDNN_UNARY_RSQRTMUDNN_UNARY_RECIPROCALMUDNN_UNARY_SQUAREMUDNN_UNARY_IS_FINITEMUDNN_UNARY_IS_INFMUDNN_UNARY_IS_NANMUDNN_UNARY_IS_NONZEROMUDNN_UNARY_LOGICAL_ANDMUDNN_UNARY_LOGICAL_ORMUDNN_UNARY_LOGICAL_XORMUDNN_UNARY_EXPMUDNN_UNARY_LOGMUDNN_UNARY_LOG10MUDNN_UNARY_LOG2MUDNN_UNARY_LOG1PMUDNN_UNARY_SINMUDNN_UNARY_COSMUDNN_UNARY_ACOSMUDNN_UNARY_TANMUDNN_UNARY_ATANMUDNN_UNARY_LTMUDNN_UNARY_LEMUDNN_UNARY_GTMUDNN_UNARY_GEMUDNN_UNARY_EQMUDNN_UNARY_NEMUDNN_UNARY_MAXMUDNN_UNARY_MINMUDNN_UNARY_CEILMUDNN_UNARY_FLOORMUDNN_UNARY_SIGMOIDMUDNN_UNARY_HARDSIGMOIDMUDNN_UNARY_RELUMUDNN_UNARY_LEAKY_RELUMUDNN_UNARY_RELU6MUDNN_UNARY_TANHMUDNN_UNARY_CLIPMUDNN_UNARY_ELUMUDNN_UNARY_SWISHMUDNN_UNARY_HARDSWISHMUDNN_UNARY_MISHMUDNN_UNARY_SILUMUDNN_UNARY_SOFTPLUSMUDNN_UNARY_GELUMUDNN_UNARY_GELU_TANHMUDNN_UNARY_ABSMUDNN_UNARY_ERFMUDNN_UNARY_IDENTITYMUDNN_UNARY_TRUEDIVMUDNN_UNARY_FLOORDIVMUDNN_UNARY_TRUNCATEDIVMUDNN_UNARY_FLOORMODMUDNN_UNARY_TRUNCATEMODMUDNN_UNARY_SUB_BY_ALPHAMUDNN_UNARY_DIV_BY_ALPHAMUDNN_UNARY_TRUNCATEDIV_BY_ALPHAMUDNN_UNARY_TRUEDIV_BY_ALPHAMUDNN_UNARY_FLOORDIV_BY_ALPHAMUDNN_UNARY_CASTMUDNN_UNARY_SIGN
mudnnBinaryMode_t
MUDNN_BINARY_ADDMUDNN_BINARY_SUBMUDNN_BINARY_MULMUDNN_BINARY_DIVMUDNN_BINARY_POWMUDNN_BINARY_ADD_ALPHAMUDNN_BINARY_SUB_ALPHAMUDNN_BINARY_LOGICAL_ANDMUDNN_BINARY_LOGICAL_ORMUDNN_BINARY_LOGICAL_XORMUDNN_BINARY_LTMUDNN_BINARY_LEMUDNN_BINARY_GTMUDNN_BINARY_GEMUDNN_BINARY_EQMUDNN_BINARY_NEMUDNN_BINARY_MAXMUDNN_BINARY_MINMUDNN_BINARY_PRELUMUDNN_BINARY_LEAKY_RELU_BWMUDNN_BINARY_RELU6_BWMUDNN_BINARY_THRESHOLD_BWMUDNN_BINARY_SIGMOID_BWMUDNN_BINARY_SILU_BWMUDNN_BINARY_TANH_BWMUDNN_BINARY_GELU_NONE_BWMUDNN_BINARY_GELU_TANH_BWMUDNN_BINARY_RSQRT_BWMUDNN_BINARY_TRUEDIVMUDNN_BINARY_FLOORDIVMUDNN_BINARY_TRUNCATEDIVMUDNN_BINARY_FLOORMODMUDNN_BINARY_TRUNCATEMODMUDNN_BINARY_DIVNONANMUDNN_BINARY_SQUARED_DIFF
mudnnTernaryMode_t
MUDNN_TERNARY_SELECTMUDNN_TERNARY_SELECTV2MUDNN_TERNARY_ADDCMULMUDNN_TERNARY_ADDCMUL_ALPHAMUDNN_TERNARY_ADDCDIVMUDNN_TERNARY_ADDCDIV_ALPHAMUDNN_TERNARY_CLAMP
mudnnReduceMode_t
MUDNN_REDUCE_MAXMUDNN_REDUCE_ADDMUDNN_REDUCE_MULMUDNN_REDUCE_MEANMUDNN_REDUCE_MINMUDNN_REDUCE_PRODMUDNN_REDUCE_ANDMUDNN_REDUCE_NORMMUDNN_REDUCE_ORMUDNN_REDUCE_MUL_NO_ZEROSMUDNN_REDUCE_L2LOSSMUDNN_REDUCE_MAX_UNSTABLEMUDNN_REDUCE_MIN_UNSTABLEMUDNN_REDUCE_VARIANCEMUDNN_REDUCE_STD
mudnnParamDataType_t
MUDNN_PARAM_DATA_NONEMUDNN_PARAM_DATA_FLOATMUDNN_PARAM_DATA_DOUBLEMUDNN_PARAM_DATA_INT64MUDNN_PARAM_DATA_POINTERMUDNN_PARAM_DATA_UINT64
mudnnLossReduceMode_t
MUDNN_LOSS_REDUCE_MODE_NONEMUDNN_LOSS_REDUCE_MODE_MEANMUDNN_LOSS_REDUCE_MODE_SUMMUDNN_LOSS_REDUCE_MODE_BATCHMEAN
mudnnCumMode_t
MUDNN_CUM_ADDMUDNN_CUM_MUL
类型定义
mudnnRNNDescriptor_t：typedef struct mudnnRNNStruct* mudnnRNNDescriptor_tmudnnRNNDataDescriptor_t：typedef struct mudnnRNNDataStruct* mudnnRNNDataDescriptor_tmudnnAttnDescriptor_t：typedef struct mudnnAttnStruct* mudnnAttnDescriptor_t MUDNN_DEPRECATEDmudnnDotDescriptor_t：typedef struct mudnnDotStruct* mudnnDotDescriptor_tmudnnConvolutionBwdFilterAlgoPerfStruct：typedef struct mudnnConvolutionBwdFilterAlgoPerfStruct MUDNN_DEPRECATED；卷积描述符，兼容 cudnnConvolutionDescriptor。mudnnHandle_t：typedef struct mudnnHandleStruct* mudnnHandle_tmudnnRuntimeTag_t：typedef struct mudnnRuntimeTag_t mudnnRuntimeTag_t MUDNN_DEPRECATED；运行时 Tag（占位，已弃用）。mudnnDebug_t：typedef struct mudnnDebugStruct mudnnDebug_t；回调调试信息，类似 cudnnDebug_t。mudnnCallback_t：typedef void(* mudnnCallback_t) (mudnnSeverity_t sev, void *udata, const mudnnDebug_t *dbg, const char *msg)；回调函数原型，参照 cudnnSetCallback。mudnnBackendDescriptor_t：typedef void* mudnnBackendDescriptor_t；Backend 描述符通用句柄。mudnnFraction_t：typedef struct mudnnFractionStruct mudnnFraction_t；分数结构体，等价 cudnnFraction_t。mudnnTensorDescriptor_t：typedef struct mudnnTensorStruct* mudnnTensorDescriptor_tmudnnTensorTransformDescriptor_t：typedef struct mudnnTensorTransformStruct* mudnnTensorTransformDescriptor_t MUDNN_DEPRECATEDmudnnLRNDescriptor_t：typedef struct mudnnLRNStruct* mudnnLRNDescriptor_tmudnnSpatialTransformerDescriptor_t：typedef struct mudnnSpatialTransformerStruct* mudnnSpatialTransformerDescriptor_tmudnnCTCLossDescriptor_t：typedef struct mudnnCTCLossStruct* mudnnCTCLossDescriptor_tmudnnUnaryDescriptor_t：typedef struct mudnnUnaryStruct * mudnnUnaryDescriptor_tmudnnBinaryDescriptor_t：typedef struct mudnnBinaryStruct * mudnnBinaryDescriptor_tmudnnTernaryDescriptor_t：typedef struct mudnnTernaryStruct * mudnnTernaryDescriptor_tmudnnReduceDescriptor_t：typedef struct mudnnReduceStruct* mudnnReduceDescriptor_tmudnnConcatDescriptor_t：typedef struct mudnnConcatStruct* mudnnConcatDescriptor_tmudnnNonzeroDescriptor_t：typedef struct mudnnNonzeroStruct* mudnnNonzeroDescriptor_tmudnnLayerNormDescriptor_t：typedef struct mudnnLayerNormStruct* mudnnLayerNormDescriptor_tmudnnDropoutDescriptor_t：typedef struct mudnnDropoutStruct* mudnnDropoutDescriptor_tmudnnInterpolateDescriptor_t：typedef struct mudnnInterpolateStruct* mudnnInterpolateDescriptor_tmudnnSortDescriptor_t：typedef struct mudnnSortStruct* mudnnSortDescriptor_tmudnnScatterDescriptor_t：typedef struct mudnnScatterStruct* mudnnScatterDescriptor_tmudnnScatterNDDescriptor_t：typedef struct mudnnScatterNDStruct* mudnnScatterNDDescriptor_tmudnnSoftmaxDescriptor_t：typedef struct mudnnSoftmaxStruct* mudnnSoftmaxDescriptor_tmudnnTopKDescriptor_t：typedef struct mudnnTopKStruct* mudnnTopKDescriptor_tmudnnRopeDescriptor_t：typedef struct mudnnRopeStruct* mudnnRopeDescriptor_tmudnnRMSNormDescriptor_t：typedef struct mudnnRMSNormStruct* mudnnRMSNormDescriptor_tmudnnSwiGluDescriptor_t：typedef struct mudnnSwiGluStruct* mudnnSwiGluDescriptor_tmudnnMaskedSelectDescriptor_t：typedef struct mudnnMaskedSelectStruct* mudnnMaskedSelectDescriptor_tmudnnGroupNormDescriptor_t：typedef struct mudnnGroupNormStruct* mudnnGroupNormDescriptor_tmudnnSortByKeyDescriptor_t：typedef struct mudnnSortByKeyStruct* mudnnSortByKeyDescriptor_tmudnnPadDescriptor_t：typedef struct mudnnPadStruct* mudnnPadDescriptor_tmudnnGluDescriptor_t：typedef struct mudnnGluStruct * mudnnGluDescriptor_tmudnnNLLLossDescriptor_t：typedef struct mudnnNLLLossStruct* mudnnNLLLossDescriptor_tmudnnKLDivLossDescriptor_t：typedef struct mudnnKLDivLossStruct* mudnnKLDivLossDescriptor_tmudnnCrossEntropyLossDescriptor_t：typedef struct mudnnCrossEntropyLossStruct* mudnnCrossEntropyLossDescriptor_tmudnnScaledDotProductAttentionDescriptor_t：typedef struct mudnnScaledDotProductAttentionStruct* mudnnScaledDotProductAttentionDescriptor_tmudnnBatchMatMulDescriptor_t：typedef struct mudnnBatchMatMulStruct* mudnnBatchMatMulDescriptor_tmudnnFillDescriptor_t：typedef struct mudnnFillStruct* mudnnFillDescriptor_tmudnnCumDescriptor_t：typedef struct mudnnCumStruct* mudnnCumDescriptor_tmudnnGatherDescriptor_t：typedef struct mudnnGatherStruct* mudnnGatherDescriptor_tmudnnUnfoldDescriptor_t：typedef struct mudnnUnfoldStruct* mudnnUnfoldDescriptor_tmudnnScanDescriptor_t：typedef struct mudnnScanStruct* mudnnScanDescriptor_tmudnnWeightNormDescriptor_t：typedef struct mudnnWeightNormStruct* mudnnWeightNormDescriptor_tmudnnL2LossDescriptor_t：typedef struct mudnnL2LossStruct* mudnnL2LossDescriptor_tmudnnMaskedScatterDescriptor_t：typedef struct mudnnMaskedScatterStruct* mudnnMaskedScatterDescriptor_tmudnnBatchNormDescriptor_t：typedef struct mudnnBatchNormStruct* mudnnBatchNormDescriptor_tmudnnPermuteDescriptor_t：typedef struct mudnnPermuteStruct* mudnnPermuteDescriptor_t
API 函数
函数索引
mudnn_graph.h
mudnnGetVersionmudnnGetMaxDeviceVersionmudnnGetMusartVersionmudnnGetErrorStringmudnnGetLastErrorStringmudnnQueryRuntimeErrormudnnGetPropertymudnnCreatemudnnDestroymudnnSetStreammudnnGetStreammudnnSetCallbackmudnnGetCallbackmudnnGraphVersionCheckmudnnBackendCreateDescriptormudnnBackendDestroyDescriptormudnnBackendInitializemudnnBackendFinalizemudnnBackendSetAttributemudnnBackendGetAttributemudnnBackendExecutemudnnBackendPopulateMusaGraphmudnnBackendUpdateMusaGraph
mudnn_cnn.h
mudnnCreateConvolutionDescriptormudnnDestroyConvolutionDescriptormudnnSetConvolutionMathTypemudnnGetConvolutionMathTypemudnnSetConvolutionGroupCountmudnnGetConvolutionGroupCountmudnnSetConvolutionReorderTypemudnnGetConvolutionReorderTypemudnnSetConvolution2dDescriptormudnnGetConvolution2dDescriptormudnnSetConvolutionNdDescriptormudnnGetConvolutionNdDescriptormudnnGetConvolution2dForwardOutputDimmudnnGetConvolutionNdForwardOutputDimmudnnGetConvolutionForwardAlgorithmMaxCountmudnnGetConvolutionForwardAlgorithm_v7mudnnFindConvolutionForwardAlgorithmmudnnFindConvolutionForwardAlgorithmExmudnnIm2ColmudnnReorderFilterAndBiasmudnnGetConvolutionForwardWorkspaceSizemudnnConvolutionForwardmudnnConvolutionBiasActivationForwardmudnnGetConvolutionBackwardDataAlgorithmMaxCountmudnnFindConvolutionBackwardDataAlgorithmmudnnFindConvolutionBackwardDataAlgorithmExmudnnGetConvolutionBackwardDataAlgorithm_v7mudnnGetConvolutionBackwardDataWorkspaceSizemudnnConvolutionBackwardDatamudnnGetFoldedConvBackwardDataDescriptorsmudnnCnnVersionCheckmudnnGetConvolutionBackwardFilterAlgorithmMaxCountmudnnFindConvolutionBackwardFilterAlgorithmmudnnFindConvolutionBackwardFilterAlgorithmExmudnnGetConvolutionBackwardFilterAlgorithm_v7mudnnGetConvolutionBackwardFilterWorkspaceSizemudnnConvolutionBackwardFiltermudnnConvolutionBackwardBiasmudnnCreateFusedOpsConstParamPackmudnnDestroyFusedOpsConstParamPackmudnnSetFusedOpsConstParamPackAttributemudnnGetFusedOpsConstParamPackAttributemudnnCreateFusedOpsVariantParamPackmudnnDestroyFusedOpsVariantParamPackmudnnSetFusedOpsVariantParamPackAttributemudnnGetFusedOpsVariantParamPackAttributemudnnCreateFusedOpsPlanmudnnDestroyFusedOpsPlanmudnnMakeFusedOpsPlanmudnnFusedOpsExecute
mudnn_ops.h
mudnnCreateTensorDescriptormudnnSetTensor4dDescriptormudnnSetTensor4dDescriptorExmudnnGetTensor4dDescriptormudnnSetTensorNdDescriptormudnnSetTensorNdDescriptorExmudnnGetTensorNdDescriptormudnnGetTensorSizeInBytesmudnnDestroyTensorDescriptormudnnInitTransformDestmudnnCreateTensorTransformDescriptormudnnSetTensorTransformDescriptormudnnGetTensorTransformDescriptormudnnDestroyTensorTransformDescriptormudnnTransformTensormudnnTransformTensorExmudnnAddTensormudnnCreateOpTensorDescriptormudnnSetOpTensorDescriptormudnnGetOpTensorDescriptormudnnDestroyOpTensorDescriptormudnnOpTensormudnnCreateReduceTensorDescriptormudnnSetReduceTensorDescriptormudnnGetReduceTensorDescriptormudnnDestroyReduceTensorDescriptormudnnGetReductionIndicesSizemudnnGetReductionWorkspaceSizemudnnReduceTensormudnnSetTensormudnnScaleTensormudnnCreateFilterDescriptormudnnSetFilter4dDescriptormudnnGetFilter4dDescriptormudnnSetFilterNdDescriptormudnnSetFilterNdDescriptorWithScalemudnnGetFilterNdDescriptormudnnGetFilterSizeInBytesmudnnTransformFiltermudnnDestroyFilterDescriptormudnnSoftmaxForwardmudnnCreatePoolingDescriptormudnnSetPooling2dDescriptormudnnGetPooling2dDescriptormudnnSetPoolingNdDescriptormudnnGetPoolingNdDescriptormudnnGetPoolingNdForwardOutputDimmudnnGetPooling2dForwardOutputDimmudnnDestroyPoolingDescriptormudnnSetPoolingNdDescriptorExmudnnGetPoolingNdDescriptorExmudnnPoolingForwardExmudnnPoolingBackwardExmudnnPoolingMaxPool2dGradGradmudnnPoolingForwardmudnnCreateActivationDescriptormudnnSetActivationDescriptormudnnGetActivationDescriptormudnnSetActivationDescriptorSwishBetamudnnGetActivationDescriptorSwishBetamudnnDestroyActivationDescriptormudnnActivationForwardmudnnCreateLRNDescriptormudnnSetLRNDescriptormudnnGetLRNDescriptormudnnDestroyLRNDescriptormudnnLRNCrossChannelForwardmudnnDivisiveNormalizationForwardmudnnDeriveBNTensorDescriptormudnnCreateBatchNormDescriptormudnnSetBatchNormDescriptormudnnGetBatchNormDescriptormudnnBatchNormForwardTrainingmudnnBatchNormForwardInferencemudnnBatchNormBackwardmudnnDestroyBatchNormDescriptormudnnGetBatchNormForwardTrainingWorkspaceSizemudnnGetBatchNormBackwardWorkspaceSizemudnnBatchNormalizationForwardInferencemudnnDeriveNormTensorDescriptormudnnNormalizationForwardInferencemudnnCreateSpatialTransformerDescriptormudnnSetSpatialTransformerNdDescriptormudnnDestroySpatialTransformerDescriptormudnnSpatialTfGridGeneratorForwardmudnnSpatialTfSamplerForwardmudnnCreateDropoutDescriptormudnnDestroyDropoutDescriptormudnnDropoutGetStatesSizemudnnDropoutGetReserveSpaceSizemudnnSetDropoutDescriptormudnnRestoreDropoutDescriptormudnnGetDropoutDescriptormudnnDropoutForwardmudnnDropoutBackwardmudnnOpsVersionCheckmudnnSoftmaxBackwardmudnnPoolingBackwardmudnnActivationBackwardmudnnLRNCrossChannelBackwardmudnnDivisiveNormalizationBackwardmudnnGetBatchNormalizationForwardTrainingExWorkspaceSizemudnnGetBatchNormalizationBackwardExWorkspaceSizemudnnGetBatchNormalizationTrainingExReserveSpaceSizemudnnBatchNormalizationForwardTrainingmudnnBatchNormalizationForwardTrainingExmudnnBatchNormalizationBackwardmudnnBatchNormalizationBackwardExmudnnGetNormalizationForwardTrainingWorkspaceSizemudnnGetNormalizationBackwardWorkspaceSizemudnnGetNormalizationTrainingReserveSpaceSizemudnnNormalizationForwardTrainingmudnnNormalizationBackwardmudnnSpatialTfGridGeneratorBackwardmudnnSpatialTfSamplerBackwardmudnnSetTensorNdDescriptorWithScalemudnnGetTensorNdDescriptorWithScalemudnnCreateUnaryDescriptormudnnSetUnaryDescriptormudnnUnarymudnnDestroyUnaryDescriptormudnnCreateBinaryDescriptormudnnSetBinaryDescriptormudnnBinarymudnnDestroyBinaryDescriptormudnnCreateTernaryDescriptormudnnSetTernaryDescriptormudnnTernarymudnnDestroyTernaryDescriptormudnnCreateFillDescriptormudnnSetFillDescriptormudnnFillmudnnDestroyFillDescriptormudnnCreateReduceDescriptormudnnSetReduceDescriptormudnnGetReduceWorkspaceSizemudnnReducemudnnGetReduceMeanAndVarWorkspaceSizemudnnReduceMeanAndVarmudnnGetReduceIndicesWorkspaceSizemudnnReduceOnlyIndicesmudnnGetReduceWithIndicesWorkspaceSizemudnnReduceWithIndicesmudnnDestroyReduceDescriptormudnnCreatePermuteDescriptormudnnDestroyPermuteDescriptormudnnSetPermuteSrcOffsetmudnnSetPermuteDstOffsetmudnnPermuteConfigDimStridemudnnPermuteConfigDimStrideForSlicemudnnPermuteConfigDimStrideForSliceExmudnnPermutemudnnCreateConcatDescriptormudnnSetConcatDescriptormudnnGetConcatDescriptormudnnConcatmudnnDestroyConcatDescriptormudnnCreateNonzeroDescriptormudnnDestroyDescriptormudnnGetNonzeroWorkspaceSizemudnnNonzeromudnnCreateLayerNormDescriptormudnnSetLayerNormDescriptormudnnGetLayerNormDescriptormudnnGetLayerNormForwardWorkspaceSizemudnnLayerNormForwardmudnnGetLayerNormBackwardWorkspaceSizemudnnLayerNormBackwardmudnnDestroyLayerNormDescriptormudnnSetDropoutDescriptorExmudnnDropoutForwardExmudnnDropoutBackwardExmudnnCreateInterpolateDescriptormudnnSetInterpolateDescriptormudnnGetInterpolateDescriptormudnnInterpolateForwardmudnnInterpolateBackwardmudnnDestroyInterpolateDescriptormudnnCreateSortDescriptormudnnSetSortDescriptormudnnGetSortDescriptormudnnGetSortWorkspaceSizemudnnSortmudnnDestroySortDescriptormudnnCreateSortByKeyDescriptormudnnSetSortByKeyDescriptormudnnGetSortByKeyDescriptormudnnGetSortByKeyWorkspaceSizemudnnSortByKeymudnnDestroySortByKeyDescriptormudnnCreateScatterDescriptormudnnSetScatterDescriptormudnnGetScatterDescriptormudnnScatterInplacemudnnScatterNonInplacemudnnDestroyScatterDescriptormudnnCreateScatterNDDescriptormudnnSetScatterNDDescriptormudnnGetScatterNDDescriptormudnnScatterNDmudnnDestroyScatterNDDescriptormudnnCreateSoftmaxDescriptormudnnSetSoftmaxDescriptormudnnGetSoftmaxDescriptormudnnGetSoftmaxForwardWorkspaceSizemudnnSoftmaxForwardExmudnnGetSoftmaxBackwardWorkspaceSizemudnnSoftmaxBackwardExmudnnDestroySoftmaxDescriptormudnnCreateTopKDescriptormudnnSetTopKDescriptormudnnGetTopKDescriptormudnnGetTopKWorkspaceSizemudnnTopKmudnnDestroyTopKDescriptormudnnCreateRopeDescriptormudnnSetRopeDescriptormudnnGetRopeDescriptormudnnRopeForwardmudnnRopeBackwardmudnnDestroyRopeDescriptormudnnCreateRMSNormDescriptormudnnSetRMSNormDescriptormudnnGetRMSNormDescriptormudnnRMSNormForwardmudnnRMSNormBackwardmudnnGetRMSNormBackwardWorkspaceSizemudnnDestroyRMSNormDescriptormudnnCreateSwiGluDescriptormudnnSwiGluForwardmudnnSwiGluBackwardmudnnDestroySwiGluDescriptormudnnCreateNLLLossDescriptormudnnDestroyNLLLossDescriptormudnnSetNLLLossDescriptormudnnGetNLLLossDescriptormudnnGetNLLLossForwardWorkspaceSizemudnnNLLLossForwardmudnnGetNLLLossBackwardWorkspaceSizemudnnNLLLossBackwardmudnnCreateKLDivLossDescriptormudnnDestroyKLDivLossDescriptormudnnSetKLDivLossDescriptormudnnGetKLDivLossDescriptormudnnGetKLDivLossForwardWorkspaceSizemudnnKLDivLossForwardmudnnGetKLDivLossBackwardWorkspaceSizemudnnKLDivLossBackwardmudnnCreateCrossEntropyLossDescriptormudnnDestroyCrossEntropyLossDescriptormudnnSetCrossEntropyLossDescriptormudnnGetCrossEntropyLossDescriptormudnnGetCrossEntropyLossForwardWorkspaceSizemudnnCrossEntropyLossForwardmudnnGetCrossEntropyLossBackwardWorkspaceSizemudnnCrossEntropyLossBackwardmudnnCreateMaskedSelectDescriptormudnnGetMaskedSelectWorkspaceSizemudnnMaskedSelectmudnnDestroyMaskedSelectDescriptormudnnCreatePadDescriptormudnnSetPadDescriptormudnnGetPadDescriptormudnnPadmudnnDestroyPadDescriptormudnnCreateGroupNormDescriptormudnnSetGroupNormDescriptormudnnGetGroupNormDescriptormudnnGroupNormmudnnDestroyGroupNormDescriptormudnnCreateGluDescriptormudnnSetGluDescriptormudnnGetGluDescriptormudnnGlumudnnDestroyGluDescriptormudnnCreateCumDescriptormudnnSetCumDescriptormudnnGetCumDescriptormudnnGetCumWorkspaceSizemudnnCummudnnDestroyCumDescriptormudnnCreateGatherDescriptormudnnSetGatherDescriptormudnnGetGatherDescriptormudnnGathermudnnDestroyGatherDescriptormudnnCreateUnfoldDescriptormudnnSetUnfoldDescriptormudnnGetUnfoldDescriptormudnnUnfoldmudnnDestroyUnfoldDescriptormudnnCreateScanDescriptormudnnSetScanDescriptormudnnGetScanDescriptormudnnGetScanWorkspaceSizemudnnScanmudnnDestroyScanDescriptormudnnCreateWeightNormDescriptormudnnSetWeightNormDescriptormudnnGetWeightNormDescriptormudnnWeightNormmudnnDestroyWeightNormDescriptormudnnCreateL2LossDescriptormudnnGetL2LossWorkspaceSizemudnnL2LossmudnnDestroyL2LossDescriptormudnnCreateMaskedScatterDescriptormudnnGetMaskedScatterWorkspaceSizemudnnMaskedScattermudnnDestroyMaskedScatterDescriptor
mudnn_adv.h
mudnnCreateRNNDescriptormudnnDestroyRNNDescriptormudnnSetRNNDescriptor_v8mudnnGetRNNDescriptor_v8mudnnRNNSetClip_v8mudnnRNNSetClip_v9mudnnRNNGetClip_v8mudnnRNNGetClip_v9mudnnBuildRNNDynamicmudnnGetRNNTempSpaceSizesmudnnGetRNNWeightSpaceSizemudnnGetRNNWeightParamsmudnnCreateRNNDataDescriptormudnnDestroyRNNDataDescriptormudnnSetRNNDataDescriptormudnnGetRNNDataDescriptormudnnRNNForwardmudnnCreateSeqDataDescriptormudnnDestroySeqDataDescriptormudnnSetSeqDataDescriptormudnnGetSeqDataDescriptormudnnCreateAttnDescriptormudnnDestroyAttnDescriptormudnnSetAttnDescriptormudnnGetAttnDescriptormudnnGetMultiHeadAttnBuffersmudnnGetMultiHeadAttnWeightsmudnnMultiHeadAttnForwardmudnnAdvVersionCheckmudnnRNNBackwardData_v8mudnnRNNBackwardWeights_v8mudnnMultiHeadAttnBackwardDatamudnnMultiHeadAttnBackwardWeightsmudnnCreateCTCLossDescriptormudnnSetCTCLossDescriptormudnnSetCTCLossDescriptorExmudnnSetCTCLossDescriptor_v8mudnnSetCTCLossDescriptor_v9mudnnGetCTCLossDescriptormudnnGetCTCLossDescriptorExmudnnGetCTCLossDescriptor_v8mudnnGetCTCLossDescriptor_v9mudnnDestroyCTCLossDescriptormudnnCTCLossmudnnCTCLoss_v8mudnnGetCTCLossWorkspaceSizemudnnGetCTCLossWorkspaceSize_v8mudnnSetCTCLossDescriptor_v10mudnnGetCTCLossDescriptor_v10mudnnCTCLoss_v10mudnnCTCLossGetWorkspaceSize_v10mudnnCTCLossBackward_v10mudnnCreateScaledDotProductAttentionDescriptormudnnDestroyScaledDotProductAttentionDescriptormudnnSetScaledDotProductAttentionDescriptormudnnSetScaledDotProductAttentionDescriptorExmudnnSetScaledDotProductAttentionVarlenDescriptormudnnSetScaledDotProductAttentionVarlenDescriptorExmudnnScaledDotProductAttentionFlashForwardmudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSizemudnnScaledDotProductAttentionFlashBackwardmudnnScaledDotProductAttentionFlashVarlenForwardmudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSizemudnnScaledDotProductAttentionFlashVarlenBackwardmudnnScaledDotProductAttentionMathForwardGetWorkspaceSizemudnnScaledDotProductAttentionMathForwardmudnnScaledDotProductAttentionMathBackwardGetWorkspaceSizemudnnScaledDotProductAttentionMathBackwardmudnnCreateBatchMatMulDescriptormudnnDestroyBatchMatMulDescriptormudnnSetBatchMatMulDescriptormudnnSetBatchMatMulDescriptorExmudnnBatchMatmulGetWorkspaceSizemudnnBatchMatMulBiasmudnnBatchMatMulBiasTensorScalemudnnBatchMatMulBiasTensorScaleEpiloguemudnnCreateDotDescriptormudnnDestroyDotDescriptormudnnSetDotMathTypemudnnGetDotWorkspaceSizemudnnDot
函数参考
mudnn_graph.h
mudnnGetVersion
size_t mudnnGetVersion(void)
声明位置：mudnn_graph.h
获取当前编译的 muDNN 版本号。
以整数编码的版本信息，主/次/补丁组合。
返回值
以整数编码的版本信息，主/次/补丁组合。
mudnnGetMaxDeviceVersion
size_t mudnnGetMaxDeviceVersion(void)
声明位置：mudnn_graph.h
查询支持的最高设备架构版本。
设备架构版本号。
返回值
设备架构版本号。
mudnnGetMusartVersion
size_t mudnnGetMusartVersion(void)
声明位置：mudnn_graph.h
获取静态链接的 MUSA Runtime 版本。
MUSA Runtime 版本号。
返回值
MUSA Runtime 版本号。
mudnnGetErrorString
const char *mudnnGetErrorString(mudnnStatus_t status)
声明位置：mudnn_graph.h
获取可读错误字符串，类似 cudnnGetErrorString。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
status | mudnnStatus_t | - |
mudnnGetLastErrorString
void mudnnGetLastErrorString(char *message, size_t max_size)
声明位置：mudnn_graph.h
获取最近一次错误字符串。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
message | char * | 用户缓冲区。 |
max_size | size_t | 缓冲区大小。 |
mudnnQueryRuntimeError
mudnnStatus_t mudnnQueryRuntimeError(mudnnHandle_t handle, mudnnStatus_t *rstatus, mudnnErrQueryMode_t mode, mudnnRuntimeTag_t *tag)
声明位置：mudnn_graph.h
状态：已废弃。
查询运行时错误（已弃用，与 cudnnQueryRuntimeError 类似）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
rstatus | mudnnStatus_t * | - |
mode | mudnnErrQueryMode_t | - |
tag | mudnnRuntimeTag_t * | - |
mudnnGetProperty
mudnnStatus_t mudnnGetProperty(libraryPropertyType type, int *value)
声明位置：mudnn_graph.h
获取库属性，兼容 cudnnGetProperty。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
type | libraryPropertyType | - |
value | int * | - |
mudnnCreate
mudnnStatus_t mudnnCreate(mudnnHandle_t *handle)
声明位置：mudnn_graph.h
创建/销毁 muDNN 上下文。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t * | - |
mudnnDestroy
mudnnStatus_t mudnnDestroy(mudnnHandle_t handle)
声明位置：mudnn_graph.h
创建/销毁 muDNN 上下文。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
mudnnSetStream
mudnnStatus_t mudnnSetStream(mudnnHandle_t handle, musaStream_t streamId)
声明位置：mudnn_graph.h
设置或获取流，类似 cudnnSetStream/cudnnGetStream。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
streamId | musaStream_t | - |
mudnnGetStream
mudnnStatus_t mudnnGetStream(mudnnHandle_t handle, musaStream_t *streamId)
声明位置：mudnn_graph.h
设置或获取流，类似 cudnnSetStream/cudnnGetStream。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
streamId | musaStream_t * | - |
mudnnSetCallback
mudnnStatus_t mudnnSetCallback(unsigned mask, void *udata, mudnnCallback_t fptr)
声明位置：mudnn_graph.h
注册回调或查询当前回调。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
mask | unsigned | - |
udata | void * | - |
fptr | mudnnCallback_t | - |
mudnnGetCallback
mudnnStatus_t mudnnGetCallback(unsigned *mask, void **udata, mudnnCallback_t *fptr)
声明位置：mudnn_graph.h
注册回调或查询当前回调。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
mask | unsigned * | - |
udata | void ** | - |
fptr | mudnnCallback_t * | - |
mudnnGraphVersionCheck
mudnnStatus_t mudnnGraphVersionCheck(void)
声明位置：mudnn_graph.h
交叉库版本检测，与 cudnnGraphVersionCheck 类似。
成功或版本不匹配错误。
返回值
成功或版本不匹配错误。
mudnnBackendCreateDescriptor
mudnnStatus_t mudnnBackendCreateDescriptor(mudnnBackendDescriptorType_t descriptorType, mudnnBackendDescriptor_t *descriptor)
声明位置：mudnn_graph.h
创建 Backend 描述符，等价 cudnnBackendCreateDescriptor。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptorType | mudnnBackendDescriptorType_t | - |
descriptor | mudnnBackendDescriptor_t * | - |
mudnnBackendDestroyDescriptor
mudnnStatus_t mudnnBackendDestroyDescriptor(mudnnBackendDescriptor_t descriptor)
声明位置：mudnn_graph.h
销毁 Backend 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptor | mudnnBackendDescriptor_t | - |
mudnnBackendInitialize
mudnnStatus_t mudnnBackendInitialize(mudnnBackendDescriptor_t descriptor)
声明位置：mudnn_graph.h
状态：已废弃。
初始化 Backend 描述符（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptor | mudnnBackendDescriptor_t | - |
mudnnBackendFinalize
mudnnStatus_t mudnnBackendFinalize(mudnnBackendDescriptor_t descriptor)
声明位置：mudnn_graph.h
Finalize Backend 描述符，准备执行。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptor | mudnnBackendDescriptor_t | - |
mudnnBackendSetAttribute
mudnnStatus_t mudnnBackendSetAttribute(mudnnBackendDescriptor_t descriptor, mudnnBackendAttributeName_t attributeName, mudnnBackendAttributeType_t attributeType, int64_t elementCount, const void *arrayOfElements)
声明位置：mudnn_graph.h
设置 Backend 属性，类似 cudnnBackendSetAttribute。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptor | mudnnBackendDescriptor_t | - |
attributeName | mudnnBackendAttributeName_t | - |
attributeType | mudnnBackendAttributeType_t | - |
elementCount | int64_t | - |
arrayOfElements | const void * | - |
mudnnBackendGetAttribute
mudnnStatus_t mudnnBackendGetAttribute(mudnnBackendDescriptor_t const descriptor, mudnnBackendAttributeName_t attributeName, mudnnBackendAttributeType_t attributeType, int64_t requestedElementCount, int64_t *elementCount, void *arrayOfElements)
声明位置：mudnn_graph.h
获取 Backend 属性，类似 cudnnBackendGetAttribute。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
descriptor | mudnnBackendDescriptor_t const | - |
attributeName | mudnnBackendAttributeName_t | - |
attributeType | mudnnBackendAttributeType_t | - |
requestedElementCount | int64_t | - |
elementCount | int64_t * | - |
arrayOfElements | void * | - |
mudnnBackendExecute
mudnnStatus_t mudnnBackendExecute(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack)
声明位置：mudnn_graph.h
执行已 final 的执行计划，类似 cudnnBackendExecute。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
executionPlan | mudnnBackendDescriptor_t | - |
variantPack | mudnnBackendDescriptor_t | - |
mudnnBackendPopulateMusaGraph
mudnnStatus_t mudnnBackendPopulateMusaGraph(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack, musaGraph_t graph)
声明位置：mudnn_graph.h
以 MUSA graph 填充执行计划，对标 cudnnBackendPopulateCudaGraph。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
executionPlan | mudnnBackendDescriptor_t | - |
variantPack | mudnnBackendDescriptor_t | - |
graph | musaGraph_t | - |
mudnnBackendUpdateMusaGraph
mudnnStatus_t mudnnBackendUpdateMusaGraph(mudnnHandle_t handle, mudnnBackendDescriptor_t executionPlan, mudnnBackendDescriptor_t variantPack, musaGraph_t graph)
声明位置：mudnn_graph.h
用新的 VariantPack 更新已有 graph，类似 cudnnBackendUpdateCudaGraph。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
executionPlan | mudnnBackendDescriptor_t | - |
variantPack | mudnnBackendDescriptor_t | - |
graph | musaGraph_t | - |
mudnn_cnn.h
mudnnCreateConvolutionDescriptor
mudnnStatus_t mudnnCreateConvolutionDescriptor(mudnnConvolutionDescriptor_t *convDesc)
声明位置：mudnn_cnn.h
状态：已废弃。
创建卷积描述符（类似 cudnnCreateConvolutionDescriptor）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t * | 返回创建好的卷积描述符指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnDestroyConvolutionDescriptor
mudnnStatus_t mudnnDestroyConvolutionDescriptor(mudnnConvolutionDescriptor_t convDesc)
声明位置：mudnn_cnn.h
状态：已废弃。
销毁卷积描述符。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 待销毁的卷积描述符。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnSetConvolutionMathType
mudnnStatus_t mudnnSetConvolutionMathType(mudnnConvolutionDescriptor_t convDesc, mudnnMathType_t mathType)
声明位置：mudnn_cnn.h
状态：已废弃。
设置卷积计算模式。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
mathType | mudnnMathType_t | 计算模式（如 TF32/FP16 等）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionMathType
mudnnStatus_t mudnnGetConvolutionMathType(mudnnConvolutionDescriptor_t convDesc, mudnnMathType_t *mathType)
声明位置：mudnn_cnn.h
状态：已废弃。
获取卷积计算模式。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
mathType | mudnnMathType_t * | 返回的计算模式。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnSetConvolutionGroupCount
mudnnStatus_t mudnnSetConvolutionGroupCount(mudnnConvolutionDescriptor_t convDesc, int groupCount)
声明位置：mudnn_cnn.h
状态：已废弃。
设置分组卷积的组数。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
groupCount | int | 分组数，默认 1。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionGroupCount
mudnnStatus_t mudnnGetConvolutionGroupCount(mudnnConvolutionDescriptor_t convDesc, int *groupCount)
声明位置：mudnn_cnn.h
状态：已废弃。
获取分组卷积的组数。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
groupCount | int * | 返回的分组数。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnSetConvolutionReorderType
mudnnStatus_t mudnnSetConvolutionReorderType(mudnnConvolutionDescriptor_t convDesc, mudnnReorderType_t reorderType)
声明位置：mudnn_cnn.h
状态：已废弃。
设置重排类型（已废弃，兼容 cudnnReorderType）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
reorderType | mudnnReorderType_t | 重排类型。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionReorderType
mudnnStatus_t mudnnGetConvolutionReorderType(mudnnConvolutionDescriptor_t convDesc, mudnnReorderType_t *reorderType)
声明位置：mudnn_cnn.h
状态：已废弃。
获取重排类型（已废弃）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错 误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | 卷积描述符。 |
reorderType | mudnnReorderType_t * | 返回的重排类型。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnSetConvolution2dDescriptor
mudnnStatus_t mudnnSetConvolution2dDescriptor(mudnnConvolutionDescriptor_t convDesc, int pad_h, int pad_w, int u, int v, int dilation_h, int dilation_w, mudnnConvolutionMode_t mode, mudnnDataType_t computeType)
声明位置：mudnn_cnn.h
状态：已废弃。
配置 2D 卷积参数。
参数
convDesc(mudnnConvolutionDescriptor_t)pad_h(int)pad_w(int)u(int)v(int)dilation_h(int)dilation_w(int)mode(mudnnConvolutionMode_t)：卷积或互相关computeType(mudnnDataType_t)：计算类型（累加类型）
mudnnGetConvolution2dDescriptor
mudnnStatus_t mudnnGetConvolution2dDescriptor(const mudnnConvolutionDescriptor_t convDesc, int *pad_h, int *pad_w, int *u, int *v, int *dilation_h, int *dilation_w, mudnnConvolutionMode_t *mode, mudnnDataType_t *computeType)
声明位置：mudnn_cnn.h
状态：已废弃。
读取 2D 卷积参数。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
pad_h | int * | 返回 padding 高度。 |
pad_w | int * | 返回 padding 宽度。 |
u | int * | 返回垂直 stride。 |
v | int * | 返回水平 stride。 |
dilation_h | int * | 返回垂直 dilation。 |
dilation_w | int * | 返回水平 dilation。 |
mode | mudnnConvolutionMode_t * | 返回卷积/互相关模式。 |
computeType | mudnnDataType_t * | 返回累加计算类型。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnSetConvolutionNdDescriptor
mudnnStatus_t mudnnSetConvolutionNdDescriptor(mudnnConvolutionDescriptor_t convDesc, int arrayLength, const int padA[], const int filterStrideA[], const int dilationA[], mudnnConvolutionMode_t mode, mudnnDataType_t computeType)
声明位置：mudnn_cnn.h
状态：已废弃。
配置 Nd 卷积参数。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | mudnnConvolutionDescriptor_t | - |
arrayLength | int | 数组长度 |
padA | const int | padding数组 |
filterStrideA | const int | 滤波步长数组 |
dilationA | const int | dilation数组 |
mode | mudnnConvolutionMode_t | 卷积模式 |
computeType | mudnnDataType_t | 计算类型（累加类型） |
mudnnGetConvolutionNdDescriptor
mudnnStatus_t mudnnGetConvolutionNdDescriptor(const mudnnConvolutionDescriptor_t convDesc, int arrayLengthRequested, int *arrayLength, int padA[], int strideA[], int dilationA[], mudnnConvolutionMode_t *mode, mudnnDataType_t *computeType)
声明位置：mudnn_cnn.h
状态：已废弃。
读取 Nd 卷积参数。
padA/strideA/dilationA
返回的 padding/stride/dilation 数组
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | const mudnnConvolutionDescriptor_t | - |
arrayLengthRequested | int | 输入/输出维度个数要求 |
arrayLength | int * | 实际返回的维度个数（数组长度） |
padA | int | - |
strideA | int | - |
dilationA | int | - |
mode | mudnnConvolutionMode_t * | 卷积模式 |
computeType | mudnnDataType_t * | 计算类型（累加类型） |
mudnnGetConvolution2dForwardOutputDim
mudnnStatus_t mudnnGetConvolution2dForwardOutputDim(const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t inputTensorDesc, const mudnnFilterDescriptor_t filterDesc, int *n, int *c, int *h, int *w)
声明位置：mudnn_cnn.h
状态：已废弃。
计算 2D 卷积输出尺寸（N,C,H,W）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
inputTensorDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
n | int * | 输出批大小。 |
c | int * | 输出通道数。 |
h | int * | 输出高度。 |
w | int * | 输出宽度。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionNdForwardOutputDim
mudnnStatus_t mudnnGetConvolutionNdForwardOutputDim(const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t inputTensorDesc, const mudnnFilterDescriptor_t filterDesc, int nbDims, int tensorOuputDimA[])
声明位置：mudnn_cnn.h
状态：已废弃。
计算 Nd 卷积输出尺寸。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
inputTensorDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
nbDims | int | 期望的维度数。 |
tensorOuputDimA | int | 输出张量各维尺寸数组，长度为 nbDims。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionForwardAlgorithmMaxCount
mudnnStatus_t mudnnGetConvolutionForwardAlgorithmMaxCount(mudnnHandle_t handle, int *count)
声明位置：mudnn_cnn.h
状态：已废弃。
查询前向卷积算法数量上限。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
count | int * | 返回可用算法的最大个数。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionForwardAlgorithm_v7
mudnnStatus_t mudnnGetConvolutionForwardAlgorithm_v7(mudnnHandle_t handle, const mudnnTensorDescriptor_t srcDesc, const mudnnFilterDescriptor_t filterDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t destDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
查询前向卷积算法（v7 接口），返回性能结果。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
srcDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
destDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
requestedAlgoCount | const int | 期望返回的算法数量上限。 |
returnedAlgoCount | int * | 实际返回的算法数量。 |
perfResults | mudnnConvolutionFwdAlgoPerf_t * | 算法性能结果数组。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionForwardAlgorithm
mudnnStatus_t mudnnFindConvolutionForwardAlgorithm(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索前向卷积算法（不携带实际数据）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
requestedAlgoCount | const int | 期望返回的算法数量上限。 |
returnedAlgoCount | int * | 实际返回的算法数量。 |
perfResults | mudnnConvolutionFwdAlgoPerf_t * | 算法性能结果数组，长度不小于 requestedAlgoCount。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionForwardAlgorithmEx
mudnnStatus_t mudnnFindConvolutionForwardAlgorithmEx(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, void *y, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionFwdAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索前向卷积算法（含真实数据与 workspace）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
w | const void * | 指向滤波器数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出张量数据的设备指针。 |
requestedAlgoCount | const int | 期望返回的算法数量上限。 |
returnedAlgoCount | int * | 实际返回的算法数量。 |
perfResults | mudnnConvolutionFwdAlgoPerf_t * | 算法性能结果数组。 |
workSpace | void * | 指向搜索用工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnIm2Col
mudnnStatus_t mudnnIm2Col(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, void *colBuffer)
声明位置：mudnn_cnn.h
状态：已废弃。
将输入张量转为 col 格式（im2col）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
colBuffer | void * | 指向输出 col 缓冲区的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnReorderFilterAndBias
mudnnStatus_t mudnnReorderFilterAndBias(mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, mudnnReorderType_t reorderType, const void *filterData, void *reorderedFilterData, int reorderBias, const void *biasData, void *reorderedBiasData)
声明位置：mudnn_cnn.h
状态：已废弃。
重排滤波器与偏置数据。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
reorderType | mudnnReorderType_t | 重排类型。 |
filterData | const void * | 指向原始滤波器数据的设备指针。 |
reorderedFilterData | void * | 指向重排后滤波器数据的设备指针。 |
reorderBias | int | 是否重排偏置（非 0 则重排）。 |
biasData | const void * | 指向原始偏置数据的设备指针。 |
reorderedBiasData | void * | 指向重排后偏置数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionForwardWorkspaceSize
mudnnStatus_t mudnnGetConvolutionForwardWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnFilterDescriptor_t wDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t yDesc, mudnnConvolutionFwdAlgo_t algo, size_t *sizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
查询前向卷积算法所需最小 workspace。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
algo | mudnnConvolutionFwdAlgo_t | 指定的前向卷积算法。 |
sizeInBytes | size_t * | 返回最小 workspace 大小（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnConvolutionForward
mudnnStatus_t mudnnConvolutionForward(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionFwdAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_cnn.h
状态：已废弃。
前向卷积：y = alpha * Conv(x,w) + beta * y。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 标量系数 alpha 指针（设备端）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
w | const void * | 指向滤波器数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
algo | mudnnConvolutionFwdAlgo_t | 前向卷积算法。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
beta | const void * | 标量系数 beta 指针（设备端）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnConvolutionBiasActivationForward
mudnnStatus_t mudnnConvolutionBiasActivationForward(mudnnHandle_t handle, const void *alpha1, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionFwdAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *alpha2, const mudnnTensorDescriptor_t zDesc, const void *z, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_cnn.h
状态：已废弃。
融合卷积/偏置/激活前向计算：y = Act(alpha1conv(x)+alpha2z+bias)。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha1 | const void * | 卷积输出系数（设备端）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
w | const void * | 指向滤波器数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
algo | mudnnConvolutionFwdAlgo_t | 前向卷积算法。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
alpha2 | const void * | 残差张量系数（设备端）。 |
zDesc | const mudnnTensorDescriptor_t | 残差张量描述符。 |
z | const void * | 指向残差张量数据的设备指针，可为 NULL。 |
biasDesc | const mudnnTensorDescriptor_t | 偏置张量描述符。 |
bias | const void * | 指向偏置数据的设备指针，可为 NULL。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionBackwardDataAlgorithmMaxCount
mudnnStatus_t mudnnGetConvolutionBackwardDataAlgorithmMaxCount(mudnnHandle_t handle, int *count)
声明位置：mudnn_cnn.h
状态：已废弃。
返回可用的数据反向传播算法数量上限。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
count | int * | 返回可用算法的最大个数。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionBackwardDataAlgorithm
mudnnStatus_t mudnnFindConvolutionBackwardDataAlgorithm(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索数据反向传播算法（无实际数据）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度张量描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度张量描述符。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdDataAlgoPerf_t * | 算法性能结果数组。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionBackwardDataAlgorithmEx
mudnnStatus_t mudnnFindConvolutionBackwardDataAlgorithmEx(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索数据反向传播算法（含真实数据与 workspace）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
w | const void * | 指向滤波器数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdDataAlgoPerf_t * | 算法性能结果数组。 |
workSpace | void * | 指向工作区的设备指 针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionBackwardDataAlgorithm_v7
mudnnStatus_t mudnnGetConvolutionBackwardDataAlgorithm_v7(mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t gradDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdDataAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
查询数据反向传播算法（v7 接口），返回性能结果。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
diffDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdDataAlgoPerf_t * | 算法性能结果数组。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionBackwardDataWorkspaceSize
mudnnStatus_t mudnnGetConvolutionBackwardDataWorkspaceSize(mudnnHandle_t handle, const mudnnFilterDescriptor_t wDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t dxDesc, mudnnConvolutionBwdDataAlgo_t algo, size_t *sizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
查询数据反向传播算法所需最小 workspace。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败 返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
algo | mudnnConvolutionBwdDataAlgo_t | 反向数据算法。 |
sizeInBytes | size_t * | 返回所需最小 workspace（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnConvolutionBackwardData
mudnnStatus_t mudnnConvolutionBackwardData(mudnnHandle_t handle, const void *alpha, const mudnnFilterDescriptor_t wDesc, const void *w, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionBwdDataAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)
声明位置：mudnn_cnn.h
状态：已废弃。
数据反向传播计算：dx = alphaConvBW(dy,w)+betadx。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 标量系数 alpha 指针（设备端）。 |
wDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
w | const void * | 指向滤波器数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
algo | mudnnConvolutionBwdDataAlgo_t | 反向数据算法。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
beta | const void * | 标量系数 beta 指针（设备端）。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetFoldedConvBackwardDataDescriptors
mudnnStatus_t mudnnGetFoldedConvBackwardDataDescriptors(const mudnnHandle_t handle, const mudnnFilterDescriptor_t filterDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorFormat_t transformFormat, mudnnFilterDescriptor_t foldedFilterDesc, mudnnTensorDescriptor_t paddedDiffDesc, mudnnConvolutionDescriptor_t foldedConvDesc, mudnnTensorDescriptor_t foldedGradDesc, mudnnTensorTransformDescriptor_t filterFoldTransDesc, mudnnTensorTransformDescriptor_t diffPadTransDesc, mudnnTensorTransformDescriptor_t gradFoldTransDesc, mudnnTensorTransformDescriptor_t gradUnfoldTransDesc)
声明位置：mudnn_cnn.h
状态：已废弃。
生成数据反向传播相关折叠描述符。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
filterDesc | const mudnnFilterDescriptor_t | 原始滤波器描述符。 |
diffDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 原始卷积描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
transformFormat | const mudnnTensorFormat_t | 期望的折叠张量格式。 |
foldedFilterDesc | mudnnFilterDescriptor_t | 折叠后的滤波器描述符。 |
paddedDiffDesc | mudnnTensorDescriptor_t | 填充后的输出梯度描述符。 |
foldedConvDesc | mudnnConvolutionDescriptor_t | 折叠后的卷积描述符。 |
foldedGradDesc | mudnnTensorDescriptor_t | 折叠后的输入梯度描述符。 |
filterFoldTransDesc | mudnnTensorTransformDescriptor_t | 滤波器折叠的变换描述符。 |
diffPadTransDesc | mudnnTensorTransformDescriptor_t | 输出梯度填充的变换描述符。 |
gradFoldTransDesc | mudnnTensorTransformDescriptor_t | 输入梯度折叠的变换描述符。 |
gradUnfoldTransDesc | mudnnTensorTransformDescriptor_t | 输入梯度反折叠的变换描述符。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnCnnVersionCheck
mudnnStatus_t mudnnCnnVersionCheck(void)
声明位置：mudnn_cnn.h
mudnnGetConvolutionBackwardFilterAlgorithmMaxCount
mudnnStatus_t mudnnGetConvolutionBackwardFilterAlgorithmMaxCount(mudnnHandle_t handle, int *count)
声明位置：mudnn_cnn.h
状态：已废弃。
返回可用的滤波器反向传播算法数量上限。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
count | int * | 返回可用算法的最大个数。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionBackwardFilterAlgorithm
mudnnStatus_t mudnnFindConvolutionBackwardFilterAlgorithm(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t dwDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索滤波器反向传播算法（无实际数据）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
dwDesc | const mudnnFilterDescriptor_t | 滤波器梯度描述符。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdFilterAlgoPerf_t * | 算法性能结果数组。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnFindConvolutionBackwardFilterAlgorithmEx
mudnnStatus_t mudnnFindConvolutionBackwardFilterAlgorithmEx(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *y, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t dwDesc, void *dw, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
搜索滤波器反向传播算法（含真实数据与 workspace）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
y | const void * | 指向输出张量数据的设备指针（如果需要）。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
dwDesc | const mudnnFilterDescriptor_t | 滤波器梯度描述符。 |
dw | void * | 指向滤波器梯度数据的设备指针。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdFilterAlgoPerf_t * | 算法性能结果数组。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionBackwardFilterAlgorithm_v7
mudnnStatus_t mudnnGetConvolutionBackwardFilterAlgorithm_v7(mudnnHandle_t handle, const mudnnTensorDescriptor_t srcDesc, const mudnnTensorDescriptor_t diffDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t gradDesc, const int requestedAlgoCount, int *returnedAlgoCount, mudnnConvolutionBwdFilterAlgoPerf_t *perfResults)
声明位置：mudnn_cnn.h
状态：已废弃。
查询滤波器反向传播算法性能（v7 接口）。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
srcDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
diffDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
gradDesc | const mudnnFilterDescriptor_t | 滤波器梯度描述符。 |
requestedAlgoCount | const int | 期望返回算法数目。 |
returnedAlgoCount | int * | 实际返回算法数目。 |
perfResults | mudnnConvolutionBwdFilterAlgoPerf_t * | 算法性能结果数组。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnGetConvolutionBackwardFilterWorkspaceSize
mudnnStatus_t mudnnGetConvolutionBackwardFilterWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnConvolutionDescriptor_t convDesc, const mudnnFilterDescriptor_t gradDesc, mudnnConvolutionBwdFilterAlgo_t algo, size_t *sizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
查询滤波器反向传播算法所需最小 workspace。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
gradDesc | const mudnnFilterDescriptor_t | 滤波器梯度描述符。 |
algo | mudnnConvolutionBwdFilterAlgo_t | 反向滤波器算法。 |
sizeInBytes | size_t * | 返回所需最小 workspace（字节）。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnConvolutionBackwardFilter
mudnnStatus_t mudnnConvolutionBackwardFilter(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnConvolutionDescriptor_t convDesc, mudnnConvolutionBwdFilterAlgo_t algo, void *workSpace, size_t workSpaceSizeInBytes, const void *beta, const mudnnFilterDescriptor_t dwDesc, void *dw)
声明位置：mudnn_cnn.h
状态：已废弃。
滤波器反向传播计算：dw = alphaConvBW(x,dy) + betadw。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 标量系数 alpha 指针（设备端）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
convDesc | const mudnnConvolutionDescriptor_t | 卷积描述符。 |
algo | mudnnConvolutionBwdFilterAlgo_t | 反向滤波器算法。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
beta | const void * | 标量系数 beta 指针（设备端）。 |
dwDesc | const mudnnFilterDescriptor_t | 滤波器梯度描述符。 |
dw | void * | 指向滤波器梯度数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnConvolutionBackwardBias
mudnnStatus_t mudnnConvolutionBackwardBias(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *beta, const mudnnTensorDescriptor_t dbDesc, void *db)
声明位置：mudnn_cnn.h
状态：已废弃。
计算反向传播偏置梯度：db = alphaReduce(dy) + betadb。
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 标量系数 alpha 指针（设备端）。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
beta | const void * | 标量系数 beta 指针（设备端）。 |
dbDesc | const mudnnTensorDescriptor_t | 偏置梯度张量描述符。 |
db | void * | 指向偏置梯度数据的设备指针。 |
返回值
mudnnStatus_t 成功返回 MUDNN_STATUS_SUCCESS，失败返回错误码。
mudnnCreateFusedOpsConstParamPack
mudnnStatus_t mudnnCreateFusedOpsConstParamPack(mudnnFusedOpsConstParamPack_t *constPack, mudnnFusedOps_t ops)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
constPack | mudnnFusedOpsConstParamPack_t * | - |
ops | mudnnFusedOps_t | - |
mudnnDestroyFusedOpsConstParamPack
mudnnStatus_t mudnnDestroyFusedOpsConstParamPack(mudnnFusedOpsConstParamPack_t constPack)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
constPack | mudnnFusedOpsConstParamPack_t | - |
mudnnSetFusedOpsConstParamPackAttribute
mudnnStatus_t mudnnSetFusedOpsConstParamPackAttribute(mudnnFusedOpsConstParamPack_t constPack, mudnnFusedOpsConstParamLabel_t paramLabel, const void *param)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
constPack | mudnnFusedOpsConstParamPack_t | - |
paramLabel | mudnnFusedOpsConstParamLabel_t | - |
param | const void * | - |
mudnnGetFusedOpsConstParamPackAttribute
mudnnStatus_t mudnnGetFusedOpsConstParamPackAttribute(const mudnnFusedOpsConstParamPack_t constPack, mudnnFusedOpsConstParamLabel_t paramLabel, void *param, int *isNULL)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
constPack | const mudnnFusedOpsConstParamPack_t | - |
paramLabel | mudnnFusedOpsConstParamLabel_t | - |
param | void * | - |
isNULL | int * | - |
mudnnCreateFusedOpsVariantParamPack
mudnnStatus_t mudnnCreateFusedOpsVariantParamPack(mudnnFusedOpsVariantParamPack_t *varPack, mudnnFusedOps_t ops)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
varPack | mudnnFusedOpsVariantParamPack_t * | - |
ops | mudnnFusedOps_t | - |
mudnnDestroyFusedOpsVariantParamPack
mudnnStatus_t mudnnDestroyFusedOpsVariantParamPack(mudnnFusedOpsVariantParamPack_t varPack)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
varPack | mudnnFusedOpsVariantParamPack_t | - |
mudnnSetFusedOpsVariantParamPackAttribute
mudnnStatus_t mudnnSetFusedOpsVariantParamPackAttribute(mudnnFusedOpsVariantParamPack_t varPack, mudnnFusedOpsVariantParamLabel_t paramLabel, void *ptr)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
varPack | mudnnFusedOpsVariantParamPack_t | - |
paramLabel | mudnnFusedOpsVariantParamLabel_t | - |
ptr | void * | - |
mudnnGetFusedOpsVariantParamPackAttribute
mudnnStatus_t mudnnGetFusedOpsVariantParamPackAttribute(const mudnnFusedOpsVariantParamPack_t varPack, mudnnFusedOpsVariantParamLabel_t paramLabel, void *ptr)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
varPack | const mudnnFusedOpsVariantParamPack_t | - |
paramLabel | mudnnFusedOpsVariantParamLabel_t | - |
ptr | void * | - |
mudnnCreateFusedOpsPlan
mudnnStatus_t mudnnCreateFusedOpsPlan(mudnnFusedOpsPlan_t *plan, mudnnFusedOps_t ops)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
plan | mudnnFusedOpsPlan_t * | - |
ops | mudnnFusedOps_t | - |
mudnnDestroyFusedOpsPlan
mudnnStatus_t mudnnDestroyFusedOpsPlan(mudnnFusedOpsPlan_t plan)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
plan | mudnnFusedOpsPlan_t | - |
mudnnMakeFusedOpsPlan
mudnnStatus_t mudnnMakeFusedOpsPlan(mudnnHandle_t handle, mudnnFusedOpsPlan_t plan, const mudnnFusedOpsConstParamPack_t constPack, size_t *workspaceSizeInBytes)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
plan | mudnnFusedOpsPlan_t | - |
constPack | const mudnnFusedOpsConstParamPack_t | - |
workspaceSizeInBytes | size_t * | - |
mudnnFusedOpsExecute
mudnnStatus_t mudnnFusedOpsExecute(mudnnHandle_t handle, const mudnnFusedOpsPlan_t plan, mudnnFusedOpsVariantParamPack_t varPack)
声明位置：mudnn_cnn.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
plan | const mudnnFusedOpsPlan_t | - |
varPack | mudnnFusedOpsVariantParamPack_t | - |
mudnn_ops.h
mudnnCreateTensorDescriptor
mudnnStatus_t mudnnCreateTensorDescriptor(mudnnTensorDescriptor_t *tensorDesc)
声明位置：mudnn_ops.h
创建空的张量描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t * | 返回创建好的张量描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensor4dDescriptor
mudnnStatus_t mudnnSetTensor4dDescriptor(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int n, int c, int h, int w)
声明位置：mudnn_ops.h
配置 4D 张量描述符（包含布局）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | 目标张量描述符。 |
format | mudnnTensorFormat_t | 张量布局（如 NCHW/NHWC）。 |
dataType | mudnnDataType_t | 数据类型。 |
n | int | 批大小。 |
c | int | 通道数。 |
h | int | 高度。 |
w | int | 宽度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensor4dDescriptorEx
mudnnStatus_t mudnnSetTensor4dDescriptorEx(mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t dataType, int n, int c, int h, int w, int nStride, int cStride, int hStride, int wStride)
声明位置：mudnn_ops.h
配置 4D 张量描述符（显式 stride）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | 目标张量描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
n | int | 批大小。 |
c | int | 通道数。 |
h | int | 高度。 |
w | int | 宽度。 |
nStride | int | N 方向步长。 |
cStride | int | C 方向步长。 |
hStride | int | H 方向步长。 |
wStride | int | W 方向步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTensor4dDescriptor
mudnnStatus_t mudnnGetTensor4dDescriptor(const mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t *dataType, int *n, int *c, int *h, int *w, int *nStride, int *cStride, int *hStride, int *wStride)
声明位置：mudnn_ops.h
查询 4D 张量 描述符信息。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
n | int * | 返回批大小。 |
c | int * | 返回通道数。 |
h | int * | 返回高度。 |
w | int * | 返回宽度。 |
nStride | int * | 返回 N 步长。 |
cStride | int * | 返回 C 步长。 |
hStride | int * | 返回 H 步长。 |
wStride | int * | 返回 W 步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensorNdDescriptor
mudnnStatus_t mudnnSetTensorNdDescriptor(mudnnTensorDescriptor_t tensorDesc, mudnnDataType_t dataType, int nbDims, const int dimA[], const int strideA[])
声明位置：mudnn_ops.h
配置 ND 张量描述符（显式维度与步长）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | 目标张量描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
nbDims | int | 维度数。 |
dimA | const int | 各维尺寸数组。 |
strideA | const int | 各维步长数组。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensorNdDescriptorEx
mudnnStatus_t mudnnSetTensorNdDescriptorEx(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int nbDims, const int dimA[])
声明位置：mudnn_ops.h
配置 ND 张量描述符（基于格式推导步长）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | 目标张量描述符。 |
format | mudnnTensorFormat_t | 张量布局。 |
dataType | mudnnDataType_t | 数据类型。 |
nbDims | int | 维度数。 |
dimA | const int | 各维尺寸数组。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTensorNdDescriptor
mudnnStatus_t mudnnGetTensorNdDescriptor(const mudnnTensorDescriptor_t tensorDesc, int nbDimsRequested, mudnnDataType_t *dataType, int *nbDims, int dimA[], int strideA[])
声明位置：mudnn_ops.h
查询 ND 张量描述符信息。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
nbDimsRequested | int | 希望返回的最大维度数。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
nbDims | int * | 返回实际维度数。 |
dimA | int | 返回尺寸数组。 |
strideA | int | 返回步长数组。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTensorSizeInBytes
mudnnStatus_t mudnnGetTensorSizeInBytes(const mudnnTensorDescriptor_t tensorDesc, size_t *size)
声明位置：mudnn_ops.h
计算张量所需字节数。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
size | size_t * | 返回张量占用字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyTensorDescriptor
mudnnStatus_t mudnnDestroyTensorDescriptor(mudnnTensorDescriptor_t tensorDesc)
声明位置：mudnn_ops.h
销毁张量描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnInitTransformDest
mudnnStatus_t mudnnInitTransformDest(const mudnnTensorTransformDescriptor_t transformDesc, const mudnnTensorDescriptor_t srcDesc, mudnnTensorDescriptor_t destDesc, size_t *destSizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
创建变换输出描述符并返回大小（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
transformDesc | const mudnnTensorTransformDescriptor_t | 张量变换描述符。 |
srcDesc | const mudnnTensorDescriptor_t | 源张量描述符。 |
destDesc | mudnnTensorDescriptor_t | 目标张量描述符。 |
destSizeInBytes | size_t * | 返回目标张量字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateTensorTransformDescriptor
mudnnStatus_t mudnnCreateTensorTransformDescriptor(mudnnTensorTransformDescriptor_t *transformDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建张量变换描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
transformDesc | mudnnTensorTransformDescriptor_t * | 返回变换描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensorTransformDescriptor
mudnnStatus_t mudnnSetTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc, const uint32_t nbDims, const mudnnTensorFormat_t destFormat, const int32_t padBeforeA[], const int32_t padAfterA[], const uint32_t foldA[], const mudnnFoldingDirection_t direction)
声明位置：mudnn_ops.h
状态：已废弃。
配置张量变换描述符（Deprecated）。
当前实现限制：
仅支持基本的格式转换（NCHW <-> NHWC）
padding、fold等高级特性尚未完整实现
参数
| 参数 | 类型 | 说明 |
|---|---|---|
transformDesc | mudnnTensorTransformDescriptor_t | 变换描述符。 |
nbDims | const uint32_t | 维度数量。 |
destFormat | const mudnnTensorFormat_t | 目标格式。 |
padBeforeA | const int32_t | 前向 padding 数组。 |
padAfterA | const int32_t | 后向 padding 数组。 |
foldA | const uint32_t | 折叠配置数组。 |
direction | const mudnnFoldingDirection_t | 折叠/展开方向。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTensorTransformDescriptor
mudnnStatus_t mudnnGetTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc, uint32_t nbDimsRequested, mudnnTensorFormat_t *destFormat, int32_t padBeforeA[], int32_t padAfterA[], uint32_t foldA[], mudnnFoldingDirection_t *direction)
声明位置：mudnn_ops.h
状态：已废弃。
查询张量变换描述符内容（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
transformDesc | mudnnTensorTransformDescriptor_t | 变换描述符。 |
nbDimsRequested | uint32_t | 请求的最大维度数。 |
destFormat | mudnnTensorFormat_t * | 返回目标格式。 |
padBeforeA | int32_t | 返回前向 padding。 |
padAfterA | int32_t | 返回后向 padding。 |
foldA | uint32_t | 返回折叠配置。 |
direction | mudnnFoldingDirection_t * | 返回折叠方向。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyTensorTransformDescriptor
mudnnStatus_t mudnnDestroyTensorTransformDescriptor(mudnnTensorTransformDescriptor_t transformDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁张量变换描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
transformDesc | mudnnTensorTransformDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnTransformTensor
mudnnStatus_t mudnnTransformTensor(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
状态：已废弃。
张量布局变换（output = alpha * x + beta * y，Deprecated）。
当前实现限制：
支持以下格式转换：
3D: NCW <-> NWC
4D: NCHW <-> NHWC
5D: NCDHW <-> NDHWC
beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnTransformTensorEx
mudnnStatus_t mudnnTransformTensorEx(mudnnHandle_t handle, const mudnnTensorTransformDescriptor_t transDesc, const void *alpha, const mudnnTensorDescriptor_t srcDesc, const void *srcData, const void *beta, const mudnnTensorDescriptor_t destDesc, void *destData)
声明位置：mudnn_ops.h
状态：已废弃。
张量布局变换扩展版（支持 transform 描述符，Deprecated）。
当前实现限制：
transform 描述符的配置功能尚未完整实现
alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
beta 仅支持 0.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
建议使用 mudnnTransformTensor 进行基本的格式转换
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
transDesc | const mudnnTensorTransformDescriptor_t | 张量变换描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
srcDesc | const mudnnTensorDescriptor_t | 源张量描述符。 |
srcData | const void * | 指向源张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
destDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
destData | void * | 指向目标张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnAddTensor
mudnnStatus_t mudnnAddTensor(mudnnHandle_t handle, const void *alpha, const mudnnTensorDescriptor_t aDesc, const void *A, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)
声明位置：mudnn_ops.h
状态：已废弃。
张量加法：C = alpha * A + beta * C（Deprecated）。
当前实现限制：
beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
alpha 支持任意值
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量 A 描述符。 |
A | const void * | 指向输入张量 A 数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量 C 描述符。 |
C | void * | 指向输出/累加张量 C 数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateOpTensorDescriptor
mudnnStatus_t mudnnCreateOpTensorDescriptor(mudnnOpTensorDescriptor_t *opTensorDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建 OpTensor 描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
opTensorDesc | mudnnOpTensorDescriptor_t * | 返回 OpTensor 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetOpTensorDescriptor
mudnnStatus_t mudnnSetOpTensorDescriptor(mudnnOpTensorDescriptor_t opTensorDesc, mudnnOpTensorOp_t opTensorOp, mudnnDataType_t opTensorCompType, mudnnNanPropagation_t opTensorNanOpt)
声明位置：mudnn_ops.h
状态：已废弃。
配置 OpTensor 描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
opTensorDesc | mudnnOpTensorDescriptor_t | OpTensor 描述符。 |
opTensorOp | mudnnOpTensorOp_t | 操作类型（加/乘/最值等）。 |
opTensorCompType | mudnnDataType_t | 计算类型。 |
opTensorNanOpt | mudnnNanPropagation_t | NaN 传播选项。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetOpTensorDescriptor
mudnnStatus_t mudnnGetOpTensorDescriptor(const mudnnOpTensorDescriptor_t opTensorDesc, mudnnOpTensorOp_t *opTensorOp, mudnnDataType_t *opTensorCompType, mudnnNanPropagation_t *opTensorNanOpt)
声明位置：mudnn_ops.h
状态：已废弃。
查询 OpTensor 描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
opTensorDesc | const mudnnOpTensorDescriptor_t | OpTensor 描述符。 |
opTensorOp | mudnnOpTensorOp_t * | 返回操作类型。 |
opTensorCompType | mudnnDataType_t * | 返回计算类型。 |
opTensorNanOpt | mudnnNanPropagation_t * | 返回 NaN 传播选项。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyOpTensorDescriptor
mudnnStatus_t mudnnDestroyOpTensorDescriptor(mudnnOpTensorDescriptor_t opTensorDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁 OpTensor 描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
opTensorDesc | mudnnOpTensorDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表 示成功，其他返回错误码。
mudnnOpTensor
mudnnStatus_t mudnnOpTensor(mudnnHandle_t handle, const mudnnOpTensorDescriptor_t opTensorDesc, const void *alpha1, const mudnnTensorDescriptor_t aDesc, const void *A, const void *alpha2, const mudnnTensorDescriptor_t bDesc, const void *B, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)
声明位置：mudnn_ops.h
状态：已废弃。
张量算子计算：C = op(alpha1A, alpha2B) + beta*C（Deprecated）
对 SQRT/NOT 时 B 输入被忽略
当前实现限制：
alpha2 仅支持 1.0（或 NULL），其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
对于二元操作，beta 仅支持 0.0 或 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
对于一元操作（SQRT），alpha1 仅支持 1.0，beta 仅支持 0.0
对于一元操作（NOT）尚未实现支持
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
opTensorDesc | const mudnnOpTensorDescriptor_t | 运算描述符（加/乘/最值等） |
alpha1 | const void * | 缩放系数 alpha1（主机端单元素指针）。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量 A 描述符。 |
A | const void * | 输入张量 A。 |
alpha2 | const void * | 缩放系数 alpha2（主机端单元素指针）。 |
bDesc | const mudnnTensorDescriptor_t | 输入张量 B 描述符。 |
B | const void * | 输入张量 B（部分算子可忽略）。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量 C 描述符。 |
C | void * | 输出/累加张量 C。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateReduceTensorDescriptor
mudnnStatus_t mudnnCreateReduceTensorDescriptor(mudnnReduceTensorDescriptor_t *reduceTensorDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建归约描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceTensorDesc | mudnnReduceTensorDescriptor_t * | 返回归约描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetReduceTensorDescriptor
mudnnStatus_t mudnnSetReduceTensorDescriptor(mudnnReduceTensorDescriptor_t reduceTensorDesc, mudnnReduceTensorOp_t reduceTensorOp, mudnnDataType_t reduceTensorCompType, mudnnNanPropagation_t reduceTensorNanOpt, mudnnReduceTensorIndices_t reduceTensorIndices, mudnnIndicesType_t reduceTensorIndicesType)
声明位置：mudnn_ops.h
状态：已废弃。
配置归约描述符（Deprecated）。
当前实现限制：
索引输出功能（indices）配置被存储但尚未完整实现
AMAX 操作映射为 MAX，未包含 ABS 操作
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceTensorDesc | mudnnReduceTensorDescriptor_t | 归约描述符。 |
reduceTensorOp | mudnnReduceTensorOp_t | 归约操作类型。 |
reduceTensorCompType | mudnnDataType_t | 计算类型。 |
reduceTensorNanOpt | mudnnNanPropagation_t | NaN 传播选项。 |
reduceTensorIndices | mudnnReduceTensorIndices_t | 索引输出类型。 |
reduceTensorIndicesType | mudnnIndicesType_t | 索引精度类型。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReduceTensorDescriptor
mudnnStatus_t mudnnGetReduceTensorDescriptor(const mudnnReduceTensorDescriptor_t reduceTensorDesc, mudnnReduceTensorOp_t *reduceTensorOp, mudnnDataType_t *reduceTensorCompType, mudnnNanPropagation_t *reduceTensorNanOpt, mudnnReduceTensorIndices_t *reduceTensorIndices, mudnnIndicesType_t *reduceTensorIndicesType)
声明位置：mudnn_ops.h
状态：已废弃。
查询归约描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceTensorDesc | const mudnnReduceTensorDescriptor_t | 归约描述符。 |
reduceTensorOp | mudnnReduceTensorOp_t * | 返回操作类型。 |
reduceTensorCompType | mudnnDataType_t * | 返回计算类型。 |
reduceTensorNanOpt | mudnnNanPropagation_t * | 返回 NaN 传播选项。 |
reduceTensorIndices | mudnnReduceTensorIndices_t * | 返回索引输出类型。 |
reduceTensorIndicesType | mudnnIndicesType_t * | 返回索引精度类型。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyReduceTensorDescriptor
mudnnStatus_t mudnnDestroyReduceTensorDescriptor(mudnnReduceTensorDescriptor_t reduceTensorDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁归约描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceTensorDesc | mudnnReduceTensorDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReductionIndicesSize
mudnnStatus_t mudnnGetReductionIndicesSize(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
查询归约所需的索引缓冲区大小（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceTensorDesc | const mudnnReduceTensorDescriptor_t | 归约描述符。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
sizeInBytes | size_t * | 返回索引缓冲区大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReductionWorkspaceSize
mudnnStatus_t mudnnGetReductionWorkspaceSize(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
查询归约所需 workspace 大小（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceTensorDesc | const mudnnReduceTensorDescriptor_t | 归约描述符。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnReduceTensor
mudnnStatus_t mudnnReduceTensor(mudnnHandle_t handle, const mudnnReduceTensorDescriptor_t reduceTensorDesc, void *indices, size_t indicesSizeInBytes, void *workspace, size_t workspaceSizeInBytes, const void *alpha, const mudnnTensorDescriptor_t aDesc, const void *A, const void *beta, const mudnnTensorDescriptor_t cDesc, void *C)
声明位置：mudnn_ops.h
状态 ：已废弃。
执行归约计算：C = reduce(alphaA) + betaC（Deprecated）。
当前实现限制：
alpha 仅支持 1.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
beta 仅支持 0.0，其他值会返回 MUDNN_STATUS_NOT_SUPPORTED
索引输出（indices）功能尚未完整实现
维度通过输入/输出形状差异自动推断，可能不适用于所有场景
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceTensorDesc | const mudnnReduceTensorDescriptor_t | 归约描述符。 |
indices | void * | 指向索引输出缓冲区的设备指针（可选）。 |
indicesSizeInBytes | size_t | 索引缓冲区大小（字节）。 |
workspace | void * | 指向工作区的设备指针。 |
workspaceSizeInBytes | size_t | 工作区大小（字节）。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
A | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
C | void * | 指向输出/累加张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensor
mudnnStatus_t mudnnSetTensor(mudnnHandle_t handle, const mudnnTensorDescriptor_t yDesc, void *y, const void *valuePtr)
声明位置：mudnn_ops.h
张量赋常量：y[i] = value[0]。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
yDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
y | void * | 指向目标张量数据的设备指针。 |
valuePtr | const void * | 常量值指针（设备端）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaleTensor
mudnnStatus_t mudnnScaleTensor(mudnnHandle_t handle, const mudnnTensorDescriptor_t yDesc, void *y, const void *alpha)
声明位置：mudnn_ops.h
状态：已废弃。
张量按标量缩放：y[i] = alpha * y[i]（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
yDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
y | void * | 指向目标张量数据的设备指针。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateFilterDescriptor
mudnnStatus_t mudnnCreateFilterDescriptor(mudnnFilterDescriptor_t *filterDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建卷积滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | mudnnFilterDescriptor_t * | 返回滤波器描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetFilter4dDescriptor
mudnnStatus_t mudnnSetFilter4dDescriptor(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int k, int c, int h, int w)
声明位置：mudnn_ops.h
状态：已废弃。
配置 4D 滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | mudnnFilterDescriptor_t | 滤波器描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
format | mudnnTensorFormat_t | 布局格式。 |
k | int | 输出通道数。 |
c | int | 输入通道数。 |
h | int | 滤波器高度。 |
w | int | 滤波器宽度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetFilter4dDescriptor
mudnnStatus_t mudnnGetFilter4dDescriptor(const mudnnFilterDescriptor_t filterDesc, mudnnDataType_t *dataType, mudnnTensorFormat_t *format, int *k, int *c, int *h, int *w)
声明位置：mudnn_ops.h
状态：已废弃。
查询 4D 滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
format | mudnnTensorFormat_t * | 返回布局格式。 |
k | int * | 返回输出通道数。 |
c | int * | 返回输入通道数。 |
h | int * | 返回高度。 |
w | int * | 返回宽度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetFilterNdDescriptor
mudnnStatus_t mudnnSetFilterNdDescriptor(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int nbDims, const int filterDimA[])
声明位置：mudnn_ops.h
状态：已废弃。
配置 ND 滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | mudnnFilterDescriptor_t | 滤波器描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
format | mudnnTensorFormat_t | 布局格式。 |
nbDims | int | 维度数。 |
filterDimA | const int | 各维尺寸。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetFilterNdDescriptorWithScale
mudnnStatus_t mudnnSetFilterNdDescriptorWithScale(mudnnFilterDescriptor_t filterDesc, mudnnDataType_t dataType, mudnnTensorFormat_t format, int nbDims, const int filterDimA[], float scale)
声明位置：mudnn_ops.h
状态：已废弃。
扩展接口：是。
配置 ND 滤波器（含 scale，量化用途，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | mudnnFilterDescriptor_t | 滤波器描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
format | mudnnTensorFormat_t | 布局格式。 |
nbDims | int | 维度数。 |
filterDimA | const int | 各维尺寸。 |
scale | float | 量化 scale。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetFilterNdDescriptor
mudnnStatus_t mudnnGetFilterNdDescriptor(const mudnnFilterDescriptor_t filterDesc, int nbDimsRequested, mudnnDataType_t *dataType, mudnnTensorFormat_t *format, int *nbDims, int filterDimA[])
声明位置：mudnn_ops.h
状态：已废弃。
查询 ND 滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
nbDimsRequested | int | 希望返回的最大维度。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
format | mudnnTensorFormat_t * | 返回布局格式。 |
nbDims | int * | 返回实际维度。 |
filterDimA | int | 返回各维尺寸。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetFilterSizeInBytes
mudnnStatus_t mudnnGetFilterSizeInBytes(const mudnnFilterDescriptor_t filterDesc, size_t *size)
声明位置：mudnn_ops.h
状态：已废弃。
计算滤波器占用字节数（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | const mudnnFilterDescriptor_t | 滤波器描述符。 |
size | size_t * | 返回字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnTransformFilter
mudnnStatus_t mudnnTransformFilter(mudnnHandle_t handle, const mudnnTensorTransformDescriptor_t transDesc, const void *alpha, const mudnnFilterDescriptor_t srcDesc, const void *srcData, const void *beta, const mudnnFilterDescriptor_t destDesc, void *destData)
声明位置：mudnn_ops.h
状态：已废弃。
滤波器布局变换（Deprecated）
srcDesc/destDesc
源/目标滤波器描述符
alpha/beta
缩放系数
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
transDesc | const mudnnTensorTransformDescriptor_t | 变换描述符 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
srcDesc | const mudnnFilterDescriptor_t | 源滤波器描述符。 |
srcData | const void * | 指向源滤波器数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
destDesc | const mudnnFilterDescriptor_t | 目标滤波器描述符。 |
destData | void * | 指向目标滤波器数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyFilterDescriptor
mudnnStatus_t mudnnDestroyFilterDescriptor(mudnnFilterDescriptor_t filterDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁滤波器描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
filterDesc | mudnnFilterDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSoftmaxForward
mudnnStatus_t mudnnSoftmaxForward(mudnnHandle_t handle, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
Softmax 前向：output = alpha * softmax(x) + beta * y.
参数
handle(mudnnHandle_t)algo(mudnnSoftmaxAlgorithm_t)：算法（FAST/ACCURATE/LOG）mode(mudnnSoftmaxMode_t)：归约维度模式alpha(const void *)xDesc(const mudnnTensorDescriptor_t)x(const void *)beta(const void *)yDesc(const mudnnTensorDescriptor_t)y(void *)
mudnnCreatePoolingDescriptor
mudnnStatus_t mudnnCreatePoolingDescriptor(mudnnPoolingDescriptor_t *poolingDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t * | 返回池化描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetPooling2dDescriptor
mudnnStatus_t mudnnSetPooling2dDescriptor(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t mode, mudnnNanPropagation_t maxpoolingNanOpt, int windowHeight, int windowWidth, int verticalPadding, int horizontalPadding, int verticalStride, int horizontalStride)
声明位置：mudnn_ops.h
状态：已废弃。
配置 2D 池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t | 池化描述符。 |
mode | mudnnPoolingMode_t | 池化模式。 |
maxpoolingNanOpt | mudnnNanPropagation_t | NaN 传播选项。 |
windowHeight | int | 窗口高。 |
windowWidth | int | 窗口宽。 |
verticalPadding | int | 垂直 padding。 |
horizontalPadding | int | 水平 padding。 |
verticalStride | int | 垂直步长。 |
horizontalStride | int | 水平步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetPooling2dDescriptor
mudnnStatus_t mudnnGetPooling2dDescriptor(const mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t *mode, mudnnNanPropagation_t *maxpoolingNanOpt, int *windowHeight, int *windowWidth, int *verticalPadding, int *horizontalPadding, int *verticalStride, int *horizontalStride)
声明位置：mudnn_ops.h
状态：已废弃。
查询 2D 池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | const mudnnPoolingDescriptor_t | 池化描述符。 |
mode | mudnnPoolingMode_t * | 返回模式。 |
maxpoolingNanOpt | mudnnNanPropagation_t * | 返回 NaN 选项。 |
windowHeight | int * | 返回窗口高。 |
windowWidth | int * | 返回窗口宽。 |
verticalPadding | int * | 返回垂直 padding。 |
horizontalPadding | int * | 返回水平 padding。 |
verticalStride | int * | 返回垂直步长。 |
horizontalStride | int * | 返回水平步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetPoolingNdDescriptor
mudnnStatus_t mudnnSetPoolingNdDescriptor(mudnnPoolingDescriptor_t poolingDesc, const mudnnPoolingMode_t mode, const mudnnNanPropagation_t maxpoolingNanOpt, int nbDims, const int windowDimA[], const int paddingA[], const int strideA[])
声明位置：mudnn_ops.h
状态：已废弃。
配置 ND 池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t | 池化描述符。 |
mode | const mudnnPoolingMode_t | 池化模式。 |
maxpoolingNanOpt | const mudnnNanPropagation_t | NaN 选项。 |
nbDims | int | 维度数。 |
windowDimA | const int | 窗口尺寸数组。 |
paddingA | const int | padding 数组。 |
strideA | const int | 步长数组。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetPoolingNdDescriptor
mudnnStatus_t mudnnGetPoolingNdDescriptor(const mudnnPoolingDescriptor_t poolingDesc, int nbDimsRequested, mudnnPoolingMode_t *mode, mudnnNanPropagation_t *maxpoolingNanOpt, int *nbDims, int windowDimA[], int paddingA[], int strideA[])
声明位置：mudnn_ops.h
状态：已废弃。
查询 ND 池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | const mudnnPoolingDescriptor_t | 池化描述符。 |
nbDimsRequested | int | 请求的最大维度数。 |
mode | mudnnPoolingMode_t * | 返回池化模式。 |
maxpoolingNanOpt | mudnnNanPropagation_t * | 返回 NaN 选项。 |
nbDims | int * | 返回实际维度数。 |
windowDimA | int | 返回窗口尺寸。 |
paddingA | int | 返回 padding。 |
strideA | int | 返回步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetPoolingNdForwardOutputDim
mudnnStatus_t mudnnGetPoolingNdForwardOutputDim(const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t inputTensorDesc, int nbDims, int outputTensorDimA[])
声明位置：mudnn_ops.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | const mudnnPoolingDescriptor_t | - |
inputTensorDesc | const mudnnTensorDescriptor_t | - |
nbDims | int | - |
outputTensorDimA | int | - |
mudnnGetPooling2dForwardOutputDim
mudnnStatus_t mudnnGetPooling2dForwardOutputDim(const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t inputTensorDesc, int *n, int *c, int *h, int *w)
声明位置：mudnn_ops.h
状态：已废弃。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | const mudnnPoolingDescriptor_t | - |
inputTensorDesc | const mudnnTensorDescriptor_t | - |
n | int * | - |
c | int * | - |
h | int * | - |
w | int * | - |
mudnnDestroyPoolingDescriptor
mudnnStatus_t mudnnDestroyPoolingDescriptor(mudnnPoolingDescriptor_t poolingDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁池化描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回 错误码。
mudnnSetPoolingNdDescriptorEx
mudnnStatus_t mudnnSetPoolingNdDescriptorEx(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t mode, int divisor, int nbDims, const int windowDimA[], const int paddingA[], const int strideA[], const int dilation[])
声明位置：mudnn_ops.h
扩展接口：是。
配置 ND 池化扩展（支持 dilation/divisor）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t | - |
mode | mudnnPoolingMode_t | - |
divisor | int | - |
nbDims | int | - |
windowDimA | const int | - |
paddingA | const int | - |
strideA | const int | - |
dilation | const int | - |
mudnnGetPoolingNdDescriptorEx
mudnnStatus_t mudnnGetPoolingNdDescriptorEx(mudnnPoolingDescriptor_t poolingDesc, mudnnPoolingMode_t *mode, int *divisor, int *nbDims, int **windowDimA, int **paddingA, int **strideA, int **dilation)
声明位置：mudnn_ops.h
扩展接口：是。
查询 ND 池化扩展配置
参数
| 参数 | 类型 | 说明 |
|---|---|---|
poolingDesc | mudnnPoolingDescriptor_t | - |
mode | mudnnPoolingMode_t * | - |
divisor | int * | - |
nbDims | int * | - |
windowDimA | int ** | - |
paddingA | int ** | - |
strideA | int ** | - |
dilation | int ** | - |
mudnnPoolingForwardEx
mudnnStatus_t mudnnPoolingForwardEx(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, void *indiices)
声明位置：mudnn_ops.h
扩展接口：是。
池化前向（扩展版，含索引输出）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
poolingDesc | const mudnnPoolingDescriptor_t | - |
outputDesc | const mudnnTensorDescriptor_t | - |
output | void * | - |
inputDesc | const mudnnTensorDescriptor_t | - |
input | const void * | - |
indiicesDesc | const mudnnTensorDescriptor_t | - |
indiices | void * | - |
mudnnPoolingBackwardEx
mudnnStatus_t mudnnPoolingBackwardEx(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, void *indiices)
声明位置：mudnn_ops.h
扩展接口：是。
池化反向（扩展版，含索引输入）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
poolingDesc | const mudnnPoolingDescriptor_t | - |
outputDesc | const mudnnTensorDescriptor_t | - |
output | void * | - |
inputDesc | const mudnnTensorDescriptor_t | - |
input | const void * | - |
indiicesDesc | const mudnnTensorDescriptor_t | - |
indiices | void * | - |
mudnnPoolingMaxPool2dGradGrad
mudnnStatus_t mudnnPoolingMaxPool2dGradGrad(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t indiicesDesc, const void *indiices)
声明位置：mudnn_ops.h
扩展接口：是。
MaxPool2d 的二阶梯度接口
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | - |
poolingDesc | const mudnnPoolingDescriptor_t | - |
outputDesc | const mudnnTensorDescriptor_t | - |
output | void * | - |
inputDesc | const mudnnTensorDescriptor_t | - |
input | const void * | - |
indiicesDesc | const mudnnTensorDescriptor_t | - |
indiices | const void * | - |
mudnnPoolingForward
mudnnStatus_t mudnnPoolingForward(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
状态：已废弃。
池化前向：y = alpha * pool(x) + beta * y（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
poolingDesc | const mudnnPoolingDescriptor_t | 池化描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateActivationDescriptor
mudnnStatus_t mudnnCreateActivationDescriptor(mudnnActivationDescriptor_t *activationDesc)
声明位置：mudnn_ops.h
状态：已废弃。
创建激活描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | mudnnActivationDescriptor_t * | 返回激活描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetActivationDescriptor
mudnnStatus_t mudnnSetActivationDescriptor(mudnnActivationDescriptor_t activationDesc, mudnnActivationMode_t mode, mudnnNanPropagation_t reluNanOpt, double coef)
声明位置：mudnn_ops.h
状态：已废弃。
配置激活描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
mode | mudnnActivationMode_t | 激活模式。 |
reluNanOpt | mudnnNanPropagation_t | NaN 传播选项。 |
coef | double | 激活系数（如 clipped RELU 上限、ELU alpha）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetActivationDescriptor
mudnnStatus_t mudnnGetActivationDescriptor(const mudnnActivationDescriptor_t activationDesc, mudnnActivationMode_t *mode, mudnnNanPropagation_t *reluNanOpt, double *coef)
声明位置：mudnn_ops.h
状态：已废弃。
查询激活描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
mode | mudnnActivationMode_t * | 返回激活模式。 |
reluNanOpt | mudnnNanPropagation_t * | 返回 NaN 选项。 |
coef | double * | 返回激活系数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetActivationDescriptorSwishBeta
mudnnStatus_t mudnnSetActivationDescriptorSwishBeta(mudnnActivationDescriptor_t activationDesc, double swish_beta)
声明位置：mudnn_ops.h
状态：已废弃。
设置 Swish Beta（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
swish_beta | double | Swish beta 参数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetActivationDescriptorSwishBeta
mudnnStatus_t mudnnGetActivationDescriptorSwishBeta(mudnnActivationDescriptor_t activationDesc, double *swish_beta)
声明位置：mudnn_ops.h
状态：已废弃。
查询 Swish Beta（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
swish_beta | double * | 返回 Swish beta。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyActivationDescriptor
mudnnStatus_t mudnnDestroyActivationDescriptor(mudnnActivationDescriptor_t activationDesc)
声明位置：mudnn_ops.h
状态：已废弃。
销毁激活描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
activationDesc | mudnnActivationDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnActivationForward
mudnnStatus_t mudnnActivationForward(mudnnHandle_t handle, mudnnActivationDescriptor_t activationDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
状态：已废弃。
激活前向：y = alpha * act(x) + beta * y（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateLRNDescriptor
mudnnStatus_t mudnnCreateLRNDescriptor(mudnnLRNDescriptor_t *normDesc)
声明位置：mudnn_ops.h
创建 LRN 描述符
参数
| 参数 | 类型 | 说明 |
|---|---|---|
normDesc | mudnnLRNDescriptor_t * | - |
mudnnSetLRNDescriptor
mudnnStatus_t mudnnSetLRNDescriptor(mudnnLRNDescriptor_t normDesc, unsigned lrnN, double lrnAlpha, double lrnBeta, double lrnK)
声明位置：mudnn_ops.h
配置 LRN 描述符
参数
| 参数 | 类型 | 说明 |
|---|---|---|
normDesc | mudnnLRNDescriptor_t | - |
lrnN | unsigned | - |
lrnAlpha | double | - |
lrnBeta | double | - |
lrnK | double | - |
mudnnGetLRNDescriptor
mudnnStatus_t mudnnGetLRNDescriptor(mudnnLRNDescriptor_t normDesc, unsigned *lrnN, double *lrnAlpha, double *lrnBeta, double *lrnK)
声明位置：mudnn_ops.h
查询 LRN 描述符
参数
| 参数 | 类型 | 说明 |
|---|---|---|
normDesc | mudnnLRNDescriptor_t | - |
lrnN | unsigned * | - |
lrnAlpha | double * | - |
lrnBeta | double * | - |
lrnK | double * | - |
mudnnDestroyLRNDescriptor
mudnnStatus_t mudnnDestroyLRNDescriptor(mudnnLRNDescriptor_t lrnDesc)
声明位置：mudnn_ops.h
销毁 LRN 描述符
参数
| 参数 | 类型 | 说明 |
|---|---|---|
lrnDesc | mudnnLRNDescriptor_t | - |
mudnnLRNCrossChannelForward
mudnnStatus_t mudnnLRNCrossChannelForward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnLRNMode_t lrnMode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
LRN 前向：跨通道normalization。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
normDesc | mudnnLRNDescriptor_t | LRN 描述符。 |
lrnMode | mudnnLRNMode_t | LRN 模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 指向输出/累加张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDivisiveNormalizationForward
mudnnStatus_t mudnnDivisiveNormalizationForward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnDivNormMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *means, void *temp, void *temp2, const void *beta, const mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
LCN/除性normalization前向：y = alpha * norm(x) + beta * y。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
normDesc | mudnnLRNDescriptor_t | LRN 描述符。 |
mode | mudnnDivNormMode_t | 除性归一化模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符（means/temp/temp2 同形）。 |
x | const void * | 输入张量。 |
means | const void * | 均值张量，NULL 则视为 0。 |
temp | void * | 临时缓冲。 |
temp2 | void * | 临时缓 冲。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 输出张量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDeriveBNTensorDescriptor
mudnnStatus_t mudnnDeriveBNTensorDescriptor(mudnnTensorDescriptor_t derivedBnDesc, const mudnnTensorDescriptor_t xDesc, mudnnBatchNormMode_t mode)
声明位置：mudnn_ops.h
状态：已废弃。
从输入描述符派生 BatchNorm 相关张量描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
derivedBnDesc | mudnnTensorDescriptor_t | 输出的派生描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式（per-activation / spatial）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateBatchNormDescriptor
mudnnStatus_t mudnnCreateBatchNormDescriptor(mudnnBatchNormDescriptor_t *bnDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 BatchNorm 描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
bnDesc | mudnnBatchNormDescriptor_t * | 返回 BatchNorm 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetBatchNormDescriptor
mudnnStatus_t mudnnSetBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc, mudnnBatchNormMode_t mode, double epsilon, bool isTraining)
声明位置：mudnn_ops.h
扩展接口：是。
配置 BatchNorm 描述符（模式 / epsilon / 是否训练）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
bnDesc | mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
epsilon | double | 数值稳定项。 |
isTraining | bool | 是否训练模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormDescriptor
mudnnStatus_t mudnnGetBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc, mudnnBatchNormMode_t *mode, double *epsilon, bool *isTraining)
声明位置：mudnn_ops.h
扩展接口：是。
查询 BatchNorm 描述符配置。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
bnDesc | mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
mode | mudnnBatchNormMode_t * | 返回 BatchNorm 模式。 |
epsilon | double * | 返回 epsilon。 |
isTraining | bool * | 返回是否训练模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormForwardTraining
mudnnStatus_t mudnnBatchNormForwardTraining(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t accMeanDesc, void *accMean, const mudnnTensorDescriptor_t accVarDesc, void *accVar, const mudnnTensorDescriptor_t freshMeanDesc, void *freshMean, const mudnnTensorDescriptor_t freshVarDesc, void *freshVar, const mudnnTensorDescriptor_t scaleDesc, const void *scale, const mudnnTensorDescriptor_t biasDesc, const void *bias, double momentum, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
BatchNorm 前向（训练）
accMean/accVar
累积均值方差输出
freshMean/freshVar
当前 batch 均值方差输出
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
bnDesc | const mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
accMeanDesc | const mudnnTensorDescriptor_t | 累积均值描述符。 |
accMean | void * | 指向累积均 值的设备指针。 |
accVarDesc | const mudnnTensorDescriptor_t | 累积方差描述符。 |
accVar | void * | 指向累积方差的设备指针。 |
freshMeanDesc | const mudnnTensorDescriptor_t | 当前 batch 均值描述符。 |
freshMean | void * | 指向当前 batch 均值的设备指针。 |
freshVarDesc | const mudnnTensorDescriptor_t | 当前 batch 方差描述符。 |
freshVar | void * | 指向当前 batch 方差的设备指针。 |
scaleDesc | const mudnnTensorDescriptor_t | Scale 描述符。 |
scale | const void * | 指向 Scale 数据的设备指针。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
bias | const void * | 指向 Bias 数据的设备指针。 |
momentum | double | 动量。 |
workSpace | void * | 可选 workspace |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormForwardInference
mudnnStatus_t mudnnBatchNormForwardInference(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t finalMeanDesc, void *finalMean, const mudnnTensorDescriptor_t finalVarDesc, void *finalVar, const mudnnTensorDescriptor_t scaleDesc, const void *scale, const mudnnTensorDescriptor_t biasDesc, const void *bias)
声明位置：mudnn_ops.h
扩展接口：是。
BatchNorm 前向（推理）
finalMean/finalVar
传入的均值方差
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
bnDesc | const mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
finalMeanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
finalMean | void * | 指向均值数据的设备指针。 |
finalVarDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
finalVar | void * | 指向方差数据的设备指针。 |
scaleDesc | const mudnnTensorDescriptor_t | Scale 描述符。 |
scale | const void * | 指向 Scale 数据的设备指针。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
bias | const void * | 指向 Bias 数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormBackward
mudnnStatus_t mudnnBatchNormBackward(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dmDesc, void *dm, const mudnnTensorDescriptor_t dvDesc, void *dv, const mudnnTensorDescriptor_t dgDesc, void *dg, const mudnnTensorDescriptor_t dbDesc, void *db, const mudnnTensorDescriptor_t xDesc, void *x, const mudnnTensorDescriptor_t dyDesc, void *dy, const mudnnTensorDescriptor_t mDesc, void *m, const mudnnTensorDescriptor_t vDesc, void *v, const mudnnTensorDescriptor_t gDesc, void *g, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
BatchNorm 反向
dx/dm/dv/dg/db
输出梯度张量
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
bnDesc | const mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dx | void * | 指向输入梯度的设备指针。 |
dmDesc | const mudnnTensorDescriptor_t | dm 描述符。 |
dm | void * | 指向均值梯度的设备指针。 |
dvDesc | const mudnnTensorDescriptor_t | dv 描述符。 |
dv | void * | 指向方差梯度的设备指针。 |
dgDesc | const mudnnTensorDescriptor_t | dg 描述符。 |
dg | void * | 指向 scale 梯度的设备指针。 |
dbDesc | const mudnnTensorDescriptor_t | db 描述符。 |
db | void * | 指向 bias 梯度的设备指针。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | void * | 指向输入数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | void * | 指向输出梯度的设备指针。 |
mDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
m | void * | 指向均值数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
v | void * | 指向方差数据的设备指针。 |
gDesc | const mudnnTensorDescriptor_t | scale 描述符。 |
g | void * | 指向 scale 数据的设备指针。 |
workSpace | void * | 可选 workspace |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyBatchNormDescriptor
mudnnStatus_t mudnnDestroyBatchNormDescriptor(mudnnBatchNormDescriptor_t bnDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 BatchNorm 描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
bnDesc | mudnnBatchNormDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormForwardTrainingWorkspaceSize
mudnnStatus_t mudnnGetBatchNormForwardTrainingWorkspaceSize(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t accMeanDesc, const mudnnTensorDescriptor_t accVarDesc, const mudnnTensorDescriptor_t freshMeanDesc, const mudnnTensorDescriptor_t freshVarDesc, const mudnnTensorDescriptor_t scaleDesc, const mudnnTensorDescriptor_t biasDesc, size_t *sizeInByte)
声明位置：mudnn_ops.h
扩展接口：是。
查询 BatchNorm 训练前向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
bnDesc | const mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
accMeanDesc | const mudnnTensorDescriptor_t | 累积均值描述符。 |
accVarDesc | const mudnnTensorDescriptor_t | 累积方差描述符。 |
freshMeanDesc | const mudnnTensorDescriptor_t | 当前均值描述符。 |
freshVarDesc | const mudnnTensorDescriptor_t | 当前方差描述符。 |
scaleDesc | const mudnnTensorDescriptor_t | Scale 描述符。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
sizeInByte | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormBackwardWorkspaceSize
mudnnStatus_t mudnnGetBatchNormBackwardWorkspaceSize(const mudnnHandle_t handle, const mudnnBatchNormDescriptor_t bnDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dmDesc, const mudnnTensorDescriptor_t dvDesc, const mudnnTensorDescriptor_t dgDesc, const mudnnTensorDescriptor_t dbDesc, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t mDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t gDesc, size_t *sizeInByte)
声明位置：mudnn_ops.h
扩展接口：是。
查询 BatchNorm 反向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
bnDesc | const mudnnBatchNormDescriptor_t | BatchNorm 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dmDesc | const mudnnTensorDescriptor_t | dm 描述符。 |
dvDesc | const mudnnTensorDescriptor_t | dv 描述符。 |
dgDesc | const mudnnTensorDescriptor_t | dg 描述符。 |
dbDesc | const mudnnTensorDescriptor_t | db 描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
mDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
vDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
gDesc | const mudnnTensorDescriptor_t | scale 描述符。 |
sizeInByte | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormalizationForwardInference
mudnnStatus_t mudnnBatchNormalizationForwardInference(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, const void *estimatedMean, const void *estimatedVariance, double epsilon)
声明位置：mudnn_ops.h
状态：已废弃。
BatchNorm 推理（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
y | void * | 指向输出数据的设备指针。 |
bnScaleBiasMeanVarDesc | const mudnnTensorDescriptor_t | Scale/Bias/Mean/Var 描述符。 |
bnScale | const void * | 指向 Scale 数据的设备指针。 |
bnBias | const void * | 指向 Bias 数据的设备指针。 |
estimatedMean | const void * | 指向均值的设备指针。 |
estimatedVariance | const void * | 指向方差的设备指针。 |
epsilon | double | 数值稳定项。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDeriveNormTensorDescriptor
mudnnStatus_t mudnnDeriveNormTensorDescriptor(mudnnTensorDescriptor_t derivedNormScaleBiasDesc, mudnnTensorDescriptor_t derivedNormMeanVarDesc, const mudnnTensorDescriptor_t xDesc, mudnnNormMode_t mode, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
从输入描述符派生 Normalization 相关描述符（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
derivedNormScaleBiasDesc | mudnnTensorDescriptor_t | 返回 scale/bias 描述符。 |
derivedNormMeanVarDesc | mudnnTensorDescriptor_t | 返回 mean/var 描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
mode | mudnnNormMode_t | Normalization 模式（per-activation/per-channel）。 |
groupCnt | int | 预留参数（当前应为 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNormalizationForwardInference
mudnnStatus_t mudnnNormalizationForwardInference(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t normScaleBiasDesc, const void *normScale, const void *normBias, const mudnnTensorDescriptor_t normMeanVarDesc, const void *estimatedMean, const void *estimatedVariance, const mudnnTensorDescriptor_t zDesc, const void *z, mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t yDesc, void *y, double epsilon, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
Normalization 推理（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 是否包含激活/残差。 |
algo | mudnnNormAlgo_t | 计算算法。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
normScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 描述符。 |
normScale | const void * | 指向 scale 数据的设备指针。 |
normBias | const void * | 指向 bias 数据的设备指针。 |
normMeanVarDesc | const mudnnTensorDescriptor_t | 均值/方差描述符。 |
estimatedMean | const void * | 指向均值的设备指针。 |
estimatedVariance | const void * | 指向方差的设备指针。 |
zDesc | const mudnnTensorDescriptor_t | 残差描述符。 |
z | const void * | 指向残差数据的设备指针。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
y | void * | 指向输出数据的设备指针。 |
epsilon | double | 数值稳定项。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSpatialTransformerDescriptor
mudnnStatus_t mudnnCreateSpatialTransformerDescriptor(mudnnSpatialTransformerDescriptor_t *stDesc)
声明位置：mudnn_ops.h
创建空间变换描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
stDesc | mudnnSpatialTransformerDescriptor_t * | 返回空间变换描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetSpatialTransformerNdDescriptor
mudnnStatus_t mudnnSetSpatialTransformerNdDescriptor(mudnnSpatialTransformerDescriptor_t stDesc, mudnnSamplerType_t samplerType, mudnnDataType_t dataType, const int nbDims, const int dimA[])
声明位置：mudnn_ops.h
配置空间变换描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
stDesc | mudnnSpatialTransformerDescriptor_t | 空间变换描述符。 |
samplerType | mudnnSamplerType_t | 采样类型（如双线性）。 |
dataType | mudnnDataType_t | 数据类型。 |
nbDims | const int | 维度数。 |
dimA | const int | 各维尺寸。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroySpatialTransformerDescriptor
mudnnStatus_t mudnnDestroySpatialTransformerDescriptor(mudnnSpatialTransformerDescriptor_t stDesc)
声明位置：mudnn_ops.h
销毁空间变换描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
stDesc | mudnnSpatialTransformerDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSpatialTfGridGeneratorForward
mudnnStatus_t mudnnSpatialTfGridGeneratorForward(mudnnHandle_t handle, const mudnnSpatialTransformerDescriptor_t stDesc, const void *theta, void *grid)
声明位置：mudnn_ops.h
生成仿射网格（前向）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
stDesc | const mudnnSpatialTransformerDescriptor_t | 空间变换描述符。 |
theta | const void * | 变换矩阵。 |
grid | void * | 输出网格。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSpatialTfSamplerForward
mudnnStatus_t mudnnSpatialTfSamplerForward(mudnnHandle_t handle, mudnnSpatialTransformerDescriptor_t stDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *grid, const void *beta, mudnnTensorDescriptor_t yDesc, void *y)
声明位置：mudnn_ops.h
空间变换采样（前向）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
stDesc | mudnnSpatialTransformerDescriptor_t | 空间变换描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 输入张量。 |
grid | const void * | 采样网格。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
yDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 输出/累加张量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateDropoutDescriptor
mudnnStatus_t mudnnCreateDropoutDescriptor(mudnnDropoutDescriptor_t *dropoutDesc)
声明位置：mudnn_ops.h
创建 Dropout 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t * | 返回描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyDropoutDescriptor
mudnnStatus_t mudnnDestroyDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc)
声明位置：mudnn_ops.h
销毁 Dropout 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutGetStatesSize
mudnnStatus_t mudnnDropoutGetStatesSize(mudnnHandle_t handle, size_t *sizeInBytes)
声明位置：mudnn_ops.h
查询 Dropout 状态缓冲区大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sizeInBytes | size_t * | 返回状态缓冲区大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutGetReserveSpaceSize
mudnnStatus_t mudnnDropoutGetReserveSpaceSize(mudnnTensorDescriptor_t xdesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
查询 Dropout 预留空间大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
xdesc | mudnnTensorDescriptor_t | 输入张量描述符。 |
sizeInBytes | size_t * | 返回预留空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetDropoutDescriptor
mudnnStatus_t mudnnSetDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float dropout, void *states, size_t stateSizeInBytes, uint64_t seed)
声明位置：mudnn_ops.h
配置 Dropout 描述符（含随机状态）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t | Dropout 描述符。 |
handle | mudnnHandle_t | muDNN 句柄。 |
dropout | float | 丢弃概率。 |
states | void * | 随机状态缓冲区。 |
stateSizeInBytes | size_t | 状态缓冲区大小（字节）。 |
seed | uint64_t | 随机种子。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRestoreDropoutDescriptor
mudnnStatus_t mudnnRestoreDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float dropout, void *states, size_t stateSizeInBytes, uint64_t seed)
声明位置：mudnn_ops.h
恢复 Dropout 描述符到保存状态。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t | Dropout 描述符。 |
handle | mudnnHandle_t | muDNN 句柄。 |
dropout | float | 丢弃概率。 |
states | void * | 随机状态缓冲区。 |
stateSizeInBytes | size_t | 状态缓冲区大小（字节）。 |
seed | uint64_t | 随机种子。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetDropoutDescriptor
mudnnStatus_t mudnnGetDropoutDescriptor(mudnnDropoutDescriptor_t dropoutDesc, mudnnHandle_t handle, float *dropout, void **states, uint64_t *seed)
声明位置：mudnn_ops.h
查询 Dropout 描述符配置。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t | Dropout 描述符。 |
handle | mudnnHandle_t | muDNN 句柄。 |
dropout | float * | 返回丢弃概率。 |
states | void ** | 返回随机状态指针。 |
seed | uint64_t * | 返回随机种子。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutForward
mudnnStatus_t mudnnDropoutForward(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t xdesc, const void *x, const mudnnTensorDescriptor_t ydesc, void *y, void *reserveSpace, size_t reserveSpaceSizeInBytes)
声明位置：mudnn_ops.h
Dropout 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dropoutDesc | const mudnnDropoutDescriptor_t | Dropout 描述符。 |
xdesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 输入张量。 |
ydesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 输出张量。 |
reserveSpace | void * | 预留空间（设备端）。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutBackward
mudnnStatus_t mudnnDropoutBackward(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t dydesc, const void *dy, const mudnnTensorDescriptor_t dxdesc, void *dx, void *reserveSpace, size_t reserveSpaceSizeInBytes)
声明位置：mudnn_ops.h
Dropout 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dropoutDesc | const mudnnDropoutDescriptor_t | Dropout 描述符。 |
dydesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 输出梯度。 |
dxdesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 输入梯度。 |
reserveSpace | void * | 前向生成的预留空间（设备端）。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnOpsVersionCheck
mudnnStatus_t mudnnOpsVersionCheck(void)
声明位置：mudnn_ops.h
交叉子库版本检查。
MUDNN_STATUS_SUCCESS 表示依赖版本匹配， MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示版本不一致。
返回值
MUDNN_STATUS_SUCCESS 表示依赖版本匹配， MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示版本不一致。
mudnnSoftmaxBackward
mudnnStatus_t mudnnSoftmaxBackward(mudnnHandle_t handle, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)
声明位置：mudnn_ops.h
Softmax 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
algo | mudnnSoftmaxAlgorithm_t | 算法。 |
mode | mudnnSoftmaxMode_t | 归约模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
y | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPoolingBackward
mudnnStatus_t mudnnPoolingBackward(mudnnHandle_t handle, const mudnnPoolingDescriptor_t poolingDesc, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)
声明位置：mudnn_ops.h
状态：已废弃。
池化反向（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
poolingDesc | const mudnnPoolingDescriptor_t | 池化描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
y | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnActivationBackward
mudnnStatus_t mudnnActivationBackward(mudnnHandle_t handle, mudnnActivationDescriptor_t activationDesc, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)
声明位置：mudnn_ops.h
状态：已废弃。
激活反向（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
y | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnLRNCrossChannelBackward
mudnnStatus_t mudnnLRNCrossChannelBackward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnLRNMode_t lrnMode, const void *alpha, const mudnnTensorDescriptor_t yDesc, const void *y, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx)
声明位置：mudnn_ops.h
LRN 反向：跨通道normalization梯度。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
normDesc | mudnnLRNDescriptor_t | LRN 描述符。 |
lrnMode | mudnnLRNMode_t | LRN 模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
y | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 指向输入张量数据的设备指针。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDivisiveNormalizationBackward
mudnnStatus_t mudnnDivisiveNormalizationBackward(mudnnHandle_t handle, mudnnLRNDescriptor_t normDesc, mudnnDivNormMode_t mode, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *means, const void *dy, void *temp, void *temp2, const void *beta, const mudnnTensorDescriptor_t dXdMeansDesc, void *dx, void *dMeans)
声明位置：mudnn_ops.h
LCN/除性normalization反向：输出 dx 与 dMeans。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
normDesc | mudnnLRNDescriptor_t | LRN 描述符。 |
mode | mudnnDivNormMode_t | 除性归一化模式。 |
alpha | const void * | 缩放系数 alpha（主机端单元素指针）。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符（x/means/dy/temp/temp2 共用）。 |
x | const void * | 输入张量。 |
means | const void * | 均值张量，NULL 视为 0。 |
dy | const void * | 输出梯度。 |
temp | void * | 临时缓冲。 |
temp2 | void * | 临时缓冲。 |
beta | const void * | 缩放系数 beta（主机端单元素指针）。 |
dXdMeansDesc | const mudnnTensorDescriptor_t | dx/dMeans 描述符。 |
dx | void * | 输出 dx。 |
dMeans | void * | 输出 dMeans，可为 NULL。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize
mudnnStatus_t mudnnGetBatchNormalizationForwardTrainingExWorkspaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t zDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const mudnnActivationDescriptor_t activationDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
查询 BatchNorm 扩展前向 workspace（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
bnOps | mudnnBatchNormOps_t | 是否包含激活/残差。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
zDesc | const mudnnTensorDescriptor_t | 残差张量描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
bnScaleBiasMeanVarDesc | const mudnnTensorDescriptor_t | scale/bias/mean/var 描述符。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormalizationBackwardExWorkspaceSize
mudnnStatus_t mudnnGetBatchNormalizationBackwardExWorkspaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t dzDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
查询 BatchNorm 扩展反向所需 workspace（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
bnOps | mudnnBatchNormOps_t | 是否包含激活/残差。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dzDesc | const mudnnTensorDescriptor_t | 残差梯度描述符。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dBnScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 梯度描述符。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetBatchNormalizationTrainingExReserveSpaceSize
mudnnStatus_t mudnnGetBatchNormalizationTrainingExReserveSpaceSize(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t xDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
查询 BatchNorm 扩展训练的 reserve space 大小（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
bnOps | mudnnBatchNormOps_t | 是否包含激活/残差。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
sizeInBytes | size_t * | 返回 reserve space 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormalizationForwardTraining
mudnnStatus_t mudnnBatchNormalizationForwardTraining(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, double exponentialAverageFactor, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance)
声明位置：mudnn_ops.h
状态：已废弃。
BatchNorm 训练前向（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
alpha | const void * | 结果混合系数。 |
beta | const void * | 目标混合系数。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
y | void * | 指向输出数据的设备指针。 |
bnScaleBiasMeanVarDesc | const mudnnTensorDescriptor_t | 共享描述符（scale/bias/mean/var）。 |
bnScale | const void * | 指向 scale 数据的设备指针。 |
bnBias | const void * | 指向 bias 数据的设备指针。 |
exponentialAverageFactor | double | 动量/指数平均系数。 |
resultRunningMean | void * | 指向运行均值的设备指针。 |
resultRunningVariance | void * | 指向运行方差的设备指针。 |
epsilon | double | 数值稳定项。 |
resultSaveMean | void * | 指向保存均值的设备指针。 |
resultSaveInvVariance | void * | 指向保存 逆方差的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormalizationForwardTrainingEx
mudnnStatus_t mudnnBatchNormalizationForwardTrainingEx(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t zDesc, const void *zData, const mudnnTensorDescriptor_t yDesc, void *yData, const mudnnTensorDescriptor_t bnScaleBiasMeanVarDesc, const void *bnScale, const void *bnBias, double exponentialAverageFactor, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance, mudnnActivationDescriptor_t activationDesc, void *workspace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
BatchNorm + 激活 + Add 训练前向（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
bnOps | mudnnBatchNormOps_t | BatchNorm 组合操作。 |
alpha | const void * | 结果混合系数。 |
beta | const void * | 目标混合系数。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
xData | const void * | 指向输入数据的设备指针。 |
zDesc | const mudnnTensorDescriptor_t | 残差描述符。 |
zData | const void * | 指向残差数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
yData | void * | 指向输出数据的设备指针。 |
bnScaleBiasMeanVarDesc | const mudnnTensorDescriptor_t | 共享描述符。 |
bnScale | const void * | 指向 scale 数据的设备指针。 |
bnBias | const void * | 指向 bias 数据的设备指针。 |
exponentialAverageFactor | double | 动量系数。 |
resultRunningMean | void * | 指向运行均值的设备指针。 |
resultRunningVariance | void * | 指向运行方差的设备指针。 |
epsilon | double | 数值稳定项。 |
resultSaveMean | void * | 指向保存均值的设备指针。 |
resultSaveInvVariance | void * | 指向保存逆方差的设备指针。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
workspace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
reserveSpace | void * | 指向预留空间的设备指针。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormalizationBackward
mudnnStatus_t mudnnBatchNormalizationBackward(mudnnHandle_t handle, mudnnBatchNormMode_t mode, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const void *bnScale, void *dBnScaleResult, void *dBnBiasResult, double epsilon, const void *savedMean, const void *savedInvVariance)
声明位置：mudnn_ops.h
状态：已废弃。
BatchNorm 反向（旧接口，返回 x/scale/bias 梯度，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
alphaDataDiff | const void * | 数据梯度混合系数。 |
betaDataDiff | const void * | 数据梯度偏移系数。 |
alphaParamDiff | const void * | 参数梯度混合系数。 |
betaParamDiff | const void * | 参数梯度偏移系数。 |
xDesc | const mudnnTensorDescriptor_t | 输入/输出描述符（x/dx/dy）。 |
x | const void * | 指向输入数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度的设备指针。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 指向输入梯度的设备指针。 |
dBnScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 梯度描述符。 |
bnScale | const void * | 指向 scale 数据的设备指针。 |
dBnScaleResult | void * | 指向 scale 梯度输出的设备指针。 |
dBnBiasResult | void * | 指向 bias 梯度输出的设备指针。 |
epsilon | double | 数值稳定项。 |
savedMean | const void * | 指向前向保存均值的设备指针。 |
savedInvVariance | const void * | 指向前向保存逆方差的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchNormalizationBackwardEx
mudnnStatus_t mudnnBatchNormalizationBackwardEx(mudnnHandle_t handle, mudnnBatchNormMode_t mode, mudnnBatchNormOps_t bnOps, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t yDesc, const void *yData, const mudnnTensorDescriptor_t dyDesc, const void *dyData, const mudnnTensorDescriptor_t dzDesc, void *dzData, const mudnnTensorDescriptor_t dxDesc, void *dxData, const mudnnTensorDescriptor_t dBnScaleBiasDesc, const void *bnScaleData, const void *bnBiasData, void *dBnScaleData, void *dBnBiasData, double epsilon, const void *savedMean, const void *savedInvVariance, mudnnActivationDescriptor_t activationDesc, void *workSpace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes)
声明位置：mudnn_ops.h
状态：已废弃。
BatchNorm 反向扩展版（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnBatchNormMode_t | BatchNorm 模式。 |
bnOps | mudnnBatchNormOps_t | BatchNorm 组合操作。 |
alphaDataDiff | const void * | 数据梯度混合系数。 |
betaDataDiff | const void * | 数据梯度偏移系数。 |
alphaParamDiff | const void * | 参数梯度混合系数。 |
betaParamDiff | const void * | 参数梯度偏移系数。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
xData | const void * | 指向输入数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
yData | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dyData | const void * | 指向输出梯度数据的设备指针。 |
dzDesc | const mudnnTensorDescriptor_t | 残差梯度描述符。 |
dzData | void * | 指向残差梯度数据的设备指针。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dxData | void * | 指向输入梯度数据的设备指针。 |
dBnScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 梯度描述符。 |
bnScaleData | const void * | 指向 scale 数据的设备指针。 |
bnBiasData | const void * | 指向 bias 数据的设备指针。 |
dBnScaleData | void * | 指向 scale 梯度输出的设备指针。 |
dBnBiasData | void * | 指向 bias 梯度输出的设备指针。 |
epsilon | double | 数值稳定项。 |
savedMean | const void * | 指向前向保存均值的设备指针。 |
savedInvVariance | const void * | 指向前向保存逆方差的设备指针。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
reserveSpace | void * | 指向预留空间的设备指针。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNormalizationForwardTrainingWorkspaceSize
mudnnStatus_t mudnnGetNormalizationForwardTrainingWorkspaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t zDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t normScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t normMeanVarDesc, size_t *sizeInBytes, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
查询 Normalization 训练前向 workspace（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 组合操作。 |
algo | mudnnNormAlgo_t | 算法。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
zDesc | const mudnnTensorDescriptor_t | 残差描述符。 |
yDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
normScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 描述符。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
normMeanVarDesc | const mudnnTensorDescriptor_t | 均值/方差描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNormalizationBackwardWorkspaceSize
mudnnStatus_t mudnnGetNormalizationBackwardWorkspaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t yDesc, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t dzDesc, const mudnnTensorDescriptor_t dxDesc, const mudnnTensorDescriptor_t dNormScaleBiasDesc, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t normMeanVarDesc, size_t *sizeInBytes, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
查询 Normalization 反向 workspace（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 组合操作。 |
algo | mudnnNormAlgo_t | 算法。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dzDesc | const mudnnTensorDescriptor_t | 残差梯度描述符。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dNormScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 梯度描述符。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
normMeanVarDesc | const mudnnTensorDescriptor_t | 均值/方差描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNormalizationTrainingReserveSpaceSize
mudnnStatus_t mudnnGetNormalizationTrainingReserveSpaceSize(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t xDesc, size_t *sizeInBytes, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
查询 Normalization 训练 reserve space（Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 组合操作。 |
algo | mudnnNormAlgo_t | 算法。 |
activationDesc | const mudnnActivationDescriptor_t | 激活描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
sizeInBytes | size_t * | 返回 reserve space 大小（字节）。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNormalizationForwardTraining
mudnnStatus_t mudnnNormalizationForwardTraining(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alpha, const void *beta, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t normScaleBiasDesc, const void *normScale, const void *normBias, double exponentialAverageFactor, const mudnnTensorDescriptor_t normMeanVarDesc, void *resultRunningMean, void *resultRunningVariance, double epsilon, void *resultSaveMean, void *resultSaveInvVariance, mudnnActivationDescriptor_t activationDesc, const mudnnTensorDescriptor_t zDesc, const void *zData, const mudnnTensorDescriptor_t yDesc, void *yData, void *workspace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
Normalization 训练前向（旧接口，含可选激活，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 组合操作。 |
algo | mudnnNormAlgo_t | 算法。 |
alpha | const void * | 结果混合系数（设备端）。 |
beta | const void * | 目标混合系数（设备端）。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
xData | const void * | 指向输入张量数据的设备指针。 |
normScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 描述符。 |
normScale | const void * | 指向 scale 数据的设备指针。 |
normBias | const void * | 指向 bias 数据的设备指针。 |
exponentialAverageFactor | double | 指数平均系数。 |
normMeanVarDesc | const mudnnTensorDescriptor_t | 均值/方差描述符。 |
resultRunningMean | void * | 指向运行均值的设备指针。 |
resultRunningVariance | void * | 指向运行方差的设备指针。 |
epsilon | double | 数值稳定项。 |
resultSaveMean | void * | 指向保存均值的设备指针。 |
resultSaveInvVariance | void * | 指向保存逆方差的设备指针。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
zDesc | const mudnnTensorDescriptor_t | 残差张量描述符。 |
zData | const void * | 指向残差数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
yData | void * | 指向输出张量数据的设备指针。 |
workspace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
reserveSpace | void * | 指向预留空间的设备指针。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNormalizationBackward
mudnnStatus_t mudnnNormalizationBackward(mudnnHandle_t handle, mudnnNormMode_t mode, mudnnNormOps_t normOps, mudnnNormAlgo_t algo, const void *alphaDataDiff, const void *betaDataDiff, const void *alphaParamDiff, const void *betaParamDiff, const mudnnTensorDescriptor_t xDesc, const void *xData, const mudnnTensorDescriptor_t yDesc, const void *yData, const mudnnTensorDescriptor_t dyDesc, const void *dyData, const mudnnTensorDescriptor_t dzDesc, void *dzData, const mudnnTensorDescriptor_t dxDesc, void *dxData, const mudnnTensorDescriptor_t dNormScaleBiasDesc, const void *normScaleData, const void *normBiasData, void *dNormScaleData, void *dNormBiasData, double epsilon, const mudnnTensorDescriptor_t normMeanVarDesc, const void *savedMean, const void *savedInvVariance, mudnnActivationDescriptor_t activationDesc, void *workSpace, size_t workSpaceSizeInBytes, void *reserveSpace, size_t reserveSpaceSizeInBytes, int groupCnt)
声明位置：mudnn_ops.h
状态：已废弃。
Normalization 反向（旧接口，Deprecated）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
mode | mudnnNormMode_t | Normalization 模式。 |
normOps | mudnnNormOps_t | 组合操作。 |
algo | mudnnNormAlgo_t | 算法。 |
alphaDataDiff | const void * | 数据梯度混合系数。 |
betaDataDiff | const void * | 数据梯度偏移系数。 |
alphaParamDiff | const void * | 参数梯度混合系数。 |
betaParamDiff | const void * | 参数梯度偏移系数。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
xData | const void * | 指向输入数据的设备指针。 |
yDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
yData | const void * | 指向正向输出数据的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dyData | const void * | 指向输出梯度数据的设备指针。 |
dzDesc | const mudnnTensorDescriptor_t | 残差梯度描述符。 |
dzData | void * | 指向残差梯度数据的设备指针。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dxData | void * | 指向输入梯度数据的设备指针。 |
dNormScaleBiasDesc | const mudnnTensorDescriptor_t | scale/bias 梯度描述符。 |
normScaleData | const void * | 指向 scale 数据的设备指针。 |
normBiasData | const void * | 指向 bias 数据的设备指针。 |
dNormScaleData | void * | 指向 scale 梯度输出的设备指针。 |
dNormBiasData | void * | 指向 bias 梯度输出的设备指针。 |
epsilon | double | 数值稳定项。 |
normMeanVarDesc | const mudnnTensorDescriptor_t | 均值/方差描述符。 |
savedMean | const void * | 前向保存均值。 |
savedInvVariance | const void * | 前向保存逆方差。 |
activationDesc | mudnnActivationDescriptor_t | 激活描述符。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
reserveSpace | void * | 指向预留空间的设备指针。 |
reserveSpaceSizeInBytes | size_t | 预留空间大小（字节）。 |
groupCnt | int | 组数（占位，默认 1）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSpatialTfGridGeneratorBackward
mudnnStatus_t mudnnSpatialTfGridGeneratorBackward(mudnnHandle_t handle, const mudnnSpatialTransformerDescriptor_t stDesc, const void *dgrid, void *dtheta)
声明位置：mudnn_ops.h
仿射网格生成反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
stDesc | const mudnnSpatialTransformerDescriptor_t | 空间变换描述符。 |
dgrid | const void * | 网格梯度。 |
dtheta | void * | 变换矩阵梯度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSpatialTfSamplerBackward
mudnnStatus_t mudnnSpatialTfSamplerBackward(mudnnHandle_t handle, mudnnSpatialTransformerDescriptor_t stDesc, const void *alpha, const mudnnTensorDescriptor_t xDesc, const void *x, const void *beta, const mudnnTensorDescriptor_t dxDesc, void *dx, const void *alphaDgrid, const mudnnTensorDescriptor_t dyDesc, const void *dy, const void *grid, const void *betaDgrid, void *dgrid)
声明位置：mudnn_ops.h
空间变换采样反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
stDesc | mudnnSpatialTransformerDescriptor_t | 空间变换描述符。 |
alpha | const void * | 缩放系数 alpha（设备端）用于 dx。 |
xDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 输入张量。 |
beta | const void * | 缩放系数 beta（设备端）用于 dx。 |
dxDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
dx | void * | 输入梯度。 |
alphaDgrid | const void * | 缩放系数 alpha（设备端）用于 dgrid。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 输出梯度。 |
grid | const void * | 采样网格。 |
betaDgrid | const void * | 缩放系数 beta（设备端）用于 dgrid。 |
dgrid | void * | 网格梯度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTensorNdDescriptorWithScale
mudnnStatus_t mudnnSetTensorNdDescriptorWithScale(mudnnTensorDescriptor_t tensorDesc, mudnnTensorFormat_t format, mudnnDataType_t dataType, int nbDims, const int64_t dimA[], const int64_t strideA[], float scale)
声明位置：mudnn_ops.h
扩展接口：是。
配置带 scale 的 ND 张量描述符（扩展）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | mudnnTensorDescriptor_t | - |
format | mudnnTensorFormat_t | - |
dataType | mudnnDataType_t | - |
nbDims | int | - |
dimA | const int64_t | - |
strideA | const int64_t | - |
scale | float | - |
mudnnGetTensorNdDescriptorWithScale
mudnnStatus_t mudnnGetTensorNdDescriptorWithScale(const mudnnTensorDescriptor_t tensorDesc, int nbDimsRequested, mudnnDataType_t *dataType, int *nbDims, int64_t dimA[], int64_t strideA[], float *scale)
声明位置：mudnn_ops.h
扩展接口：是。
获取带 scale 的 ND 张量描述符（扩展）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
tensorDesc | const mudnnTensorDescriptor_t | - |
nbDimsRequested | int | - |
dataType | mudnnDataType_t * | - |
nbDims | int * | - |
dimA | int64_t | - |
strideA | int64_t | - |
scale | float * | - |
mudnnCreateUnaryDescriptor
mudnnStatus_t mudnnCreateUnaryDescriptor(mudnnUnaryDescriptor_t *unaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建一元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unaryDesc | mudnnUnaryDescriptor_t * | 返回一元算子描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetUnaryDescriptor
mudnnStatus_t mudnnSetUnaryDescriptor(mudnnUnaryDescriptor_t unaryDesc, mudnnUnaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta)
声明位置：mudnn_ops.h
扩展接口：是。
配置一元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unaryDesc | mudnnUnaryDescriptor_t | 一元算子描述符。 |
mode | mudnnUnaryMode_t | 一元算子模式。 |
alphaType | mudnnParamDataType_t | alpha 参数类型。 |
alpha | void * | alpha 参数指针。 |
betaType | mudnnParamDataType_t | beta 参数类型。 |
beta | void * | beta 参数指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功， 其他返回错误码。
mudnnUnary
mudnnStatus_t mudnnUnary(mudnnHandle_t handle, const mudnnUnaryDescriptor_t unaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t inputDesc, const void *inputData)
声明位置：mudnn_ops.h
扩展接口：是。
执行一元算子。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
unaryDesc | const mudnnUnaryDescriptor_t | 一元算子描述符。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
inputData | const void * | 指向输入数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyUnaryDescriptor
mudnnStatus_t mudnnDestroyUnaryDescriptor(mudnnUnaryDescriptor_t unaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁一元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unaryDesc | mudnnUnaryDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateBinaryDescriptor
mudnnStatus_t mudnnCreateBinaryDescriptor(mudnnBinaryDescriptor_t *binaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建二元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
binaryDesc | mudnnBinaryDescriptor_t * | 返回二元算子描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetBinaryDescriptor
mudnnStatus_t mudnnSetBinaryDescriptor(mudnnBinaryDescriptor_t binaryDesc, mudnnBinaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta)
声明位置：mudnn_ops.h
扩展接口：是。
配置二元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
binaryDesc | mudnnBinaryDescriptor_t | 二元算子描述符。 |
mode | mudnnBinaryMode_t | 二元算子模式。 |
alphaType | mudnnParamDataType_t | alpha 参数类型。 |
alpha | void * | alpha 参数指针。 |
betaType | mudnnParamDataType_t | beta 参数类型。 |
beta | void * | beta 参数指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBinary
mudnnStatus_t mudnnBinary(mudnnHandle_t handle, const mudnnBinaryDescriptor_t binaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t leftDesc, const void *leftData, const mudnnTensorDescriptor_t rightDesc, const void *rightData)
声明位置：mudnn_ops.h
扩展接口：是。
执行二元算子。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
binaryDesc | const mudnnBinaryDescriptor_t | 二元算子描述符。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
leftDesc | const mudnnTensorDescriptor_t | 左输入描述符。 |
leftData | const void * | 指向左输入数据的设备指针。 |
rightDesc | const mudnnTensorDescriptor_t | 右输入描述符。 |
rightData | const void * | 指向右输入数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyBinaryDescriptor
mudnnStatus_t mudnnDestroyBinaryDescriptor(mudnnBinaryDescriptor_t binaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁二元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
binaryDesc | mudnnBinaryDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateTernaryDescriptor
mudnnStatus_t mudnnCreateTernaryDescriptor(mudnnTernaryDescriptor_t *ternaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建三元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ternaryDesc | mudnnTernaryDescriptor_t * | 返回三元算子描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTernaryDescriptor
mudnnStatus_t mudnnSetTernaryDescriptor(mudnnTernaryDescriptor_t ternaryDesc, mudnnTernaryMode_t mode, mudnnParamDataType_t alphaType, void *alpha, mudnnParamDataType_t betaType, void *beta, mudnnParamDataType_t gammaType, void *gamma)
声明位置：mudnn_ops.h
扩展接口：是。
配置三元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ternaryDesc | mudnnTernaryDescriptor_t | 三元算子描述符。 |
mode | mudnnTernaryMode_t | 三元算子模式。 |
alphaType | mudnnParamDataType_t | alpha 参数类型。 |
alpha | void * | alpha 参数指针。 |
betaType | mudnnParamDataType_t | beta 参数类型。 |
beta | void * | beta 参数指针。 |
gammaType | mudnnParamDataType_t | gamma 参数类型。 |
gamma | void * | gamma 参数指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnTernary
mudnnStatus_t mudnnTernary(mudnnHandle_t handle, const mudnnTernaryDescriptor_t ternaryDesc, mudnnTensorDescriptor_t outputDesc, void *outputData, const mudnnTensorDescriptor_t inputDesc0, const void *inputData0, const mudnnTensorDescriptor_t inputDesc1, const void *inputData1, const mudnnTensorDescriptor_t inputDesc2, const void *inputData2)
声明位置：mudnn_ops.h
扩展接口：是。
执行三元算子。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ternaryDesc | const mudnnTernaryDescriptor_t | 三元算子描述符 。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
inputDesc0 | const mudnnTensorDescriptor_t | 第 0 输入描述符。 |
inputData0 | const void * | 指向第 0 输入数据的设备指针。 |
inputDesc1 | const mudnnTensorDescriptor_t | 第 1 输入描述符。 |
inputData1 | const void * | 指向第 1 输入数据的设备指针。 |
inputDesc2 | const mudnnTensorDescriptor_t | 第 2 输入描述符。 |
inputData2 | const void * | 指向第 2 输入数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyTernaryDescriptor
mudnnStatus_t mudnnDestroyTernaryDescriptor(mudnnTernaryDescriptor_t ternaryDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁三元算子描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ternaryDesc | mudnnTernaryDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateFillDescriptor
mudnnStatus_t mudnnCreateFillDescriptor(mudnnFillDescriptor_t *fillDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建填充描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
fillDesc | mudnnFillDescriptor_t * | 返回填充描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetFillDescriptor
mudnnStatus_t mudnnSetFillDescriptor(mudnnFillDescriptor_t fillDesc, mudnnParamDataType_t type, void *value)
声明位置 ：mudnn_ops.h
扩展接口：是。
配置padding 值及类型。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
fillDesc | mudnnFillDescriptor_t | 填充描述符。 |
type | mudnnParamDataType_t | padding 值类型。 |
value | void * | padding 值指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnFill
mudnnStatus_t mudnnFill(mudnnHandle_t handle, const mudnnFillDescriptor_t fillDesc, const mudnnTensorDescriptor_t maskDesc, const void *maskAddress, mudnnTensorDescriptor_t outputDesc, void *outputAddress)
声明位置：mudnn_ops.h
扩展接口：是。
执行填充（支持掩码）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
fillDesc | const mudnnFillDescriptor_t | 填充描述符。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
maskAddress | const void * | 指向掩码数据的设备指针。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
outputAddress | void * | 指向输出张量数据的 设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyFillDescriptor
mudnnStatus_t mudnnDestroyFillDescriptor(mudnnFillDescriptor_t fillDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁填充描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
fillDesc | mudnnFillDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateReduceDescriptor
mudnnStatus_t mudnnCreateReduceDescriptor(mudnnReduceDescriptor_t *reduceDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建归约描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceDesc | mudnnReduceDescriptor_t * | 返回归约描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetReduceDescriptor
mudnnStatus_t mudnnSetReduceDescriptor(mudnnReduceDescriptor_t reduceDesc, mudnnReduceMode_t mode, int ndim, const int *dim, float ord, int correction)
声明位置：mudnn_ops.h
扩展接口：是。
配置归约描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceDesc | mudnnReduceDescriptor_t | 归约描述符。 |
mode | mudnnReduceMode_t | 归约模式。 |
ndim | int | 轴数。 |
dim | const int * | 归约轴数组。 |
ord | float | 范数阶（用于部分归约）。 |
correction | int | 修正项（如无偏估计）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReduceWorkspaceSize
mudnnStatus_t mudnnGetReduceWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t *sizeInBytes, mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc)
声明位置：mudnn_ops.h
扩展接口：是。
查询归约 workspace 大小（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnReduce
mudnnStatus_t mudnnReduce(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData)
声明位置：mudnn_ops.h
扩展接口：是。
执行归约（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
inputData | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReduceMeanAndVarWorkspaceSize
mudnnStatus_t mudnnGetReduceMeanAndVarWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputVarDesc, mudnnTensorDescriptor_t outputMeanDesc, const mudnnTensorDescriptor_t inputDesc)
声明位置：mudnn_ops.h
扩展接口：是。
查询均值/方差归约 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
sizeInBytes | size_t & | 返回 workspace 大小（字节）。 |
outputVarDesc | mudnnTensorDescriptor_t | 方差输出描述符。 |
outputMeanDesc | mudnnTensorDescriptor_t | 均值输出描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnReduceMeanAndVar
mudnnStatus_t mudnnReduceMeanAndVar(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputVarDesc, void *outputVarData, mudnnTensorDescriptor_t outputMeanDesc, void *outputMeanData)
声明位置：mudnn_ops.h
扩展接口：是。
计算均值与方差（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
inputData | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputVarDesc | mudnnTensorDescriptor_t | 方差输出描述符。 |
outputVarData | void * | 指向方差输出数据的设备指针。 |
outputMeanDesc | mudnnTensorDescriptor_t | 均值输出描述符。 |
outputMeanData | void * | 指向均值输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReduceIndicesWorkspaceSize
mudnnStatus_t mudnnGetReduceIndicesWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t inputDesc)
声明位置：mudnn_ops.h
扩展接口：是。
查询仅索引归约 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
sizeInBytes | size_t & | 返回 workspace 大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnReduceOnlyIndices
mudnnStatus_t mudnnReduceOnlyIndices(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData)
声明位置：mudnn_ops.h
扩展接口：是。
执行仅索引归约。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
inputData | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetReduceWithIndicesWorkspaceSize
mudnnStatus_t mudnnGetReduceWithIndicesWorkspaceSize(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, size_t &sizeInBytes, mudnnTensorDescriptor_t outputDesc, mudnnTensorDescriptor_t outputIndicesDesc, const mudnnTensorDescriptor_t inputDesc)
声明位置：mudnn_ops.h
扩展接口：是。
查询带索引归约 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
sizeInBytes | size_t & | 返回 workspace 大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出描述符。 |
outputIndicesDesc | mudnnTensorDescriptor_t | 索引输出描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnReduceWithIndices
mudnnStatus_t mudnnReduceWithIndices(mudnnHandle_t handle, const mudnnReduceDescriptor_t reduceDesc, const mudnnTensorDescriptor_t inputDesc, const void *inputData, void *workSpace, size_t workSpaceSizeInBytes, mudnnTensorDescriptor_t outputDesc, void *outputData, mudnnTensorDescriptor_t outputIndicesDesc, void *outputIndices)
声明位置：mudnn_ops.h
扩展接口：是。
执行带索引归约。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
reduceDesc | const mudnnReduceDescriptor_t | 归约描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
inputData | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputDesc | mudnnTensorDescriptor_t | 输出描述符。 |
outputData | void * | 指向输出数据的设备指针。 |
outputIndicesDesc | mudnnTensorDescriptor_t | 索引输出描述符。 |
outputIndices | void * | 指向索引输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyReduceDescriptor
mudnnStatus_t mudnnDestroyReduceDescriptor(mudnnReduceDescriptor_t reduceDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁归约描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
reduceDesc | mudnnReduceDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreatePermuteDescriptor
mudnnStatus_t mudnnCreatePermuteDescriptor(mudnnPermuteDescriptor_t *permuteDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建排列描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t * | 返回排列描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyPermuteDescriptor
mudnnStatus_t mudnnDestroyPermuteDescriptor(mudnnPermuteDescriptor_t permuteDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁排列描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetPermuteSrcOffset
mudnnStatus_t mudnnSetPermuteSrcOffset(mudnnPermuteDescriptor_t permuteDesc, int64_t src_offset)
声明位置：mudnn_ops.h
扩展接口：是。
设置排列源偏移。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 排列描述符。 |
src_offset | int64_t | 源偏移（元素为单位）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetPermuteDstOffset
mudnnStatus_t mudnnSetPermuteDstOffset(mudnnPermuteDescriptor_t permuteDesc, int64_t dst_offset)
声明位置：mudnn_ops.h
扩展接口：是。
设置排列目标偏移。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 排列描述符。 |
dst_offset | int64_t | 目标偏移（元素为单位）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPermuteConfigDimStride
mudnnStatus_t mudnnPermuteConfigDimStride(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, int len, const int64_t *permute_dims)
声明位置：mudnn_ops.h
扩展接口：是。
配置排列维度/步长。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 排列描述符。 |
outDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
len | int | 维度个数。 |
permute_dims | const int64_t * | 维度重排数组。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPermuteConfigDimStrideForSlice
mudnnStatus_t mudnnPermuteConfigDimStrideForSlice(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, const int64_t *start)
声明位置：mudnn_ops.h
扩展接口：是。
配置切片排列。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 排列描述符。 |
outDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
start | const int64_t * | 切片起始位置。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPermuteConfigDimStrideForSliceEx
mudnnStatus_t mudnnPermuteConfigDimStrideForSliceEx(mudnnPermuteDescriptor_t permuteDesc, mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t inDesc, const int64_t *start, const int64_t *stride)
声明位置：mudnn_ops.h
扩展接口：是。
配置切片排列（含 stride）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
permuteDesc | mudnnPermuteDescriptor_t | 排列描述符。 |
outDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
start | const int64_t * | 切片起始位置。 |
stride | const int64_t * | 切片步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPermute
mudnnStatus_t mudnnPermute(mudnnHandle_t handle, const mudnnPermuteDescriptor_t permuteDesc, const mudnnTensorDescriptor_t outDesc, void *out, const mudnnTensorDescriptor_t inDesc, const void *in)
声明位置：mudnn_ops.h
扩展接口：是。
执行排列。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
permuteDesc | const mudnnPermuteDescriptor_t | 排列描述符。 |
outDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
out | void * | 指向输出数据的设备指针。 |
inDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
in | const void * | 指向输入数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateConcatDescriptor
mudnnStatus_t mudnnCreateConcatDescriptor(mudnnConcatDescriptor_t *concatDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建拼接描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
concatDesc | mudnnConcatDescriptor_t * | 返回拼接描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetConcatDescriptor
mudnnStatus_t mudnnSetConcatDescriptor(mudnnConcatDescriptor_t concatDesc, int axis)
声明位置：mudnn_ops.h
扩展接口：是。
设置拼接轴。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
concatDesc | mudnnConcatDescriptor_t | 拼接描述符。 |
axis | int | 拼接轴。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetConcatDescriptor
mudnnStatus_t mudnnGetConcatDescriptor(const mudnnConcatDescriptor_t concatDesc, int *axis)
声明位置：mudnn_ops.h
扩展接口：是。
查询拼接轴。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
concatDesc | const mudnnConcatDescriptor_t | 拼接描述符。 |
axis | int * | 返回拼接轴。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnConcat
mudnnStatus_t mudnnConcat(mudnnHandle_t handle, const mudnnConcatDescriptor_t concatDesc, const mudnnTensorDescriptor_t *inputDescs, const void **inputs, int numInputs, const mudnnTensorDescriptor_t outputDesc, void *output)
声明位置：mudnn_ops.h
扩展接口：是。
执行张量拼接。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
concatDesc | const mudnnConcatDescriptor_t | 拼接描述符。 |
inputDescs | const mudnnTensorDescriptor_t * | 输入张量描述符数组。 |
inputs | const void ** | 指向输入张量数据的设备指针数组。 |
numInputs | int | 输入数量。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyConcatDescriptor
mudnnStatus_t mudnnDestroyConcatDescriptor(mudnnConcatDescriptor_t concatDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁拼接描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
concatDesc | mudnnConcatDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateNonzeroDescriptor
mudnnStatus_t mudnnCreateNonzeroDescriptor(mudnnNonzeroDescriptor_t *nonZeroDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Nonzero 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nonZeroDesc | mudnnNonzeroDescriptor_t * | 返回 Nonzero 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyDescriptor
mudnnStatus_t mudnnDestroyDescriptor(mudnnNonzeroDescriptor_t nonZeroDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Nonzero 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nonZeroDesc | mudnnNonzeroDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNonzeroWorkspaceSize
mudnnStatus_t mudnnGetNonzeroWorkspaceSize(mudnnHandle_t handle, const mudnnNonzeroDescriptor_t nonZeroDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Nonzero 工作区大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nonZeroDesc | const mudnnNonzeroDescriptor_t | Nonzero 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNonzero
mudnnStatus_t mudnnNonzero(mudnnHandle_t handle, mudnnNonzeroDescriptor_t nonZeroDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)
声明位置：mudnn_ops.h
扩展接口：是。
执行 Nonzero。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nonZeroDesc | mudnnNonzeroDescriptor_t | Nonzero 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
output | void * | 指向输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateLayerNormDescriptor
mudnnStatus_t mudnnCreateLayerNormDescriptor(mudnnLayerNormDescriptor_t *layerNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 LayerNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
layerNormDesc | mudnnLayerNormDescriptor_t * | 返回 LayerNorm 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetLayerNormDescriptor
mudnnStatus_t mudnnSetLayerNormDescriptor(mudnnLayerNormDescriptor_t layerNormDesc, double epsilon, mudnnLayerNormMode_t mode, int *axes, int numAxes)
声明位置：mudnn_ops.h
扩展接口：是。
配置 LayerNorm 描述符（epsilon/模式/轴）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
layerNormDesc | mudnnLayerNormDescriptor_t | 描述符。 |
epsilon | double | 数值稳定项。 |
mode | mudnnLayerNormMode_t | LayerNorm 模式。 |
axes | int * | 归一化轴数组。 |
numAxes | int | 轴数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetLayerNormDescriptor
mudnnStatus_t mudnnGetLayerNormDescriptor(const mudnnLayerNormDescriptor_t layerNormDesc, double *epsilon, mudnnLayerNormMode_t *mode, int **axes, int *numAxes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 LayerNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
layerNormDesc | const mudnnLayerNormDescriptor_t | 描述符。 |
epsilon | double * | 返回 epsilon。 |
mode | mudnnLayerNormMode_t * | 返回模式。 |
axes | int ** | 返回轴数组指针。 |
numAxes | int * | 返回轴数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetLayerNormForwardWorkspaceSize
mudnnStatus_t mudnnGetLayerNormForwardWorkspaceSize(const mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t meanDesc, const mudnnTensorDescriptor_t varianceDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t gammaDesc, const mudnnTensorDescriptor_t betaDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 LayerNorm 前向 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
layerNormDesc | const mudnnLayerNormDescriptor_t | LayerNorm 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
meanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
varianceDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
betaDesc | const mudnnTensorDescriptor_t | beta 描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnLayerNormForward
mudnnStatus_t mudnnLayerNormForward(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t meanDesc, const void *mean, const mudnnTensorDescriptor_t varianceDesc, const void *variance, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, const mudnnTensorDescriptor_t betaDesc, const void *beta, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
LayerNorm 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
layerNormDesc | const mudnnLayerNormDescriptor_t | 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
output | void * | 指向输出数据的设备指针。 |
meanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
mean | const void * | 指向均值数据的设备指针。 |
varianceDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
variance | const void * | 指向方差数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入数据的设备指针。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
gamma | const void * | 指向 gamma 数据的设备指针。 |
betaDesc | const mudnnTensorDescriptor_t | beta 描述符。 |
beta | const void * | 指向 beta 数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetLayerNormBackwardWorkspaceSize
mudnnStatus_t mudnnGetLayerNormBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t dxDesc, const void *dx, const mudnnTensorDescriptor_t dgammaDesc, const void *dgamma, const mudnnTensorDescriptor_t dbetaDesc, const void *dbeta, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t xDesc, const mudnnTensorDescriptor_t meanDesc, const mudnnTensorDescriptor_t varianceDesc, const mudnnTensorDescriptor_t gammaDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 LayerNorm 反向 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
layerNormDesc | const mudnnLayerNormDescriptor_t | 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dx | const void * | 指向 dx 数据的设备指针（可选）。 |
dgammaDesc | const mudnnTensorDescriptor_t | dgamma 描述符。 |
dgamma | const void * | 指向 dgamma 数据的设备指针（可选）。 |
dbetaDesc | const mudnnTensorDescriptor_t | dbeta 描述符。 |
dbeta | const void * | 指向 dbeta 数据的设备指针（可选）。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
meanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
varianceDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnLayerNormBackward
mudnnStatus_t mudnnLayerNormBackward(mudnnHandle_t handle, const mudnnLayerNormDescriptor_t layerNormDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dgammaDesc, void *dgamma, const mudnnTensorDescriptor_t dbetaDesc, void *dbeta, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t xDesc, const void *x, const mudnnTensorDescriptor_t meanDesc, const void *mean, const mudnnTensorDescriptor_t varianceDesc, const void *variance, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
LayerNorm 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
layerNormDesc | const mudnnLayerNormDescriptor_t | 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dx | void * | dx 输出。 |
dgammaDesc | const mudnnTensorDescriptor_t | dgamma 描述符。 |
dgamma | void * | dgamma 输出。 |
dbetaDesc | const mudnnTensorDescriptor_t | dbeta 描述符。 |
dbeta | void * | dbeta 输出。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度数据的设备指针。 |
xDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
x | const void * | 指向输入数据的设备指针。 |
meanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
mean | const void * | 指向均值数据的设备指针。 |
varianceDesc | const mudnnTensorDescriptor_t | 方差描述符。 |
variance | const void * | 指向方差数据的设备指针。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
gamma | const void * | 指向 gamma 数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyLayerNormDescriptor
mudnnStatus_t mudnnDestroyLayerNormDescriptor(mudnnLayerNormDescriptor_t layerNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 LayerNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
layerNormDesc | mudnnLayerNormDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetDropoutDescriptorEx
mudnnStatus_t mudnnSetDropoutDescriptorEx(mudnnDropoutDescriptor_t dropoutDesc, double dropout, double scale, mudnnParamDataType_t seedType, void *seed, mudnnParamDataType_t offsetType, void *offset, uint64_t sub_offset)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Dropout 描述符（扩展，含 scale/seed/offset）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dropoutDesc | mudnnDropoutDescriptor_t | Dropout 描述符。 |
dropout | double | Dropout 比例。 |
scale | double | 缩放系数。 |
seedType | mudnnParamDataType_t | 种子类型。 |
seed | void * | 种子指针。 |
offsetType | mudnnParamDataType_t | 偏移类型。 |
offset | void * | 偏移指针。 |
sub_offset | uint64_t | 额外子偏移。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutForwardEx
mudnnStatus_t mudnnDropoutForwardEx(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t xdesc, const void *x, const mudnnTensorDescriptor_t ydesc, void *y, const mudnnTensorDescriptor_t maskDesc, void *mask)
声明位置：mudnn_ops.h
扩展接口：是。
Dropout 扩展前向（生成 mask）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dropoutDesc | const mudnnDropoutDescriptor_t | Dropout 描述符。 |
xdesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
x | const void * | 输入张量。 |
ydesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
y | void * | 输出张量。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | void * | 掩码输出。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDropoutBackwardEx
mudnnStatus_t mudnnDropoutBackwardEx(mudnnHandle_t handle, const mudnnDropoutDescriptor_t dropoutDesc, const mudnnTensorDescriptor_t yDesc, void *y, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t maskDesc, const void *mask)
声明位置：mudnn_ops.h
扩展接口：是。
Dropout 扩展反向（使用 mask）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dropoutDesc | const mudnnDropoutDescriptor_t | Dropout 描述符。 |
yDesc | const mudnnTensorDescriptor_t | 反向输出描述符。 |
y | void * | 指向反向输出数据（dx）的设备指针。 |
gradDesc | const mudnnTensorDescriptor_t | 梯度描述符。 |
grad | const void * | 指向梯度输入数据（dy）的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateInterpolateDescriptor
mudnnStatus_t mudnnCreateInterpolateDescriptor(mudnnInterpolateDescriptor_t *interpolateDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建插值描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
interpolateDesc | mudnnInterpolateDescriptor_t * | 返回插值描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetInterpolateDescriptor
mudnnStatus_t mudnnSetInterpolateDescriptor(mudnnInterpolateDescriptor_t interpolateDesc, mudnnInterpolateMode_t mode, int nscales, float *scales, bool alignCorners, bool antialias)
声明位置：mudnn_ops.h
扩展接口：是。
配置插值描述符（模式、scales、alignCorners、抗锯齿）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
interpolateDesc | mudnnInterpolateDescriptor_t | 插值描述符。 |
mode | mudnnInterpolateMode_t | 插值模式。 |
nscales | int | scale 数量。 |
scales | float * | scale 数组。 |
alignCorners | bool | 是否对齐角点。 |
antialias | bool | 是否抗锯齿。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetInterpolateDescriptor
mudnnStatus_t mudnnGetInterpolateDescriptor(const mudnnInterpolateDescriptor_t interpolateDesc, mudnnInterpolateMode_t *mode, int *nscales, float **scales, bool *alignCorners, bool *antialias)
声明位置：mudnn_ops.h
扩展接口：是。
查询插值描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
interpolateDesc | const mudnnInterpolateDescriptor_t | 插值描述符。 |
mode | mudnnInterpolateMode_t * | 返回插值模式。 |
nscales | int * | 返回 scale 数量。 |
scales | float ** | 返回 scale 数组指针。 |
alignCorners | bool * | 返回是否对齐角点。 |
antialias | bool * | 返回是否抗锯齿。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnInterpolateForward
mudnnStatus_t mudnnInterpolateForward(mudnnHandle_t handle, const mudnnInterpolateDescriptor_t interpolateDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
插值前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
interpolateDesc | const mudnnInterpolateDescriptor_t | 插值描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 输出张量。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 输入张量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnInterpolateBackward
mudnnStatus_t mudnnInterpolateBackward(mudnnHandle_t handle, const mudnnInterpolateDescriptor_t interpolateDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
插值反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
interpolateDesc | const mudnnInterpolateDescriptor_t | 插值描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 输出张量（梯度累加）。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 输入张量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyInterpolateDescriptor
mudnnStatus_t mudnnDestroyInterpolateDescriptor(mudnnInterpolateDescriptor_t interpolateDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁插值描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
interpolateDesc | mudnnInterpolateDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSortDescriptor
mudnnStatus_t mudnnCreateSortDescriptor(mudnnSortDescriptor_t *sortDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortDesc | mudnnSortDescriptor_t * | 返回排序描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetSortDescriptor
mudnnStatus_t mudnnSetSortDescriptor(mudnnSortDescriptor_t sortDesc, int dim, bool stable, bool descending)
声明位置：mudnn_ops.h
扩 展接口：是。
配置排序描述符（维度/稳定性/升降序）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortDesc | mudnnSortDescriptor_t | 排序描述符。 |
dim | int | 排序维度。 |
stable | bool | 是否稳定排序。 |
descending | bool | 是否降序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSortDescriptor
mudnnStatus_t mudnnGetSortDescriptor(const mudnnSortDescriptor_t sortDesc, int *dim, bool *stable, bool *descending)
声明位置：mudnn_ops.h
扩展接口：是。
查询排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortDesc | const mudnnSortDescriptor_t | 排序描述符。 |
dim | int * | 返回排序维度。 |
stable | bool * | 返回是否稳定排序。 |
descending | bool * | 返回是否降序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSortWorkspaceSize
mudnnStatus_t mudnnGetSortWorkspaceSize(mudnnHandle_t handle, const mudnnSortDescriptor_t sortDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t indicesDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询排序 workspace 大小。
参 数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sortDesc | const mudnnSortDescriptor_t | 排序描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
indicesDesc | const mudnnTensorDescriptor_t | 索引描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSort
mudnnStatus_t mudnnSort(mudnnHandle_t handle, const mudnnSortDescriptor_t sortDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t indicesDesc, void *indices)
声明位置：mudnn_ops.h
扩展接口：是。
执行排序（输出值与索引）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sortDesc | const mudnnSortDescriptor_t | 排序描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
output | void * | 指向输出数据的设备指针。 |
indicesDesc | const mudnnTensorDescriptor_t | 索引描述符。 |
indices | void * | 指向输出索引的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroySortDescriptor
mudnnStatus_t mudnnDestroySortDescriptor(mudnnSortDescriptor_t sortDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortDesc | mudnnSortDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSortByKeyDescriptor
mudnnStatus_t mudnnCreateSortByKeyDescriptor(mudnnSortByKeyDescriptor_t *sortByKeyDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建键值排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortByKeyDesc | mudnnSortByKeyDescriptor_t * | 返回键值排序描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetSortByKeyDescriptor
mudnnStatus_t mudnnSetSortByKeyDescriptor(mudnnSortByKeyDescriptor_t sortByKeyDesc, int dim, bool stable, bool descending)
声明位置：mudnn_ops.h
扩展接口：是。
配置键值排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortByKeyDesc | mudnnSortByKeyDescriptor_t | 描述符。 |
dim | int | 排序维度。 |
stable | bool | 是否稳定排序。 |
descending | bool | 是否降序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSortByKeyDescriptor
mudnnStatus_t mudnnGetSortByKeyDescriptor(const mudnnSortByKeyDescriptor_t sortByKeyDesc, int *dim, bool *stable, bool *descending)
声明位置：mudnn_ops.h
扩展接口：是。
查询键值排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortByKeyDesc | const mudnnSortByKeyDescriptor_t | 描述符。 |
dim | int * | 返回维度。 |
stable | bool * | 返回稳定性。 |
descending | bool * | 返回是否降序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSortByKeyWorkspaceSize
mudnnStatus_t mudnnGetSortByKeyWorkspaceSize(mudnnHandle_t handle, const mudnnSortByKeyDescriptor_t sortByKeyDesc, const mudnnTensorDescriptor_t keyOutDesc, const mudnnTensorDescriptor_t valueOutDesc, const mudnnTensorDescriptor_t keyInDesc, const mudnnTensorDescriptor_t valueInDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询键值排序 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sortByKeyDesc | const mudnnSortByKeyDescriptor_t | 描述符。 |
keyOutDesc | const mudnnTensorDescriptor_t | key 输出描述符。 |
valueOutDesc | const mudnnTensorDescriptor_t | value 输出描述符。 |
keyInDesc | const mudnnTensorDescriptor_t | key 输入描述符。 |
valueInDesc | const mudnnTensorDescriptor_t | value 输入描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSortByKey
mudnnStatus_t mudnnSortByKey(mudnnHandle_t handle, const mudnnSortByKeyDescriptor_t sortByKeyDesc, const mudnnTensorDescriptor_t keyInDesc, void *keyIn, const mudnnTensorDescriptor_t valueInDesc, void *valueIn, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t keyOutDesc, void *keyOut, const mudnnTensorDescriptor_t valueOutDesc, void *valueOut)
声明位置：mudnn_ops.h
扩展接口：是。
执行键值排序。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sortByKeyDesc | const mudnnSortByKeyDescriptor_t | 描述符。 |
keyInDesc | const mudnnTensorDescriptor_t | key 输入描述符。 |
keyIn | void * | 指向 key 输入/输出数据的设备指针。 |
valueInDesc | const mudnnTensorDescriptor_t | value 输入描述符。 |
valueIn | void * | 指向 value 输入/输出数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
keyOutDesc | const mudnnTensorDescriptor_t | key 输出描述符。 |
keyOut | void * | 指向 key 输出数据的设备指针。 |
valueOutDesc | const mudnnTensorDescriptor_t | value 输出描述符。 |
valueOut | void * | 指向 value 输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroySortByKeyDescriptor
mudnnStatus_t mudnnDestroySortByKeyDescriptor(mudnnSortByKeyDescriptor_t sortByKeyDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁键值排序描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sortByKeyDesc | mudnnSortByKeyDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateScatterDescriptor
mudnnStatus_t mudnnCreateScatterDescriptor(mudnnScatterDescriptor_t *scatterDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 scatter 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterDesc | mudnnScatterDescriptor_t * | 返回 scatter 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScatterDescriptor
mudnnStatus_t mudnnSetScatterDescriptor(mudnnScatterDescriptor_t scatterDesc, mudnnScatterMode_t mode)
声明位置：mudnn_ops.h
扩展接口：是。
配置 scatter 模式。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterDesc | mudnnScatterDescriptor_t | 描述符。 |
mode | mudnnScatterMode_t | scatter 模式（更新/加/减/乘）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetScatterDescriptor
mudnnStatus_t mudnnGetScatterDescriptor(const mudnnScatterDescriptor_t scatterDesc, mudnnScatterMode_t *mode)
声明位置：mudnn_ops.h
扩展接口：是。
查询 scatter 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterDesc | const mudnnScatterDescriptor_t | 描述符。 |
mode | mudnnScatterMode_t * | 返回 scatter 模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScatterInplace
mudnnStatus_t mudnnScatterInplace(mudnnHandle_t handle, const mudnnScatterDescriptor_t scatterDesc, const mudnnTensorDescriptor_t selfDesc, void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update, int dim)
声明位置：mudnn_ops.h
扩展接口：是。
原地 scatter 更新。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
scatterDesc | const mudnnScatterDescriptor_t | 描述符。 |
selfDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
self | void * | 指向目标张量数据的设备指针。 |
idxDesc | const mudnnTensorDescriptor_t | 索引描述符。 |
idx | const void * | 指向索引数据的设备指针。 |
updateDesc | const mudnnTensorDescriptor_t | 更新张量描述符。 |
update | const void * | 指向更新张量数据的设备指针。 |
dim | int | scatter 维度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScatterNonInplace
mudnnStatus_t mudnnScatterNonInplace(mudnnHandle_t handle, const mudnnScatterDescriptor_t scatterDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t selfDesc, const void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update, int dim)
声明位置：mudnn_ops.h
扩展接口：是。
非原地 scatter 更新。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
scatterDesc | const mudnnScatterDescriptor_t | 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
selfDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
self | const void * | 指向输入张量数据的设备指针。 |
idxDesc | const mudnnTensorDescriptor_t | 索引描述符。 |
idx | const void * | 指向索引数据的设备指针。 |
updateDesc | const mudnnTensorDescriptor_t | 更新张量描述符。 |
update | const void * | 指向更新张量数据的设备指针。 |
dim | int | scatter 维度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyScatterDescriptor
mudnnStatus_t mudnnDestroyScatterDescriptor(mudnnScatterDescriptor_t scatterDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 scatter 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterDesc | mudnnScatterDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateScatterNDDescriptor
mudnnStatus_t mudnnCreateScatterNDDescriptor(mudnnScatterNDDescriptor_t *scatterNDDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 scatterND 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterNDDesc | mudnnScatterNDDescriptor_t * | 返回 scatterND 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScatterNDDescriptor
mudnnStatus_t mudnnSetScatterNDDescriptor(mudnnScatterNDDescriptor_t scatterNDDesc, mudnnScatterMode_t mode)
声明位置：mudnn_ops.h
扩展接口：是。
配置 scatterND 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterNDDesc | mudnnScatterNDDescriptor_t | 描述符。 |
mode | mudnnScatterMode_t | scatter 模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetScatterNDDescriptor
mudnnStatus_t mudnnGetScatterNDDescriptor(const mudnnScatterNDDescriptor_t scatterNDDesc, mudnnScatterMode_t *mode)
声明位置：mudnn_ops.h
扩展接口：是。
查询 scatterND 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterNDDesc | const mudnnScatterNDDescriptor_t | 描述符。 |
mode | mudnnScatterMode_t * | 返回 scatter 模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScatterND
mudnnStatus_t mudnnScatterND(mudnnHandle_t handle, const mudnnScatterNDDescriptor_t scatterNDDesc, const mudnnTensorDescriptor_t selfDesc, void *self, const mudnnTensorDescriptor_t idxDesc, const void *idx, const mudnnTensorDescriptor_t updateDesc, const void *update)
声明位置：mudnn_ops.h
扩展接口：是。
执行 scatterND。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
scatterNDDesc | const mudnnScatterNDDescriptor_t | 描述符。 |
selfDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
self | void * | 指向目标张量数据的设备指针。 |
idxDesc | const mudnnTensorDescriptor_t | 索引张量描述符。 |
idx | const void * | 指向索引数据的设备指针。 |
updateDesc | const mudnnTensorDescriptor_t | 更新张量描述符。 |
update | const void * | 指向更新张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyScatterNDDescriptor
mudnnStatus_t mudnnDestroyScatterNDDescriptor(mudnnScatterNDDescriptor_t scatterNDDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 scatterND 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scatterNDDesc | mudnnScatterNDDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSoftmaxDescriptor
mudnnStatus_t mudnnCreateSoftmaxDescriptor(mudnnSoftmaxDescriptor_t *softmaxDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Softmax 描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
softmaxDesc | mudnnSoftmaxDescriptor_t * | 返回创建好的 Softmax 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetSoftmaxDescriptor
mudnnStatus_t mudnnSetSoftmaxDescriptor(mudnnSoftmaxDescriptor_t softmaxDesc, int dim, mudnnSoftmaxAlgorithm_t algo, mudnnSoftmaxMode_t mode)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Softmax 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
softmaxDesc | mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
dim | int | 归约维度（对该轴做 softmax）。 |
algo | mudnnSoftmaxAlgorithm_t | 计算算法（FAST/ACCURATE/LOG）。 |
mode | mudnnSoftmaxMode_t | 归约模式（CHANNEL/INSTANCE 等）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSoftmaxDescriptor
mudnnStatus_t mudnnGetSoftmaxDescriptor(const mudnnSoftmaxDescriptor_t softmaxDesc, int *dim, mudnnSoftmaxAlgorithm_t *algo, mudnnSoftmaxMode_t *mode)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Softmax 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
softmaxDesc | const mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
dim | int * | 返回归约维度。 |
algo | mudnnSoftmaxAlgorithm_t * | 返回算法类型。 |
mode | mudnnSoftmaxMode_t * | 返回归约模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSoftmaxForwardWorkspaceSize
mudnnStatus_t mudnnGetSoftmaxForwardWorkspaceSize(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Softmax 前向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
softmaxDesc | const mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSoftmaxForwardEx
mudnnStatus_t mudnnSoftmaxForwardEx(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)
声明位置：mudnn_ops.h
扩展接口：是。
Softmax 前向（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
softmaxDesc | const mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSoftmaxBackwardWorkspaceSize
mudnnStatus_t mudnnGetSoftmaxBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t gradOutDesc, const mudnnTensorDescriptor_t gradInDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Softmax 反向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
softmaxDesc | const mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 正向输出张量描述符。 |
gradOutDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
gradInDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSoftmaxBackwardEx
mudnnStatus_t mudnnSoftmaxBackwardEx(mudnnHandle_t handle, const mudnnSoftmaxDescriptor_t softmaxDesc, const mudnnTensorDescriptor_t outputDesc, const void *output, const mudnnTensorDescriptor_t gradOutDesc, void *gradOut, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t gradInDesc, void *gradIn)
声明位置：mudnn_ops.h
扩展接口：是。
Softmax 反向（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
softmaxDesc | const mudnnSoftmaxDescriptor_t | Softmax 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 正向输出描述符。 |
output | const void * | 指向正向输出数据的设备指针。 |
gradOutDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
gradOut | void * | 指向输出梯度数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
gradInDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
gradIn | void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroySoftmaxDescriptor
mudnnStatus_t mudnnDestroySoftmaxDescriptor(mudnnSoftmaxDescriptor_t softmaxDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Softmax 描述符（扩展）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
softmaxDesc | mudnnSoftmaxDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateTopKDescriptor
mudnnStatus_t mudnnCreateTopKDescriptor(mudnnTopKDescriptor_t *topKDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 TopK 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
topKDesc | mudnnTopKDescriptor_t * | 返回创建好的 TopK 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetTopKDescriptor
mudnnStatus_t mudnnSetTopKDescriptor(mudnnTopKDescriptor_t topKDesc, int k, int dim, bool largest, bool sorted)
声明位置：mudnn_ops.h
扩展接口：是。
配置 TopK 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
topKDesc | mudnnTopKDescriptor_t | TopK 描述符。 |
k | int | 需要选取的前 K 个元素。 |
dim | int | 进行 TopK 的维度。 |
largest | bool | 是否选取最大值（true）或最小值（false）。 |
sorted | bool | 是否对结果排序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTopKDescriptor
mudnnStatus_t mudnnGetTopKDescriptor(const mudnnTopKDescriptor_t topKDesc, int *k, int *dim, bool *largest, bool *sorted)
声明位置：mudnn_ops.h
扩展接口：是。
查询 TopK 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
topKDesc | const mudnnTopKDescriptor_t | TopK 描述符。 |
k | int * | 返回 K 值。 |
dim | int * | 返回维度。 |
largest | bool * | 返回是否取最大值。 |
sorted | bool * | 返回是否排序。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetTopKWorkspaceSize
mudnnStatus_t mudnnGetTopKWorkspaceSize(mudnnHandle_t handle, const mudnnTopKDescriptor_t topKDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t indicesDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 TopK 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
topKDesc | const mudnnTopKDescriptor_t | TopK 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
indicesDesc | const mudnnTensorDescriptor_t | 索引输出描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnTopK
mudnnStatus_t mudnnTopK(mudnnHandle_t handle, const mudnnTopKDescriptor_t topKDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t indicesDesc, void *indices)
声明位置：mudnn_ops.h
扩展接口：是。
TopK 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
topKDesc | const mudnnTopKDescriptor_t | TopK 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向 TopK 值输出的设备指针。 |
indicesDesc | const mudnnTensorDescriptor_t | 索引输出描述符。 |
indices | void * | 指向 TopK 索引输出的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyTopKDescriptor
mudnnStatus_t mudnnDestroyTopKDescriptor(mudnnTopKDescriptor_t topKDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 TopK 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
topKDesc | mudnnTopKDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateRopeDescriptor
mudnnStatus_t mudnnCreateRopeDescriptor(mudnnRopeDescriptor_t *ropeDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Rope 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ropeDesc | mudnnRopeDescriptor_t * | 返回创建的 Rope 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetRopeDescriptor
mudnnStatus_t mudnnSetRopeDescriptor(mudnnRopeDescriptor_t ropeDesc, bool rotaryInterleaved, bool batchFirst, bool multiLatentAttention)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Rope 描述符（插值方式/布局）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ropeDesc | mudnnRopeDescriptor_t | Rope 描述符。 |
rotaryInterleaved | bool | 是否使用交织式 rotary。 |
batchFirst | bool | 输入是否为 batch-first 布局。 |
multiLatentAttention | bool | 是否使用多潜变量注意力。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRopeDescriptor
mudnnStatus_t mudnnGetRopeDescriptor(const mudnnRopeDescriptor_t ropeDesc, bool *rotaryInterleaved, bool *batchFirst, bool *multiLatentAttention)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Rope 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ropeDesc | const mudnnRopeDescriptor_t | Rope 描述符。 |
rotaryInterleaved | bool * | 返回是否交织式 rotary。 |
batchFirst | bool * | 返回是否 batch-first。 |
multiLatentAttention | bool * | 返回是否多潜变量注意力。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRopeForward
mudnnStatus_t mudnnRopeForward(mudnnHandle_t handle, const mudnnRopeDescriptor_t ropeDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t freqsCisDesc, const void *freqsCis)
声明位置：mudnn_ops.h
扩展接口：是。
Rope 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ropeDesc | const mudnnRopeDescriptor_t | Rope 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
freqsCisDesc | const mudnnTensorDescriptor_t | 频率张量描述符。 |
freqsCis | const void * | 指向频率张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRopeBackward
mudnnStatus_t mudnnRopeBackward(mudnnHandle_t handle, const mudnnRopeDescriptor_t ropeDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t gradOutDesc, void *gradOut, const mudnnTensorDescriptor_t freqsCisDesc, const void *freqsCis)
声明位置：mudnn_ops.h
扩展接口：是。
Rope 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ropeDesc | const mudnnRopeDescriptor_t | Rope 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据（梯度累加）的设备指针。 |
gradOutDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
gradOut | void * | 指向输出梯度的设备指针。 |
freqsCisDesc | const mudnnTensorDescriptor_t | 频率张量描述符。 |
freqsCis | const void * | 指向频率张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyRopeDescriptor
mudnnStatus_t mudnnDestroyRopeDescriptor(mudnnRopeDescriptor_t ropeDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Rope 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ropeDesc | mudnnRopeDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateRMSNormDescriptor
mudnnStatus_t mudnnCreateRMSNormDescriptor(mudnnRMSNormDescriptor_t *rmsNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 RMSNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rmsNormDesc | mudnnRMSNormDescriptor_t * | 返回 RMSNorm 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetRMSNormDescriptor
mudnnStatus_t mudnnSetRMSNormDescriptor(mudnnRMSNormDescriptor_t rmsNormDesc, mudnnRMSNormMode_t mode, double epsilon, int *axis, int numAxis)
声明位置：mudnn_ops.h
扩展接口：是。
配置 RMSNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rmsNormDesc | mudnnRMSNormDescriptor_t | 描述符。 |
mode | mudnnRMSNormMode_t | RMSNorm 模式。 |
epsilon | double | 数值稳定项。 |
axis | int * | 归一化轴数组。 |
numAxis | int | 轴数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRMSNormDescriptor
mudnnStatus_t mudnnGetRMSNormDescriptor(const mudnnRMSNormDescriptor_t rmsNormDesc, mudnnRMSNormMode_t *mode, double *epsilon, int **axis, int *numAxis)
声明位置：mudnn_ops.h
扩展接口：是。
查询 RMSNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rmsNormDesc | const mudnnRMSNormDescriptor_t | 描述符。 |
mode | mudnnRMSNormMode_t * | 返回 RMSNorm 模式。 |
epsilon | double * | 返回 epsilon。 |
axis | int ** | 返回轴数组指针。 |
numAxis | int * | 返回轴数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRMSNormForward
mudnnStatus_t mudnnRMSNormForward(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t invVarDesc, const void *invVar, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma)
声明位置：mudnn_ops.h
扩展接口：是。
RMSNorm 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rmsNormDesc | const mudnnRMSNormDescriptor_t | 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
output | void * | 指向输出数据的设备指针。 |
invVarDesc | const mudnnTensorDescriptor_t | 逆方差描述符。 |
invVar | const void * | 指向逆方差数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入数据的设备指针。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
gamma | const void * | 指向 gamma 数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRMSNormBackward
mudnnStatus_t mudnnRMSNormBackward(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t dxDesc, void *dx, const mudnnTensorDescriptor_t dgammaDesc, void *dgamma, const mudnnTensorDescriptor_t dyDesc, const void *dy, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t invVarDesc, const void *invVar, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
RMSNorm 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rmsNormDesc | const mudnnRMSNormDescriptor_t | 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dx | void * | 指向 dx 输出的设备指针。 |
dgammaDesc | const mudnnTensorDescriptor_t | dgamma 描述符。 |
dgamma | void * | 指向 dgamma 输出的设备指针。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
dy | const void * | 指向输出梯度的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入数据的设备指针。 |
invVarDesc | const mudnnTensorDescriptor_t | 逆方差描述符。 |
invVar | const void * | 指向逆方差数据的设备指针。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
gamma | const void * | 指向 gamma 数据的设备指针。 |
workSpace | void * | 指向工作区的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | 工作区大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRMSNormBackwardWorkspaceSize
mudnnStatus_t mudnnGetRMSNormBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnRMSNormDescriptor_t rmsNormDesc, const mudnnTensorDescriptor_t dxDesc, const void *dx, const mudnnTensorDescriptor_t dgammaDesc, const void *dgamma, const mudnnTensorDescriptor_t dyDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t invVarDesc, const mudnnTensorDescriptor_t gammaDesc, size_t *workspaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 RMSNorm 反向 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rmsNormDesc | const mudnnRMSNormDescriptor_t | 描述符。 |
dxDesc | const mudnnTensorDescriptor_t | dx 描述符。 |
dx | const void * | 指向 dx 数据的设备指针（可选）。 |
dgammaDesc | const mudnnTensorDescriptor_t | dgamma 描述符。 |
dgamma | const void * | 指向 dgamma 数据的设备指针（可选）。 |
dyDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
invVarDesc | const mudnnTensorDescriptor_t | 逆方差描述符。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
workspaceSizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyRMSNormDescriptor
mudnnStatus_t mudnnDestroyRMSNormDescriptor(mudnnRMSNormDescriptor_t rmsNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 RMSNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rmsNormDesc | mudnnRMSNormDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSwiGluDescriptor
mudnnStatus_t mudnnCreateSwiGluDescriptor(mudnnSwiGluDescriptor_t *swiGluDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 SwiGLU 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
swiGluDesc | mudnnSwiGluDescriptor_t * | 返回创建的 SwiGLU 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSwiGluForward
mudnnStatus_t mudnnSwiGluForward(mudnnHandle_t handle, const mudnnSwiGluDescriptor_t swiGluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
SwiGLU 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
swiGluDesc | const mudnnSwiGluDescriptor_t | SwiGLU 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSwiGluBackward
mudnnStatus_t mudnnSwiGluBackward(mudnnHandle_t handle, const mudnnSwiGluDescriptor_t swiGluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gradDesc, const void *grad)
声明位置：mudnn_ops.h
扩展接口：是。
SwiGLU 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
swiGluDesc | const mudnnSwiGluDescriptor_t | SwiGLU 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据（可累加）的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
gradDesc | const mudnnTensorDescriptor_t | 梯度张量描述符。 |
grad | const void * | 指向输入梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroySwiGluDescriptor
mudnnStatus_t mudnnDestroySwiGluDescriptor(mudnnSwiGluDescriptor_t swiGluDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 SwiGLU 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
swiGluDesc | mudnnSwiGluDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateNLLLossDescriptor
mudnnStatus_t mudnnCreateNLLLossDescriptor(mudnnNLLLossDescriptor_t *nllLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 NLLLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nllLossDesc | mudnnNLLLossDescriptor_t * | 返回创建的 NLLLoss 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyNLLLossDescriptor
mudnnStatus_t mudnnDestroyNLLLossDescriptor(mudnnNLLLossDescriptor_t nllLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 NLLLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nllLossDesc | mudnnNLLLossDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetNLLLossDescriptor
mudnnStatus_t mudnnSetNLLLossDescriptor(mudnnNLLLossDescriptor_t nllLossDesc, mudnnLossReduceMode_t mode, int IgnoreIndex)
声明位置：mudnn_ops.h
扩展接口：是。
配置 NLLLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nllLossDesc | mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
mode | mudnnLossReduceMode_t | 损失归约模式。 |
IgnoreIndex | int | 被忽略的标签索引。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNLLLossDescriptor
mudnnStatus_t mudnnGetNLLLossDescriptor(const mudnnNLLLossDescriptor_t nllLossDesc, mudnnLossReduceMode_t *mode, int *IgnoreIndex)
声明位置：mudnn_ops.h
扩展接口：是。
查询 NLLLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
nllLossDesc | const mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
mode | mudnnLossReduceMode_t * | 返回归约模式。 |
IgnoreIndex | int * | 返回被忽略的标签索引。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNLLLossForwardWorkspaceSize
mudnnStatus_t mudnnGetNLLLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t totalWeightDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 NLLLoss 前向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nllLossDesc | const mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 标签张量描述符。 |
weightDesc | const mudnnTensorDescriptor_t | 权重张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 损失输出描述符。 |
totalWeightDesc | const mudnnTensorDescriptor_t | 总权重输出描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNLLLossForward
mudnnStatus_t mudnnNLLLossForward(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t totalWeightDesc, void *totalWeight, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
NLLLoss 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nllLossDesc | const mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 标签张量描述符。 |
target | const void * | 指向标签数据的设备指针。 |
weightDesc | const mudnnTensorDescriptor_t | 权重张量描述符。 |
weight | const void * | 指向权重数据的设备指针，可为 NULL。 |
outputDesc | const mudnnTensorDescriptor_t | 损失输出描述符。 |
output | void * | 指向损失输出的设备指针。 |
totalWeightDesc | const mudnnTensorDescriptor_t | 总权重输出描述符。 |
totalWeight | void * | 指向总权重输出的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetNLLLossBackwardWorkspaceSize
mudnnStatus_t mudnnGetNLLLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t totalWeightDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 NLLLoss 反向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nllLossDesc | const mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
weightDesc | const mudnnTensorDescriptor_t | 权重描述符。 |
totalWeightDesc | const mudnnTensorDescriptor_t | 总权重描述符。 |
outDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnNLLLossBackward
mudnnStatus_t mudnnNLLLossBackward(mudnnHandle_t handle, const mudnnNLLLossDescriptor_t nllLossDesc, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, const mudnnTensorDescriptor_t totalWeightDesc, const void *totalWeight, const mudnnTensorDescriptor_t outDesc, void *out, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
NLLLoss 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
nllLossDesc | const mudnnNLLLossDescriptor_t | NLLLoss 描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
grad | const void * | 指向损失梯度输入的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
target | const void * | 指向标签数据的设备指针。 |
weightDesc | const mudnnTensorDescriptor_t | 权重描述符。 |
weight | const void * | 指向权重数据的设备指针，可为 NULL。 |
totalWeightDesc | const mudnnTensorDescriptor_t | 总权重描述符。 |
totalWeight | const void * | 指向总权重数据的设备指针。 |
outDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
out | void * | 指向输出梯度的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateKLDivLossDescriptor
mudnnStatus_t mudnnCreateKLDivLossDescriptor(mudnnKLDivLossDescriptor_t *klDivLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 KLDivLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
klDivLossDesc | mudnnKLDivLossDescriptor_t * | 返回创建的 KLDivLoss 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyKLDivLossDescriptor
mudnnStatus_t mudnnDestroyKLDivLossDescriptor(mudnnKLDivLossDescriptor_t klDivLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 KLDivLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
klDivLossDesc | mudnnKLDivLossDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetKLDivLossDescriptor
mudnnStatus_t mudnnSetKLDivLossDescriptor(mudnnKLDivLossDescriptor_t klDivLossDesc, mudnnLossReduceMode_t mode, bool log_target)
声明位置：mudnn_ops.h
扩展接口：是。
配置 KLDivLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
klDivLossDesc | mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
mode | mudnnLossReduceMode_t | 损失归约模式。 |
log_target | bool | 目标是否为对数形式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetKLDivLossDescriptor
mudnnStatus_t mudnnGetKLDivLossDescriptor(const mudnnKLDivLossDescriptor_t klDivLossDesc, mudnnLossReduceMode_t *mode, bool *log_target)
声明位置：mudnn_ops.h
扩展接口：是。
查询 KLDivLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
klDivLossDesc | const mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
mode | mudnnLossReduceMode_t * | 返回归约模式。 |
log_target | bool * | 返回目标是否为对数形式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetKLDivLossForwardWorkspaceSize
mudnnStatus_t mudnnGetKLDivLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 KLDivLoss 前向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
klDivLossDesc | const mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
outDesc | mudnnTensorDescriptor_t | 损失输出描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnKLDivLossForward
mudnnStatus_t mudnnKLDivLossForward(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)
声明位置：mudnn_ops.h
扩展接口：是。
KLDivLoss 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
klDivLossDesc | const mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
target | const void * | 指向目标数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outDesc | const mudnnTensorDescriptor_t | 损失输出描述符。 |
out | void * | 指向损失输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetKLDivLossBackwardWorkspaceSize
mudnnStatus_t mudnnGetKLDivLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 KLDivLoss 反向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
klDivLossDesc | const mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
outDesc | mudnnTensorDescriptor_t | 输出梯度描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnKLDivLossBackward
mudnnStatus_t mudnnKLDivLossBackward(mudnnHandle_t handle, const mudnnKLDivLossDescriptor_t klDivLossDesc, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)
声明位置：mudnn_ops.h
扩展接口：是。
KLDivLoss 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
klDivLossDesc | const mudnnKLDivLossDescriptor_t | KLDivLoss 描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
grad | const void * | 指向损失梯度输入的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 目标张量描述符。 |
target | const void * | 指向目标数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outDesc | const mudnnTensorDescriptor_t | 输出梯度描述符。 |
out | void * | 指向输出梯度数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateCrossEntropyLossDescriptor
mudnnStatus_t mudnnCreateCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t *crossEntropyLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 CrossEntropyLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
crossEntropyLossDesc | mudnnCrossEntropyLossDescriptor_t * | 返回创建的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyCrossEntropyLossDescriptor
mudnnStatus_t mudnnDestroyCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 CrossEntropyLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
crossEntropyLossDesc | mudnnCrossEntropyLossDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCrossEntropyLossDescriptor
mudnnStatus_t mudnnSetCrossEntropyLossDescriptor(mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, mudnnLossReduceMode_t mode, int64_t ignoreIndex, float label_smoothing)
声明位置：mudnn_ops.h
扩展接口：是。
配置 CrossEntropyLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
crossEntropyLossDesc | mudnnCrossEntropyLossDescriptor_t | 描述符。 |
mode | mudnnLossReduceMode_t | 损失归约模式。 |
ignoreIndex | int64_t | 被忽略的标签值。 |
label_smoothing | float | 标签平滑系数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCrossEntropyLossDescriptor
mudnnStatus_t mudnnGetCrossEntropyLossDescriptor(const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, mudnnLossReduceMode_t *mode, int64_t *ignoreIndex, float *label_smoothing)
声明位置：mudnn_ops.h
扩展接口：是。
查询 CrossEntropyLoss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
crossEntropyLossDesc | const mudnnCrossEntropyLossDescriptor_t | 描述符。 |
mode | mudnnLossReduceMode_t * | 返回归约模式。 |
ignoreIndex | int64_t * | 返回忽略标签。 |
label_smoothing | float * | 返回标签平滑系数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCrossEntropyLossForwardWorkspaceSize
mudnnStatus_t mudnnGetCrossEntropyLossForwardWorkspaceSize(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 CrossEntropyLoss 前向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
crossEntropyLossDesc | const mudnnCrossEntropyLossDescriptor_t | CrossEntropyLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 标签张量描述符。 |
weightDesc | const mudnnTensorDescriptor_t | 权重张量描述符。 |
outDesc | const mudnnTensorDescriptor_t | 损失输出描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCrossEntropyLossForward
mudnnStatus_t mudnnCrossEntropyLossForward(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outDesc, void *out)
声明位置：mudnn_ops.h
扩展接口：是。
CrossEntropyLoss 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
crossEntropyLossDesc | const mudnnCrossEntropyLossDescriptor_t | CrossEntropyLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 标签张量描述符。 |
target | const void * | 指向标签数据的设备指针。 |
weightDesc | const mudnnTensorDescriptor_t | 权重张量描述符。 |
weight | const void * | 指向权重数据的设备指针，可为 NULL。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outDesc | const mudnnTensorDescriptor_t | 损失输出描述符。 |
out | void * | 指向损失输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCrossEntropyLossBackwardWorkspaceSize
mudnnStatus_t mudnnGetCrossEntropyLossBackwardWorkspaceSize(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t gradOutDesc, const mudnnTensorDescriptor_t targetDesc, const mudnnTensorDescriptor_t weightDesc, const mudnnTensorDescriptor_t gradInDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 CrossEntropyLoss 反向所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
crossEntropyLossDesc | const mudnnCrossEntropyLossDescriptor_t | CrossEntropyLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
gradOutDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
targetDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
weightDesc | const mudnnTensorDescriptor_t | 权重描述符。 |
gradInDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCrossEntropyLossBackward
mudnnStatus_t mudnnCrossEntropyLossBackward(mudnnHandle_t handle, const mudnnCrossEntropyLossDescriptor_t crossEntropyLossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gradOutDesc, const void *gradOut, const mudnnTensorDescriptor_t targetDesc, const void *target, const mudnnTensorDescriptor_t weightDesc, const void *weight, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t gradInDesc, void *gradIn)
声明位置：mudnn_ops.h
扩展接口：是。
CrossEntropyLoss 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
crossEntropyLossDesc | const mudnnCrossEntropyLossDescriptor_t | CrossEntropyLoss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
gradOutDesc | const mudnnTensorDescriptor_t | 损失梯度描述符。 |
gradOut | const void * | 指向损失梯度数据的设备指针。 |
targetDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
target | const void * | 指向标签数据的设备指针。 |
weightDesc | const mudnnTensorDescriptor_t | 权重描述符。 |
weight | const void * | 指向权重数据的设备指针，可为 NULL。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
gradInDesc | const mudnnTensorDescriptor_t | 输入梯度描述符。 |
gradIn | void * | 指向输入梯度输出的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateMaskedSelectDescriptor
mudnnStatus_t mudnnCreateMaskedSelectDescriptor(mudnnMaskedSelectDescriptor_t *maskedSelectDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 MaskedSelect 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
maskedSelectDesc | mudnnMaskedSelectDescriptor_t * | 返回创建的 MaskedSelect 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetMaskedSelectWorkspaceSize
mudnnStatus_t mudnnGetMaskedSelectWorkspaceSize(mudnnHandle_t handle, const mudnnMaskedSelectDescriptor_t maskedSelectDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outputDesc, size_t *sizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 MaskedSelect 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
maskedSelectDesc | const mudnnMaskedSelectDescriptor_t | MaskedSelect 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnMaskedSelect
mudnnStatus_t mudnnMaskedSelect(mudnnHandle_t handle, const mudnnMaskedSelectDescriptor_t maskedSelectDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outputDesc, void *output, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
执行 MaskedSelect。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
maskedSelectDesc | const mudnnMaskedSelectDescriptor_t | MaskedSelect 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码张量描述符。 |
mask | const void * | 指向掩码数据的设备指针。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出数据的设备指针。 |
workSpace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyMaskedSelectDescriptor
mudnnStatus_t mudnnDestroyMaskedSelectDescriptor(mudnnMaskedSelectDescriptor_t maskedSelectDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 MaskedSelect 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
maskedSelectDesc | mudnnMaskedSelectDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreatePadDescriptor
mudnnStatus_t mudnnCreatePadDescriptor(mudnnPadDescriptor_t *padDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Pad 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
padDesc | mudnnPadDescriptor_t * | 返回创建的 Pad 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetPadDescriptor
mudnnStatus_t mudnnSetPadDescriptor(mudnnPadDescriptor_t padDesc, mudnnPadMode_t mode, mudnnParamDataType_t valueType, void *value, int *paddingInfo, size_t infoLength)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Pad 描述符（模式/padding 值/边界信息）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
padDesc | mudnnPadDescriptor_t | Pad 描述符。 |
mode | mudnnPadMode_t | 填充模式（常量/反射/复制/循环）。 |
valueType | mudnnParamDataType_t | padding 值类型。 |
value | void * | padding 值指针。 |
paddingInfo | int * | padding 信息数组，按 [before, after] 顺序给出。 |
infoLength | size_t | paddingInfo 元素个数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetPadDescriptor
mudnnStatus_t mudnnGetPadDescriptor(mudnnPadDescriptor_t padDesc, mudnnPadMode_t *mode, int **paddingInfo, size_t *infoLength)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Pad 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
padDesc | mudnnPadDescriptor_t | Pad 描述符。 |
mode | mudnnPadMode_t * | 返回填充模式。 |
paddingInfo | int ** | 返回 padding 信息指针。 |
infoLength | size_t * | 返回 padding 信息长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnPad
mudnnStatus_t mudnnPad(const mudnnHandle_t handle, const mudnnPadDescriptor_t padDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
执行 Pad。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
padDesc | const mudnnPadDescriptor_t | Pad 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyPadDescriptor
mudnnStatus_t mudnnDestroyPadDescriptor(mudnnPadDescriptor_t padDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Pad 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
padDesc | mudnnPadDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateGroupNormDescriptor
mudnnStatus_t mudnnCreateGroupNormDescriptor(mudnnGroupNormDescriptor_t *groupNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 GroupNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
groupNormDesc | mudnnGroupNormDescriptor_t * | 返回 GroupNorm 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetGroupNormDescriptor
mudnnStatus_t mudnnSetGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc, double epsilon, int axis, int group)
声明位置：mudnn_ops.h
扩展接口：是。
配置 GroupNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
groupNormDesc | mudnnGroupNormDescriptor_t | 描述符。 |
epsilon | double | 数值稳定项。 |
axis | int | 归一化轴。 |
group | int | 分 组数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetGroupNormDescriptor
mudnnStatus_t mudnnGetGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc, double *epsilon, int *axis, int *group)
声明位置：mudnn_ops.h
扩展接口：是。
查询 GroupNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
groupNormDesc | mudnnGroupNormDescriptor_t | 描述符。 |
epsilon | double * | 返回 epsilon。 |
axis | int * | 返回轴。 |
group | int * | 返回分组数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGroupNorm
mudnnStatus_t mudnnGroupNorm(const mudnnHandle_t handle, const mudnnGroupNormDescriptor_t groupNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t meanDesc, void *mean, const mudnnTensorDescriptor_t invVarDesc, void *invVar, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t gammaDesc, const void *gamma, const mudnnTensorDescriptor_t betaDesc, const void *beta)
声 明位置：mudnn_ops.h
扩展接口：是。
GroupNorm 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
groupNormDesc | const mudnnGroupNormDescriptor_t | 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
output | void * | 指向输出张量的设备指针。 |
meanDesc | const mudnnTensorDescriptor_t | 均值描述符。 |
mean | void * | 指向均值输出的设备指针。 |
invVarDesc | const mudnnTensorDescriptor_t | 逆方差描述符。 |
invVar | void * | 指向逆方差输出的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入描述符。 |
input | const void * | 指向输入张量的设备指针。 |
gammaDesc | const mudnnTensorDescriptor_t | gamma 描述符。 |
gamma | const void * | 指向 gamma 数据的设备指针。 |
betaDesc | const mudnnTensorDescriptor_t | beta 描述符。 |
beta | const void * | 指向 beta 数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyGroupNormDescriptor
mudnnStatus_t mudnnDestroyGroupNormDescriptor(mudnnGroupNormDescriptor_t groupNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 GroupNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
groupNormDesc | mudnnGroupNormDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateGluDescriptor
mudnnStatus_t mudnnCreateGluDescriptor(mudnnGluDescriptor_t *gluDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 GLU 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gluDesc | mudnnGluDescriptor_t * | 返回创建的 GLU 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetGluDescriptor
mudnnStatus_t mudnnSetGluDescriptor(mudnnGluDescriptor_t gluDesc, int axis)
声明位置：mudnn_ops.h
扩展接口：是。
配置 GLU 描述符（axis）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gluDesc | mudnnGluDescriptor_t | GLU 描述符。 |
axis | int | 分割并应用激活的轴。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetGluDescriptor
mudnnStatus_t mudnnGetGluDescriptor(mudnnGluDescriptor_t gluDesc, int *axis)
声明位置：mudnn_ops.h
扩展接口：是。
查询 GLU 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gluDesc | mudnnGluDescriptor_t | GLU 描述符。 |
axis | int * | 返回 axis 配置。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGlu
mudnnStatus_t mudnnGlu(const mudnnHandle_t handle, const mudnnGluDescriptor_t gluDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
GLU 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
gluDesc | const mudnnGluDescriptor_t | GLU 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyGluDescriptor
mudnnStatus_t mudnnDestroyGluDescriptor(mudnnGluDescriptor_t gluDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 GLU 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gluDesc | mudnnGluDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateCumDescriptor
mudnnStatus_t mudnnCreateCumDescriptor(mudnnCumDescriptor_t *cumDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Cum 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
cumDesc | mudnnCumDescriptor_t * | 返回 Cum 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCumDescriptor
mudnnStatus_t mudnnSetCumDescriptor(mudnnCumDescriptor_t cumDesc, int dim, mudnnCumMode_t mode)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Cum 描述符（dim/mode）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
cumDesc | mudnnCumDescriptor_t | Cum 描述符。 |
dim | int | 累积维度。 |
mode | mudnnCumMode_t | 累积模式（ADD/MUL）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCumDescriptor
mudnnStatus_t mudnnGetCumDescriptor(mudnnCumDescriptor_t cumDesc, int *dim, mudnnCumMode_t *mode)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Cum 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
cumDesc | mudnnCumDescriptor_t | Cum 描述符。 |
dim | int * | 返回累积维度。 |
mode | mudnnCumMode_t * | 返回累积模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCumWorkspaceSize
mudnnStatus_t mudnnGetCumWorkspaceSize(mudnnHandle_t handle, mudnnCumDescriptor_t cumDesc, mudnnTensorDescriptor_t outputDesc, mudnnTensorDescriptor_t inputDesc, size_t *size_in_bytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Cum 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
cumDesc | mudnnCumDescriptor_t | Cum 描述符。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
inputDesc | mudnnTensorDescriptor_t | 输入张量描述符。 |
size_in_bytes | size_t * | 返回所需的 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCum
mudnnStatus_t mudnnCum(const mudnnHandle_t handle, const mudnnCumDescriptor_t cumDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workspace, size_t workspace_size)
声明位置：mudnn_ops.h
扩展接口：是。
执行 Cum 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
cumDesc | const mudnnCumDescriptor_t | Cum 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
workspace | void * | 指向 workspace 内存的设备指针。 |
workspace_size | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyCumDescriptor
mudnnStatus_t mudnnDestroyCumDescriptor(mudnnCumDescriptor_t cumDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Cum 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
cumDesc | mudnnCumDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateGatherDescriptor
mudnnStatus_t mudnnCreateGatherDescriptor(mudnnGatherDescriptor_t *gatherDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Gather 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gatherDesc | mudnnGatherDescriptor_t * | 返回 Gather 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetGatherDescriptor
mudnnStatus_t mudnnSetGatherDescriptor(mudnnGatherDescriptor_t gatherDesc, mudnnGatherMode_t mode, int axis, int batchDims)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Gather 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gatherDesc | mudnnGatherDescriptor_t | Gather 描述符。 |
mode | mudnnGatherMode_t | Gather 模式。 |
axis | int | 索引采样轴。 |
batchDims | int | 按 batch 维保留的前导维数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetGatherDescriptor
mudnnStatus_t mudnnGetGatherDescriptor(const mudnnGatherDescriptor_t gatherDesc, mudnnGatherMode_t *mode, int *axis, int *batchDims)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Gather 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gatherDesc | const mudnnGatherDescriptor_t | Gather 描述符。 |
mode | mudnnGatherMode_t * | 返回 Gather 模式。 |
axis | int * | 返回索引采样轴。 |
batchDims | int * | 返回 batch 维数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGather
mudnnStatus_t mudnnGather(mudnnHandle_t handle, const mudnnGatherDescriptor_t gatherDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t indexDesc, const void *index, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
执行 Gather。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
gatherDesc | const mudnnGatherDescriptor_t | Gather 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
indexDesc | const mudnnTensorDescriptor_t | 索引张量描述符。 |
index | const void * | 指向索引数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyGatherDescriptor
mudnnStatus_t mudnnDestroyGatherDescriptor(mudnnGatherDescriptor_t gatherDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Gather 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
gatherDesc | mudnnGatherDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateUnfoldDescriptor
mudnnStatus_t mudnnCreateUnfoldDescriptor(mudnnUnfoldDescriptor_t *unfoldDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Unfold 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unfoldDesc | mudnnUnfoldDescriptor_t * | 返回 Unfold 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetUnfoldDescriptor
mudnnStatus_t mudnnSetUnfoldDescriptor(mudnnUnfoldDescriptor_t unfoldDesc, int axis, int size, int step)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Unfold 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unfoldDesc | mudnnUnfoldDescriptor_t | Unfold 描述符。 |
axis | int | 滑窗展开轴。 |
size | int | 滑窗窗口大小。 |
step | int | 滑窗步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetUnfoldDescriptor
mudnnStatus_t mudnnGetUnfoldDescriptor(const mudnnUnfoldDescriptor_t unfoldDesc, int *axis, int *size, int *step)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Unfold 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unfoldDesc | const mudnnUnfoldDescriptor_t | Unfold 描述符。 |
axis | int * | 返回展开轴。 |
size | int * | 返回窗口大小。 |
step | int * | 返回滑窗步长。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnUnfold
mudnnStatus_t mudnnUnfold(mudnnHandle_t handle, const mudnnUnfoldDescriptor_t unfoldDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t inputDesc, const void *input)
声明位置：mudnn_ops.h
扩展接口：是。
执行 Unfold。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
unfoldDesc | const mudnnUnfoldDescriptor_t | Unfold 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyUnfoldDescriptor
mudnnStatus_t mudnnDestroyUnfoldDescriptor(mudnnUnfoldDescriptor_t unfoldDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Unfold 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
unfoldDesc | mudnnUnfoldDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateScanDescriptor
mudnnStatus_t mudnnCreateScanDescriptor(mudnnScanDescriptor_t *scanDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 Scan 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scanDesc | mudnnScanDescriptor_t * | 返回 Scan 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScanDescriptor
mudnnStatus_t mudnnSetScanDescriptor(mudnnScanDescriptor_t scanDesc, mudnnScanMode_t mode, mudnnScanOpType_t opType, mudnnParamDataType_t initValueType, const void *initValue)
声明位置：mudnn_ops.h
扩展接口：是。
配置 Scan 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scanDesc | mudnnScanDescriptor_t | Scan 描述符。 |
mode | mudnnScanMode_t | Inclusive 或 Exclusive 模式。 |
opType | mudnnScanOpType_t | 前缀扫描使用的运算类型。 |
initValueType | mudnnParamDataType_t | 初始值类型。 |
initValue | const void * | 指向初始值的主机端指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetScanDescriptor
mudnnStatus_t mudnnGetScanDescriptor(const mudnnScanDescriptor_t scanDesc, mudnnScanMode_t *mode, mudnnScanOpType_t *opType, mudnnParamDataType_t *initValueType, void *initValue)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Scan 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scanDesc | const mudnnScanDescriptor_t | Scan 描述符。 |
mode | mudnnScanMode_t * | 返回 Scan 模式。 |
opType | mudnnScanOpType_t * | 返回运算类型。 |
initValueType | mudnnParamDataType_t * | 返回初始值类型。 |
initValue | void * | 返回初始值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetScanWorkspaceSize
mudnnStatus_t mudnnGetScanWorkspaceSize(mudnnHandle_t handle, const mudnnScanDescriptor_t scanDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *workspaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 Scan 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
scanDesc | const mudnnScanDescriptor_t | Scan 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
workspaceSizeInBytes | size_t * | 返回所需的 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScan
mudnnStatus_t mudnnScan(mudnnHandle_t handle, const mudnnScanDescriptor_t scanDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)
声明位置：mudnn_ops.h
扩展接口：是。
执行前缀扫描。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
scanDesc | const mudnnScanDescriptor_t | Scan 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
workSpace | void * | 指向 workspace 内存的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyScanDescriptor
mudnnStatus_t mudnnDestroyScanDescriptor(mudnnScanDescriptor_t scanDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 Scan 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
scanDesc | mudnnScanDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateWeightNormDescriptor
mudnnStatus_t mudnnCreateWeightNormDescriptor(mudnnWeightNormDescriptor_t *weightNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 WeightNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
weightNormDesc | mudnnWeightNormDescriptor_t * | 返回 WeightNorm 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetWeightNormDescriptor
mudnnStatus_t mudnnSetWeightNormDescriptor(mudnnWeightNormDescriptor_t weightNormDesc, double epsilon, size_t axesLength, const int *axes)
声明位置：mudnn_ops.h
扩展接口：是。
配置 WeightNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
weightNormDesc | mudnnWeightNormDescriptor_t | WeightNorm 描述符。 |
epsilon | double | 数值稳定项。 |
axesLength | size_t | 归一化轴数量。 |
axes | const int * | 归一化轴列表。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetWeightNormDescriptor
mudnnStatus_t mudnnGetWeightNormDescriptor(const mudnnWeightNormDescriptor_t weightNormDesc, double *epsilon, int *axes, size_t *axesLength)
声明位置：mudnn_ops.h
扩展接口：是。
查询 WeightNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
weightNormDesc | const mudnnWeightNormDescriptor_t | WeightNorm 描述符。 |
epsilon | double * | 返回数值稳定项。 |
axes | int * | 返回归一化轴列表。 |
axesLength | size_t * | 返回归一化轴数量。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnWeightNorm
mudnnStatus_t mudnnWeightNorm(mudnnHandle_t handle, const mudnnWeightNormDescriptor_t weightNormDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t weightVDesc, const void *weightV, const mudnnTensorDescriptor_t weightGDesc, const void *weightG)
声明位置：mudnn_ops.h
扩展接口：是。
执行 WeightNorm。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
weightNormDesc | const mudnnWeightNormDescriptor_t | WeightNorm 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
weightVDesc | const mudnnTensorDescriptor_t | v 权重张量描述符。 |
weightV | const void * | 指向 v 权重数据的设备指针。 |
weightGDesc | const mudnnTensorDescriptor_t | g 权重张量描述符。 |
weightG | const void * | 指向 g 权重数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyWeightNormDescriptor
mudnnStatus_t mudnnDestroyWeightNormDescriptor(mudnnWeightNormDescriptor_t weightNormDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 WeightNorm 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
weightNormDesc | mudnnWeightNormDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateL2LossDescriptor
mudnnStatus_t mudnnCreateL2LossDescriptor(mudnnL2LossDescriptor_t *l2LossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 L2 Loss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
l2LossDesc | mudnnL2LossDescriptor_t * | 返回 L2 Loss 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetL2LossWorkspaceSize
mudnnStatus_t mudnnGetL2LossWorkspaceSize(mudnnHandle_t handle, const mudnnL2LossDescriptor_t l2LossDesc, const mudnnTensorDescriptor_t inputDesc, const mudnnTensorDescriptor_t outputDesc, size_t *workspaceSizeInBytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 L2 Loss 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
l2LossDesc | const mudnnL2LossDescriptor_t | L2 Loss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
workspaceSizeInBytes | size_t * | 返回所需的 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnL2Loss
mudnnStatus_t mudnnL2Loss(mudnnHandle_t handle, const mudnnL2LossDescriptor_t l2LossDesc, const mudnnTensorDescriptor_t inputDesc, const void *input, void *workSpace, size_t workSpaceSizeInBytes, const mudnnTensorDescriptor_t outputDesc, void *output)
声明位置：mudnn_ops.h
扩展接口：是。
计算 L2 Loss。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
l2LossDesc | const mudnnL2LossDescriptor_t | L2 Loss 描述符。 |
inputDesc | const mudnnTensorDescriptor_t | 输入张量描述符。 |
input | const void * | 指向输入张量数据的设备指针。 |
workSpace | void * | 指向 workspace 内存的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyL2LossDescriptor
mudnnStatus_t mudnnDestroyL2LossDescriptor(mudnnL2LossDescriptor_t l2LossDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 L2 Loss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
l2LossDesc | mudnnL2LossDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateMaskedScatterDescriptor
mudnnStatus_t mudnnCreateMaskedScatterDescriptor(mudnnMaskedScatterDescriptor_t *maskedScatterDesc)
声明位置：mudnn_ops.h
扩展接口：是。
创建 MaskedScatter 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
maskedScatterDesc | mudnnMaskedScatterDescriptor_t * | 返回 MaskedScatter 描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetMaskedScatterWorkspaceSize
mudnnStatus_t mudnnGetMaskedScatterWorkspaceSize(mudnnHandle_t handle, mudnnMaskedScatterDescriptor_t maskedScatterDesc, mudnnTensorDescriptor_t outputDesc, mudnnTensorDescriptor_t maskDesc, mudnnTensorDescriptor_t sourceDesc, size_t *size_in_bytes)
声明位置：mudnn_ops.h
扩展接口：是。
查询 MaskedScatter 所需 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
maskedScatterDesc | mudnnMaskedScatterDescriptor_t | MaskedScatter 描述符。 |
outputDesc | mudnnTensorDescriptor_t | 输出张量描述符。 |
maskDesc | mudnnTensorDescriptor_t | mask 张量描述符。 |
sourceDesc | mudnnTensorDescriptor_t | source 张量描述符。 |
size_in_bytes | size_t * | 返回所需的 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnMaskedScatter
mudnnStatus_t mudnnMaskedScatter(const mudnnHandle_t handle, const mudnnMaskedScatterDescriptor_t maskedScatterDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t sourceDesc, const void *source, void *workspace, size_t workspace_size)
声明位置：mudnn_ops.h
扩展接口：是。
执行 MaskedScatter（原地更新 output）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | const mudnnHandle_t | muDNN 句柄。 |
maskedScatterDesc | const mudnnMaskedScatterDescriptor_t | MaskedScatter 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出张量描述符。 |
output | void * | 指向输出张量数据的设备指针（会被原地更新）。 |
maskDesc | const mudnnTensorDescriptor_t | mask 张量描述符。 |
mask | const void * | 指向 mask 数据的设备指针。 |
sourceDesc | const mudnnTensorDescriptor_t | source 张量描述符。 |
source | const void * | 指向 source 数据的设备指针。 |
workspace | void * | 指向 workspace 内存的设备指 针。 |
workspace_size | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyMaskedScatterDescriptor
mudnnStatus_t mudnnDestroyMaskedScatterDescriptor(mudnnMaskedScatterDescriptor_t maskedScatterDesc)
声明位置：mudnn_ops.h
扩展接口：是。
销毁 MaskedScatter 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
maskedScatterDesc | mudnnMaskedScatterDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnn_adv.h
mudnnCreateRNNDescriptor
mudnnStatus_t mudnnCreateRNNDescriptor(mudnnRNNDescriptor_t *rnnDesc)
声明位置：mudnn_adv.h
创建 RNN 描述符。
兼容 cuDNN backend 的 RNN descriptor create，创建后需调用 mudnnDestroyRNNDescriptor 释放。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t * | 返回的描述符指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyRNNDescriptor
mudnnStatus_t mudnnDestroyRNNDescriptor(mudnnRNNDescriptor_t rnnDesc)
声明位置：mudnn_adv.h
销毁 RNN 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | 要释放的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetRNNDescriptor_v8
mudnnStatus_t mudnnSetRNNDescriptor_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNAlgo_t algo, mudnnRNNMode_t cellMode, mudnnRNNBiasMode_t biasMode, mudnnDirectionMode_t dirMode, mudnnRNNInputMode_t inputMode, mudnnDataType_t dataType, mudnnDataType_t mathPrec, mudnnMathType_t mathType, int32_t inputSize, int32_t hiddenSize, int32_t projSize, int32_t numLayers, mudnnDropoutDescriptor_t dropoutDesc, uint32_t auxFlags)
声明位置：mudnn_adv.h
配置 RNN 描述符（v8）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
algo | mudnnRNNAlgo_t | RNN 算法选择。 |
cellMode | mudnnRNNMode_t | RNN 单元类型（RNN/LSTM/GRU）。 |
biasMode | mudnnRNNBiasMode_t | 偏置模式。 |
dirMode | mudnnDirectionMode_t | 单向或双向。 |
inputMode | mudnnRNNInputMode_t | 输入是否线性映射或跳过。 |
dataType | mudnnDataType_t | 输入/输出及权重数据类型。 |
mathPrec | mudnnDataType_t | 计算精度。 |
mathType | mudnnMathType_t | Tensor Core 等数学模式。 |
inputSize | int32_t | 输入特征维度。 |
hiddenSize | int32_t | 隐状态维度。 |
projSize | int32_t | 投影维度（0 表示无投影）。 |
numLayers | int32_t | 堆叠层数。 |
dropoutDesc | mudnnDropoutDescriptor_t | Dropout 描述符。 |
auxFlags | uint32_t | 额外标志位（如 padding）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRNNDescriptor_v8
mudnnStatus_t mudnnGetRNNDescriptor_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNAlgo_t *algo, mudnnRNNMode_t *cellMode, mudnnRNNBiasMode_t *biasMode, mudnnDirectionMode_t *dirMode, mudnnRNNInputMode_t *inputMode, mudnnDataType_t *dataType, mudnnDataType_t *mathPrec, mudnnMathType_t *mathType, int32_t *inputSize, int32_t *hiddenSize, int32_t *projSize, int32_t *numLayers, mudnnDropoutDescriptor_t *dropoutDesc, uint32_t *auxFlags)
声明位置：mudnn_adv.h
获取 RNN 描述符配置（v8）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
algo | mudnnRNNAlgo_t * | 返回算法。 |
cellMode | mudnnRNNMode_t * | 返回单元类型。 |
biasMode | mudnnRNNBiasMode_t * | 返回偏置模式。 |
dirMode | mudnnDirectionMode_t * | 返回方向模式。 |
inputMode | mudnnRNNInputMode_t * | 返回输入模式。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
mathPrec | mudnnDataType_t * | 返回计算精度。 |
mathType | mudnnMathType_t * | 返回数学模式。 |
inputSize | int32_t * | 返回输入维度。 |
hiddenSize | int32_t * | 返回隐状态维度。 |
projSize | int32_t * | 返回投影维度。 |
numLayers | int32_t * | 返回层数。 |
dropoutDesc | mudnnDropoutDescriptor_t * | 返回 Dropout 描述符。 |
auxFlags | uint32_t * | 返回附加标志。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNSetClip_v8
mudnnStatus_t mudnnRNNSetClip_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t clipMode, mudnnNanPropagation_t clipNanOpt, double lclip, double rclip)
声明位置：mudnn_adv.h
状态：已废弃。
设置 RNN 裁剪配置（v8，包含 NaN 传播选项）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
clipMode | mudnnRNNClipMode_t | 裁剪模式。 |
clipNanOpt | mudnnNanPropagation_t | NaN 传播选项。 |
lclip | double | 左侧剪裁阈值。 |
rclip | double | 右侧剪裁阈值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNSetClip_v9
mudnnStatus_t mudnnRNNSetClip_v9(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t clipMode, double lclip, double rclip)
声明位置：mudnn_adv.h
设置 RNN 裁剪配置（v9，移除 NaN 传播选项）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
clipMode | mudnnRNNClipMode_t | 裁剪模式。 |
lclip | double | 左侧剪裁阈值。 |
rclip | double | 右侧剪裁阈值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNGetClip_v8
mudnnStatus_t mudnnRNNGetClip_v8(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t *clipMode, mudnnNanPropagation_t *clipNanOpt, double *lclip, double *rclip)
声明位置：mudnn_adv.h
状态：已废弃。
获取 RNN 裁剪配置（v8）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
clipMode | mudnnRNNClipMode_t * | 返回裁剪模式。 |
clipNanOpt | mudnnNanPropagation_t * | 返回 NaN 传播选项。 |
lclip | double * | 返回左侧阈值。 |
rclip | double * | 返回右侧阈值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNGetClip_v9
mudnnStatus_t mudnnRNNGetClip_v9(mudnnRNNDescriptor_t rnnDesc, mudnnRNNClipMode_t *clipMode, double *lclip, double *rclip)
声明位置：mudnn_adv.h
获取 RNN 裁剪配置（v9）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
clipMode | mudnnRNNClipMode_t * | 返回裁剪模式。 |
lclip | double * | 返回左侧阈值。 |
rclip | double * | 返回右侧阈值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBuildRNNDynamic
mudnnStatus_t mudnnBuildRNNDynamic(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, int miniBatch)
声明位置：mudnn_adv.h
为指定 batch 尺寸构建 RNN 动态计划
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
miniBatch | int | 批大小。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRNNTempSpaceSizes
mudnnStatus_t mudnnGetRNNTempSpaceSizes(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnForwardMode_t fwdMode, mudnnRNNDataDescriptor_t xDesc, size_t *workSpaceSize, size_t *reserveSpaceSize)
声明位置：mudnn_adv.h
查询 RNN workspace 与 reserve space 大小
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
fwdMode | mudnnForwardMode_t | 前向模式（推理/训练）。 |
xDesc | mudnnRNNDataDescriptor_t | 输入序列描述符。 |
workSpaceSize | size_t * | 返回 workspace 字节数。 |
reserveSpaceSize | size_t * | 返回保留空间字节数。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRNNWeightSpaceSize
mudnnStatus_t mudnnGetRNNWeightSpaceSize(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, size_t *weightSpaceSize)
声明位置：mudnn_adv.h
查询 RNN 权重空间大小
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
weightSpaceSize | size_t * | 返回权重空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRNNWeightParams
mudnnStatus_t mudnnGetRNNWeightParams(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, int32_t pseudoLayer, size_t weightSpaceSize, const void *weightSpace, int32_t linLayerID, mudnnTensorDescriptor_t mDesc, void **mAddr, mudnnTensorDescriptor_t bDesc, void **bAddr)
声明位置：mudnn_adv.h
解析 RNN 权重空间中的矩阵与偏置视图
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
pseudoLayer | int32_t | 层索引（含正向/反向、投影等）。 |
weightSpaceSize | size_t | 权重空间字节数。 |
weightSpace | const void * | 权重空间基址。 |
linLayerID | int32_t | 线性层编号，遵循 cuDNN RNN 线性层定义。 |
mDesc | mudnnTensorDescriptor_t | 矩阵描述符。 |
mAddr | void ** | 矩阵基址。 |
bDesc | mudnnTensorDescriptor_t | 偏置描述符。 |
bAddr | void ** | 偏置基址。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateRNNDataDescriptor
mudnnStatus_t mudnnCreateRNNDataDescriptor(mudnnRNNDataDescriptor_t *rnnDataDesc)
声明位置：mudnn_adv.h
创建 RNN 序列描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDataDesc | mudnnRNNDataDescriptor_t * | 返回序列描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyRNNDataDescriptor
mudnnStatus_t mudnnDestroyRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc)
声明位置：mudnn_adv.h
销毁 RNN 序列描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDataDesc | mudnnRNNDataDescriptor_t | 待销毁的序列描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetRNNDataDescriptor
mudnnStatus_t mudnnSetRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc, mudnnDataType_t dataType, mudnnRNNDataLayout_t layout, int maxSeqLength, int batchSize, int vectorSize, const int seqLengthArray[], void *paddingFill)
声明位置：mudnn_adv.h
设置 RNN 输入/输出数据描述符
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDataDesc | mudnnRNNDataDescriptor_t | 序列描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
layout | mudnnRNNDataLayout_t | 数据布局。 |
maxSeqLength | int | 序列最大长度。 |
batchSize | int | 批大小。 |
vectorSize | int | 特征维度。 |
seqLengthArray | const int | 每个样本的真实长度 |
paddingFill | void * | 填充区域padding 值（device 内存） |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetRNNDataDescriptor
mudnnStatus_t mudnnGetRNNDataDescriptor(mudnnRNNDataDescriptor_t rnnDataDesc, mudnnDataType_t *dataType, mudnnRNNDataLayout_t *layout, int *maxSeqLength, int *batchSize, int *vectorSize, int arrayLengthRequested, int seqLengthArray[], void *paddingFill)
声明位置：mudnn_adv.h
获取 RNN 输入/输出数据描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
rnnDataDesc | mudnnRNNDataDescriptor_t | 序列描述符。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
layout | mudnnRNNDataLayout_t * | 返回数据布局。 |
maxSeqLength | int * | 返回最大序列长度。 |
batchSize | int * | 返回批大小。 |
vectorSize | int * | 返回特征维度。 |
arrayLengthRequested | int | 请求返回的序列长度数组大小。 |
seqLengthArray | int | 返回序列长度数组。 |
paddingFill | void * | 返回padding 值。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNForward
mudnnStatus_t mudnnRNNForward(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnForwardMode_t fwdMode, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t xDesc, const void *x, mudnnRNNDataDescriptor_t yDesc, void *y, mudnnTensorDescriptor_t hDesc, const void *hx, void *hy, mudnnTensorDescriptor_t cDesc, const void *cx, void *cy, size_t weightSpaceSize, const void *weightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)
声明位置：mudnn_adv.h
RNN 前向计算（推理或训练）
输入/输出张量布局由对应的 descriptor 决定，遵循 cuDNN RNN 前向 API。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
fwdMode | mudnnForwardMode_t | 前向模式（推理/训练）。 |
devSeqLengths | const int32_t | 设备端序列长度数组，可为 NULL 表示等长 |
xDesc | mudnnRNNDataDescriptor_t | 输入序列描述符。 |
x | const void * | 指向输入序列数据的设备指针。 |
yDesc | mudnnRNNDataDescriptor_t | 输出序列描述符。 |
y | void * | 指向输出序列数据的设备指针。 |
hDesc | mudnnTensorDescriptor_t | 隐状态描述符。 |
hx | const void * | 指向初始隐状态的设备指针。 |
hy | void * | 指向输出隐状态的设备指针。 |
cDesc | mudnnTensorDescriptor_t | 记忆状态描述符。 |
cx | const void * | 指向初始记忆状态的设备指针。 |
cy | void * | 指向输出记忆状态的设备指针。 |
weightSpaceSize | size_t | 权重空间大小（字节）。 |
weightSpace | const void * | 指向权重空间的设备指针。 |
workSpaceSize | size_t | workspace 大小（字节）。 |
workSpace | void * | 运行时 workspace（设备端） |
reserveSpaceSize | size_t | 训练保留空间大小（字节）。 |
reserveSpace | void * | 训练模式下保存中间结果（设备端） |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateSeqDataDescriptor
mudnnStatus_t mudnnCreateSeqDataDescriptor(mudnnSeqDataDescriptor_t *seqDataDesc)
声明位置：mudnn_adv.h
状态：已废弃。
创建序列数据描述符（已废弃，使用 RNNDataDescriptor 替代）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
seqDataDesc | mudnnSeqDataDescriptor_t * | - |
mudnnDestroySeqDataDescriptor
mudnnStatus_t mudnnDestroySeqDataDescriptor(mudnnSeqDataDescriptor_t seqDataDesc)
声明位置：mudnn_adv.h
状态：已废弃。
销毁序列数据描述符（已废弃）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
seqDataDesc | mudnnSeqDataDescriptor_t | - |
mudnnSetSeqDataDescriptor
mudnnStatus_t mudnnSetSeqDataDescriptor(mudnnSeqDataDescriptor_t seqDataDesc, mudnnDataType_t dataType, int nbDims, const int dimA[], const mudnnSeqDataAxis_t axes[], size_t seqLengthArraySize, const int seqLengthArray[], void *paddingFill)
声明位置：mudnn_adv.h
状态：已废弃。
设置序列数据描述符（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
seqDataDesc | mudnnSeqDataDescriptor_t | 序列描述符。 |
dataType | mudnnDataType_t | 数据类型。 |
nbDims | int | 维度数量。 |
dimA | const int | 维度数组。 |
axes | const mudnnSeqDataAxis_t | 轴含义映射。 |
seqLengthArraySize | size_t | 序列长度数组大小。 |
seqLengthArray | const int | 序列长度数组。 |
paddingFill | void * | padding 值指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetSeqDataDescriptor
mudnnStatus_t mudnnGetSeqDataDescriptor(const mudnnSeqDataDescriptor_t seqDataDesc, mudnnDataType_t *dataType, int *nbDims, int nbDimsRequested, int dimA[], mudnnSeqDataAxis_t axes[], size_t *seqLengthArraySize, size_t seqLengthSizeRequested, int seqLengthArray[], void *paddingFill)
声明位置：mudnn_adv.h
状态：已废弃。
获取序列数据描述符（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
seqDataDesc | const mudnnSeqDataDescriptor_t | 序列描述符。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
nbDims | int * | 返回维度数量。 |
nbDimsRequested | int | 请求返回的维度数量上限。 |
dimA | int | 返回维度数组。 |
axes | mudnnSeqDataAxis_t | 返回轴映射。 |
seqLengthArraySize | size_t * | 返回序列长度数组大小。 |
seqLengthSizeRequested | size_t | 请求返回的序列长度数组上限。 |
seqLengthArray | int | 返回序列长度数组。 |
paddingFill | void * | 返回padding 值指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateAttnDescriptor
mudnnStatus_t mudnnCreateAttnDescriptor(mudnnAttnDescriptor_t *attnDesc)
声明位置：mudnn_adv.h
状态：已废弃。
创建多头注意力描述符（已废弃，建议使用 SDPA 接口）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
attnDesc | mudnnAttnDescriptor_t * | - |
mudnnDestroyAttnDescriptor
mudnnStatus_t mudnnDestroyAttnDescriptor(mudnnAttnDescriptor_t attnDesc)
声明位置：mudnn_adv.h
状态：已废弃。
销毁多头注意力描述符（已废弃）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
attnDesc | mudnnAttnDescriptor_t | - |
mudnnSetAttnDescriptor
mudnnStatus_t mudnnSetAttnDescriptor(mudnnAttnDescriptor_t attnDesc, unsigned attnMode, int nHeads, double smScaler, mudnnDataType_t dataType, mudnnDataType_t computePrec, mudnnMathType_t mathType, mudnnDropoutDescriptor_t attnDropoutDesc, mudnnDropoutDescriptor_t postDropoutDesc, int qSize, int kSize, int vSize, int qProjSize, int kProjSize, int vProjSize, int oProjSize, int qoMaxSeqLength, int kvMaxSeqLength, int maxBatchSize, int maxBeamSize)
声明位置：mudnn_adv.h
状态：已废弃。
配置多头注意力描述符（已废弃） 对应 cuDNN 传统 multi-head attention 前向/反向接口。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
attnDesc | mudnnAttnDescriptor_t | 注意力描述符。 |
attnMode | unsigned | 注意力模式标志位。 |
nHeads | int | 头数。 |
smScaler | double | softmax 缩放系数。 |
dataType | mudnnDataType_t | 输入/输出数据类型。 |
computePrec | mudnnDataType_t | 计算精度。 |
mathType | mudnnMathType_t | 数学模式。 |
attnDropoutDesc | mudnnDropoutDescriptor_t | 注意力 Dropout 描述符。 |
postDropoutDesc | mudnnDropoutDescriptor_t | 输出 Dropout 描述符。 |
qSize | int | Q 向量长度。 |
kSize | int | K 向量长度。 |
vSize | int | V 向量长度。 |
qProjSize | int | Q 投影长度。 |
kProjSize | int | K 投影长度。 |
vProjSize | int | V 投影长度。 |
oProjSize | int | 输出投影长度。 |
qoMaxSeqLength | int | Q/O 最大序列长度。 |
kvMaxSeqLength | int | K/V 最大序列长度。 |
maxBatchSize | int | 最大 batch。 |
maxBeamSize | int | 最大 beam。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetAttnDescriptor
mudnnStatus_t mudnnGetAttnDescriptor(mudnnAttnDescriptor_t attnDesc, unsigned *attnMode, int *nHeads, double *smScaler, mudnnDataType_t *dataType, mudnnDataType_t *computePrec, mudnnMathType_t *mathType, mudnnDropoutDescriptor_t *attnDropoutDesc, mudnnDropoutDescriptor_t *postDropoutDesc, int *qSize, int *kSize, int *vSize, int *qProjSize, int *kProjSize, int *vProjSize, int *oProjSize, int *qoMaxSeqLength, int *kvMaxSeqLength, int *maxBatchSize, int *maxBeamSize)
声明位置：mudnn_adv.h
状态：已废弃。
获取多头注意力描述符配置（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
attnDesc | mudnnAttnDescriptor_t | 注意力描述符。 |
attnMode | unsigned * | 返回模式标志。 |
nHeads | int * | 返回头数。 |
smScaler | double * | 返回 softmax 缩放系数。 |
dataType | mudnnDataType_t * | 返回数据类型。 |
computePrec | mudnnDataType_t * | 返回计算精度。 |
mathType | mudnnMathType_t * | 返回数学模式。 |
attnDropoutDesc | mudnnDropoutDescriptor_t * | 返回注意力 Dropout 描述符。 |
postDropoutDesc | mudnnDropoutDescriptor_t * | 返回输出 Dropout 描述符。 |
qSize | int * | 返回 Q 长度。 |
kSize | int * | 返回 K 长度。 |
vSize | int * | 返回 V 长度。 |
qProjSize | int * | 返回 Q 投影长度。 |
kProjSize | int * | 返回 K 投影长度。 |
vProjSize | int * | 返回 V 投影长度。 |
oProjSize | int * | 返回输出投影长度。 |
qoMaxSeqLength | int * | 返回 Q/O 最大序列长度。 |
kvMaxSeqLength | int * | 返回 K/V 最大序列长度。 |
maxBatchSize | int * | 返回最大 batch。 |
maxBeamSize | int * | 返回最大 beam。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetMultiHeadAttnBuffers
mudnnStatus_t mudnnGetMultiHeadAttnBuffers(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, size_t *weightSizeInBytes, size_t *workSpaceSizeInBytes, size_t *reserveSpaceSizeInBytes)
声明位置：mudnn_adv.h
状态：已废弃。
查询多头注意力需要的权重、workspace、reserve 空间大小（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnDesc | const mudnnAttnDescriptor_t | 注意力描述符。 |
weightSizeInBytes | size_t * | 返回权重大小（字节）。 |
workSpaceSizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
reserveSpaceSizeInBytes | size_t * | 返回 reserve 空间大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetMultiHeadAttnWeights
mudnnStatus_t mudnnGetMultiHeadAttnWeights(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, mudnnMultiHeadAttnWeightKind_t wKind, size_t weightSizeInBytes, const void *weights, mudnnTensorDescriptor_t wDesc, void **wAddr)
声明位置：mudnn_adv.h
状态：已废弃。
解析多头注意力权重/偏置视图（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnDesc | const mudnnAttnDescriptor_t | 注意力描述符。 |
wKind | mudnnMultiHeadAttnWeightKind_t | 权重/偏置种类。 |
weightSizeInBytes | size_t | 权重总大小（ 字节）。 |
weights | const void * | 权重基址。 |
wDesc | mudnnTensorDescriptor_t | 返回张量描述符。 |
wAddr | void ** | 返回切片基址。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnMultiHeadAttnForward
mudnnStatus_t mudnnMultiHeadAttnForward(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, int currIdx, const int loWinIdx[], const int hiWinIdx[], const int devSeqLengthsQO[], const int devSeqLengthsKV[], const mudnnSeqDataDescriptor_t qDesc, const void *queries, const void *residuals, const mudnnSeqDataDescriptor_t kDesc, const void *keys, const mudnnSeqDataDescriptor_t vDesc, const void *values, const mudnnSeqDataDescriptor_t oDesc, void *out, size_t weightSizeInBytes, const void *weights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)
声明位置：mudnn_adv.h
状态：已废弃。
多头注意力前向计算（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnDesc | const mudnnAttnDescriptor_t | 注意力描述符。 |
currIdx | int | 当前步索引。 |
loWinIdx | const int | 窗口起始索引数组。 |
hiWinIdx | const int | 窗口结束索引数组。 |
devSeqLengthsQO | const int | Q/O 序列长度（设备端）。 |
devSeqLengthsKV | const int | K/V 序列长度（设备端）。 |
qDesc | const mudnnSeqDataDescriptor_t | Q 描述符。 |
queries | const void * | 指向 Q 数据的设备指针。 |
residuals | const void * | 指向残差数据的设备指针。 |
kDesc | const mudnnSeqDataDescriptor_t | K 描述符。 |
keys | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnSeqDataDescriptor_t | V 描述符。 |
values | const void * | 指向 V 数据的设备指针。 |
oDesc | const mudnnSeqDataDescriptor_t | O 描述符。 |
out | void * | 指向 O 数据的设备指针。 |
weightSizeInBytes | size_t | 权重大小（字节）。 |
weights | const void * | 指向权重数据的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
workSpace | void * | 指向 workspace 的设备指针。 |
reserveSpaceSizeInBytes | size_t | reserve 空间大小（字节）。 |
reserveSpace | void * | 指向 reserve 空间的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnAdvVersionCheck
mudnnStatus_t mudnnAdvVersionCheck(void)
声明位置：mudnn_adv.h
交叉子库版本检查。
MUDNN_STATUS_SUCCESS 表示版本匹配，MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示不匹配。
返回值
MUDNN_STATUS_SUCCESS 表示版本匹配，MUDNN_STATUS_SUBLIBRARY_VERSION_MISMATCH 表示不匹配。
mudnnRNNBackwardData_v8
mudnnStatus_t mudnnRNNBackwardData_v8(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t yDesc, const void *y, const void *dy, mudnnRNNDataDescriptor_t xDesc, void *dx, mudnnTensorDescriptor_t hDesc, const void *hx, const void *dhy, void *dhx, mudnnTensorDescriptor_t cDesc, const void *cx, const void *dcy, void *dcx, size_t weightSpaceSize, const void *weightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)
声明位置：mudnn_adv.h
RNN 反向求解输入/隐状态梯度（v8）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
devSeqLengths | const int32_t | 序列长度（设备端），可为 NULL 表示等长。 |
yDesc | mudnnRNNDataDescriptor_t | 输出序列描述符。 |
y | const void * | 指向输出序列数据的设备指针。 |
dy | const void * | 指向输出梯度的设备指针。 |
xDesc | mudnnRNNDataDescriptor_t | 输入序列描述符。 |
dx | void * | 指向输入梯度的设备指针。 |
hDesc | mudnnTensorDescriptor_t | 隐状态描述符。 |
hx | const void * | 指向初始隐状态的设备指针。 |
dhy | const void * | 指向终态隐状态梯度的设备指针。 |
dhx | void * | 指向初始隐状态梯度的设备指针。 |
cDesc | mudnnTensorDescriptor_t | 记忆状态描述符。 |
cx | const void * | 指向初始记忆状态的设备指针。 |
dcy | const void * | 指向终态记忆状态梯度的设备指针。 |
dcx | void * | 指向初始记忆状态梯度的设备指针。 |
weightSpaceSize | size_t | 权重空间大小（字节）。 |
weightSpace | const void * | 指向权重空间数据的设备指针。 |
workSpaceSize | size_t | workspace 大小（字节）。 |
workSpace | void * | 指向 workspace 的设备指针。 |
reserveSpaceSize | size_t | reserve 空间大小（字节）。 |
reserveSpace | void * | 指向 reserve 空间的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnRNNBackwardWeights_v8
mudnnStatus_t mudnnRNNBackwardWeights_v8(mudnnHandle_t handle, mudnnRNNDescriptor_t rnnDesc, mudnnWgradMode_t addGrad, const int32_t devSeqLengths[], mudnnRNNDataDescriptor_t xDesc, const void *x, mudnnTensorDescriptor_t hDesc, const void *hx, mudnnRNNDataDescriptor_t yDesc, const void *y, size_t weightSpaceSize, void *dweightSpace, size_t workSpaceSize, void *workSpace, size_t reserveSpaceSize, void *reserveSpace)
声明位置：mudnn_adv.h
计算 RNN 权重梯度（v8）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
rnnDesc | mudnnRNNDescriptor_t | RNN 描述符。 |
addGrad | mudnnWgradMode_t | 选择累加或覆盖 dweightSpace。 |
devSeqLengths | const int32_t | 序列长度（设备端）。 |
xDesc | mudnnRNNDataDescriptor_t | 输入序列描述符。 |
x | const void * | 指向输入序列数据的设备指针。 |
hDesc | mudnnTensorDescriptor_t | 隐状态描述符。 |
hx | const void * | 指向初始隐状态的设备指针。 |
yDesc | mudnnRNNDataDescriptor_t | 输出序列描述符。 |
y | const void * | 指向输出序列数据的设备指针。 |
weightSpaceSize | size_t | 权重空间大小（字节）。 |
dweightSpace | void * | 指向权重梯度输出的设备指针。 |
workSpaceSize | size_t | workspace 大小（字节）。 |
workSpace | void * | 指向 workspace 的设备指针。 |
reserveSpaceSize | size_t | reserve 空间大小（字节）。 |
reserveSpace | void * | 指向 reserve 空间的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnMultiHeadAttnBackwardData
mudnnStatus_t mudnnMultiHeadAttnBackwardData(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, const int loWinIdx[], const int hiWinIdx[], const int devSeqLengthsDQDO[], const int devSeqLengthsDKDV[], const mudnnSeqDataDescriptor_t doDesc, const void *dout, const mudnnSeqDataDescriptor_t dqDesc, void *dqueries, const void *queries, const mudnnSeqDataDescriptor_t dkDesc, void *dkeys, const void *keys, const mudnnSeqDataDescriptor_t dvDesc, void *dvalues, const void *values, size_t weightSizeInBytes, const void *weights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)
声明位置：mudnn_adv.h
状态：已废弃。
多头注意力反向求解输入梯度（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnDesc | const mudnnAttnDescriptor_t | 注意力描述符。 |
loWinIdx | const int | 窗口起始索引数组。 |
hiWinIdx | const int | 窗口结束索引数组。 |
devSeqLengthsDQDO | const int | dQ/dO 序列长度（设备端）。 |
devSeqLengthsDKDV | const int | dK/dV 序列长度（设备端）。 |
doDesc | const mudnnSeqDataDescriptor_t | dO 描述符。 |
dout | const void * | 指向 dO 数据的设备指针。 |
dqDesc | const mudnnSeqDataDescriptor_t | dQ 描述符。 |
dqueries | void * | 指向 dQ 数据的设备指针。 |
queries | const void * | 指向 Q 原数据的设备指针。 |
dkDesc | const mudnnSeqDataDescriptor_t | dK 描述符。 |
dkeys | void * | 指向 dK 数据的设备指针。 |
keys | const void * | 指向 K 原数据的设备指针。 |
dvDesc | const mudnnSeqDataDescriptor_t | dV 描述符。 |
dvalues | void * | 指向 dV 数据的设备指针。 |
values | const void * | 指向 V 原数据的设备指针。 |
weightSizeInBytes | size_t | 权重大小（字节）。 |
weights | const void * | 指向权重数据的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
workSpace | void * | 指向 workspace 的设备指针。 |
reserveSpaceSizeInBytes | size_t | reserve 空间大小（字节）。 |
reserveSpace | void * | 指向 reserve 空间的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnMultiHeadAttnBackwardWeights
mudnnStatus_t mudnnMultiHeadAttnBackwardWeights(mudnnHandle_t handle, const mudnnAttnDescriptor_t attnDesc, mudnnWgradMode_t addGrad, const mudnnSeqDataDescriptor_t qDesc, const void *queries, const mudnnSeqDataDescriptor_t kDesc, const void *keys, const mudnnSeqDataDescriptor_t vDesc, const void *values, const mudnnSeqDataDescriptor_t doDesc, const void *dout, size_t weightSizeInBytes, const void *weights, void *dweights, size_t workSpaceSizeInBytes, void *workSpace, size_t reserveSpaceSizeInBytes, void *reserveSpace)
声明位置：mudnn_adv.h
状态：已废弃。
多头注意力反向求解权重梯度（已废弃）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnDesc | const mudnnAttnDescriptor_t | 注意力描述符。 |
addGrad | mudnnWgradMode_t | 累加或覆盖模式。 |
qDesc | const mudnnSeqDataDescriptor_t | Q 描述符。 |
queries | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnSeqDataDescriptor_t | K 描述符。 |
keys | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnSeqDataDescriptor_t | V 描述符。 |
values | const void * | 指向 V 数据的设备指针。 |
doDesc | const mudnnSeqDataDescriptor_t | dO 描述符。 |
dout | const void * | 指向 dO 数据的设备指针。 |
weightSizeInBytes | size_t | 权重大小（字节）。 |
weights | const void * | 指向权重数据的设备指针。 |
dweights | void * | 指向权重梯度输出的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
workSpace | void * | 指向 workspace 的设备指针。 |
reserveSpaceSizeInBytes | size_t | reserve 空间大小（字节）。 |
reserveSpace | void * | 指向 reserve 空间的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateCTCLossDescriptor
mudnnStatus_t mudnnCreateCTCLossDescriptor(mudnnCTCLossDescriptor_t *ctcLossDesc)
声明位置：mudnn_adv.h
创建 CTC Loss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t * | 返回描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCTCLossDescriptor
mudnnStatus_t mudnnSetCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType)
声明位置：mudnn_adv.h
状态：已废弃。
设置 CTC Loss 描述符（旧接口，计算类型）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t | 计算类型。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCTCLossDescriptorEx
mudnnStatus_t mudnnSetCTCLossDescriptorEx(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnNanPropagation_t gradMode)
声明位置：mudnn_adv.h
状态：已废弃。
设置 CTC Loss 描述符，含normalization与 NaN 处理（旧接口）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t | 计算类型。 |
normMode | mudnnLossNormalizationMode_t | 归一化模式。 |
gradMode | mudnnNanPropagation_t | NaN 传播模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCTCLossDescriptor_v8
mudnnStatus_t mudnnSetCTCLossDescriptor_v8(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnNanPropagation_t gradMode, int maxLabelLength)
声明位置：mudnn_adv.h
状态：已废弃。
设置 CTC Loss 描述符 v8，包含最大标签长度（旧接口）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t | 计算类型。 |
normMode | mudnnLossNormalizationMode_t | 归一化模式。 |
gradMode | mudnnNanPropagation_t | NaN 传播模式。 |
maxLabelLength | int | 最大标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCTCLossDescriptor_v9
mudnnStatus_t mudnnSetCTCLossDescriptor_v9(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t compType, mudnnLossNormalizationMode_t normMode, mudnnCTCGradMode_t ctcGradMode, int maxLabelLength)
声明位置：mudnn_adv.h
设置 CTC Loss 描述符 v9（含梯度模式）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t | 计算类型。 |
normMode | mudnnLossNormalizationMode_t | 归一化模式。 |
ctcGradMode | mudnnCTCGradMode_t | 梯度模式。 |
maxLabelLength | int | 最大标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossDescriptor
mudnnStatus_t mudnnGetCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType)
声明位置：mudnn_adv.h
状态：已废弃。
获取 CTC Loss 描述符（旧接口，仅 compType）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t * | 返回计算类型。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossDescriptorEx
mudnnStatus_t mudnnGetCTCLossDescriptorEx(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnNanPropagation_t *gradMode)
声明位置：mudnn_adv.h
状态：已废弃。
获取 CTC Loss 描述符（旧接口，含normalization与 NaN）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t * | 返回计算类型。 |
normMode | mudnnLossNormalizationMode_t * | 返回归一化模式。 |
gradMode | mudnnNanPropagation_t * | 返回 NaN 传播模式。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossDescriptor_v8
mudnnStatus_t mudnnGetCTCLossDescriptor_v8(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnNanPropagation_t *gradMode, int *maxLabelLength)
声明位置：mudnn_adv.h
状态：已废弃。
获取 CTC Loss 描述符 v8（旧接口）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t * | 返回计算类型。 |
normMode | mudnnLossNormalizationMode_t * | 返回归一化模式。 |
gradMode | mudnnNanPropagation_t * | 返回 NaN 传播模式。 |
maxLabelLength | int * | 返回最大标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossDescriptor_v9
mudnnStatus_t mudnnGetCTCLossDescriptor_v9(mudnnCTCLossDescriptor_t ctcLossDesc, mudnnDataType_t *compType, mudnnLossNormalizationMode_t *normMode, mudnnCTCGradMode_t *ctcGradMode, int *maxLabelLength)
声明位置：mudnn_adv.h
获取 CTC Loss 描述符 v9（推荐，含 ctcGradMode）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
compType | mudnnDataType_t * | 返回计算类型。 |
normMode | mudnnLossNormalizationMode_t * | 返回归一化模式。 |
ctcGradMode | mudnnCTCGradMode_t * | 返回梯度模式。 |
maxLabelLength | int * | 返回最大标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyCTCLossDescriptor
mudnnStatus_t mudnnDestroyCTCLossDescriptor(mudnnCTCLossDescriptor_t ctcLossDesc)
声明位置：mudnn_adv.h
销毁 CTC Loss 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCTCLoss
mudnnStatus_t mudnnCTCLoss(mudnnHandle_t handle, const mudnnTensorDescriptor_t probsDesc, const void *probs, const int hostLabels[], const int hostLabelLengths[], const int hostInputLengths[], void *costs, const mudnnTensorDescriptor_t gradientsDesc, void *gradients, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
CTC Loss 前向/反向（host label 版本，已弃用）。
labels/lengths 位于 host 端，其他张量位于 device。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
probsDesc | const mudnnTensorDescriptor_t | 概率张量描述符。 |
probs | const void * | 指向概率张量数据的设备指针。 |
hostLabels | const int | 主机端标签数组。 |
hostLabelLengths | const int | 主机端每样本标签长度。 |
hostInputLengths | const int | 主机端输入长度。 |
costs | void * | 指向输出损失的设备指针。 |
gradientsDesc | const mudnnTensorDescriptor_t | 梯度张量描述符。 |
gradients | void * | 指向输出梯度的设备指针。 |
algo | mudnnCTCLossAlgo_t | 算法选择。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCTCLoss_v8
mudnnStatus_t mudnnCTCLoss_v8(mudnnHandle_t handle, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t probsDesc, const void *probs, const int labels[], const int labelLengths[], const int inputLengths[], void *costs, const mudnnTensorDescriptor_t gradientsDesc, void *gradients, size_t workSpaceSizeInBytes, void *workspace)
声明位置：mudnn_adv.h
CTC Loss 前向/反向 v8（device label，已弃用）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
algo | mudnnCTCLossAlgo_t | 算法选择。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
probsDesc | const mudnnTensorDescriptor_t | 概率张量描述符。 |
probs | const void * | 概率张量。 |
labels | const int | 设备端标签。 |
labelLengths | const int | 标签长度数组。 |
inputLengths | const int | 输入长度数组。 |
costs | void * | 输出损失。 |
gradientsDesc | const mudnnTensorDescriptor_t | 梯度张量描述符。 |
gradients | void * | 输出梯度。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
workspace | void * | workspace 指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossWorkspaceSize
mudnnStatus_t mudnnGetCTCLossWorkspaceSize(mudnnHandle_t handle, const mudnnTensorDescriptor_t probsDesc, const mudnnTensorDescriptor_t gradientsDesc, const int *labels, const int *labelLengths, const int *inputLengths, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
查询 CTC Loss workspace（host labels，已弃用）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
probsDesc | const mudnnTensorDescriptor_t | 概率张量描述符。 |
gradientsDesc | const mudnnTensorDescriptor_t | 梯度张量描述符。 |
labels | const int * | 主机端标签。 |
labelLengths | const int * | 标签长度。 |
inputLengths | const int * | 输入长度。 |
algo | mudnnCTCLossAlgo_t | 算法选择。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetCTCLossWorkspaceSize_v8
mudnnStatus_t mudnnGetCTCLossWorkspaceSize_v8(mudnnHandle_t handle, mudnnCTCLossAlgo_t algo, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t probsDesc, const mudnnTensorDescriptor_t gradientsDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
查询 CTC Loss workspace v8（device labels，已弃用）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
algo | mudnnCTCLossAlgo_t | 算法选择。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
probsDesc | const mudnnTensorDescriptor_t | 概率张量描述符。 |
gradientsDesc | const mudnnTensorDescriptor_t | 梯度张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetCTCLossDescriptor_v10
mudnnStatus_t mudnnSetCTCLossDescriptor_v10(mudnnCTCLossDescriptor_t ctcLossDesc, int64_t blank, bool zeroInfinity, int64_t maxTargetLength)
声明位置：mudnn_adv.h
扩展接口：是。
配置 CTC Loss 描述符 v10（对齐 cuDNN backend v9/v10 行为）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | - |
blank | int64_t | - |
zeroInfinity | bool | - |
maxTargetLength | int64_t | - |
mudnnGetCTCLossDescriptor_v10
mudnnStatus_t mudnnGetCTCLossDescriptor_v10(mudnnCTCLossDescriptor_t ctcLossDesc, int64_t *blank, bool *zeroInfinity, int64_t *maxTargetLength)
声明位置：mudnn_adv.h
扩展接口：是。
查询 CTC Loss 描述符 v10。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
ctcLossDesc | mudnnCTCLossDescriptor_t | 描述符。 |
blank | int64_t * | 返回 blank 标签。 |
zeroInfinity | bool * | 返回 zeroInfinity 标志。 |
maxTargetLength | int64_t * | 返回最大标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCTCLoss_v10
mudnnStatus_t mudnnCTCLoss_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t alphaDesc, void *alpha, const mudnnTensorDescriptor_t inputDesc, const void *input, const mudnnTensorDescriptor_t targetsDesc, const void *targets, const mudnnTensorDescriptor_t inputLengthsDesc, const void *inputLengths, const mudnnTensorDescriptor_t targetLengthDesc, const void *targetLength)
声明位置：mudnn_adv.h
扩展接口：是。
CTC Loss 前向 v10（基于 backend 风格张量描述符）。
所有张量均为 device 端，支持零填充等行为与 cuDNN 对齐。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出损失描述符。 |
output | void * | 输出损失。 |
alphaDesc | const mudnnTensorDescriptor_t | alpha 描述符。 |
alpha | void * | alpha 缓冲区。 |
inputDesc | const mudnnTensorDescriptor_t | 输入概率描述符。 |
input | const void * | 输入概率。 |
targetsDesc | const mudnnTensorDescriptor_t | 目标标签描述符。 |
targets | const void * | 目标标签。 |
inputLengthsDesc | const mudnnTensorDescriptor_t | 输入长度描述符。 |
inputLengths | const void * | 输入长度 。 |
targetLengthDesc | const mudnnTensorDescriptor_t | 标签长度描述符。 |
targetLength | const void * | 标签长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCTCLossGetWorkspaceSize_v10
mudnnStatus_t mudnnCTCLossGetWorkspaceSize_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, const mudnnTensorDescriptor_t gradDesc, const mudnnTensorDescriptor_t logProbsDesc, const mudnnTensorDescriptor_t targetsDesc, const mudnnTensorDescriptor_t inputLengthsDesc, const mudnnTensorDescriptor_t targetLengthDesc, const mudnnTensorDescriptor_t lossDesc, const mudnnTensorDescriptor_t alphaDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
查询 CTC Loss v10 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出损失描述符。 |
gradDesc | const mudnnTensorDescriptor_t | 梯度描述符。 |
logProbsDesc | const mudnnTensorDescriptor_t | log-prob 描述符。 |
targetsDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
inputLengthsDesc | const mudnnTensorDescriptor_t | 输入长度描述符。 |
targetLengthDesc | const mudnnTensorDescriptor_t | 标签长度描述符。 |
lossDesc | const mudnnTensorDescriptor_t | 损失张量描述符。 |
alphaDesc | const mudnnTensorDescriptor_t | alpha 张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCTCLossBackward_v10
mudnnStatus_t mudnnCTCLossBackward_v10(mudnnHandle_t handle, mudnnCTCLossDescriptor_t ctcLossDesc, const mudnnTensorDescriptor_t outputDesc, void *output, const mudnnTensorDescriptor_t gradDesc, const void *grad, const mudnnTensorDescriptor_t logProbsDesc, const void *logProbs, const mudnnTensorDescriptor_t targetsDesc, const void *targets, const mudnnTensorDescriptor_t inputLengthsDesc, const void *inputLengths, const mudnnTensorDescriptor_t targetLengthDesc, const void *targetLength, const mudnnTensorDescriptor_t lossDesc, const void *loss, const mudnnTensorDescriptor_t alphaDesc, const void *alpha, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
CTC Loss 反向 v10。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
ctcLossDesc | mudnnCTCLossDescriptor_t | CTC 描述符。 |
outputDesc | const mudnnTensorDescriptor_t | 输出损失描述符。 |
output | void * | 指向输出损失的设备指针。 |
gradDesc | const mudnnTensorDescriptor_t | 梯度描述符。 |
grad | const void * | 指向上游梯度的设备指针。 |
logProbsDesc | const mudnnTensorDescriptor_t | log-prob 描述符。 |
logProbs | const void * | 指向 log-prob 数据的设备指针。 |
targetsDesc | const mudnnTensorDescriptor_t | 标签描述符。 |
targets | const void * | 指向标签数据的设备指针。 |
inputLengthsDesc | const mudnnTensorDescriptor_t | 输入长度描述符。 |
inputLengths | const void * | 指向输入长度的设备指针。 |
targetLengthDesc | const mudnnTensorDescriptor_t | 标签长度描述符。 |
targetLength | const void * | 指向标签长度的设备指针。 |
lossDesc | const mudnnTensorDescriptor_t | 损失张量描述符。 |
loss | const void * | 指向损失数据的设备指针。 |
alphaDesc | const mudnnTensorDescriptor_t | alpha 描述符。 |
alpha | const void * | 指向 alpha 数据的设备指针。 |
workspace | void * | 指向设备端工作区的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateScaledDotProductAttentionDescriptor
mudnnStatus_t mudnnCreateScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t *sdpaDesc)
声明位置：mudnn_adv.h
扩展接口：是。
创建 SDPA 描述符（与 cuDNN backend SDPA 对齐）
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t * | - |
mudnnDestroyScaledDotProductAttentionDescriptor
mudnnStatus_t mudnnDestroyScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc)
声明位置：mudnn_adv.h
扩展接口：是。
销毁 SDPA 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScaledDotProductAttentionDescriptor
mudnnStatus_t mudnnSetScaledDotProductAttentionDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool keyFormatBHDS, bool isTraining, bool isCausal, bool isDeterministic)
声明位置：mudnn_adv.h
扩展接口：是。
配置定长 SDPA 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
embedDim | int | 嵌入维度。 |
batchSize | int | 批大小。 |
numHeads | int | 头数。 |
scale | double | 缩放系数。 |
usePadMask | bool | 是否使用 pad mask。 |
keyFormatBHDS | bool | K 格式是否为 BHDS。 |
isTraining | bool | 是否训练模式。 |
isCausal | bool | 是否因果掩码。 |
isDeterministic | bool | 是否确定性。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScaledDotProductAttentionDescriptorEx
mudnnStatus_t mudnnSetScaledDotProductAttentionDescriptorEx(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool keyFormatBHDS, bool isTraining, bool isCausal, bool isDeterministic, double p, uint64_t seed, uint64_t offset, int dropoutMode, uint64_t *deviceSeed, uint64_t *deviceOffset, uint64_t graphOffset)
声明位置：mudnn_adv.h
扩展接口：是。
配置定长 SDPA 描述符（含 dropout 种子/偏移）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
embedDim | int | 嵌入维度。 |
batchSize | int | 批大小。 |
numHeads | int | 头数。 |
scale | double | 缩放系数。 |
usePadMask | bool | 是否使用 pad mask。 |
keyFormatBHDS | bool | K 格式是否为 BHDS。 |
isTraining | bool | 是否训练模式。 |
isCausal | bool | 是否因果掩码。 |
isDeterministic | bool | 是否确定性。 |
p | double | dropout 概率。 |
seed | uint64_t | dropout 种子。 |
offset | uint64_t | dropout 偏移。 |
dropoutMode | int | dropout 模式。 |
deviceSeed | uint64_t * | 设备端种子输出。 |
deviceOffset | uint64_t * | 设备端偏移输出。 |
graphOffset | uint64_t | 图偏移。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScaledDotProductAttentionVarlenDescriptor
mudnnStatus_t mudnnSetScaledDotProductAttentionVarlenDescriptor(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool isTraining, bool isCausal, bool isDeterministic, int maxSeqlenQ, int maxSeqlenK)
声明位置：mudnn_adv.h
扩展接口：是。
配置变长 SDPA 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
embedDim | int | 嵌入维度。 |
batchSize | int | 批大小。 |
numHeads | int | 头数。 |
scale | double | 缩放系数。 |
usePadMask | bool | 是否使用 pad mask。 |
isTraining | bool | 是否训练模式。 |
isCausal | bool | 是否因果掩码。 |
isDeterministic | bool | 是否确定性。 |
maxSeqlenQ | int | Q 最大序列长度。 |
maxSeqlenK | int | K 最大序列长度。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetScaledDotProductAttentionVarlenDescriptorEx
mudnnStatus_t mudnnSetScaledDotProductAttentionVarlenDescriptorEx(mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnMathType_t mathType, int embedDim, int batchSize, int numHeads, double scale, bool usePadMask, bool isTraining, bool isCausal, bool isDeterministic, int maxSeqlenQ, int maxSeqlenK, double p, uint64_t seed, uint64_t offset, int dropoutMode, uint64_t *deviceSeed, uint64_t *deviceOffset, uint64_t graphOffset)
声明位置：mudnn_adv.h
扩展接口：是。
配置变长 SDPA 描述符（含 dropout 配置）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
sdpaDesc | mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
embedDim | int | 嵌入维度。 |
batchSize | int | 批大小。 |
numHeads | int | 头数。 |
scale | double | 缩放系数。 |
usePadMask | bool | 是否使用 pad mask。 |
isTraining | bool | 是否训练模式。 |
isCausal | bool | 是否因果掩码。 |
isDeterministic | bool | 是否确定性。 |
maxSeqlenQ | int | Q 最大序列长度。 |
maxSeqlenK | int | K 最大序列长度。 |
p | double | dropout 概率。 |
seed | uint64_t | dropout 种子。 |
offset | uint64_t | dropout 偏移。 |
dropoutMode | int | dropout 模式。 |
deviceSeed | uint64_t * | 设备端种子输出。 |
deviceOffset | uint64_t * | 设备端偏移输出。 |
graphOffset | uint64_t | 图偏移。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashForward
mudnnStatus_t mudnnScaledDotProductAttentionFlashForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
logsumexp | const void * | 指向 logsumexp 输出的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针，可为 NULL。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dropoutMaskDesc | mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | void * | 指向 Dropout 掩码输出的设备指针，可为 NULL。 |
outDesc | mudnnTensorDescriptor_t | 输出描述符。 |
out | void * | 指向输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSize
mudnnStatus_t mudnnScaledDotProductAttentionFlashBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t logsumexpDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t dqDesc, const mudnnTensorDescriptor_t dkDesc, const mudnnTensorDescriptor_t dvDesc, size_t *sizeInBytes)
声明位置 ：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 反向 workspace 查询。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
outDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dqDesc | const mudnnTensorDescriptor_t | dQ 描述符。 |
dkDesc | const mudnnTensorDescriptor_t | dK 描述符。 |
dvDesc | const mudnnTensorDescriptor_t | dV 描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashBackward
mudnnStatus_t mudnnScaledDotProductAttentionFlashBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outDesc, const void *out, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
dout | const void * | 指向 dOut 数据的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针，可为 NULL。 |
outDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
out | const void * | 指向输出数据的设备指针。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
logsumexp | const void * | 指向 logsumexp 数据的设备指针。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | const void * | 指向 Dropout 掩码数据的设备指针，可为 NULL。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dqDesc | mudnnTensorDescriptor_t | dQ 描述符。 |
dq | void * | 指向 dQ 数据的设备指针。 |
dkDesc | mudnnTensorDescriptor_t | dK 描述符。 |
dk | void * | 指向 dK 数据的设备指针。 |
dvDesc | mudnnTensorDescriptor_t | dV 描述符。 |
dv | void * | 指向 dV 数据的设备指针。 |
workspace | void * | 指向 workspace 的设备指针，可为 NULL。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashVarlenForward
mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t cuSeqlensQDesc, const void *cuSeqlensQ, const mudnnTensorDescriptor_t cuSeqlensKDesc, const void *cuSeqlensK, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 变长前向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
logsumexp | const void * | 指向 logsumexp 输出的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针，可为 NULL。 |
cuSeqlensQDesc | const mudnnTensorDescriptor_t | Q 累积长度描述符。 |
cuSeqlensQ | const void * | 指向 Q 累积长度的设备指针。 |
cuSeqlensKDesc | const mudnnTensorDescriptor_t | K 累积长度描述符。 |
cuSeqlensK | const void * | 指向 K 累积长度的设备指针。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dropoutMaskDesc | mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | void * | 指向 Dropout 掩码输出的设备指针，可为 NULL。 |
outDesc | mudnnTensorDescriptor_t | 输出描述符。 |
out | void * | 指向输出数据的设备指针。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSize
mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const mudnnTensorDescriptor_t outDesc, const mudnnTensorDescriptor_t logsumexpDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t cuSeqlensQDesc, const mudnnTensorDescriptor_t cuSeqlensKDesc, const mudnnTensorDescriptor_t dqDesc, const mudnnTensorDescriptor_t dkDesc, const mudnnTensorDescriptor_t dvDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 变长反向 workspace 查询。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
outDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
cuSeqlensQDesc | const mudnnTensorDescriptor_t | Q 累积长度描述符。 |
cuSeqlensKDesc | const mudnnTensorDescriptor_t | K 累积长度描述符。 |
dqDesc | const mudnnTensorDescriptor_t | dQ 描述符。 |
dkDesc | const mudnnTensorDescriptor_t | dK 描述符。 |
dvDesc | const mudnnTensorDescriptor_t | dV 描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionFlashVarlenBackward
mudnnStatus_t mudnnScaledDotProductAttentionFlashVarlenBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t outDesc, const void *out, const mudnnTensorDescriptor_t logsumexpDesc, const void *logsumexp, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnTensorDescriptor_t cuSeqlensQDesc, const void *cuSeqlensQ, const mudnnTensorDescriptor_t cuSeqlensKDesc, const void *cuSeqlensK, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA FlashAttention 变长反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
dout | const void * | 指向 dOut 数据的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针。 |
outDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
out | const void * | 指向输出数据的设备指针。 |
logsumexpDesc | const mudnnTensorDescriptor_t | logsumexp 描述符。 |
logsumexp | const void * | 指向 logsumexp 数据的设备指针。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | const void * | 指向 Dropout 掩码数据的设备指针。 |
cuSeqlensQDesc | const mudnnTensorDescriptor_t | Q 累积长度描述符。 |
cuSeqlensQ | const void * | 指向 Q 累积长度的设备指针。 |
cuSeqlensKDesc | const mudnnTensorDescriptor_t | K 累积长度描述符。 |
cuSeqlensK | const void * | 指向 K 累积长度的设备指针。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dqDesc | mudnnTensorDescriptor_t | dQ 描述符。 |
dq | void * | 指向 dQ 数据的设备指针。 |
dkDesc | mudnnTensorDescriptor_t | dK 描述符。 |
dk | void * | 指向 dK 数据的设备指针。 |
dvDesc | mudnnTensorDescriptor_t | dV 描述符。 |
dv | void * | 指向 dV 数据的设备指针。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionMathForwardGetWorkspaceSize
mudnnStatus_t mudnnScaledDotProductAttentionMathForwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t attnProbsDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnTensorDescriptor_t dropoutMaskDesc, const mudnnTensorDescriptor_t outDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA Math 路径前向 workspace 查询。
参数
| 参数 | 类 型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
attnProbsDesc | const mudnnTensorDescriptor_t | 注意力概率描述符。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
outDesc | const mudnnTensorDescriptor_t | 输出描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionMathForward
mudnnStatus_t mudnnScaledDotProductAttentionMathForward(mudnnHandle_t handle, const mudnnTensorDescriptor_t attnProbsDesc, const void *attnProbs, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t maskDesc, const void *mask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dropoutMaskDesc, void *dropoutMask, mudnnTensorDescriptor_t outDesc, void *out, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA Math 路径前向（支持显式 attnProbs）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
attnProbsDesc | const mudnnTensorDescriptor_t | 注意力概率描述符。 |
attnProbs | const void * | 指向注意力概率数据的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
maskDesc | const mudnnTensorDescriptor_t | 掩码描述符。 |
mask | const void * | 指向掩码数据的设备指针。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dropoutMaskDesc | mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | void * | 指向 Dropout 掩码数据的设备指针。 |
outDesc | mudnnTensorDescriptor_t | 输出描述符。 |
out | void * | 指向输出数据的设备指针。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionMathBackwardGetWorkspaceSize
mudnnStatus_t mudnnScaledDotProductAttentionMathBackwardGetWorkspaceSize(mudnnHandle_t handle, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, const mudnnTensorDescriptor_t doutDesc, const mudnnTensorDescriptor_t qDesc, const mudnnTensorDescriptor_t kDesc, const mudnnTensorDescriptor_t vDesc, const mudnnTensorDescriptor_t dropoutMaskDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA Math 路径反向 workspace 查询。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnScaledDotProductAttentionMathBackward
mudnnStatus_t mudnnScaledDotProductAttentionMathBackward(mudnnHandle_t handle, const mudnnTensorDescriptor_t dattnProbsDesc, const void *dattnProbs, const mudnnTensorDescriptor_t doutDesc, const void *dout, const mudnnTensorDescriptor_t qDesc, const void *q, const mudnnTensorDescriptor_t kDesc, const void *k, const mudnnTensorDescriptor_t vDesc, const void *v, const mudnnTensorDescriptor_t attnProbsDesc, const void *attnProbs, const mudnnTensorDescriptor_t dropoutMaskDesc, const void *dropoutMask, const mudnnScaledDotProductAttentionDescriptor_t sdpaDesc, mudnnTensorDescriptor_t dqDesc, void *dq, mudnnTensorDescriptor_t dkDesc, void *dk, mudnnTensorDescriptor_t dvDesc, void *dv, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
SDPA Math 路径反向。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dattnProbsDesc | const mudnnTensorDescriptor_t | dAttnProbs 描述符。 |
dattnProbs | const void * | 指向 dAttnProbs 数据的设备指针。 |
doutDesc | const mudnnTensorDescriptor_t | dOut 描述符。 |
dout | const void * | 指向 dOut 数据的设备指针。 |
qDesc | const mudnnTensorDescriptor_t | Q 描述符。 |
q | const void * | 指向 Q 数据的设备指针。 |
kDesc | const mudnnTensorDescriptor_t | K 描述符。 |
k | const void * | 指向 K 数据的设备指针。 |
vDesc | const mudnnTensorDescriptor_t | V 描述符。 |
v | const void * | 指向 V 数据的设备指针。 |
attnProbsDesc | const mudnnTensorDescriptor_t | AttnProbs 描述符。 |
attnProbs | const void * | 指向 AttnProbs 数据的设备指针。 |
dropoutMaskDesc | const mudnnTensorDescriptor_t | Dropout 掩码描述符。 |
dropoutMask | const void * | 指向 Dropout 掩码数据的设备指针。 |
sdpaDesc | const mudnnScaledDotProductAttentionDescriptor_t | SDPA 描述符。 |
dqDesc | mudnnTensorDescriptor_t | dQ 描述符。 |
dq | void * | 指向 dQ 数据的设备指针。 |
dkDesc | mudnnTensorDescriptor_t | dK 描述符。 |
dk | void * | 指向 dK 数据的设备指针。 |
dvDesc | mudnnTensorDescriptor_t | dV 描述符。 |
dv | void * | 指向 dV 数据的设备指针。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateBatchMatMulDescriptor
mudnnStatus_t mudnnCreateBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t *batchMatMulDesc)
声明位置：mudnn_adv.h
扩展接口：是。
创建批量矩阵乘描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
batchMatMulDesc | mudnnBatchMatMulDescriptor_t * | 返回描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyBatchMatMulDescriptor
mudnnStatus_t mudnnDestroyBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t batchMatMulDesc)
声明位置：mudnn_adv.h
扩展接口：是。
销毁批量矩阵乘描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
batchMatMulDesc | mudnnBatchMatMulDescriptor_t | 待销毁描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetBatchMatMulDescriptor
mudnnStatus_t mudnnSetBatchMatMulDescriptor(mudnnBatchMatMulDescriptor_t batchMatMulDesc, mudnnMathType_t mathType, bool trans_a, bool trans_b)
声明位置：mudnn_adv.h
扩展接口：是。
配置批量矩阵乘（转置/数学模式）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
batchMatMulDesc | mudnnBatchMatMulDescriptor_t | 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
trans_a | bool | A 是否转置。 |
trans_b | bool | B 是否转置。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetBatchMatMulDescriptorEx
mudnnStatus_t mudnnSetBatchMatMulDescriptorEx(mudnnBatchMatMulDescriptor_t batchMatMulDesc, mudnnMathType_t mathType, bool trans_a, bool trans_b, bool deterministic, mudnnMatMulEpilogue_t epilogue, int mp_limit, double alpha, double beta, double gamma)
声明位置：mudnn_adv.h
扩展接口：是。
配置批量矩阵乘扩展选项（确定性/epilogue 等）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
batchMatMulDesc | mudnnBatchMatMulDescriptor_t | 描述符。 |
mathType | mudnnMathType_t | 数学模式。 |
trans_a | bool | A 是否转置。 |
trans_b | bool | B 是否转置。 |
deterministic | bool | 是否确定性。 |
epilogue | mudnnMatMulEpilogue_t | epilogue 类型。 |
mp_limit | int | 混合精度限制。 |
alpha | double | 缩放系数 alpha。 |
beta | double | 缩放系数 beta。 |
gamma | double | 缩放系数 gamma。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchMatmulGetWorkspaceSize
mudnnStatus_t mudnnBatchMatmulGetWorkspaceSize(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t bDesc, const mudnnTensorDescriptor_t cDesc, const mudnnTensorDescriptor_t dDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
查询批量矩阵乘 workspace 大小。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
batchMatMulDesc | const mudnnBatchMatMulDescriptor_t | 描述符。 |
aDesc | const mudnnTensorDescriptor_t | A 张量描述符。 |
bDesc | const mudnnTensorDescriptor_t | B 张量描述符。 |
cDesc | const mudnnTensorDescriptor_t | C 张量描述符。 |
dDesc | const mudnnTensorDescriptor_t | D 张量描述符。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchMatMulBias
mudnnStatus_t mudnnBatchMatMulBias(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
执行批量矩阵乘 + Bias。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
batchMatMulDesc | const mudnnBatchMatMulDescriptor_t | 描述符。 |
aDesc | const mudnnTensorDescriptor_t | A矩阵 描述符。 |
a | const void * | 指向 A矩阵 数据的设备指针。 |
bDesc | const mudnnTensorDescriptor_t | B矩阵 描述符。 |
b | const void * | 指向 B矩阵 数据的设备指针。 |
cDesc | const mudnnTensorDescriptor_t | C矩阵 描述符。 |
c | const void * | 指向 C矩阵 数据的设备指针。 |
dDesc | const mudnnTensorDescriptor_t | D矩阵 描述符。 |
d | void * | 指向 D矩阵 数据输出的设备指针。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
bias | const void * | 指向 Bias 数据的设备指针。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchMatMulBiasTensorScale
mudnnStatus_t mudnnBatchMatMulBiasTensorScale(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnTensorDescriptor_t scaleADesc, const void *scaleA, const mudnnTensorDescriptor_t scaleBDesc, const void *scaleB, const mudnnTensorDescriptor_t scaleCDesc, const void *scaleC, const mudnnTensorDescriptor_t scaleDDesc, const void *scaleD, int quantTile, bool fixedScaleLayout, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
批量矩阵乘 + Bias + 张量尺度（量化场景）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
batchMatMulDesc | const mudnnBatchMatMulDescriptor_t | 描述符。 |
aDesc | const mudnnTensorDescriptor_t | A矩阵 描述符。 |
a | const void * | 指向 A矩阵 数据的设备指针。 |
bDesc | const mudnnTensorDescriptor_t | B矩阵 描述符。 |
b | const void * | 指向 B矩阵 数据的设备指针。 |
cDesc | const mudnnTensorDescriptor_t | C矩阵 描述符。 |
c | const void * | 指向 C矩阵 数据的设备指针。 |
dDesc | const mudnnTensorDescriptor_t | D矩阵 描述符。 |
d | void * | 指向 D矩阵 数据的设备指针。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
bias | const void * | 指向 Bias 数据的设备指针。 |
scaleADesc | const mudnnTensorDescriptor_t | A scale 描述符。 |
scaleA | const void * | 指向 A scale 数据的设备指针。 |
scaleBDesc | const mudnnTensorDescriptor_t | B scale 描述符。 |
scaleB | const void * | 指向 B scale 数据的设备指针。 |
scaleCDesc | const mudnnTensorDescriptor_t | C scale 描述符。 |
scaleC | const void * | 指向 C scale 数据的设备指针。 |
scaleDDesc | const mudnnTensorDescriptor_t | D scale 描述符。 |
scaleD | const void * | 指向 D scale 数据的设备指针。 |
quantTile | int | 量化 tile 大小。 |
fixedScaleLayout | bool | 是否固定 scale 布局。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnBatchMatMulBiasTensorScaleEpilogue
mudnnStatus_t mudnnBatchMatMulBiasTensorScaleEpilogue(mudnnHandle_t handle, const mudnnBatchMatMulDescriptor_t batchMatMulDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, const void *c, const mudnnTensorDescriptor_t dDesc, void *d, const mudnnTensorDescriptor_t biasDesc, const void *bias, const mudnnTensorDescriptor_t scaleADesc, const void *scaleA, const mudnnTensorDescriptor_t scaleBDesc, const void *scaleB, const mudnnTensorDescriptor_t scaleCDesc, const void *scaleC, const mudnnTensorDescriptor_t scaleDDesc, const void *scaleD, int quantTile, bool fixedScaleLayout, const mudnnTensorDescriptor_t amaxDDesc, void *amaxD, const mudnnTensorDescriptor_t scaleAuxDesc, void *scaleAux, const mudnnTensorDescriptor_t auxDesc, void *aux, const mudnnTensorDescriptor_t atomicSyncInDesc, void *atomicSyncIn, const mudnnTensorDescriptor_t atomicSyncOutDesc, void *atomicSyncOut, void *workspace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
批量矩阵乘 + Bias + 张量尺度 + 扩展 epilogue（AMAX/scale/aux 输出）。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
batchMatMulDesc | const mudnnBatchMatMulDescriptor_t | 描述符。 |
aDesc | const mudnnTensorDescriptor_t | A矩阵 描述符。 |
a | const void * | 指向 A矩阵 数据的设备指针。 |
bDesc | const mudnnTensorDescriptor_t | B矩阵 描述符。 |
b | const void * | 指向 B矩阵 数据的设备指针。 |
cDesc | const mudnnTensorDescriptor_t | C矩阵 描述符。 |
c | const void * | 指向 C矩阵 数据的设备指针。 |
dDesc | const mudnnTensorDescriptor_t | D矩阵 描述符。 |
d | void * | 指向 D矩阵 数据的设备指针。 |
biasDesc | const mudnnTensorDescriptor_t | Bias 描述符。 |
bias | const void * | 指向 Bias 数据的设备指针。 |
scaleADesc | const mudnnTensorDescriptor_t | A scale 描述符。 |
scaleA | const void * | 指向 A scale 数据的设备指针。 |
scaleBDesc | const mudnnTensorDescriptor_t | B scale 描述符。 |
scaleB | const void * | 指向 B scale 数据的设备指针。 |
scaleCDesc | const mudnnTensorDescriptor_t | C scale 描述符。 |
scaleC | const void * | 指向 C scale 数据的设备指针。 |
scaleDDesc | const mudnnTensorDescriptor_t | D scale 描述符。 |
scaleD | const void * | 指向 D scale 数据的设备指针。 |
quantTile | int | 量化 tile 大小。 |
fixedScaleLayout | bool | 是否固定 scale 布局。 |
amaxDDesc | const mudnnTensorDescriptor_t | AMAX 描述符。 |
amaxD | void * | 指向 AMAX 输出的设备指针。 |
scaleAuxDesc | const mudnnTensorDescriptor_t | 辅助 scale 描述符。 |
scaleAux | void * | 指向辅助 scale 输出的设备指针。 |
auxDesc | const mudnnTensorDescriptor_t | 辅助输出描述符。 |
aux | void * | 指向辅助输出的设备指针。 |
atomicSyncInDesc | const mudnnTensorDescriptor_t | 原子同步输入描述符。 |
atomicSyncIn | void * | 指向原子同步输入的设备指针。 |
atomicSyncOutDesc | const mudnnTensorDescriptor_t | 原子同步输出描述符。 |
atomicSyncOut | void * | 指向原子同步输出的设备指针。 |
workspace | void * | 指向 workspace 的设备指针。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnCreateDotDescriptor
mudnnStatus_t mudnnCreateDotDescriptor(mudnnDotDescriptor_t *dotDesc)
声明位置：mudnn_adv.h
扩展接口：是。
创建 Dot 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dotDesc | mudnnDotDescriptor_t * | 返回创建的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDestroyDotDescriptor
mudnnStatus_t mudnnDestroyDotDescriptor(mudnnDotDescriptor_t dotDesc)
声明位置：mudnn_adv.h
扩展接口：是。
销毁 Dot 描述符。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dotDesc | mudnnDotDescriptor_t | 待销毁的描述符。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnSetDotMathType
mudnnStatus_t mudnnSetDotMathType(mudnnDotDescriptor_t dotDesc, mudnnMathType_t mathType)
声明位置：mudnn_adv.h
扩展接口：是。
设置 Dot 描述符的计算模式。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
dotDesc | mudnnDotDescriptor_t | Dot 描述符。 |
mathType | mudnnMathType_t | 数学模式（MUDNN_DEFAULT_MATH, MUDNN_TENSOR_OP_MATH, MUDNN_FMA_MATH）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnGetDotWorkspaceSize
mudnnStatus_t mudnnGetDotWorkspaceSize(mudnnHandle_t handle, mudnnDotDescriptor_t dotDesc, const mudnnTensorDescriptor_t aDesc, const mudnnTensorDescriptor_t bDesc, const mudnnTensorDescriptor_t cDesc, size_t *sizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
查询 Dot 运算所需 workspace 大小。
Dot 内部通过 MatMul 实现，可能需要 workspace。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dotDesc | mudnnDotDescriptor_t | Dot 描述符。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量 a 描述符（1D）。 |
bDesc | const mudnnTensorDescriptor_t | 输入张量 b 描述符（1D）。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量 c 描述符（1D，形状为 (1,)）。 |
sizeInBytes | size_t * | 返回 workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
mudnnDot
mudnnStatus_t mudnnDot(mudnnHandle_t handle, mudnnDotDescriptor_t dotDesc, const mudnnTensorDescriptor_t aDesc, const void *a, const mudnnTensorDescriptor_t bDesc, const void *b, const mudnnTensorDescriptor_t cDesc, void *c, void *workSpace, size_t workSpaceSizeInBytes)
声明位置：mudnn_adv.h
扩展接口：是。
执行 Dot 运算：c = dot(a, b)。
仅支持 1D 输入，与 torch.dot 语义对齐。
参数
| 参数 | 类型 | 说明 |
|---|---|---|
handle | mudnnHandle_t | muDNN 句柄。 |
dotDesc | mudnnDotDescriptor_t | Dot 描述符。 |
aDesc | const mudnnTensorDescriptor_t | 输入张量 a 描述符（1D）。 |
a | const void * | 输入张量 a 数 据指针。 |
bDesc | const mudnnTensorDescriptor_t | 输入张量 b 描述符（1D）。 |
b | const void * | 输入张量 b 数据指针。 |
cDesc | const mudnnTensorDescriptor_t | 输出张量 c 描述符（1D，形状为 (1,)）。 |
c | void * | 输出张量 c 数据指针。 |
workSpace | void * | workspace 指针（可为 nullptr）。 |
workSpaceSizeInBytes | size_t | workspace 大小（字节）。 |
返回值
MUDNN_STATUS_SUCCESS 表示成功，其他返回错误码。
