cudnn

FLAGS_conv_workspace_size_limit

(始于 0.13.0)

用于选择 cuDNN 卷积算法的工作区限制大小(单位为 MB)。cuDNN 的内部函数在这个内存限制范围内获得速度最快的匹配算法。通常,在较大的工作区内可以选择更快的算法,但同时也会显著增加内存空间。用户需要在内存和速度之间进行权衡。

取值范围

Uint64 型,缺省值为 512。即 512MB 显存工作区。

示例

FLAGS_conv_workspace_size_limit=1024 - 将用于选择 cuDNN 卷积算法的工作区限制大小设置为 1024MB。

FLAGS_cudnn_batchnorm_spatial_persistent

(始于 1.4.0)

表示是否在 batchnorm 中使用新的批量标准化模式 CUDNN_BATCHNORM_SPATIAL_PERSISTENT 函数。

取值范围

Bool 型,缺省值为 False。

示例

FLAGS_cudnn_batchnorm_spatial_persistent=True - 开启 CUDNN_BATCHNORM_SPATIAL_PERSISTENT 模式。

注意

此模式在某些任务中可以更快,因为将为 CUDNN_DATA_FLOAT 和 CUDNN_DATA_HALF 数据类型选择优化路径。我们默认将其设置为 False 的原因是此模式可能使用原子整数缩减(scaled atomic integer reduction)而导致某些输入数据范围的数字溢出。

FLAGS_cudnn_deterministic

(始于 0.13.0)

cuDNN 对于同一操作有几种算法,一些算法结果是非确定性的,如卷积算法。该 flag 用于调试。它表示是否选择 cuDNN 中的确定性函数。

取值范围

Bool 型,缺省值为 False。

示例

FLAGS_cudnn_deterministic=True - 选择 cuDNN 中的确定性函数。

注意

现在,在 cuDNN 卷积和池化 Operator 中启用此 flag。确定性算法速度可能较慢,因此该 flag 通常用于调试。