set_config

paddle.incubate.autotune. set_config ( config=None ) [源代码]

配置 kernel、layout 和 dataloader 的自动调优功能。

  1. kernel：当开启自动调优，将使用穷举搜索的方法在调优的迭代区间内为算子选择最佳算法，并将其缓存下来。调优参数如下：

    • enable (bool) - 是否开启 kernel 的调优功能。

    • tuning_range (list) - 自动调优开始和结束的迭代序号。默认值：[1, 10]。

  2. layout：当开启自动调优，将根据设备和数据类型确定最优的数据布局如 NCHW 或者 NHWC。当原始的 layout 设置并非最优时，将会自动进行 layout 的转换以提升模型的性能。该功能当前仅支持动态图模式。调优参数如下：

    • enable (bool) - 是否开启 layout 的调优功能。

  3. dataloader：当开启自动调优，将自动选择最佳的 num_workers 替换原始的配置。调优参数如下：

    • enable (bool) - 是否开启 dataloader 的调优功能。

参数

  • config (dict|str|None，可选) - 自动调整的配置。如果它是字典，则键是调优类型，值是调优参数构成的字典。如果它是字符串，则表示 json 文件路径，将根据 json 文件内容配置调优参数。默认值：None，kernel、layout 和 dataloader 的自动调优功能将全被开启。

代码示例

import paddle
import json

# config is a dict.
config = {
    "kernel": {
        "enable": True,
        "tuning_range": [1, 5],
    },
    "layout": {
        "enable": True,
    },
    "dataloader": {
        "enable": True,
    }
}
paddle.incubate.autotune.set_config(config)

# config is the path of json file.
config_json = json.dumps(config)
with open('config.json', 'w') as json_file:
    json_file.write(config_json)
paddle.incubate.autotune.set_config('config.json')