数据及其加载常见问题

问题：如何在训练过程中高效读取数据量很大的数据集？

  • 答复：当训练时使用的数据集数据量较大或者预处理逻辑复杂时，如果串行地进行数据读取，数据读取往往会成为训练效率的瓶颈。这种情况下通常需要利用多线程或者多进程的方法异步地进行数据载入，从而提高数据读取和整体训练效率。

paddle 中推荐使用 DataLoader，这是一种灵活的异步加载方式。

该 API 提供了多进程的异步加载支持，可以配置num_workers指定异步加载数据的进程数目从而满足不同规模数据集的读取需求。

具体使用方法及示例请参考 API 文档：paddle.io.DataLoader

问题：使用多卡进行并行训练时，如何配置 DataLoader 进行异步数据读取？

  • 答复：paddle 中多卡训练时设置异步读取和单卡场景并无太大差别，动态图模式下，由于目前仅支持多进程多卡，每个进程将仅使用一个设备，比如一张 GPU 卡，这种情况下，与单卡训练无异，只需要确保每个进程使用的是正确的卡即可。

具体示例请参考飞桨 API paddle.io.DataLoader中的示例。

问题：有拓展 Tensor 维度的 Op 吗？

问题：如何给图片添加一个通道数，并进行训练？

  • 答复：如果是在进入 paddle 计算流程之前，数据仍然是 numpy.array 的形式，使用 numpy 接口numpy.expand_dims为图片数据增加维度后，再通过numpy.reshape进行操作即可，具体使用方法可查阅 numpy 的官方文档。

如果是希望在模型训练或预测流程中完成通道的操作，可以使用 paddle 对应的 API paddle.unsqueeze 和 paddle.reshape。

问题：如何从 numpy.array 生成一个具有 shape 和 dtype 的 Tensor?

  • 答复：在动态图模式下，可以参考如下示例：

import paddle
import numpy as np

x = np.ones([2, 2], np.float32)
y = paddle.to_tensor(x)

# 或者直接使用 paddle 生成 tensor
z = paddle.ones([2, 2], 'float32')

问题：如何初始化一个随机数的 Tensor？