数据及其加载常见问题

问题：如何在训练过程中高效读取数据量很大的数据集？

  • 答复：当训练时使用的数据集数据量较大或者预处理逻辑复杂时，如果串行地进行数据读取，数据读取往往会成为训练效率的瓶颈。这种情况下通常需要利用多线程或者多进程的方法异步地进行数据载入，从而提高数据读取和整体训练效率。

paddle中推荐使用 DataLoader，这是一种灵活的异步加载方式。

该API提供了多进程的异步加载支持，可以配置num_workers指定异步加载数据的进程数目从而满足不同规模数据集的读取需求。

具体使用方法及示例请参考API文档：paddle.io.DataLoader

问题：使用多卡进行并行训练时，如何配置DataLoader进行异步数据读取？

  • 答复：paddle中多卡训练时设置异步读取和单卡场景并无太大差别，动态图模式下，由于目前仅支持多进程多卡，每个进程将仅使用一个设备，比如一张GPU卡，这种情况下，与单卡训练无异，只需要确保每个进程使用的是正确的卡即可。

具体示例请参考飞桨API paddle.io.DataLoader中的示例。

问题：有拓展Tensor维度的Op吗？

问题：如何给图片添加一个通道数，并进行训练？

  • 答复：如果是在进入paddle计算流程之前，数据仍然是numpy.array的形式，使用numpy接口numpy.expand_dims为图片数据增加维度后，再通过numpy.reshape进行操作即可，具体使用方法可查阅numpy的官方文档。

如果是希望在模型训练或预测流程中完成通道的操作，可以使用paddle对应的API paddle.unsqueeze 和 paddle.reshape。

问题：如何从numpy.array生成一个具有shape和dtype的Tensor?

  • 答复：在动态图模式下，可以参考如下示例：

import paddle
import numpy as np

x = np.ones([2, 2], np.float32)
y = paddle.to_tensor(x)

# 或者直接使用paddle生成tensor
z = paddle.ones([2, 2], 'float32')

问题：如何初始化一个随机数的Tensor？