Context API¶

  // 构造函数
  // 参数：place - CustomPlace 对象
  // 返回：None
  explicit CustomContext(const CustomPlace&);

  // 析构函数
  virtual ~CustomContext();

  // 获取设备上下文 Place 信息
  // 参数：None
  // 返回：place - Place 对象
  const Place& GetPlace() const override;

  // 获取设备上下文 stream 信息
  // 参数：None
  // 返回：stream - void*类型指针
  void* stream() const;

  // 等待 stream 上的操作完成
  // 参数：None
  // 返回：None
  void Wait() const override;

  // 无参构造函数
  DeviceContext();

  // 拷贝构造函数
  DeviceContext(const DeviceContext&);

  // 移动构造函数
  DeviceContext(DeviceContext&&);

  // 移动赋值操作
  DeviceContext& operator=(DeviceContext&&);

  // 析构函数
  virtual ~DeviceContext();

  // 设置 Device Allocator
  // 参数：Allocator 指针
  // 返回：None
  void SetAllocator(const Allocator*);

  // 设置 Host Allocator
  // 参数：Allocator 指针
  // 返回：None
  void SetHostAllocator(const Allocator*);

  // 设置 zero-size Allocator
  // 参数：Allocator 指针
  // 返回：None
  void SetZeroAllocator(const Allocator*);

  // 获取 Allocator
  // 参数：None
  // 返回：Allocator 对象
  const Allocator& GetAllocator() const;

  // 获取 Host Allocator
  // 参数：None
  // 返回：Allocator 对象
  const Allocator& GetHostAllocator() const;

  // 获取 zero-size Allocator
  // 参数：None
  // 返回：Allocator 对象
  const Allocator& GetZeroAllocator() const;

  // 为 Tensor 分配 Device 内存
  // 参数：TensorBase 类型指针
  //      dtype - DataType 类型变量
  //      requested_size - size_t 类型变量，默认值为 0
  // 返回：数据指针 - void*类型指针
  void* Alloc(TensorBase*, DataType dtype, size_t requested_size = 0) const;

  // 为 Tensor 分配 Device 内存
  // 模板参数：T - 数据类型
  // 参数：TensorBase 类型指针
  //      requested_size - size_t 类型变量，默认值为 0
  // 返回：数据指针 - T*类型指针
  template <typename T>
  T* Alloc(TensorBase* tensor, size_t requested_size = 0) const;

  // 为 Tensor 分配 Host 内存
  // 参数：TensorBase 指针
  //      dtype - DataType 类型变量
  //      requested_size - size_t 类型变量，默认值为 0
  // 返回：数据指针 - void*类型指针
  void* HostAlloc(TensorBase* tensor,
                  DataType dtype,
                  size_t requested_size = 0) const;

  // 为 Tensor 分配 Host 内存
  // 模板参数：T - 数据类型
  // 参数：TensorBase 指针
  //      requested_size - size_t 类型变量，默认值为 0
  // 返回：数据指针 - T*类型数据指针
  template <typename T>
  T* HostAlloc(TensorBase* tensor, size_t requested_size = 0) const;

  // 获取设备上下文 Place 信息，子类实现
  // 参数：None
  // 返回：place - Place 对象
  virtual const Place& GetPlace() const = 0;

  // 等待 stream 上的操作完成，子类实现
  // 参数：None
  // 返回：None
  virtual void Wait() const {}

  // 设置随机数发生器
  // 参数：Generator 指针
  // 返回：None
  void SetGenerator(Generator*);

  // 获取随机数发生器
  // 参数：None
  // 返回：Generator 指针
  Generator* GetGenerator() const;

  // 设置 Host 随机数发生器
  // 参数：Generator 指针
  // 返回：None
  void SetHostGenerator(Generator*);

  // 获取 Host 随机数发生器
  // 参数：None
  // 返回：Generator 指针
  Generator* GetHostGenerator() const;