5. 使用 XPU 进行预测¶
API定义如下:
// 启用 XPU 进行预测
// 参数:pd_config - Config 对象指针
// l3_workspace_size - L3 cache 分配的显存大小
// 返回:None
void PD_ConfigEnableXpu(PD_Config* pd_config, int32_t l3_workspace_size);
// 判断是否启用 XPU
// 参数:pd_config - Config 对象指针
// 返回:PD_Bool - 是否启用 XPU
PD_Bool PD_ConfigUseXpu(PD_Config* pd_config);
代码示例:
// 创建 Config 对象
PD_Config* config = PD_ConfigCreate();
// 启用 XPU,并设置 L3 cache 大小为 100MB
PD_ConfigEnableXpu(config, 100);
// 判断是否开启 XPU - True
printf("Use XPU is: %s\n", PD_ConfigUseXpu(config) ? "True" : "False");
// 销毁 Config 对象
PD_ConfigDestroy(config);