Paddle CI 测试详解¶

PR-CI-Auto-Parallel¶

• 【条目描述】 检测飞桨自动并行 8 卡任务的功能、性能和显存。

• 【触发条件】 当 PR 修改了 tools/auto_parallel/target_path_lists.sh 中的命中路径时触发。

PR-CI-Clone¶

• 【条目描述】 将当前 PR 的代码从 GitHub Clone 到 CI 测试执行的机器，方便后续的 CI 直接使用。

• 【触发条件】 自动触发。

PR-CI-Build¶

• 【条目描述】 生成当前 PR 的编译产物，并将编译产物上传到 BOS（百度智能云对象存储）中，方便后续的 CI 可以直接复用该编译产物。

• 【执行脚本】 paddle/scripts/paddle_build.sh build_pr_dev

• 【触发条件】

  • PR-CI-Clone通过后自动触发。

PR-CE-Framework¶

• 【条目描述】 检测框架 API 与预测 API 的核心测试用例是否通过。

• 【执行脚本】

  • 框架 API 测试：PaddleTest/framework/api/run_paddle_ci.sh

  • 预测 API 测试：PaddleTest/inference/python_api_test/parallel_run.sh

• 【触发条件】 PR-CI-Build通过后自动触发，并且使用PR-CI-Build的编译产物，无需单独编译。

PR-CI-Model-benchmark¶

• 【条目描述】 检测 PR 中的修改是否会导致模型性能下降或者运行报错。

• 【执行脚本】 tools/ci_model_benchmark.sh run_all

• 【触发条件】 PR-CI-Build通过后自动触发，并且使用PR-CI-Build的编译产物，无需单独编译。

• 【注意事项】 本条 CI 测试不通过的处理方法可查阅 PR-CI-Model-benchmark Manual。

PR-CI-OP-benchmark¶

• 【条目描述】 检测 PR 中的修改是否会造成 OP 性能下降或者精度错误。

• 【执行脚本】 tools/ci_op_benchmark.sh run_op_benchmark

• 【触发条件】 PR-CI-Build通过后自动触发，并且使用PR-CI-Build的编译产物，无需单独编译。

• 【注意事项】 本条 CI 测试不通过的处理方法可查阅 PR-CI-OP-benchmark Manual。

PR-CI-CINN-Build¶

• 【条目描述】 编译含 CINN（Compiler Infrastructure for Neural Networks，飞桨自研深度学习编译器）的 Paddle。

• 【执行脚本】 paddle/scripts/paddle_build.sh build_only

• 【触发条件】 PR-CI-Clone通过后自动触发。

PR-CI-CINN¶

• 【条目描述】 运行 Paddle 训练框架与 CINN 对接的单测，保证训练框架进行 CINN 相关开发的正确性。

• 【执行脚本】 测试脚本: paddle/scripts/paddle_build.sh test

• 【触发条件】 PR-CI-CINN-Build通过后自动触发，并且使用PR-CI-CINN-Build的编译产物，无需单独编译。

PR-CI-Api-Benchmark¶

• 【条目描述】 检测当前 PR 是否会造成 cpu 下动态图 api 调度性能下降。

• 【执行脚本】

  • 拉取 PaddleTest 测试代码: git clone https://github.com/PaddlePaddle/PaddleTest.git

  • 进入执行目录: cd ./PaddleTest/framework/e2e/api_benchmark_new

  • 安装 CI 依赖: python -m pip install -r requirement.txt

  • 执行: python runner_user.py --yaml ./../yaml/ci_api_benchmark_fp32_cuda118_py310.yml

• 【触发条件】

  • PR-CI-Build通过后自动触发，并且使用PR-CI-Build的编译产物，无需单独编译

• 【补充说明】 CI 依赖./PaddleTest/framework/e2e/ci_api_benchmark_fp32_cuda118_py310.yml 中的配置文件运行。如果全部 case 运行耗时过长，需要单独调试某几个 api 的 case，可以把 ci_api_benchmark_fp32_cuda118_py310.yml 中，相关 api 的 yaml 配置信息，复制到你自己新建的.yml 配置文件中，使用 python runner_user.py --yaml your_yaml.yml 运行。性能测试需要对比你的 pr 合入前后，api 耗时增加的差异，也就是说需要运行两次进行对比调试。

PR-CI-Py3¶

• 【条目描述】 检测当前 PR 在 CPU、Python3 版本的编译与单测是否通过。

• 【执行脚本】 paddle/scripts/paddle_build.sh cicheck_py37

• 【触发条件】 PR-CI-Clone通过后自动触发。

PR-CI-Py3-PIR¶

• 【条目描述】 检查 PR 在 PIR 模式下单测执行情况（test/deprecated 目录中的单测不进行测试)

• 【执行脚本】 paddle/scripts/paddle_build.sh cicheck_py37_pir

• 【触发条件】 PR-CI-Py3通过后自动触发。

PR-CI-Coverage¶

• 【条目描述】 检测当前 PR 在 GPU、Python3 版本的编译与单测是否通过，同时增量代码需满足行覆盖率大于 90% 的要求。可在 PR 页面点击该 CI 后的 details 查看覆盖率，如下图所示：

• 【执行脚本】

  • 编译脚本：paddle/scripts/paddle_build.sh cpu_cicheck_coverage

  • 测试脚本：paddle/scripts/paddle_build.sh gpu_cicheck_coverage

• 【触发条件】

  • PR-CI-Clone通过后自动触发。

PR-CI-Inference¶

• 【条目描述】 检测当前 PR 对 C++ 预测库编译和单测是否通过。

• 【执行脚本】

  • 编译脚本：paddle/scripts/paddle_build.sh build_inference

  • 测试脚本：paddle/scripts/paddle_build.sh gpu_inference

• 【触发条件】

  • PR-CI-Clone通过后自动触发。

PR-CI-Static-Check¶

• 【条目描述】 检测develop分支与当前PR分支的增量 API 英文文档是否符合规范，以及当变更 API 或 OP 时检测是否经过了 TPM 审批（Approval）。

• 【执行脚本】

  • 编译脚本：paddle/scripts/paddle_build.sh build_and_check_cpu

  • 测试脚本：paddle/scripts/paddle_build.sh build_and_check_gpu

• 【触发条件】 PR-CI-Build通过后自动触发，并且使用PR-CI-Build的编译产物，无需单独编译。

PR-CI-Codestyle-Check¶

• 【条目描述】 该 CI 主要的功能是检查提交代码是否符合规范，详细内容请参考代码风格检查指南。

• 【执行脚本】 tools/codestyle/pre_commit.sh

• 【触发条件】 PR-CI-Clone通过后自动触发。

• 【注意事项】 此 CI 需要检查代码风格，建议在提交 PR 之前安装 pre-commit，可以在提交之前进行代码规范检查。

PR-CI-APPROVAL¶

• 【条目描述】 检测 PR 中的修改是否通过了审批（Approval）。

• 【执行脚本】 paddle/scripts/paddle_build.sh assert_file_approvals

• 【触发条件】 PR-CI-Clone通过后自动触发。

• 【注意事项】 在其他 CI 项通过前，无需过多关注该 CI，其他 CI 通过后飞桨相关开发者会进行审批。

PR-CI-CINN-GPU¶

• 【条目描述】 检测当前 PR 在 Linux GPU 环境下编译与单测是否通过，不同于 PR-CI-CINN，该 CI 只编译 CINN，并且只测试 CINN 模块的单测，不会测试 PaddleWithCINN 相关单测。

• 【执行脚本】 bash tools/cinn/build.sh gpu_on ci

• 【触发条件】

  • PR-CI-CINN-Build通过后自动触发。

  • 必须修改下面路径中的文件才会触发

        cmake
        paddle/cinn
        python/cinn
        python/CMakeLists.txt
        python/setup_cinn.py.in
        test/CMakeLists.txt
        test/cinn
        test/cpp/cinn
        tools/cinn
    

PR-CI-CINN-GPU-CUDNN-OFF¶

• 【条目描述】 检测当前 PR 在 Linux GPU 环境下编译与单测是否通过，编译时不会依赖 CUDNN 库。不同于 PR-CI-CINN，该 CI 只编译 CINN，并且只测试 CINN 模块的单测，不会测试 PaddleWithCINN 相关单测。

• 【执行脚本】 bash tools/cinn/build.sh gpu_on cudnn_off ci

• 【触发条件】

  • PR-CI-Clone通过后自动触发。

  • 必须修改下面路径中的文件才会触发

        cmake
        paddle/cinn
        python/cinn
        python/CMakeLists.txt
        python/setup_cinn.py.in
        test/CMakeLists.txt
        test/cinn
        test/cpp/cinn
        tools/cinn
    

PR-CI-CINN-X86¶

• 【条目描述】 检测当前 PR 在 Linux X86 环境下编译与单测是否通过，不同于 PR-CI-CINN ，该 CI 只编译 CINN ，并且只测试 CINN 模块的单测，不会测试 PaddleWithCINN 相关单测。

• 【执行脚本】 bash tools/cinn/build.sh ci

• 【触发条件】

  • PR-CI-Clone通过后自动触发。

  • 必须修改下面路径中的文件才会触发

        cmake
        paddle/cinn
        python/cinn
        python/CMakeLists.txt
        python/setup_cinn.py.in
        test/CMakeLists.txt
        test/cinn
        test/cpp/cinn
        tools/cinn
    

PR-CI-SOT¶

• 【条目描述】 检测当前 PR CPU、Python3.8-3.11 版本下的 SOT 单测是否通过。

• 【执行脚本】 paddle/scripts/paddle_build.sh check_run_sot_ci

• 【触发条件】

  • PR-CI-Clone 通过后自动触发。

  • 必须修改下面路径中的文件才会触发

    paddle/fluid/operators/run_program_op.h
    paddle/fluid/operators/run_program_op.cu
    paddle/fluid/operators/run_program_op.cc
    paddle/fluid/eager/to_static
    paddle/fluid/pybind/
    python/
    test/sot
    

PR-CI-Distribute-stable¶

• 【条目描述】 该 CI 主要的功能是检查提交代码是否引起编译错误、GPUBOX/LLM/自动并行架构的功能或精度错误

• 【执行脚本】 paddle/scripts/paddle_build.sh distribute_test

• 【触发条件】 PR-CI-Clone通过后自动触发。

• 【注意事项】 此 CI 的执行代码是在 PaddleNLP 的 repo 中的稳定版本分支<stable/paddle-ci>，出现问题请优先在本地自测复现。

PR-CI-Mac-Python3¶

• 【条目描述】 检测当前 PR 在 MAC 系统下 Python 3.5 版本的编译与单测是否通过，并检测当前 PR 分支相比develop分支是否新增单测代码，如有不同，提示需要审批（Approval）。

• 【执行脚本】 paddle/scripts/paddle_build.sh maccheck_py35

• 【触发条件】 PR-CI-Clone通过后自动触发。

PR-CI-Windows¶

• 【条目描述】 检测当前 PR 在 Windows GPU 环境下编译与单测是否通过，并检测当前 PR 分支相比develop分支是否新增单测代码，如有不同，提示需要审批（Approval）。

• 【执行脚本】 paddle/scripts/paddle_build.bat wincheck_mkl

• 【触发条件】

  • 自动触发。

  • 当 PR-CI-Windows-OPENBLAS 任务失败时，会取消当前任务（因 OPENBLAS 失败，当前任务成功也无法进行代码合并，需要先排查 OPENBLAS 失败原因）。

PR-CI-Windows-OPENBLAS¶

• 【条目描述】 检测当前 PR 在 Windows CPU 系统下编译与单测是否通过。

• 【执行脚本】 paddle/scripts/paddle_build.bat wincheck_openblas

• 【触发条件】 自动触发。

PR-CI-Windows-Inference¶

• 【条目描述】 检测当前 PR 在 Windows 系统下预测模块的编译与单测是否通过。

• 【执行脚本】 paddle/scripts/paddle_build.bat wincheck_inference

• 【触发条件】

  • 自动触发。

  • 当 PR-CI-Windows-OPENBLAS 任务失败时，会取消当前任务（因 OPENBLAS 失败，当前任务成功也无法进行代码合并，需要先排查 OPENBLAS 失败原因）。

PR-CI-Kunlun-R200¶

• 【条目描述】 检测 PR 中的修改能否在昆仑芯 XPU 上编译与单测通过。

• 【执行脚本】 paddle/scripts/paddle_build.sh check_xpu_coverage

• 【触发条件】 PR-CI-Clone通过后自动触发。

PR-CI-Kunlun-bxcheck¶

• 【条目描述】 检测 PR 中的修改能否在昆仑芯 XPU 上单测是否通过。

• 【执行脚本】 paddle/scripts/paddle_build.sh test

• 【触发条件】 PR-CI-Kunlun-R200编译成功后自动触发。

PR-CI-Hygon-DCU¶

• 【条目描述】 检测 PR 中的修改能否在海光 DCU 芯片上编译通过。

• 【执行脚本】 paddle/scripts/musl_build/build_paddle.sh build_only

• 【触发条件】 PR-CI-Clone通过后自动触发。

(1) 网络原因¶

Paddle 编译、测试时需要下载一些第三方依赖，由于网络原因，可能会下载失败，导致编译、测试失败（如下图所示）。

因此由于网络代理、机器不稳定等原因，遇到 timeout 、访问 503 等情况 ，可以尝试 重新构建此 CI 即可（需要将你的 GitHub 授权于效率云 CI 平台），如下图所示。

(2) 合并代码失败¶

如果提交的代码较陈旧，可能会存在与其他 PR 修改同一文件同一行情况，存在冲突，导致 CI 无法进行 Merge develop ，进而导致 CI 任务失败（如下图所示）。遇到该情况请本地执行 git merge upstream develop 再重新提交代码。

(3) 取消任务¶

每条 CI 任务都设置有超时时间，如果任务失败并且页面显示灰色，应该是任务被取消。取消情况有三种:

1.超时取消；

2.当前 PR 有提交新的 commit ，在运行或排队中的，旧 commit 任务全部取消；

3.关联流水线取消，比如 PR-CI-Py3 任务失败会取消 PR-CI-Coverage 等关联流水线。

解决办法：

第 1 种原因需要先排查是否是代码修改导致，确定不是代码原因导致的可以重新构建此 CI 。

第 2 种无需要关心旧的 commit，新提交 commit 会继续执行 CI 任务，只需关心最新 commit 即可。

第 3 种需要排查 PR-CI-Py3 任务失败原因，确定不是代码原因导致的可以重新构建所有失败 CI 。