4.1.2. PTQ 工具文档

本章节旨在说明地瓜机器人 X3 算法工具链所提供的 PTQ 模型转换方案的工具包的介绍及使用方法。

小技巧

建议您在阅读本章内容之前先完成以下准备工作：

1. 阅读 工具链概览 章节中 PTQ 方案的相关内容和 PTQ 原理及步骤 章节的内容， 以了解对 PTQ 方案和模型转换步骤。

2. 根据 Docker 容器部署 章节的内容完成了 Docker 环境安装配置和镜像拉取。

3. 运行 PTQ 模型转换示例手册 章节中的模型转换相关示例。

本章内容主要介绍地瓜机器人 PTQ 方案的模型转换工具包。 该工具包可在开发机或 Docker 环境下运行。 如果您选择在开发机中运行该工具包，则需要在 X3 天工开物发布物（即：horizon_xj3_open_explorer）的 ddk/package/host 路径下运行 install.sh 脚本进行安装。安装完成后，运行 hb_mapper --help 命令验证工具安装是否成功。 如果您选择在 Docker 容器中运行该工具，则无需以上安装步骤，根据 Docker 容器部署 章节内容， 进入 Docker 容器后，然后运行 hb_mapper --help 命令验证工具安装是否成功。

下面几节内容为您介绍模型转换过程的细节和工具包的各工具使用方法。

• 4.1.2.1. 模型转换过程详解
  • 4.1.2.1.1. 模型检查（hb_mapper checker）
  • 4.1.2.1.2. 准备校准图片
  • 4.1.2.1.3. 模型转换(hb_mapper makertbin)
  • 4.1.2.1.4. 单张图片的模型推理
  • 4.1.2.1.5. 模型精度验证
  • 4.1.2.1.6. 模型性能验证
  • 4.1.2.1.7. [参考]支持的校准方法
  • 4.1.2.1.8. [参考]OP 列表
• 4.1.2.2. hb_mapper 工具
  • 4.1.2.2.1. 模型检查命令（hb_mapper checker）
  • 4.1.2.2.2. 模型编译命令（hb_mapper makertbin）
  • 4.1.2.2.3. 模型推理命令（hb_mapper infer）
  • 4.1.2.2.4. 关键配置参数 calibration_parameters.preprocess_on 介绍
  • 4.1.2.2.5. 配置文件参考样例
    • 4.1.2.2.5.1. 参考配置文件以及说明
    • 4.1.2.2.5.2. 关于 input_type_rt/ input_type_train
• 4.1.2.3. hb_perf 工具
  • 4.1.2.3.1. 使用方法
  • 4.1.2.3.2. 命令行参数
  • 4.1.2.3.3. 输出内容说明
• 4.1.2.4. vec_diff 工具
  • 4.1.2.4.1. 使用方式
  • 4.1.2.4.2. 命令行参数
  • 4.1.2.4.3. 输出内容说明
• 4.1.2.5. hb_model_info 工具
  • 4.1.2.5.1. 使用方法
  • 4.1.2.5.2. 命令行参数
  • 4.1.2.5.3. 输出内容说明
• 4.1.2.6. hb_pack 工具
  • 4.1.2.6.1. 使用方法
  • 4.1.2.6.2. 命令行参数
  • 4.1.2.6.3. 输出内容说明
• 4.1.2.7. hb_verifier 工具
  • 4.1.2.7.1. 使用方式
  • 4.1.2.7.2. 命令行参数
  • 4.1.2.7.3. 参考使用场景样例
  • 4.1.2.7.4. 输出内容说明
• 4.1.2.8. hb_model_modifier 工具
  • 4.1.2.8.1. 使用方式
  • 4.1.2.8.2. 命令行参数
  • 4.1.2.8.3. 输出内容说明
• 4.1.2.9. hb_custom_op 工具
  • 4.1.2.9.1. 使用方法
  • 4.1.2.9.2. 命令行参数
  • 4.1.2.9.3. 输出内容说明
• 4.1.2.10. hb_eval_preprocess 工具
  • 4.1.2.10.1. 使用方法
  • 4.1.2.10.2. 命令行参数
  • 4.1.2.10.3. 输出内容说明
• 4.1.2.11. HB_ONNXRuntime 推理库
  • 4.1.2.11.1. 使用方法
  • 4.1.2.11.2. 参数说明
• 4.1.2.12. 精度 debug 工具
  • 4.1.2.12.1. 快速上手
    • 4.1.2.12.1.1. 校准模型与数据的保存
    • 4.1.2.12.1.2. 精度 debug 模块导入与使用
    • 4.1.2.12.1.3. 分析结果展示
  • 4.1.2.12.2. 功能说明文档
    • 4.1.2.12.2.1. get_sensitivity_of_nodes
    • 4.1.2.12.2.2. plot_acc_error
    • 4.1.2.12.2.3. plot_distribution
    • 4.1.2.12.2.4. get_channelwise_data_distribution
    • 4.1.2.12.2.5. sensitivity_analysis
    • 4.1.2.12.2.6. runall