6.2. PTQ 转换工具

本章节旨在说明地瓜机器人 X5 算法工具链所提供的 PTQ 模型转换方案的工具包的介绍及使用方法。

小技巧

建议您在阅读本章内容之前先完成以下准备工作：

1. 阅读 工具链概览 章节中 PTQ 方案的相关内容和 PTQ 转换原理及流程 章节的内容， 以了解对 PTQ 方案和模型转换步骤。

2. 根据 Docker 容器部署 章节的内容完成了 Docker 环境安装配置和镜像拉取。

本章内容主要介绍地瓜机器人 PTQ 模型转换方案的工具包。该工具包可在开发机或 Docker 环境下运行。 如果您选择在开发机中运行该工具包，则需要在 X5 天工开物发布物（即：horizon_x5_open_explorer）的 package/host 路径下运行 install.sh 脚本进行安装。 安装完成后，运行 hb_mapper --help 命令验证工具安装是否成功。 如果您选择在 Docker 容器中运行该工具，则无需以上安装步骤，根据 Docker 容器部署 章节内容， 进入 Docker 容器后，然后运行 hb_mapper --help 命令验证工具安装是否成功。

下面几节内容为您介绍各工具使用方法。

• 6.2.1. PTQ 转换工具阅读概览
• 6.2.2. hb_mapper 工具
  • 6.2.2.1. 模型检查命令（hb_mapper checker）
  • 6.2.2.2. 模型编译命令（hb_mapper makertbin）
  • 6.2.2.3. 模型推理命令（hb_mapper infer）
• 6.2.3. hb_perf 工具
  • 6.2.3.1. 使用方法
  • 6.2.3.2. 命令行参数
  • 6.2.3.3. 输出内容说明
• 6.2.4. vec_diff 工具
  • 6.2.4.1. 使用方式
  • 6.2.4.2. 命令行参数
  • 6.2.4.3. 输出内容说明
• 6.2.5. hb_model_info 工具
  • 6.2.5.1. 使用方法
  • 6.2.5.2. 命令行参数
  • 6.2.5.3. 输出内容说明
• 6.2.6. hb_pack 工具
  • 6.2.6.1. 使用方法
  • 6.2.6.2. 命令行参数
  • 6.2.6.3. 输出内容说明
• 6.2.7. hb_verifier 工具
  • 6.2.7.1. 使用方式
  • 6.2.7.2. 命令行参数
  • 6.2.7.3. 参考使用场景样例
  • 6.2.7.4. 输出内容说明
• 6.2.8. hb_model_modifier 工具
  • 6.2.8.1. 使用方式
  • 6.2.8.2. 命令行参数
  • 6.2.8.3. 输出内容说明
• 6.2.9. hb_custom_op 工具
  • 6.2.9.1. 使用方法
  • 6.2.9.2. 命令行参数
  • 6.2.9.3. 输出内容说明
• 6.2.10. hb_eval_preprocess 工具
  • 6.2.10.1. 使用方法
  • 6.2.10.2. 命令行参数
  • 6.2.10.3. 输出内容说明
• 6.2.11. HB_ONNXRuntime 推理库
  • 6.2.11.1. 使用方法
  • 6.2.11.2. 参数说明
• 6.2.12. 精度 debug 工具
  • 6.2.12.1. 快速上手
  • 6.2.12.2. 功能说明文档