6.4. PTQ 转换示例

小技巧

  1. 我们推荐您在使用本手册之前,先阅读 工具链概览 章节 和 PTQ 原理及步骤 部分, 以便对 PTQ 训练后量化方案(以下简称为 PTQ 方案)有一个比较充分地了解。

  2. 如果您在进行自定义模型转换时需要了解 PTQ 浮点定点模型转换方案工具的使用, 请阅读 PTQ 工具文档

  3. 在使用手册完成 PTQ 示例包的模型转换工作之后,请继续阅读 AI_Benchmark 手册BPU SDK API 手册 章节进行嵌入式开发工作,将模型部署上板。

PTQ 示例包帮助开发者快速体验并上手 PTQ 训练后量化方案。 开发者使用 PTQ 示例包不仅能够体验将 32 位浮点(FLOAT32)精度的示例模型转换为可以在地瓜机器人 X5 平台上运行的 8 位定点整数(INT8)精度的 bin 模型, 还能够了解如何使用 PTQ 方案提供的工具,并且基于示例脚本设计自定义模型转换业务逻辑脚本。

本手册旨在指导开发者使用地瓜机器人 X5 算法工具链的 PTQ 模型转换示例包 (以下简称为 PTQ 示例包)。 您可以在地瓜机器人 X5 天工开物发布物(即:horizon_x5_open_explorer)中获取 PTQ 示例包: samples/ai_toolchain/horizon_model_convert_sample

下一章内容将为您介绍 PTQ 示例包的发布物内容。