6.2.1. PTQ 转换工具阅读概览¶
工具 |
工具简介 |
|---|---|
hb_mapper 工具是地瓜机器人提供的将浮点模型映射为量化模型并附带验证功能的工具， 提供模型检查、模型转换以及各阶段卷积层向量输出的功能。 |
|
hb_perf 工具是地瓜机器人提供的用于分析量化混合模型性能的分析工具。 |
|
vec_diff 工具是地瓜机器人提供的向量比较工具，通过该工具， 可以比较不同阶段模型的卷积层输出差异，可用于定位精度异常问题。 |
|
hb_model_info 工具是地瓜机器人提供的用于解析混合模型（*.bin）编译时的依赖及参数信息的工具。 |
|
hb_pack 工具是地瓜机器人提供的用于将多个混合模型（*.bin）文件打包为一个模型文件的工具。 |
|
hb_verifier 工具是地瓜机器人提供的用于对指定的定点模型和 runtime 模型进行结果验证的工具。 |
|
hb_model_modifier 工具是地瓜机器人提供的用于对 runtime 模型输入输出端一些特定类型节点进行删除的工具。 |
|
hb_custom_op 工具是地瓜机器人提供的用于生成包含自定义算子 python 模板文件的工具， 生成的模板文件中包含自定义算子的计算定义函数。 |
|
hb_eval_preprocess 工具是地瓜机器人提供的用于对模型精度进行评估时， 在 x86 环境下对图片数据进行预处理 （包括图片 resize、crop、padding 等在图片数据送入模型前的特定处理操作）的工具。 |
|
HB_ONNXRuntime 是地瓜机器人基于公版 ONNXRuntime 封装的一套 x86 端的 ONNX 模型推理库。 |
|
精度 debug 工具是地瓜机器人提供的用于协助您自主定位模型量化过程中产生的精度问题的工具， 该工具能够协助您对校准模型进行节点粒度的量化误差分析，最终帮助您快速定位出现精度异常的节点。 |