4.4. 训练后量化(PTQ)使用说明

• 4.4.1. PTQ原理及步骤详解
  • 4.4.1.1. 简介
  • 4.4.1.2. 模型算子约束
  • 4.4.1.3. 模型准备
  • 4.4.1.4. 模型验证
    • 使用 hb_mapper checker 工具验证模型
    • 检查异常处理
    • 检查结果解读
    • 检查结果的调优指导
  • 4.4.1.5. 模型转换
    • 准备校准数据
    • 使用 hb_mapper makertbin 工具转换模型
    • 模型转换yaml配置参数说明
      • 预处理HzPreprocess算子说明
    • 转换内部过程解读
    • 转换结果解读
    • 转换产出物解读
  • 4.4.1.6. 模型性能分析与调优
    • 使用 hb_perf 工具估计性能
    • 开发板实测性能
    • 模型性能优化
      • 检查影响模型性能的yaml参数
      • 处理CPU算子
      • 高性能模型设计建议
      • BPU面向高效率模型优化
  • 4.4.1.7. 模型精度分析与调优
    • 模型精度分析
    • 精度调优
      • 精度有明显损失（4%以上）
      • 较小精度损失提升
    • 使用QAT量化感知训练方案进一步提升模型精度
  • 4.4.1.8. 其它工具使用说明
    • hb_perf 工具
    • hb_pack 工具
    • hb_model_info 工具
    • hb_model_modifier 工具
    • hb_model_verifier 工具
    • hb_eval_preprocess 工具
• 4.4.2. 模型算子支持列表
  • 4.4.2.1. 使用限制说明
  • 4.4.2.2. 支持的Caffe算子列表
  • 4.4.2.3. 支持的ONNX算子列表