4.5. 上板运行(runtime)应用开发说明

• 4.5.1. 模型上板运行示例说明
  • 4.5.1.1. 简介
    • 示例代码包结构介绍
  • 4.5.1.2. 环境构建
    • 开发板准备
    • 编译
  • 4.5.1.3. 示例使用
    • basic_samples 示例
      • quick_start
      • api_tutorial
      • advanced_samples
      • misc
  • 4.5.1.4. 辅助工具和常用操作
    • 日志
      • 示例日志
      • 模型推理 DNN API日志
• 4.5.2. 模型推理接口使用说明
  • 4.5.2.1. 概述
  • 4.5.2.2. 数据类型和数据结构
    • 版本信息类
      • HB_DNN_VERSION_MAJOR
      • HB_DNN_VERSION_MINOR
      • HB_DNN_VERSION_PATCH
    • 模型类
      • HB_DNN_TENSOR_MAX_DIMENSIONS
      • HB_DNN_INITIALIZE_INFER_CTRL_PARAM
      • hbPackedDNNHandle_t
      • hbDNNHandle_t
      • hbDNNTaskHandle_t
      • hbDNNTensorLayout
      • hbDNNDataType
      • hbDNNTensorShape
      • hbDNNQuantiShift
      • hbDNNQuantiScale
      • hbDNNQuantiType
      • hbDNNTensorProperties
      • hbDNNTaskPriority
      • hbDNNTensor
      • hbDNNRoi
      • hbDNNInferCtrlParam
    • 系统类
      • hbBPUCore
      • hbDSPCore
      • hbSysMem
      • hbSysMemFlushFlag
    • 前处理类
      • HB_DNN_INITIALIZE_RESIZE_CTRL_PARAM
      • hbDNNResizeType
      • hbDNNResizeCtrlParam
    • 插件类
      • hbDNNLayerCreator
  • 4.5.2.3. API接口
    • 版本信息
      • hbDNNGetVersion()
    • 模型加载/释放
      • hbDNNInitializeFromFiles()
      • hbDNNInitializeFromDDR()
      • hbDNNRelease()
    • 模型信息
      • hbDNNGetModelNameList()
      • hbDNNGetModelHandle()
      • hbDNNGetInputCount()
      • hbDNNGetInputName()
      • hbDNNGetInputTensorProperties()
      • hbDNNGetOutputCount()
      • hbDNNGetOutputName()
      • hbDNNGetOutputTensorProperties()
    • 模型推理
      • hbDNNInfer()
      • hbDNNRoiInfer()
      • hbDNNWaitTaskDone()
      • hbDNNReleaseTask()
    • 内存操作
      • hbSysAllocMem()
      • hbSysAllocCachedMem()
      • hbSysFlushMem()
      • hbSysFreeMem()
      • hbSysWriteMem()
      • hbSysReadMem()
      • hbSysRegisterMem()
      • hbSysUnregisterMem()
    • 前处理
      • hbDNNResize()
    • 插件
      • hbDNNRegisterLayerCreator()
      • hbDNNUnregisterLayerCreator()
  • 4.5.2.4. 数据排布及对齐规则
    • 数据排布
    • BPU对齐限制规则
      • 模型输入要求
      • stride要求
    • NV12介绍
      • YUV格式
      • NV12排布
  • 4.5.2.5. 错误码
  • 4.5.2.6. 配置信息
  • 4.5.2.7. 开发机模拟器使用注意事项
• 4.5.3. 模型上板分析工具说明
  • 4.5.3.1. 简介
  • 4.5.3.2. hrt_model_exec 工具使用说明
    • 输入参数描述
    • 使用说明
      • model_info
        • 输入参数补充说明
      • infer
        • 多输入模型说明
        • 输入参数补充说明
      • perf
        • 多线程Latency数据说明
        • 输入参数补充说明
  • 4.5.3.3. hrt_bin_dump 工具使用说明
    • 输入参数描述
    • 使用说明
      • 示例说明
• 4.5.4. 公版模型精度评测说明
  • 4.5.4.1. 公版模型性能精度指标
  • 4.5.4.2. 评测方法说明
    • 简介
      • 示例代码包结构
      • 示例模型
      • 公共数据集
    • 环境构建
      • 开发板准备
      • 编译环境准备
    • 测评示例使用说明
      • 性能评测
        • 测评脚本使用说明
        • 命令行参数说明
        • 配置文件说明
      • 精度评测
        • 数据预处理
        • 数据挂载
        • 模型推理
        • 精度计算
    • 模型集成
      • 后处理文件添加
      • 增加模型运行脚本及配置文件
    • 辅助工具和常用操作
      • 日志系统使用说明
        • 示例日志
        • 模型推理API DNN日志
      • 算子耗时说明
      • dump工具