yolov5s int8量化数据集如何选取？

[cjrong]

你好，请问yolov5s int8量化的数据集怎么选取？我从coco中随机选取1700个图片进行校正，校正后检测结果一直为空 与onnx推理结果差太多。但是采用你提供的yolov5s_calibration.cache进行校正的话，int8量化后测试就能得出正确的结果（与onnx推理的结果基本一致）。请问下你的这个校正数据集是怎么选取的，选取了多少张图片，有什么需要注意的地方吗？感谢!

[xyt2008]

同问

[Lenan22]

你好，请问yolov5s int8量化的数据集怎么选取？我从coco中随机选取1700个图片进行校正，校正后检测结果一直为空 与onnx推理结果差太多。但是采用你提供的yolov5s_calibration.cache进行校正的话，int8量化后测试就能得出正确的结果（与onnx推理的结果基本一致）。请问下你的这个校正数据集是怎么选取的，选取了多少张图片，有什么需要注意的地方吗？感谢!

tensorrt自带的量化算法比较简陋，难以解决一些模型的精度下降问题, 请参考我们的开源量化工具ppq，可以协助解决tensorrt的量化问题，有量化的精度推理问题欢迎在我们的社区提问，我们可协助帮你解决。 https://github.com/openppl-public/ppq/blob/master/md_doc/deploy_trt_by_OnnxParser.md

[Lenan22]

同问
tensorrt自带的量化算法比较简陋，难以解决一些模型的精度下降问题, 请参考我们的开源量化工具ppq，可以协助解决tensorrt的量化问题，有量化的精度推理问题欢迎在我们的社区提问，我们可协助帮你解决。 https://github.com/openppl-public/ppq/blob/master/md_doc/deploy_trt_by_OnnxParser.md