我一个3588s的板子带了双摄像头 ， 推理的核心分别是NPU_CORE_0_1 和NPU_CORE_2 ，NPU_CORE_2的推理时间在70-75毫秒，NPU_CORE_0_1的推理时间在 45-50毫秒。python 语言，debian系统，单个分类 ,
2个问题：
感觉推理时间有点长呀 ，同样的环境我单个摄像头，用单个NPU，推理时间在60左右， 单摄像头，双NPU，推理时间在35-40，难道推理不仅仅是NPU，还有别的？
3个NPU核心，我的分组01，2 这样貌似不行。NPU_CORE_0和NPU_CORE_1_2,又或者说我的分组是02，1 ，也不行。 核心好像不能随意分组。
@zhengbicheng 感谢您的建议
首先我以前不是做硬件的，其次我要快速的选型，找到我们需求的硬件，然后才回去仔细研究。目前你们对外开发的资料太少了。 我只能快速的搭建起来看效果，不行的话就下一个。
目前测下来的结果，还可以。期望你们开源更多的资料和数据，尤其是数据，不同环境下的数据。 不仅仅是TO B,还要TO C
我自定义模型：
1.通过https://github.com/EASY-EAI/yolov5 自定义了一个自己的模型，然后运行python3 detect.py --rknn_mode -- source 20 ，调用摄像头没有问题。
2.导出模型：python3 models/export.py --rknn_mode 最后导出的onnx,不是rknn.
3.通过https://github.com/rockchip-linux/rknn-toolkit2/blob/master/examples/onnx/yolov5/test.py(改了下pt文件路径)生成了rknn。
4.我通过rknnlite.api使用新得模型来做推理，最后显示推理结束，我也不知是成功还是失败。最后我参考https://github.com/soloist-v/yolov5_for_rknn/blob/master/rknn_detect_yolov5.py 方法标注矩形框，报错了，失败了。但是用你们提供的yolov5模型没有问题
请问我的自定义模型使用的方法正确不？其次，rknn模型的量化标准是啥,INT8 还是FP16? 你们提供量化的脚本不 ？
@zhengbicheng 这个是我摄像头推理的时间：
inference time：当前这一帧的推理时间
avg_inference_time：以上所有帧平均推理时间
width:宽
height:高,
fps:fps
这样的推理时间正常不 ？
.
@zhengbicheng
通过https://github.com/rockchip-linux/rknn-toolkit/tree/master/examples/onnx/yolov5/yolov5s.onnx转换的。
另外一个事情，我用来测试的图片分辨率是810 X 1080，它有问题，
但是我接入摄像头，就没啥问题，摄像头每一帧的图片是480 X 640。
代码这边：https://github.com/jianwei/machine99/blob/main/detect/RKNN/detect.py （模型我没有上传）
@zhengbicheng 好的
我参考了https://github.com/soloist-v/yolov5_for_rknn/blob/master/rknn_detect_yolov5.py里面的方案，画出来的矩形框位置不对，还是等等你们的吧。
模型训练目前先不急，我先把矩形框位置画对了，再训练
驱动我装了，从这拉的代码https://github.com/rockchip-linux/rknpu2
那这个路径下的文件使用的：/home/coolpi/rknpu2/runtime/RK3588/Linux/librknn_api/aarch64
RKNPU2目前只支持输入数据为NHWC格式----这个问题怎么改？
@zhengbicheng 可能是我的描述不清楚，我们的模型依旧使用 yoloV5训练，用自己训练的模型，不是使用默认的yolov5 模型
yolov5有大概的时间计划不？ 1个月？1个季度？还是明年 ？
@zhengbicheng 假如不考虑yolov5，我只需要推理结果的坐标。这个对我们很重要，后续功能的功能都是通过坐标来实现的
是在运行的时候sudo? 我在3588s板子上面运行已经报同样的错误。
模型我们会自己重新训练，目前使用yolov5仅仅是用来测试功能以及性能是否能满足
直接通过rknn-toolkit2导出的yolov5的rknn模型，在3588s上使用RKNNLite无法init_runtime。
代码如下：
报错如下：
代码：https://github.com/rockchip-linux/rknn-toolkit
按照里面的pdf文档，在PC机器上面安装，没有问题
但是在rk3588s上面不行（非docker,pip安装），package 目录下面的包是x86_64的，不是arm的，请问arm 的从哪下载？
，感谢