OringePi5 rknn驱动包

OringePi5 rknn-toolkit安装包是一款专门为OringePi5设备优化的深度学习推理工具包，支持rknn格式的模型部署。rknn-toolkit集成了模型转换、优化、编译和运行等关键步骤，能够帮助开发者在NPU（Neural Processing Unit）上获得更高的推理性能。rknn格式是由OringePi官方支持的一种模型格式，它支持深度学习框架如TensorFlow、PyTorch、Caffe等转换成的模型。 rknn-toolkit2-1.5.2版本是rknn-toolkit工具的更新版，它不仅修复了之前版本中存在的bug，还提升了模型转换和推理的效率。开发者可以通过这个工具包将训练好的深度学习模型转换为rknn格式，并利用OringePi5内置的NPU进行高效的推理运算，这对于需要实时处理能力和高效率计算的边缘计算场景尤为适用。 使用rknn-toolkit进行模型部署，可以大幅度降低对硬件资源的需求，提升设备的功耗效率比，使得OringePi5在资源受限的边缘设备上也能发挥出优秀的性能。rknn-toolkit支持的NPU加速不仅减少了模型推理时间，还能够支持更多的深度学习应用，如图像识别、视频分析、语音处理等。 值得注意的是，rknn-toolkit安装包对OringePi5系列设备的支持是全面的，这意味着开发者能够获得针对不同OringePi5型号优化的工具包，以充分利用这些设备的NPU功能。由于rknn格式的兼容性，模型可以从一个支持的框架转换到rknn，再从rknn部署到OringePi5的NPU上，这个过程简洁流畅。 rknn-toolkit工具包的推出，降低了深度学习模型部署到OringePi5的门槛，使得即使是初学者也能够较为容易地将深度学习应用投入到实际的开发和生产中。通过rknn-toolkit，开发者可以将AI模型快速地部署到OringePi5设备上，加速产品的研发和迭代过程，特别是在智能硬件、物联网、工业自动化等领域。 OringePi5 rknn-toolkit安装包为开发者提供了一套完整的解决方案，使得利用OringePi5的NPU进行深度学习应用的开发成为可能。rknn-toolkit2-1.5.2版本的推出，不仅提升了性能和兼容性，也进一步扩展了应用场景，对于边缘计算和实时智能应用的开发者来说，是一个值得期待的工具包。

近半年一直用瑞星微的芯片做项目，一开始并没有使用它的rknn框架，直到其它难点全部攻克后正好是2025年春节放假了，又正好这次没有旅游计划，所以在才有时间研究一下，发现rknn真是个好东西，就想把它封装到Delphi中，于是就有了我这个 rknn4Delphi 目前只写了图像识别和图像分类 2个模块，并且已开源到 github： 随着人工智能技术的飞速发展，将机器学习模型应用于各类软件开发中已成为一种趋势。瑞星微作为一家知名的半导体公司，其推出的RKNN（Rockchip Neural Network）推理框架在边缘计算领域表现不凡。RKNN为开发者提供了一种高效、便捷的方式来部署神经网络模型到基于瑞星微芯片的设备上。在此基础上，探索将RKNN框架封装进Delphi编程语言的实践中，无疑对于拓宽Delphi的应用场景和提升其处理复杂算法的能力有着重要的意义。 Delphi作为一种快速应用开发工具，其简洁的语法、强大的编译器和丰富的组件库使得它在桌面应用程序的开发中占据一席之地。然而，在处理深度学习、图像处理等人工智能相关任务时，Delphi本身的功能相对有限。通过封装RKNN框架，开发者能够利用RKNN高效的数据处理能力，在Delphi环境下实现复杂的图像识别和分类功能，这无疑增强了Delphi的应用范围和竞争力。 本项目名为rknn4Delphi，它主要包含了图像识别和图像分类两个模块，这两个模块是计算机视觉中最为基础且应用广泛的领域。图像识别主要涉及到从图像中识别出特定的物体或者模式，而图像分类则是将图像划分到不同的类别中。rknn4Delphi封装了RKNN框架后，能够支持开发者将训练好的神经网络模型部署到使用Delphi开发的应用程序中，从而实现快速准确的图像处理能力。 此外，rknn4Delphi已经被开源到GitHub上，这为全球的开发者社区提供了一个宝贵的资源。开源意味着更多的开发者可以参与到这个项目的完善中来，不仅能够利用此框架加速自己的项目开发，还能够对rknn4Delphi进行改进和扩展，使其适应更多特定的业务需求和硬件平台。开源的做法也符合当前软件开发领域提倡的协作和共享精神，有助于形成一个更加开放和活跃的开发者社区。 至于rknn4Delphi如何在实际应用中发挥作用，我们可以想象一个典型的场景：在零售行业，通过摄像头收集的顾客购买行为视频流可以被rknn4Delphi处理，以识别商品种类并统计各类商品的销售情况。这不仅能够帮助商家更精准地进行库存管理和销售策略的制定，还可以为顾客提供个性化的购物体验。在医疗领域，rknn4Delphi也可以辅助医生进行疾病的早期诊断，通过图像识别技术快速检测出病变组织，从而提高诊断的准确率和效率。 rknn4Delphi作为将RKNN框架成功封装进Delphi环境的项目，对于想要在Delphi中实现深度学习应用的开发者来说，是一个非常有价值的学习和工作资源。它不仅降低了技术门槛，还促进了技术的创新和应用，有望推动Delphi在新时代中的发展。同时，rknn4Delphi的开源性质也为全球开发者带来了便利，有助于形成一个互助合作的技术社区。

yolov5-7.0实例分割模型转onnx再转rknn，含各个阶段代码。包括： （1）pt转onnx （2）onnx转rknn及推理 （3）rknn推理

文件中包含内容： 使用平台为RK3588 (1)step1:pt模型转onnx (2)step2: onnx调用做推理 (3)step3: onnx转rknn模型 (4)step4:rknn模型调用

rknn-toolkit-v1.7.3-packages

原模型为pytorch转后得到的onnx文件hrnet_coco_w32_256x192.onnx，用的coco val数据集做的量化，输入为（1，3，256，192），输出为（1，17，64，48）的关键点热图，后面通过高斯化函数可得到关键点，结果经测试。

支持的平台 - RK3566/RK3568 - RK3588/RK3588S - RV1103/RV1106

开发瑞芯微的rv1126时，对于pytorch训练好的模型需要进行转换，rknn安装需要torch版本为1.6.0，本资源提供torch-1.6.0-cp36-cp36m-manylinux1_x86_64.whl安装包，以便快速完成环境配置

1. 执行以下命令更新系统包，这些包在后面安装 Python 依赖包时会用到 2. 执行以下命令更新 pip 3. 安装 Python 打包工具 4. 安装依赖