基于稀疏化神经网络在微控制器芯片上的应用

发布时间：2024-06-30 14:12

　　神经网络都是在后端服务器上进行数据处理与识别,针对服务器压力日益增加的问题,提出基于稀疏化神经网络在微控制器芯片上实现数据处理与前端识别。微控制器芯片不依赖操作系统,Arm FuSa RTS保证了微控制器的高稳定性和低功耗。利用CMSIS-NN在微控制器芯片上搭建与服务器上相同的稀疏化卷积神经网络(CNN)模型,然后把服务器上训练的经验值移植到微控制芯片上。经实验对比在微控制器和服务器上稀疏化CNN的识别准确率,结果显示准确率基本保持一致。因此在微控制芯片上搭建稀疏化神经网络可有效解决网络带宽和服务器压力过大等问题。

【文章页数】：6 页

【部分图文】：

图1M-P神经元数学模型

神经网络最简单的数学模型是1943年提出的McClloch-Pitts神经元模型，M-P神经元模型如图1所示。由图1可知，M-P神经元模型有m个输入信号，x经过各自相应的权重Wm传至神经元，经过求和后得到E=∑WixEi。将E与阈值T进行比较，当E>T时，信号通过激活函数被激活....

图2正向传播过程

y1和y2经过激活函数ReLU有：经过激活函数后分别得到输出值out1和out2。经过上述过程，输入图像完成了前向传播。但得到的输出值out往往与期望值tar相差巨大，这时要对误差进行反向传播，更新权重值。

图3基于微控制器Cortex-M的神经网络

基于微控制器Cortex-M的神经网络如图3所示，首先在训练机上利用Python基于TensorFlow搭建神经网络模型，通过数据库进行初步学习，根据识别效果调整网络模型或参数，达到预期效果后固定其网络模型及参数，在Cortex-M系列开发板上基于ARM的CMSIS-NN搭建与....

图4稀疏化神经网络流程图

稀疏化神经网络流程如图4所示。首先对搭建的神经网络进行训练，根据利用降维矩阵DLm对已训练好的网络的每一层权值进行处理，连接较弱的权值将被丢弃，连接强的权值保留。根据神经元间的相关性系数和稀疏度计算降维矩阵[6]。当每一层Lm被稀疏化后，由网络Nm-1结构和权值初始化新的网络模型....

本文编号：3998853