“基于Borges差分的RMSprop算法及在卷积神经网络参数训练中的应用”最新研究成果
高哲,男,辽宁沈阳人,工学博士,辽宁大学轻型产业学院电气工程及其自动化系主任,教授,辽宁省“兴辽英才计划”青年拔尖人才,辽宁大学青年拔尖人才。主要研究方向为分数阶系统、深度学习、储能技术。
卷积神经网络解决了大规模图像数据处理问题,成为深度学习算法中重要的研究分支领域。随着图像数据的增加和图像识别任务复杂性的增强,分数阶神经网络模型的稳定性以及分数阶梯度神经网络的优化算法得到广泛的研究,高哲团队近年来一直致力于该领域的研究工作。
目前,图像识别主要用卷积神经网络,采用RMSprop算法可以提高图像识别的精度。同时,采用不同的方法来避免过拟合和欠拟合。为了更好地提高图像识别精度,可以采用分数阶与卷积神经网络相结合的方式。高哲教授研究团队最新研究成果将分数阶微积分理论引入到卷积神经网络的结构设计和权重优化中,可以自适应调整分数阶阶次这个超参数来改善网络性能。利用Borges分形导数完成了对卷积神经网络的权重和参数的优化,可以更加灵活地调整权重和偏詈的参数。通过梯度信息自适应地调整阶次,改善了RMSprop算法的优化速度和精度,使基于RMSprop优化算法的卷积神经网络参数图像识别精度更高。
文章出处:《辽宁大学学报(自然科学版)》2023年第1期
文章链接:https://kns.cnki.net/kcms2/article/abstract?v=vdPasdvfHvu4eZ1kU8t3w5VH72E8SIzePxsNxcLPh3kxHrPygpuUDv9luVzlUAj_78scPVKvYWmxKtFMi-oAot-1-FyuiZ2i4jP1nwLEin4SEEXbcjKJ4BuBnfAPpEPH&uniplatform=NZKPT