MOb-GRU神经网络工业软测量建模方法与输出预测

论文题目：MOb-GRU神经网络工业软测量建模方法与输出预测

录用期刊：控制理论与应用（EI）

原文链接：http://kns.cnki.net/kcms/detail/44.1240.TP.20220420.1059.002.html

作者列表

1） 王 珠 中国石油大学（北京） 信息科学与工程学院 自动化系

2） 刘佳璇 中国石油大学（北京） 信息科学与工程学院 自动化系 硕20级

摘要:

由于工业过程具有强非线性、动态特性与慢时变性，其完整性建模相对较难。针对工业过程的现有软测量技术并未综合考虑过程的非线性和动态特性。故本文提出了一种依赖模型阶次的GRU(Model Order based-GRU, MOb-GRU)神经网络软测量模型，针对非线性动态过程进行全动态建模。首先，在MOb-GRU的结构选择上，本文根据所研究实际对象的动态特性复杂程度确定网络的总模块数。另外，MOb-GRU能灵活设置反向更新的单元数，这种设置打破了传统GRU只能从第一个模块开始输出的限制。其次，为使记忆网络以较快的速率收敛到最优，本文分别设计了基于自适应学习率和学习率矩阵的网络训练算法。接着，仿真实验分别选取了典型的单变量与多变量非线性动态过程，并采用MOb-GRU神经网络对其进行建模和预测，最后，仿真结果证实了MOb-GRU网络结构的合理性以及训练算法的高效性。

设计与实现:

本文设计的单变量MOb-GRU(SISO-MOb-GRU)信息流向图和单变量GRU(SISO-GRU)信息流向图如图1所示。为体现过程的动态特性，本文将采用递归的方式给网络的输入信号赋值，使MOb-GRU模型呈现出一种动态效果。SISO-GRU信息流向图中的变量同理。

(a) SISO-MOb-GRU信息流向图

(b) SISO-GRU信息流向图

图1 单变量MOb-GRU与单变量GRU信息流向图

高维、高阶多变量过程普遍存在于现代工业过程中，因此基于MOb-GRU对多变量过程进行动态建模具有重要的实际意义。图2为本文设计的多变量MOb-GRU(MIMO-MOb-GRU)信息流向图。

图2 MIMO-MOb-GRU信息流向图

      此外，本文还设计了一种简单而有效的阶跃衰减类(Step Attenuation Class, SAC)自适应学习率算法与学习率矩阵算法，两种方法均保证了整个系统更快地收敛和稳定，提高了预测的准确率。

实验结果:

对于单变量非线性动态过程，在实验得到的最优网络结构参数下，分别基于三种预测模型(RNN、GRU、MOb-GRU)采用SAC自适应学习率优化算法对单变量非线性动态过程进行模拟，预测曲线与真实曲线对比如图3所示，取测试集中100个数据进行预测。由图3可知，当合理设置模型参数后，MOb-GRU的预测曲线更接近实际曲线，能更好地跟踪真实曲线的变化。表1给出三种模型在不同算法下的预测结果，采用RMSE评价指标评价模型的预测精度。其中，下标a表示采用SAC自适应学习率算法的网络训练结果；下标m表示采用学习率矩阵算法的网络训练结果；无下标表示采用固定学习率算法的网络训练结果。

表1 不同学习率优化算法下三种预测模型的RMSE

图3 三种预测模型采用SAC自适应学习率算法的预测曲线与真实曲线

在单变量非线性动态过程的研究基础上，将其拓展为多变量非线性动态过程进行研究。本文考虑三输入单输出过程。在实验得到的最优网络结构参数下，图4给出测试集上三种预测模型在SAC自适应学习率优化算法下的预测曲线与真实曲线，取测试集的200个数据进行预测。从图4可以看出，在存在高斯噪声的情况下，基于MOb-GRU软测量模型得到的估计值能更好地拟合实际值的变化趋势，具有更高的建模精度，说明MOb-GRU模型能够充分捕获数据中隐藏的信息，从而使预测运算能够达到更好的效果。

图4 采用SAC自适应学习率算法对实际过程模拟的预测曲线与真实曲线对比

作者简介:

王珠，中国石油大学（北京）副教授、硕士生导师、自动化系副主任、工会组长、北京自动化学会会员。长期从事多变量及非线性系统建模与辨识、智能控制技术、机器学习与神经网络方面的研究工作。联系方式：zwang@cup.edu.cn