基于图正则化的贝叶斯宽度学习系统

【摘 要】作为一种前馈神经网络,宽度学习系统因其精度高、训练速度快且能有效代替深度学习方法而备受研究者的关注。然而,宽度学习系统存在对网络中的特征节点个数比较敏感且求伪逆方式易使模型出现过拟合等问题。为此,在宽度学习系统中引入贝叶斯推断和图正则化。一方面,通过引入先验知识进行贝叶斯学习可以有效提高权重的稀疏性,提高模型的稳定性;另一方面,加入图正则化可充分考虑数据内在的图信息,进一步提高模型的泛化能力。在UCI数据集和NORB数据集上对所提模型进行性能评估,实验结果表明,所提的基于图正则化的贝叶斯宽度学习系统模型能进一步提高宽度学习系统的分类精度且具有更好的稳定性。

【关键词】宽度学习系统 ; 贝叶斯推断 ; 图正则化 ; 模式识别

0 引言

目前,利用人工智能技术快速准确地获取数据并进行分析与处理已成为被广泛关注的问题之一。神经网络(neural network,NN)可以从海量数据中提取有效的特征,常见的模型有径向基函数(radial basis function,RBF)网络、自组织映射(self-organizing map,SOM)网络、递归神经网络(recurrent neural network,RNN)、玻尔兹曼机(Boltzmann machine,BM)、深度置信网络(deep belief network,DBN)、卷积神经网络(convolutional neural network,CNN)等。然而,为了有效完成更复杂的任务,在神经网络模型中有大量超参数需要调节,这会导致模型的训练时间较长且因结构过于复杂

猜你喜欢

转载自blog.csdn.net/weixin_70923796/article/details/134916502