主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公English
2020-2021年专刊出版计划 微信服务介绍 最新一期:2020年第10期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
丁世飞,张健,史忠植.基于权值不确定性的玻尔兹曼机算法.软件学报,2018,29(4):1131-1142
基于权值不确定性的玻尔兹曼机算法
Algorithms of Boltzmann Machines Based on Weight Uncertainty
投稿时间:2016-09-06  修订日期:2016-10-19
DOI:10.13328/j.cnki.jos.005263
中文关键词:  玻尔兹曼机  深度玻尔兹曼机  深度置信网  权值不确定性
英文关键词:RBM (restricted Boltzmann machine)  DBM (deep Boltzmann machine)  DBN (deep belief net)  weight uncertainty
基金项目:国家自然科学基金(61672522,61379101);国家重点基础研究发展计划(973)(2013CB329502)
作者单位E-mail
丁世飞 中国矿业大学 计算机科学与技术学院, 江苏 徐州 221116
中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190 
dingsf@cumt.edu.cn 
张健 中国矿业大学 计算机科学与技术学院, 江苏 徐州 221116
中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190 
 
史忠植 中国科学院 计算技术研究所 智能信息处理重点实验室, 北京 100190  
摘要点击次数: 2477
全文下载次数: 2264
中文摘要:
      受限制的玻尔兹曼机(RBM)是一种无向图模型.基于RBM的深度学习模型包括深度置信网(DBN)和深度玻尔兹曼机(DBM)等.在神经网络和RBM的训练过程中,过拟合问题是一个比较常见的问题.针对神经网络的训练,权值随机变量(weight random variables)、Dropout方法和早期停止方法已被用于缓解过拟合问题.首先,改变RBM模型中的训练参数,使用随机变量代替传统的实值变量,构建了基于随机权值的受限的波尔兹曼机(weight uncertainty RBM,简称WRBM),接下来,在WRBM基础上构建了相应的深度模型:Weight uncertainty Deep Belief Network(WDBN)和Weight uncertainty Deep Boltzmann Machine(WDBM),并且通过实验验证了WDBN和WDBM的有效性.最后,为了更好地建模输入图像,引入基于条件高斯分布的RBM模型,构建了基于spike-and-slab RBM(ssRBM)的深度模型,并通过实验验证了模型的有效性.
英文摘要:
      Based on the restricted Boltzmann machine (RBM), which is a probabilistic graphical model, deep learning models contain deep belief net (DBN) and deep Boltzmann machine (DBM). The overfitting problems commonly exist in neural networks and RBM models. In order to alleviate the overfitting problem, this paper introduces weight random variables to the conventional RBM model and, then builds weight uncertainty deep models based on maximum likelihood estimation. In the experimental section, the paper verifies the effectiveness of the weight uncertainty RBM. In order to improve the image recognition ability, the paper introduces the spike-and-slab RBM (ssRBM) to weight uncertainty RBM and then builds the deep models. The experiments show that the deep models based on weight random variables are effective.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会 京ICP备05046678号-4
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利