基于改进激活函数和学习率的双向LSTM研究
作者:
作者单位:

重庆师范大学 计算机与信息科学学院; 重庆师范大学 新闻与传媒学院, 重庆 401331;西南大学 计算机与信息科学学院, 重庆 400715

作者简介:

通讯作者:

基金项目:


Research on Bidirectional LSTM Based on Improved Activation Function and Learning Rate
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
    摘要:

    【目的】目前双向长短期记忆网络(Long short term memory,LSTM)在语音识别、图像识别和情感分类等方面的应用越来越广泛,基于此研究如何提高双向LSTM的准确率。【方法】提出一种改进的双向LSTM,通过对LSTM中输入门与输出门激活函数的改进,并结合改进的学习率,能够大大地提高神经网络的收敛速度与准确率。【结果】在不同领域的数据集MNIST和IMDB上分别进行实验,改进的双向LSTM在MNIST数据集上的准确率达到了99.61%,比基准双向LSTM的准确率提高了1172%,在IMDB数据集上的准确率则达到了88.08%,比基准双向LSTM的准确率提高了1.6%,而且在两个数据集上在迭代次数较小的情况下,相比基准双向LSTM,改进的算法都达到了较高的准确率和较低的损失率。【结论】由此证明改进的双向LSTM优于基准双向LSTM。

    Abstract:

    参考文献
    相似文献
    引证文献
引用本文

李军, 李明, 曾蒸, 李莉.基于改进激活函数和学习率的双向LSTM研究[J].重庆师范大学学报自然科学版,2021,(2):70-

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
历史
  • 收稿日期:
  • 最后修改日期:
  • 录用日期:
  • 在线发布日期: