加入收藏 | 设为首页 | 会员中心 | 我要投稿 惠州站长网 (https://www.0752zz.com.cn/)- 办公协同、云通信、物联设备、操作系统、高性能计算!
当前位置: 首页 > 业界 > 正文

2020 年了,深度学习接下来到底该怎么走?

发布时间:2020-02-15 07:05:31 所属栏目:业界 来源:站长网
导读:副标题#e# 在过去的一年,深度学习技术在各个领域一如既往地取得了不少进展。然而当前深度学习技术(本文中称为深度学习1.0)仍然存在着一些明显的局限,例如在解决有意识任务方面的不足。那么针对这些局限性,在未来的一年,有哪些可能的解决方案?深度学习又

什么时候集中注意力?该图改源自Jay Alammar关于神经机器翻译的文章(https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/)。编码器的输出是三个隐藏状态向量,在输出翻译文本时,两个解码状态(时间步长4和5)通过注意力机制(A4和A5)选择了这三个隐藏状态向量的不同比例求和。

注意力机制在前面所述“在抽象空间中预测”的方法中起着关键作用,用于在大量表示(构成无意识空间的表示)中选择需要注意的方面以帮助有意识的任务解决。因果推理,规划或寻找最佳解决方案的图搜索都可以作为时间上的序列处理任务,在每个时间步中,都需要用注意力机制来选择合适的(源于无意识状态集的)隐藏状态子集。

(编辑:惠州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读