AI和机器学习的重要趋势是什么？

们允许在一个大型数据集上进行NLP模型的预先训练，然后快速对其进行微调以适应其他NLP任务。

来自优秀研究机构和科技公司的团队探索了使比较先进的语言模型更加复杂的方法。计算能力的大幅度提高推动了许多改进，但是许多研究小组还发现了更精巧的方法来减轻模型并保持高性能。

目前的研究趋势如下：

• 新的NLP范例是"预训练+微调"。在过去的两年中，转移学习主导了NLP研究。ULMFiT，CoVe，ELMo，OpenAI GPT，BERT，OpenAI GPT-2，XLNet，RoBERTa，ALBERT –这是最近介绍的重要的预训练语言模型的详尽列表。尽管转移学习无疑将NLP推向了新的高度，但由于要求大量的计算成本和庞大的带注释数据集所以它经常会受到批评。
• 语言学和知识可能会提高NLP模型的性能。专家认为，语言学可以通过改善数据驱动方法的可解释性来促进深度学习。利用上下文和人类知识可以进一步提高NLP系统的性能。
• 神经机器翻译展示了可见的进步。同步机器翻译已经可以在现实世界中应用。最近的研究旨在突破通过优化神经网络体系结构，利用视觉上下文以及为无监督和半监督机器翻译引入新颖的方法来进一步提高翻译质量。

对话式AI

会话式AI已成为跨行业业务实践的组成部分。越来越多的公司正在利用聊天机器人为客户服务，为销售和营销带来的优势。

即使聊天机器人已成为领先企业的"必备"资产，但其性能仍然与人类相去甚远。来自主要研究机构和技术领导者的研究人员已经探索了提高对话系统性能的方法：

• 对话系统正在改进跟踪对话的长期性。去年发表的许多研究论文的目标是，通过更好地利用对话历史和上下文，提高系统理解对话过程中引入的复杂关系的能力。
• 许多研究团队正在解决机器生成响应的多样性。当前，现实世界中的聊天机器人通常会产生无聊且重复的响应。去年，引入了几篇优秀的研究 论文，旨在产生多样化而又相关的回应。
• 情感识别被视为开放域聊天机器人的重要功能。因此，研究人

（编辑：惠州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!