元学习 | Meta learning
元学习是人工智能领域里一个较新的方向,被认为是实现通用人工智能的关键。
为什么他如此重要?如何快速简单的理解元学习的精髓?本文将详细给大家介绍一下元学习。
为什幺元学习很重要?
元学习的核心是具备自学能力。那为什么需要自学能力?
机器学习:简单的机器学习很难处理复杂问题;
深度学习:深度学习相比机器学习来说,在复杂问题上的效果更好,但是面对互相影响的问题或者连续问题时就无从下手了,智能处理一对一的映射问题;
强化学习:依赖海量的训练,并且需要精准的奖励。成本较高且比较复杂。
元学习:具备自学能力,能够充分利用过去的经验来指导未来的任务。被认为是实现通用人工智能(强人工智能)的关键。
什么是元学习?
元学习的思想是学习“学习(训练)”过程。
元学习有好几种实现方法,不过本文谈到的两种“学习‘学习’过程”的方法和上文介绍的方式很类似。 在我们的训练过程中,具体而言,可以学习到两点:
元学习主要学习2点:神经网络初始参数、优化器参数
神经网络的初始参数(图中的蓝色■);
优化器的参数(粉色的★)。
这里的每一点本身也非常有趣,而且可获得到简化、加速以及一些不错的理论结果。 现在,我们有两个部分需要训练:
用“模型(M)”这个词来指代我们之前的神经网络,现在也可以将其理解为一个低级网络。有时,人们也会用“优化对象(optimizee)”或者“学习器(learner)”来称呼它。该模型的权重在图中用 ■ 表示。
用“优化器(O)”或者“元学习器”来指代用于更新低级网络(即上述模型)权重的高级模型。优化器的权重在图中用 ★ 表示。
百科介绍
维基百科(详情)
元学习最初由Donald B. Maudsley(1979)描述为“学习者意识到并且越来越多地控制他们已经内化的感知,探究,学习和成长习惯的过程”。Maudsely将他的理论的概念基础设定为在假设,结构,变革过程和促进的标题下合成。阐述了五个原则以促进元学习。学习者必须:
有一个理论,无论多么原始;
在安全的支持性社会和物质环境中工作;
发现其规则和假设;
重新与环境中的现实信息联系起来;
通过改变其规则/假设来重组自己。
John Biggs(1985)后来使用元学习的概念来描述“意识到并控制自己的学习”的状态。您可以将元学习定义为对学习本身现象的认识和理解,而不是学科知识。这个定义隐含着学习者对学习环境的感知,包括了解学科的期望是什么,更简单地说,是对特定学习任务的要求。
在这种背景下,元学习取决于学习者的学习观念,认识论信念,学习过程和学术技能,在此总结为一种学习方法。具有高水平元学习意识的学生能够评估她/他的学习方法的有效性,并根据学习任务的要求对其进行管理。相反,元学习意识低的学生将无法反思她/他的学习方法或学习任务集的性质。因此,当学习变得更加困难和苛刻时,他/她将无法成功适应。
扩展阅读
入门类
拓展视野