阅读Lifelong machine learning: a paradigm for continuous learning总结

终身学习？

​

编辑

添加图片注释，不超过 140 字（可选）

此终身学习非彼终身学习，这里的终身学习属于深度学习的一种。

终身学习的定义

以下是终身学习的定义

Lifelong machine learning (LML) is a continuous learning process where the learner has performed a sequence of N learning tasks, T1, T2, . . . , TN . When faced with the (N + 1)th task TN+1 with its data DN+1, the learner can leverage the prior knowledge in its knowledge base (KB) (the memory) to help learn TN+1. KB stores and maintains the knowledge learned and accumulated in the past learning of the N tasks. After learning TN+1, KB is updated with the learned (intermediate as well as the final) results from TN+1.

机器终身学习是一个持久化学习的过程，学习者有一系列学习任务，共有N个，分别为T1，T2，...，TN。当机器面对第N+1个任务和它对应的数据时，机器利用在知识库（存在内存-KB）中的知识来帮助学习第N+1个事件。KB存储已经学过的知识并且积累过去一句学习过的N个任务。在学习第N+1个任务后，KB就会将结果更新至自己的库中。

根据上述定义，如果我们想要搭建一个终身学习系统需要满足下面四个条件：

What information should be retained from the past learning tasks?

What forms of knowledge will be used to help future learning?

How does the system obtain the knowledge?

How does the system use the knowledge to help future learning?

1、过去学习任务的哪些信息需要保存；

2、什么格式的知识可以被用于未来的学习；

3、系统如何获得知识；

4、系统如果运用知识来进行未来的学习；

终身学习系统包含四个组件：

PIS(Past Information Stores):It stores the information resulted from the past learning. This may involve sub-stores for information such as (1) the original data used in each past task, (2) intermediate results from the learning of each past task, and (3) the final model or patterns learned from the past task, respectively.

KB(Knowledge Base):It stores the knowledge mined or consolidated from PIS (Past Information Store). This requires a knowledge representation scheme suitable for the application.

KM(Knowledge Miner): It mines knowledge from PIS (Past Information Store). This min- ing can be regarded as a meta-learning process because it learns knowledge from information resulted from learning of the past tasks. The knowledge is stored to KB (Knowledge Base).

KBL(Knowledge-Based Learner): Given the knowledge in KB, this learner is able to leverage the knowledge and/or some information in PIS for the new task.

1、PIS(Past Information Stores)：存储过去学习所得的信息。这会涉及子信息的存储，例如（1）每个过去的任务中使用的原始数据；（2）每个过去的任务学习所得到的中间结果，（3）分别从过去的任务中学习得到的最终模型或模式。

2、KB（Knowledge Base）：存储从PIS挖掘或整合的知识。这需要适合于应用的知识表示方案（即告诉系统哪些知识是有效的）。

3、KM（Knowledge Miner）：它从 PIS（Past Information Store）中挖掘知识。 这种挖掘可以看作是一个元学习过程，因为它从过去任务的学习所产生的信息中学习知识。 知识存储到 KB（知识库）中。

4、KBL（基于知识的学习者）：使用 KB 中的知识，该学习者能够利用 PIS 中的知识和/或某些信息来完成新任务。

终身学习的主要特征

the key characteristics of LML are 1) continuous learning, 2) knowledge accumulation in the knowledge base (KB), and 3) leveraging the knowledge in KB to help future learning. These characteristics make it different from related learning tasks such as transfer learning and multi-task learning .

定义和主要特征来自Lifelong learning for sentiment classification这篇文章，此文章主要介绍了终身学习在文本情感分类中的应用。

LML的主要特征：

持久化学习；

知识积累在知识库中；

使用知识库中的知识影响未来的学习；

区别（迁移学习、多任务学习）

与迁移学习相比

迁移学习使用源域来帮助目标域学习。假设源域S有大量被标记的训练数据，而目标域有很少或者没有边际的训练数据但是有很多没有标记的数据。迁移学习会用源域中的标记数据来帮助机器在目标域中学习。

对迁移学习粗浅的了解，举一个可能不太成熟的例子：

拿一堆狗和猫的照片告诉机器哪些是狗，哪些是猫。然后画一堆猫和狗的漫画拿去给机器识别。

那么和终身学习相比：

迁移学习是不持久的，它只用源域帮助目标域学习；

迁移学习不能累积已学习过的知识；

迁移学习是单向的，而终身学习可以是任意方向；

迁移学习假设源域和目标域是很相似的，相似性由人来估计，而终身学习并没有做这么强的假设，人类使用者经常不会参与决定任务的相似性。

与多任务学习相比

多任务学习（MTL）旨在对多个相似的学习任务进行联合优化，使它们可以共享彼此的知识，从而获得更好的整体效果。它不会随着时间的推移积累任何知识，也没有持续学习的概念，但这是 LML 的关键特征。尽管可以争辩，每当添加新任务时，MTL 可以联合优化所有任务，但由于任务非常不同且数量众多，因此很难在一个进程中同时优化世界上的所有任务。

终身学习发展的四个方向

1、终身监督学习

2、终身非监督学习

3、终身半监督学习

4、终身强化学习