人类具有令人惊叹的学习能力。从出生到死亡,我们可以一直学习各种知识并将这些知识融汇到同一个大脑中。达芬奇就是一个典型的例子,他在一生中熟练掌握了从绘画,雕塑到解剖学等横跨多个领域的知识和技能,是一个终身学习的通才。

图片来源:pixabay

一、以往的机器学习有何特点?

机器能像人一样不断学习新知识和新技能吗?AI技术一直面临一个问题:针对每个应用场景,都需要定制化地训练一个AI模型。比如,AlphaGo在围棋上的表现出色,但它却无法应用到其他游戏上。

语音识别、自然语言处理、计算机视觉等领域的AI模型也存在局限性。例如,针对某种特定语言的语音识别系统,可能无法很好地应对其他语言的识别任务;而自动驾驶汽车在普通公路上表现良好,但在雪地环境中的环境识别能力不佳。

“终身学习”就是这样一种让机器像人一样能够一直学习,让人工神经网络掌握多种不同技能的技术,从而让一个模型掌握多种技能。

终身学习技术的一个关键目标是让AI具备“元学习”能力,即让AI能够自主地学习如何学习,以更快地适应新任务。此外,终身学习技术还旨在减少训练数据量的需求,降低计算资源消耗,提高AI模型的训练效率。

二、如何实现机器的终身学习?

终身学习技术的核心思想是将新学到的知识与原有知识相结合,同时避免在新任务上学习时遗忘旧任务的知识。例如,Meta 的AI、DLRM 就可以在不同的推荐任务中保持较高的性能。

终身学习技术的一种方法是“知识蒸馏”,即将训练好的模型的知识转移到新模型上,以便在新任务中更好地利用已学习的知识。另⼀种方法是“弹性权重共享”,通过调整神经网络中的权重,使其在不同任务间实现共享,减少遗忘。

终身学习技术已经在一些实际应用中取得了成功。例如,波士顿动力公司的Spot机器人在采用终身学习技术后,在搜救任务和灾害现场的应急响应中表现出色。通过在不同场景下持续学习,Spot机器人能够更好地适应复杂的环境,自主完成任务。

Neurala 公司的研究人员使用终身学习技术开发了一款名为“Lifelong-DNN”的神经网络,可以用于自动驾驶汽车、无人机等其他机械设备,可以在不接入云的情况下实现学习,并且不会遗忘之前的知识。利用这款软件,玩具可以学习识别它们的主人,安全摄像头可以识别特定的威胁,无人机可以“学习”如何诊断信号塔顶部的问题,从而为人类节省大量的危险和苦差事,而自动驾驶汽车可以更安全地学会避开障碍物。

另一个例子是Google Deepmind的终身学习项目“Progressive Neural Networks”,该项目通过在不同任务间共享知识,能解决多个独立的任务,避免灾难性遗忘,同时能通过迁移加速学习过程。

三、终身学习技术面临的挑战

尽管终身学习技术具有巨大潜力,但它仍然面临一些挑战。其中最主要的挑战是如何在保持模型性能的同时,避免学习新任务时对旧任务知识的遗忘。

数据隐私和安全问题是终身学习技术面临的挑战之一。在训练过程中,如何保护用户数据不被泄露或滥用是一个亟待解决的问题。模型的可解释性是另一个问题。为了让模型在不同任务间实现迁移学习,可能需要复杂的模型结构,这使得模型变得难以理解和解释。

在教育、医疗、交通等多个领域,终身学习技术都有可能产生深远影响。它能帮助AI系统更快速地适应新环境,提高工作效率,节省资源,并为人们带来更多便利。

随着终身学习技术的不断发展,我们有理由相信,未来的人工智能将更加智能、高效,能够像人类一样在不同领域自由切换,并不断学习新技能。

文章由科普中国-星空计划(创作培育)出品,转载请注明来源。

作者:管心宇 科普作者

审核:于旸 腾讯玄武实验室负责人

来源: 星空计划

内容资源由项目单位提供