利用脑机制攻克AI技术瓶颈

一组来自不同机构的人工智能（AI）专家克服了一个“提高人工智能能力的长期重大障碍”。该团队着眼于人类大脑，这是许多人工智能发展的情况。具体来说，研究小组把重点放在被称为“重放”的人脑记忆机制上

吉多范德文是第一作者和博士后研究员。贝勒大学的首席研究员安德烈亚斯托利亚斯（Andreas Tolias）和麻省大学阿默斯特分校的哈瓦·西格尔曼（Hava Siegelmann）也加入了他的行列。

这项研究发表在《自然通讯》上。

新方法

根据研究人员的说法，他们已经提出了一种新的方法，可以有效地保护深层神经网络免受“灾难性遗忘”。当一个神经网络接受新的学习时，它可以忘记以前学过的东西。

这个问题阻碍了许多人工智能的进步。

“一种解决办法是储存以前遇到的例子，在学习新东西时再回顾一遍。研究人员写道：“尽管这样的‘重放’或‘预演’解决了灾难性的遗忘问题，但不断地对以前学习的任务进行再培训是非常低效的，必须存储的数据量很快就会变得难以管理。”。

人脑

研究人员从人脑中获得灵感，因为它能够在不遗忘的情况下积累信息，而人工智能神经网络则不是这样。目前的研究是建立在研究人员之前的工作基础上的，包括关于大脑中一种机制的发现，这种机制被认为是防止记忆被遗忘的原因。这种机制是神经活动模式的重演。

据Siegelmann所说，主要的发展来自于“认识到大脑中的回放并不存储数据”，而是“大脑在更高、更抽象的水平上生成记忆的表征，而无需生成详细的记忆。”

Siegelmann接受了这些信息，并和她的同事们一起开发了一种类似大脑的人工智能回放，在那里没有数据存储。与人脑的情况一样，人工网络采用它以前看到的东西来生成高级表示。

这种方法效率很高，甚至只需重放几次生成的表征，就可以在学习新记忆的同时记住旧的记忆。生成性回放可以有效地防止灾难性遗忘，其中一个主要的好处是它允许系统从一种情况概括到另一种情况。

范德文认为，“如果我们的再生回放网络首先学会了区分猫和狗，然后又学会了区分熊和狐狸，那么它也会在没有经过专门训练的情况下区分猫和狐狸。值得注意的是，系统学习的越多，它就越善于学习新任务。”

研究小组写道：“我们提出了一种新的、受大脑启发的回放变体，其中内部或隐藏的表征被重放，这些表征是由网络自身的、上下文调节的反馈连接产生的。”。“我们的方法在不存储数据的情况下，在挑战连续学习基准方面取得了最先进的性能，它为大脑中的抽象回放提供了一种新颖的模型。”

范德文继续说：“我们的方法对回放可能有助于大脑记忆巩固的方式做出了一些有趣的预测。”“我们已经在进行一项实验来测试其中一些预测。”