“因果关系对于机器学习的下一步进展非常重要，”尤斯华·本吉奥（Yoshua Bengio）在2019年接受IEEE Spectrum采访时说，他是图灵奖获得者，因其在深度学习方面的工作而闻名。到目前为止，深度学习包括静态数据集学习，这使得人工智能真正擅长处理相关联的任务。然而，神经网络不能解释因果关系，也不能解释为什么存在这些关联。他们也不是特别擅长于涉及想象力、推理和计划的任务。这反过来又限制了人工智能将他们的学习和技能转移到另一个相关的环境中。

苏黎世ETH的硕士生奥萨马·艾哈迈德（Ossama Ahmed）说，缺乏普遍性是一个大问题，他曾与本吉奥的团队合作开发一种用于因果关系和转移学习的机器人基准测试工具。“机器人（通常）接受过模拟训练，然后当你试图在现实世界中部署它们时……它们通常无法很好的使用他们的技能。其中一个原因是模拟的物理特性与真实世界大不相同，”艾哈迈德说。该组织的工具CausalWorld表明，在目前可用的一些方法下，机器人的泛化能力还不够好，至少不能达到“我们可以在现实世界的任意情况下安全部署它们”的程度，艾哈迈德说。

这篇关于CausalWorld的论文作为预印本提供，描述了使用开源TriFinger机器人平台在模拟机器人操作环境中的基准测试。CausalWorld的主要目的是利用这个模拟环境加速因果结构的研究和迁移学习，在这个环境中所学的技能有可能被转移到现实世界中。机器人代理人可以被赋予任务，包括推，堆叠，放置等，通过观察孩子们如何玩积木和学习建造复杂的结构。有一个大的参数集，如重量，形状，外观块和机器人本身，用户可以干预在任何一点上评估机器人的泛化能力。

在他们的研究中，研究人员根据三种不同的课程，给这些机器人一些从简单到极具挑战性的任务。第一种方法不涉及环境变化；第二种方法只改变单个变量；第三种方法允许环境中所有变量的完全随机化。他们观察到，随着课程越来越复杂，特工们表现出将技能转移到新环境的能力下降。

“如果我们继续在我们报告的实验之外扩大训练和网络架构，当前的方法可能会解决我们在CausalWorld中提出的更多块堆叠环境，”该研究的贡献者之一Frederik Träuble指出。Träuble补充道，“真正有趣的是，我们人类可以更迅速地进行归纳（而且）我们不需要如此大量的经验……我们可以从（某些）环境的潜在共享规则中学习…[并]利用这一点更好地将其推广到我们还没有见过的其他环境中。”

另一方面，一个标准的神经网络需要在无数环境下的大量经验才能做到这一点。Träuble说：“拥有一个能够学习这些基本规则或因果机制并加以利用的模型体系结构或方法可以[帮助]克服这些挑战。”。

Ahmed和Träuble说，CausalWorld的评估协议比以前的研究更通用，因为有可能“分离”泛化能力。换言之，用户可以自由地干预环境中的大量变量，从而得出系统性的结论，即代理可以概括出什么是不可以的。他们说，下一个挑战是实际使用CausalWorld中可用的工具来构建更具普遍性的系统。

尽管人工智能执行某些任务的能力令我们眼花缭乱，但在2019年，Yoshua Bengio估计，现在的深度学习不如两岁的孩子聪明。虽然神经网络大规模并行处理的能力使我们在计算机视觉、翻译和记忆方面取得了突破，但研究正在转向开发新的深层结构和训练框架，以解决诸如推理、规划、捕捉因果关系和获得系统泛化等任务。“我相信这只是大脑启发式计算的另一种风格的开始，我认为我们有很多入门工具。”