本文来自微信民众号：新智元（ID：AI_era），编辑：梦佳、雅新，头图来自：视觉中国

作者注：人工智能的智力水平一朝一日会和人类平起平坐吗？图灵奖得主Yoshua Bengio和Yann LeCun在本届2020 ICLR大会上揭晓看法称，自监视学习有望使AI发生类人的推理能力。Bengio信赖机械最终将习得关于这个天下的种种知识，不需要机械去亲自体验，而是通过习得语言化的知识来实现。

在2020的ICLR线上大会上，蒙特利尔学习算法研究所主任、图灵奖得主Yoshua Bengio和Facebook 的副总裁兼首席人工智能科学家Yann LeCun，坦率地谈到了未来AI的研究趋势。

凭据两位大咖的说法，自我监视学习可能使AI发生类人的推理能力。

自监视学习，像人一样自觉考察天下

监视式学习需要在有标注的数据集上训练AI模子，而 LeCun 以为随着自我监视学习的广泛应用，这种训练模式的作用将逐渐削弱。自监视学习算法不再依赖标注，而是通过展现数据各部分之间的关系，从数据中天生标签。

       

     

自监视学习是一种机械学习的「理想状态」，重点在于若何自动天生数据标签，这一步骤被以为对于实现人类水平的智能至关重要。举一个例子，例如输入一张图片，把图片随机旋转一个角度，然后把旋转后的图片作为输入，随机旋转的角度作为标签。

许多网友对照关注的一个问题是，自监视学习和无监视学习是一个意思吗？   

    

       

自监视类似无监视学习，都是从没有明确标签的数据中举行学习。但无监视学习侧重于学习数据的内在关系、结构，好比clustering、grouping、density estimation, or anomaly detection等等，而自监视是凭据数据集自己天生标签。

       

为了进一步注释自监视学习，LeCun做了类比，「不管是我们人类，照样动物，在学习大多数事物时，都是在自我监视的模式下举行的，而不是强化学习模式。这个模式本质上就是考察这个天下，然后不停与之增进互动，这种考察是自觉的，而不是在测试条件下完成的。」LeCun示意， 「这种学习方式，对照难以用机械来复制。」

其中，不确定性是阻碍自监视学习乐成的主要障碍。

       

     

延续漫衍和离散漫衍

数据的漫衍是这样一个表，它将变量所有可能的值与其泛起的概率联系起来。在变量是离散的情况下，它们可以很好地示意不确定性，这就是为什么像Google BERT这样的架构云云乐成。但现在，研究人员尚未找到一种方法来有效地示意延续变量的漫衍。

在斯坦福对话问答数据集上测试时，BERT 实现了93.2% 的准确率，划分优于最先进的机械学习水平和人类水平 。斯坦福问答数据集是一个阅读明白的数据集，包含了一组维基百科文章中提出的问题。在通用语言明白评估基准测试（一个用于培训和评估NLP系统的资源集合上，BERT的准确率到达了80.4% 。

解决延续漫衍问题

LeCun以为，找到一种能示意延续漫衍的模子，就会有新突破。

Lecun 指出，延续漫衍问题的一个解决方案是行使基于能量的模子（EBM），它能够学习数据集中的数学元素，并天生类似的数据集。

此前，OpenAI开发了一种基于能量的模子，可以快速学会识别和天生观点，例如四周，上，中，最近和最远等，并示意为2D点集。模子仅在五次演示后学习了这些观点。

      

从已往的研究中看，这种形式的建模一直难以应用到现实当中，但Open AI 2019年的研究解释，这种基于能量的模子可以支持庞大的拓扑（topologies）。

Bengio 在钻研中示意，他信赖人工智能研究可以从神经科学领域受益颇多，特别是意识和意识处置的探索方面。固然收益也是双向的，一些神经科学家正在使用卷积神经网络作为视觉系统的腹侧通路。

Bengio展望，新的研究将说明高级语义变量与大脑若何处置信息（包罗视觉信息）之间的关系。而这些变量是人类语言交流所用的，它们可能会衍生出新一代的深度学习模子。

「通过与基础语言学习相结合，我们可以取得许多希望，归根结底我们都在打造能够明白这个天下的模子，以及高条理的观点是若何相互关联的。这是一种联合式的漫衍，」Bengio 说。「我信赖，人类的意识处置历程，行使的是有关天下若何转变的假设，这些假设可以明白成为一种更高条理的表达方式。简朴来讲，就是我们看到天下的转变，然后想到一句话来注释这种转变。」

到达人类智力的另一难题：靠山知识

想要实现人类智力，另一大难题就是靠山知识。正如 LeCun 所注释的，大多数人可以在30小时内学会驾驶汽车，由于他们已经依附直觉构建了一个关于汽车行动方式的物理模子。相比之下，现在无人驾驶汽车所接纳的强化学习模子要从零最先学起---- 他们必须犯上成千上万次的错误，才气做出准确的操作。

       

LeCun示意，「显然，我们需要能够构建模子来学习天下，这就是举行自监视学习的缘故原由——运行展望天下模子，能够让系统举行更快地学习。从观点上讲，这相当简朴，除非是在那些我们无法完全展望的不确定环境中。」

LeCun 以为，想要实现通用人工智能（AGI），就算有自监视学习和神经科学学习的加持，也是不够的。

通用人工智能（AGI ）是指机械获得人类水平的智能。一些研究人员将通用人工智能称为强AI（strong AI）或者完全AI（full AI），或称机械具有执行通用智能行为（general intelligent action）的能力。

他示意，这是由于智力，尤其是人类的智力，是异常特殊的。「AGI 是不存在的，基本没有通用人工智能这回事。我们可以谈论老鼠水平的智力、猫的智力、狗的智力，或者人类的智力，但还基本谈不上通用人工智能。」LeCun说。

       

  

然则Bengio信赖机械最终将习得关于这个天下的种种知识，这个历程不需要机械去亲自体验，而是通过习得可以语言化的知识来实现。

「我以为这也是人类的一个伟大优势，相比于其他动物来说，」他说。「我以为，人类之所以伶俐，是由于我们有我们自己的文化，让我们能够解决这个天下的问题。要想让人工智能在现实天下中发挥作用，我们需要它不仅仅是能够翻译的机械，而是能够真正明白自然语言的机械。」

自监视学习是AI的未来

自监视学习背后的焦点想法，是开发一种深度学习系统，可以通过学习填补AI未知的领域。

       

 

LeCun曾在今年四月份AAAI集会演讲中谈到，「我以为自监视学习是AI的未来。这将使我们的AI系统，深度学习系统更上一层楼，或许AI可以通过考察获取有关天下足够多的靠山知识，从而形成一些基本常识。」

自我监视学习的主要利益之一是AI能够自动输出伟大的信息量。在强化学习中，训练AI系统是在标量级别执行的，模子会收到一个数值作为对其行为的奖励或责罚。在监视学习中，AI系统为每个输入效果展望种别或数值。

在自监视学习中，输出效果将涉及到整个图像或是一组图像，「自监视学习输出的信息量很大。要让AI学习相同量的有关天下的知识，自监视学习需要的样本量也更少。」 LeCun说。

我们必须弄清楚不确定性问题是若何运作的，当寻到解决方案时，我们将会解锁AI未来的要害。

LeCun说，「如果说人工智能是一块蛋糕，那么自监视学习就是其中最大的一块。」

参考链接：

https://venturebeat.com/2020/05/02/yann-lecun-and-yoshua-bengio-self-supervised-learning-is-the-key-to-human-level-intelligence/