世界
人工智能也需要睡眠——绝望的人工智能研究人员发现了稳定神经形态处理器的方法

  Neural Network Sleeping

  在模拟的神经网络中,类似睡眠周期的状态可以消除人工模拟大脑中不间断的自我学习带来的不稳定性。

  洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)的一项新研究显示,没有人能说机器人是否会梦到电子羊,但几乎可以肯定的是,它们需要一段时间的休息,就像睡眠给活大脑带来的好处一样。

  洛斯阿拉莫斯国家实验室的计算机科学家易晶·沃特金斯说:“我们研究的是峰值神经网络,这是一种像活体大脑一样学习的系统。”“我们对以类似于人类和其他生物系统在童年发育期间从环境中学习的方式训练神经形态处理器的前景非常着迷。”

  沃特金斯和她的研究小组发现,网络模拟在co连续的无监督学习周期。当他们将网络暴露在类似于活体大脑在睡眠中经历的波的状态中时,网络的稳定性得到了恢复。沃特金斯说:“这就好像我们给了神经网络相当于一个良好的夜晚休息。”Dreaming Droid

  睡眠对未来的智能机器可能和对我们一样重要。图片来源:洛斯阿拉莫斯国家实验室

  这一发现是在研究团队努力开发与人类和其他生物系统学习观察方式接近的神经网络时发现的。该团队最初在稳定模拟神经网络方面遇到了困难,这些网络正在接受无监督的字典训练,包括在没有之前的例子进行比较的情况下对对象进行分类。

  洛斯阿拉莫斯的计算机科学家、研究合著者加勒特·凯尼恩说:“只有在试图利用生物学上逼真、尖利的神经形态处理器或试图理解生物学本身时,才会出现如何保持学习系统不稳定的问题。”“绝大多数机器学习、深度学习和人工智能研究人员从未遇到过这个问题,因为在他们研究的非常人工的系统中,他们有机会执行全球数学运算,这些运算可以调节系统的整体动态收益。”

  研究人员称,将网络暴露在人造睡眠模拟环境中的决定,几乎是稳定它们的最后努力。他们试验了各种类型的噪音,大致相当于你在调收音机时遇到的不同电台之间的静电。当他们使用所谓的高斯噪声波时,得到了最好的结果,高斯噪声波包括广泛的频率和振幅。他们假设这些噪音模仿了生物神经元在慢波睡眠时接收到的输入。结果表明,慢波睡眠在一定程度上可以确保皮层神经元保持稳定,不会产生幻觉。

  研究小组的下一个目标是在英特尔的Loihi神经形态芯片上实现他们的算法。他们希望,允许Loihi时不时地睡觉,可以让它稳定地实时处理硅视网膜摄像头传来的信息。如果研究结果证实了人工大脑需要睡眠,我们可能会期待未来可能出现的机器人和其他智能机器也会有同样的结果。

  沃特金斯将于6月14日在西雅图的计算机视觉女性研讨会上展示这项研究。

  参考文献:“利用正弦调制噪声作为慢波睡眠的替代,在基于尖峰的稀疏编码模型中完成稳定的无监督字典学习”CVPR妇女在计算机视觉研讨会,2020-06-14(西雅图,华盛顿,美国)。

  资助:NNSA NA-22, ASC超越摩尔项目。

点击分享到

热门推荐