
当人工神经网络学习新信息时,它们原有的记忆有时会消失。这种被称为“灾难性遗忘”(catastrophic forgetting)的现象一直困扰着计算大脑模型。然而,人类大脑究竟是如何避免这种遗忘的,长期以来一直是一个未解之谜。
近期,一项发表在《Neuron》杂志上的建模研究为揭开这一谜题提供了关键线索。该研究提出了一种生物学上合理的机制,解释了多个相互重叠的记忆如何形成并共存,尽管这一机制仍需未来实验的最终证实。
“我们拥有胞体、树突,以及抑制性和兴奋性的神经元,这使得该模型具备了人工神经网络所不具备的生物学合理性,”该研究的共同作者、慕尼黑工业大学计算神经科学教授 Julijana Gjorgjieva 表示。
研究表明,树突在单个神经元内部充当了独立且半独立的区室。抑制性中间神经元能够选择性地一次解锁一个树突区室的学习能力,同时保持其他区室不变。这允许同一个神经元参与多个神经元集群(代表思想或记忆的神经元群体),而不会擦除其先前学到的内容。
未参与该研究的哥伦比亚大学计算机科学教授 Christos Papadimitriou 评价,这项工作是朝着弄清楚单个神经元尖峰放电如何产生复杂行为迈出的“重大一步”。Papadimitriou 指出,人们越来越认为,神经元集群而非单个神经元才是大脑的基本计算单位。
他此前曾从理论上推断,神经元集群原则上可以通过自我复制或与其他集群合并来执行任何计算。“这一理论当时受到了生物学的启发,而这篇论文将其变为了生物学上的现实,”他说,“我对这项研究的严谨性和想象力印象深刻,这正是我一直希望有人能做出来的工作。”
在研究中,研究人员模拟了一个网络,其中每个神经元都与所有其他神经元相连。每个神经元都有一个胞体和多个树突区室,它们可以各自独立产生由NMDA受体驱动的尖峰放电,并加强与其他神经元的连接。抑制性神经元则选择性地使单个树突区室静默,从而阻断那里的突触可塑性,但对其他区室毫发无损。
为了模拟动物进入新环境或处于不同内部状态时发生的情况,研究人员施加了多种背景信号(context signals),每种信号都会使模型中的一部分抑制性神经元静默。这些信号减少了对特定区室的抑制,从而允许学习发生。
随后,不同的兴奋性神经元组激活网络,这类似于动物观察一系列图像时的情形。每个神经元组都会产生一个不同的集群,类似于形成对该图像的记忆;在不同的背景下激活同一组神经元,则会产生独立的集群。
研究发现,在集群形成之后,如果只有这些兴奋性神经元的一部分激活了网络(就像动物只看到图像的一部分一样),整个集群就会被调动起来,但前提是这种重新激活发生在学习发生时的相同背景下。
研究人员进一步将多个脑区建模为相互递归连接的网络,并通过前馈连接将它们相互链接。研究显示,该模型能够将一个集群的副本从一个脑区发送到另一个脑区。如果两个不同的脑区都在相同的背景下向一个共享的下游脑区投射,下游脑区就会将两个上游脑区的模式组合成一个单一的联合表征。
奥地利科学技术研究所 (IST Austria) Tim Vogels 实验室的博士后研究员、研究作者 Christoph Miehl 表示,这个过程类似于整合来自多种模态的信息,例如将图像和声音绑定到一个单一的概念中。研究团队发现,这些关联以两种截然不同的方式形成:一种是同步形成(即两个区域同时激活并在下游形成一个新的集群),另一种是顺序形成(即新的关联附加到已经存在的集群上)。
“单个神经元对于大规模计算(如跨脑区的信息整合)真的非常重要。这就是我们工作的魅力所在:我们弥合了这两种不同尺度之间的鸿沟,”Miehl 说道。
在模拟任务中,该模型成功地区分了视觉相似但发音不同的字符,例如“0”和“O”。在模拟的大脑视觉区中,视觉上相似的一对刺激会激活大部分重叠的集群。但在一个同时接收视觉和听觉输入的下游“概念”区中,相似的刺激最终会进入不重叠的集群。这使得概念区能够正确地区分仅凭视觉区无法区分的刺激,即便概念区在接收到正确背景的情况下只看到了图像而没有声音。
该研究的另一位作者、Gjorgjieva 实验室前研究生 Sebastian Onasch 指出,该模型包含了一些简化假设。例如,它假设在特定背景下,抑制性群体仅与每个神经元的单个树突相连,而真实的抑制性连接可能要复杂得多。Gjorgjieva 补充说,虽然这个假设不需要完全成立模型也能提供信息,“但如果没有这种依赖背景的抑制,你就会失去一点分离刺激的能力。”
未参与该研究的德克萨斯大学西南医学中心神经科学教授 Attila Losonczy 认为,该模型确实提出了关于中间神经元组织的、可检验的预测:抑制性细胞类的不同亚群应该对不同的背景信号做出反应,这些亚群应优先靶向特定的树突分支,并且树突激活模式应该随背景系统性地转变。
事实上,Losonczy 最近的发现也支持了“树突的不同部分进行独立计算”这一观点。远端和近端树突可以彼此解耦,其中远端树突负责编码背景信息。
根据上个月发表在《Science Advances》上的一篇论文,海马体和皮层神经元的树突具有微小的缢缩(constrictions),将其分隔成不同的电学区室。Gjorgjieva 表示,这些缢缩可能为树突实现区室化提供了物理机制。不过,仅靠缢缩本身并不能解释背景依赖的集群形成——这需要特定区室的抑制与去抑制。但它为“树突包含局部计算和可塑性区室”这一更广泛的观点提供了“解剖学支持”。
Miehl 指出,目前最大的未解之谜是大脑中的“背景”究竟是什么以及它来自何处。在未来,研究人员希望超越该模型简单的视听任务,更接近老鼠能够解决的基于奖励的行为任务。
“这项研究为我们提供了树突抑制的一个新功能,”Losonczy 评价道,“它为未来的研究提供了强有力的、可检验的假说。”
Author: Julijana Gjorgjieva, Christoph Miehl, Sebastian Onasch, et al.