在人工智能领域,模型规模的不断扩张通常被视为提升性能的关键,但这不可避免地导致了能源消耗的激增与计算成本的攀升。与此截然不同的是,人类大脑在发育过程中并非单纯增加连接密度,而是通过选择性修剪(Selective Pruning)机制,在不断获得新认知能力的同时保持高效。
近日,研究团队受此启发,提出了一种基于脉冲神经网络(SNN)的时序发育持续学习框架。该方法通过模拟大脑发育中“先增加后精简”的原则,实现了从感知到运动控制再到复杂交互任务的递进式学习。研究表明,AI并不需要无限增加连接来处理复杂任务,关键在于建立“正确的连接”。
核心机制:从简单到复杂的演进
该模型遵循生物发育的时序原则:首先建立基础感知模块,随后向高级认知功能演进。在学习过程中,系统引入了一种反馈机制,能够主动抑制并修剪掉与早期任务相关的冗余局部连接,同时强化跨区域的“长程连接”。这种机制不仅促进了跨任务的知识复用,还有效解决了AI领域长期存在的“灾难性遗忘”难题,即在学习新知识时不会抹除旧记忆。
低能耗与高效率的未来
实验数据证明,该模型在多个认知任务基准测试中表现优异。随着学习的深入,网络规模反而呈现出持续缩减的趋势,这与传统AI模型依赖正则化或经验回放等高能耗手段形成了鲜明对比。这种“越学越精简”的特性,不仅大幅降低了计算资源需求,也为构建下一代可持续演进的通用认知智能提供了极具价值的生物学参考范式。
Science China Press. "The AI Brain That Gets Smarter by Shrinking." Science China Press. https://doi.org/10.1016/j.scib.2024.01.001
Original Research: Open access.
“Continual Learning of Multiple Cognitive Functions with Brain-inspired Temporal Development Mechanism” by Bing Han, Feifei Zhao, Yinqian Sun, Wenxuan Pan, and Yi Zeng. National Science Review
DOI:10.1093/nsr/nwag066