一个相对较新的算法解决方案,是以生物学家在神经生成(neurogenesis)──也就是新脑细胞(神经元)的成长,以及旧脑细胞的消灭,还有这些脑细胞之间的大大小小连结(较强或较弱的突触);主要是在海马回(hippocampus)内──方面的最新发现为基础。

IBM Research的一个研究团队假设,神经生成是海马回内稀疏字典学习(Sparse dictionary learning)的关键;他们认为,其功能是将最高效率的大脑编码保持在最新状态。

为了证实他们对于海马回内的神经生长、死亡功能之假设,IBM Research研究人员开发了神经生成在线字典学习(neurogenetic online dictionary learning,NODL)算法,号称表现超越标准的ODL算法,透过建立更精简的表示方法(representation),改善了重建的准确度。

IBM是在8月底于澳洲墨尔本举行的IJCAI 2017国际人工智能联合会上发表其最新研究成果;IBM Research的AI基础研究团队科学家Irina Rish接受EE Times专访时表示:“人们总是认为,所有的脑细胞都是跟我们一起诞生,这些细胞可能会死亡,但是不会有新的脑细胞出生;但事实证明,很多大脑的干细胞(stem cells)是可以被打开,例如可取代受损的细胞。”

她表示,在海马回内的大脑干细胞一直处于开启状态,以制造新的神经元支持更好的大脑编码;同样的,糟糕的编码会让该神经元死亡。 20170914-AIE-1 IBM的研究团队用标准化影像数据集来评估其NODL算法;从图中可见NODL (蓝色)表现超越ODL (紫色),藉由建立了更精简的表示方法改善了重建准确度(来源:IBM Research)

Rish是专攻人工智能的计算机科学家,她第一份工作是在IBM的机器学习团队,研究如何利用AI来诊断疾病;后来她转调IBM的运算神经科学(computational neuroscience)团队,现在则是加入AI基础研究实验室(AI Foundations Lab),负责开发深度学习以外模拟人脑各方面微妙功能的算法:“我们是第一个针对海马回干细胞神经元生/死功能进行详尽分析的团队。”

IBM在IJCAI大会上,以“神经生成启发字典学习:适应世界变化的在线模型”(Neurogenesis-Inspired Dictionary Learning: Online Model Adaption in a Changing World)为题,分享了其神经生成在线字典学习模型,具备能适应环境改变的加强能力,并展示了其NODL算法在准确度上超越标准ODL的成果。

Rish的团队并没有尝试模仿海马回内的神经生成,因为欧盟的Blue Brain研究项目正在进行这方面的研究;IBM研究人员试图揭开神经生成功能奥秘,然后将结果导入软件算法,以执行相同的功能。Rish的团队并假设海马回中的齿状回(dentate gyrusof),能改善认知功能,包括识别与分辨图形。

深度学习算法通常是模仿人脑的神经可塑性(neuroplasticity)──也就是突触的使用增加就能使之强化,反之突触很少使用就会萎缩;而神经生成透过新生成稀疏神经网络来完成全新任务,又藉由让老旧、很少使用的神经元死亡来彻底抹除过时任务,如此为机器学习添加全新的面向,能定义全新的感知数据集「字典」、同时淘汰旧的,以响应环境的改变。

Rish表示:“神经生成解释了人类的终身持续学习是如何完成──也就是那些新的、经压缩的数据编码是如何能精炼过去非常大的架构,例如将庞大的深度神经网络以简洁的版本取代,如此在运作上就能更快速、性能更好;”她指出,IBM的NODL模型对于今日快速变化的环境特别具有优势,神经的死亡与神经新生、还有以突触为基础的深度学习同等重要。

2017-ESM-1