教育>本科研究生>其他
神经计算建模实战:基于BrainPy  

神经计算建模实战:基于BrainPy  "

作者:王超名,陈啸宇,张天秋等
ISBN:9787121389238
定价:¥95.0
字数:317千字
页数:164
出版时间:2023-06
开本:16开
版次:01-01
装帧:
出版社:电子工业出版社
简介

计算神经科学作为脑科学与人工智能之间的桥梁,是一门高速发展的新兴交叉学科。本书采用理论与实践结合的方式为读者讲述计算神经科学的基础知识。它从基础的数学和物理原理出发,详细介绍了各类神经元模型、突触模型,以及具有不同结构和功能的网络模型,如兴奋—抑制平衡网络、决策网络、连续吸引子网络、库网络等。本书不仅讲解了理论知识,还基于BrainPy(专门针对计算神经科学设计的编程框架)提供了实践代码,使读者能够动手模拟和分析神经系统的行为和性质。本书既可以作为计算神经科学的教材,也可以作为对该领域感兴趣的读者的参考书。

前言

推荐序1 “好雨知时节,当春乃发生。随风潜入夜,润物细无声。”读着《神经计算建模实战:基于BrainPy》一书,我不由想起了杜甫所作的《春夜喜雨》中的诗句。是的,这是一本在脑—智科学领域中关于神经计算入门的好书,它正能量地回应了广大读者的期望,也适应了脑—智科学探索的需要。本书的出版是在正确的时间做出的正确选择。这本简单易懂的、理论与实践紧密结合的入门级计算神经科学中文教材,就像“知时节”的春雨滋润着广袤大地一样,将陪伴广大读者迈入计算神经科学的殿堂。 计算神经科学是脑—智科学的战略制高点,它将理论、实验、计算三者交叉、汇聚、融合,用计算模型诠释脑科学实验数据,并着力挖掘神经机制背后的计算原理。“宇宙学告诉我们,在直径长达十万光年,拥有上千亿颗恒星的银河系中,我们地球人很可能是唯一的智慧生物”(引自《环球科学》)。人类大脑无疑是已知宇宙中最为复杂的智能系统,集智慧之大成,集大成之智慧。人类大脑好比一个无比庞大的交响乐团演奏的恢宏心智乐章,每个神经脉冲都像一个跳动的音符。我们对智力—智能—智慧的认知不能停留在现象学(Phenomenology)水平的描述上。毛泽东同志在《实践论》中指出:“感觉到了的东西, 我们不能立刻理解它,只有理解了的东西才能更深刻地感觉它。感觉只解决现象问题, 理论才解决本质问题”。“境自远尘皆入咏, 物含妙理总堪寻”(引自北京颐和园牌楼),我们不仅要求索事物之间的相关关系,还要聚焦事物之间的因果关系。鸟可以飞,翅膀的拍打是现象,空气动力学才是本质;苹果落地,是因为万有引力。大自然比我们聪明,聪明在简约的自然原理上。正如大哲学家叔本华(1788—1860 年)所说:“简约性永远是真理和天才的共同特征”。计算神经科学的先驱者马尔曾提出了一个有影响力的视觉计算理论,即神经系统应该在3 个分析层次上进行研究:计算任务(Computational Task)、算法(Algorithm)和实现(Implementation)。 目前,人工智能的发展到了瓶颈期,底层算法和概念框架的创新表现出明显的不足。至今还没有一个完整的计算模型能够从神经元和突触层次出发,跨越微观—介观—宏观尺度,来清楚地描述一个脑高级功能的实现机制。“真正认识人类大脑是开发智能机器的必由之路”(杰夫·霍金斯,2006 年)。计算神经科学可以帮助我们跨越人类智能和人工智能之间的鸿沟,用自然智慧启发并优化人工智能系统,实现能进行自主学习和思考的通用智能。大脑工作原理的“逆向工程”在某些认知智能方面有可能超越人脑。计算神经科学可以解析自然智能跨层级的衍生和涌现,克服碎片化研究范式,创新理论框架,推动我们共建智能本质的宏伟大厦。 有一次,一位著名的量子计算科学家问我:“是否可以用最好的数学方法重构一个更加完备的大脑?”这个问题当然不是计算神经科学能够孤立回答的问题,因为人类大脑不是由什么超自然力设计的,而是大自然通过演化加选择的“达尔文过程”(Process of Darwinian Evolution)完成的鸿篇巨制。这个答案将仰仗全人类的科学与技术进步。当代科学与技术正处在大发展、大交叉、大融合的时代,正向微观、介观、宏观、宇观进军,向深海、深空、量子、超算、大数据、通用智能、脑海深处进军;物质科学、信息科学、智能科学正在相互照亮,这是科学技术发展的必然逻辑——大自然是不分学科的。德国著名诗人歌德说过:“大自然不是核,也不是壳,它同时是一切”。过去人们常说,科学有四大奥秘:宇宙起源、物质本质、生命起源、思维本质,这是从学科的角度来说的。实际上,这是一个在历史长河中不断演化的连续链条。科学求索的是从“无中生有”到“三生万物”之路,从宇宙创生到智慧衍生之路。智慧可能就是“从0 到1”的创造性思维过程,是“打破旧的完形(Gestalt)而形成新的完形”(马克斯·韦特海默)的过程,即新概念(Concept)的形成过程,这个过程也会具有“诗意”和“哲学的品质”(著名物理学家杨振宁认为,20 世纪物理学的主旋律具有诗意和哲学的品质)。人类完全可以期待更加智慧的明天,期待脑—智科学给我们带来更大的惊喜——拉开人类历史上智能革命的大幕。 郭爱克 中国科学院院士 推荐序2 人们常说爱情是文学的永恒主题,笔者认为,也可以说人脑是科学的永恒主题,原因在于,人之所以为人,是因为有了人脑,而对人脑的认识永远不会穷尽。有人说通过竞争性合作,人脑的皇冠——意识之谜可以在50 年内被揭示;马斯克声称已将自己的脑上传云端并与自己的虚拟版本交谈。在笔者看来,其实这些都只是公关噱头,只要想想人类被不知是否能被称得上有生命的病毒搞得束手束脚就可以明白。正如江渊声教授(Nelson Y. S. Kiang)在给笔者的信中所写的:“每代人都以为自己可以将神经机制与高层行为联系起来,但事实上,我们紧抓不放的仍然只是一些秸秆,却以为这些秸秆将构成摩天大楼的基础。科学家必须要耐心一些才行。”脑,特别是其高级功能的机制依然是自然科学研究的最大挑战。 当前,世界各国都耗巨资资助庞大的脑计划,由此产生了海量数据。但是,正如法国神经学家伊夫·弗雷格纳克(Yves Frégnac)所指出的:“大数据并非就是知识。”对于如何处理海量数据这个关键问题,安妮·丘奇兰(Anne Churchland)和拉里·阿博特(Larry Abbott)指出:“要想由此有深入的认识,除了巧妙和富有创造性地应用实验技术,还需要在数据分析技术及深刻应用理论概念和模型方面取得实质性进展。”事实上,建模是组织大量数据,特别是跨层次数据的有效手段。建模有助于发现隐藏在海量数据背后的规律,进行在现实中难以实现的“数学实验”,并预测新的实验事实,帮助设计新的实验,以验证理论或假说是否合理。问题的关键正如奥拉夫·斯波恩斯(Olaf Sporns)所指出的:“在很大程度上,神经科学依然缺乏把关于脑的数据转换成基本知识或认识的组织原则或理论框架。”虽然问题非常棘手,但是科学家从来不会在空前的挑战面前畏缩不前。虽然我们还不能指望在可预见的未来会出现一个有关人脑机制的统一理论框架,但是从20 世纪50 年代起就不断有科学家对脑的局部或底层基本现象进行研究,并在一些问题上取得了辉煌成就。霍奇金和赫胥黎提出有关神经脉冲产生和传播机制的Hodgkin-Huxley 模型就是一个里程碑事件,该事件推动了计算神经科学的诞生和发展。 20 世纪90 年代以来,计算神经科学受到了空前的重视。令人高兴的是,在中国经过几代人的努力,特别是近十年在吴思教授的努力下(举办了一系列计算神经科学的暑期和冬季讲习班),计算神经科学开始广为人知,一批新秀正登上舞台。在这种情况下,显然需要有一本能引导新来者迅速进入角色的入门读物。 笔者非常高兴能够读到吴思教授及其团队的应时之作《神经计算建模实战:基于BrainPy》,这是一本中国学者在融入自己的研究成果的基础上形成的计算神经科学入门读物,这在国内即使不是绝无仅有的,也是非常少的。国内现有的有关计算神经科学的著作往往只介绍国外的工作。吴思教授长期从事计算神经科学的研究和教学工作,因此对如何进行计算神经科学研究有切身感悟。在本书中,吴思教授及其团队把自己的经验倾囊相授,对于想从事计算神经科学研究的新来者来说,这是一本极好的入门书。即使是从事计算神经科学研究多年的学者,也会觉得受益匪浅,读时也会掩卷沉思自己有哪些不足,从书中可以吸取什么营养,以丰富自己的研究。 更为难得的是本书的实战性。与只给出有关神经系统的模型和由此得出的结论的国内外大多数计算神经科学相关著作不同,本书从一开始就手把手地教读者使用编程框架BrainPy,并利用这个工具让读者在阅读的同时进行编程实战。读者不仅可以学到知识,还可以学到比知识更重要的计算神经科学研究方法。诺贝尔生理学或医学奖获得者冯·贝凯希(Georg von Békésy)说过:“我曾经很喜欢阅读百科全书和里面所讲的事实。百科全书帮助我认识到,如果让我们的头脑只填满事实,我们仍然做不了任何事情。所以,我终于得出了一个结论:读百科全书并不是学习科学的方法,因为即使其中最好的文章也只能给出一个概要;但是知道概要和实际应用这个概要还有很大的距离。由于事实并不十分重要,我感悟到,教师真正应该做的只不过是指出某些方向。我们可以由此开动自己的大脑。所以老师教不了我们太多东西。他真正应该教给我们的是对工作的热爱,并引导我们对某些领域始终保持兴趣。我总是以这种方式来看待我的老师,我并不想向他们学习事实,只是想找出他们工作的方法。要是一位教师(特别是大学教师)不能教给学生研究方法,那么他就给不了学生什么有用的思想,这是因为,学生将来在工作中要用到的事实一般说来总和他在课堂上所讲的事实有所不同。但是,真正重要并对人的一生都有用的是工作方法。这就是我只对方法感兴趣的原因。”读者会发现,本书并不是一本有关计算神经科学的百科全书,或者类似百科全书的教科书。对于这样的书,美国著名的神经学家约翰·道林(John Dowlin)指出:“在我看来,神经科学教科书(生物学的绝大多数分支也是如此)越来越像百科全书,而对初学者或只是对该领域的要领感兴趣的其他人来说,它们的用处变得越来越小。”当然,笔者在这里无意全盘否定百科全书,百科全书是一种工具书,读者可以从中查到自己感兴趣的某个方面的概况,以及术语的意思,但是不适合作为入门书或教科书从头到尾地阅读。 无论是在课堂上,还是在本书中,吴思教授都符合冯·贝凯希心中的教师形象。吴思教授也没有将本书写成“百科全书”,而是选择了最能说明如何进行计算神经科学研究的角度,也讲述了他自己最有深刻体会的一些重要问题:神经元、突触和神经网络。让读者从对这些重要问题的剖析中学会方法。当然,要真正体会到这一点,最好的办法,就是按本书的思路,边读书边实践! 顾凡及 复旦大学生命科学院教授 推荐序3 壬寅仲夏,酷暑难耐。天有骄阳似火,气温连日接近或突破40?C,在这样的夏天,就着网购的正广和读自家藏书,似为最合适的消暑方式。也碰巧,就在这样的夏天,北京大学的吴思教授送来了一部新作《神经计算建模实战:基于BrainPy》。 大概始于10 年前,吴思教授连续多年参与组织了面向国内研究生和青年研究人员的计算神经科学冬令营。我曾有幸受邀在这个冬令营中做专题讲座,介绍神经信息编码的基本概念和相应的神经生物学基础理论。吴思教授和另外几位同道则在讲授计算神经科学理论的基础上,指导学员们上机体验神经系统模型的构建与计算。这些教与学的实践,也许提供了本书的雏形。 神经科学以大脑结构与功能为研究对象。而对大脑功能全方位的了解,离不开对大脑局部区域、神经元功能性回路、神经元集群、单神经元、突触和离子通道等不同层次的研究。在过去的一个多世纪,借助动物行为学、神经解剖学、神经电生理、神经药理学,以及后来发展起来的分子生物学和神经影像学等,人们逐渐对大脑功能的组织与实现有了系统认识。 曾有人将科学喻为一棵大树。在这棵大树上,物理学被表征为粗壮的树干,科学的各领域则被形容为源于树干且越分越多、越分越细的树枝。数学构成了这棵大树的树根,滋养着枝繁叶茂的科学。当人们对大脑功能的考察从原始的简单观察进入量化分析时,神经科学就离不开数学方法的使用了。然而,将更为精巧的数学工具应用于神经科学的研究中,则催生了神经科学的一个新的分支——计算神经科学。 长期以来,计算神经科学以其特有的魅力,不断吸引着具有各种学科背景的学者和学生加入。但是,以任意一种学科背景进入交叉学科研究,都有一些特定的困难。对于计算神经科学而言,研究者需要有两大类知识:神经生物学和数理科学。这两大类知识的积累和应用方式各有特点。以数理或工程的训练背景进入神经生物学的学习自然有一定的困难,而以生物学知识背景学习数学和计算也会遇到一些困难。也许得益于多年主办相关领域的暑期和冬季讲习班,吴思教授深知开展这两种不同类型的跨领域学习和工作的难点,也深知新入门的探索者需要一张怎样的“导览图”。 作为一部“实训教材”,本书将BrainPy作为编程工具,这是吴思教授团队基于Python编程语言开发的实用软件。全书以对BrainPy 的介绍开篇,让读者看到一条获取实用工具的清晰路径,并感受到一种特别的亲和力。对于神经系统的研究对象,本书选择了神经元和突触这两个最基本的元素,将其作为入门教学的起点。 自Cajal 以来,神经元被认为是神经系统的基本结构和功能单位。作为神经元建模的基础,本书的第2 篇对神经元的结构和功能特性进行了较为详细的介绍,语言深入浅出,配以适当的图解,使非生物学背景的读者能对相关生物学概念形成比较清晰的认识。随后介绍的模型包括严格遵从生物学基本过程所建立的具有明确生物学意义的经典模型(HH 模型),以及若干简化神经元模型。循序渐进的介绍,加上相应的动力学特性分析,本书不仅对每种常用模型的来龙去脉给出了清晰的说明,而且为相应参数的作用和意义提供了具体的解释。 大脑的功能意义在于信息处理,而大脑储存和传输信息的关键部位是神经元之间形成的突触。了解突触传递及其效率调节机制,不仅对神经生物学本身具有非常重要的意义,也是人工智能、机器学习等领域关注的重点。本书的第3 篇以突触结构和突触传递的生物学过程为基础,介绍了与突触模型相关的基本概念。对于信息传输而言,突触传递效率在特定机制下发生的调节过程具有非常重要的意义。长期以来,突触可塑性被认为是学习与记忆的基础,感觉的适应或敏化也被证明与突触可塑性有关。因此,类脑系统的开发也离不开这些概念。本书专门介绍了突触可塑性的概念及算法实现,以满足读者对这方面知识的需求。 有了神经元模型和突触模型,对神经元网络的活动或大脑特定区域的功能进行模拟成为可能。本书的第4 篇对神经网络的几个经典模型进行了介绍。这些模型虽然都是为了描述实验中观察到的生物学现象,但是其各有风格,有的更关注生物学过程本身,有的则更深入地表达其数学思想。如何将两者很好地结合,对于今天的研究者来说,依然是一项具有挑战性的工作。 神经生物学的本质是实验,而计算神经科学的本质是基于实验现象的计算。本书的独到之处在于,对于所介绍的每种模型,书中都提供了源代码,使读者可以快速上手,并通过自己的计算实践,对模型思想及参数意义形成深刻的理解。学习没有捷径,但本书所提供的学习方式可以是一条“高速路”。 梁培基 上海交通大学生物医学工程学院教授 前 言 计算神经科学是一门新的高速发展的交叉学科。顾名思义,计算神经科学的目标是用计算建模的方法阐明大脑的工作原理。这一点不同于其他脑科学分支,如心理学、实验神经科学、认知神经科学等,后者更多从定性的角度揭示大脑的奥秘。我们要完整地认识大脑,实验与计算这两个方面的知识缺一不可,它们之间的关系可以简单类比为实验物理与理论物理之间的关系:我们不仅要知道大脑的结构(实验神经科学)与认知功能(认知神经科学、心理学),还要阐明这些神经结构是如何实现大脑的认知功能的(计算神经科学)。所谓“阐明”,其标准是能用数学模型详细描述从结构到功能的计算过程,这样才是在真正意义上理解了大脑的工作机制,正如牛顿的万有引力定律统一刻画了貌似纷繁复杂的众多天体的运行轨迹。有了脑认知功能的计算模型,一个自然的副产品是,这些模型可以应用于人工智能或启发人工智能的发展,即实现所谓的类脑智能。因此,计算神经科学的作用还包括成为脑科学与人工智能之间的桥梁。 计算神经科学的重要性从某种意义上来看是不言自明的,谁不对破译大脑的奥秘(如意识、情感、智力本质等)感兴趣呢?但作为一门在20 世纪80 年代中期被提出的新学科,截至目前,计算神经科学领域内的大的科学进展还非常少,甚至我们还没有建立一个能够从神经元和突触层次出发,清楚地描述一个脑高级功能具体实现机制的完整的计算模型。挑战主要来自两个方面:一是我们对大脑的细致结构还知道得太少,这使得我们在计算和建模时常常难为无米之炊;二是大脑作为目前已知的宇宙中最复杂的信息加工“机器”,其网络结构极其复杂和庞大,在数学上如何描述如此大的网络系统,在计算机上如何仿真如此大的网络动力学模型,我们没有经验可借鉴,一切都要靠摸索。可喜的是,近年来脑科学在世界范围内越来越受重视,多个国家已经启动了雄心勃勃的大型脑科学计划,关于大脑结构和神经活动的海量实验数据不断涌现,这些都为神经计算建模提供了前所未有的机遇。同时,高性能计算机的普及为大规模脑仿真提供了技术支撑,类脑智能的发展需求也为神经计算建模提供了巨大的驱动力,因为只有完成了神经计算建模,脑科学才真正可以为类脑计算提供可借鉴的模型。因此,计算神经科学正受到来自各研究领域学者越来越多的关注。 笔者在计算神经科学领域开展科研和教学工作20 余年,也为推动中国计算神经科学的发展贡献了微薄之力,包括参与组织了多个短期培训课程,如已有10余年历史的冷泉港—亚洲暑期课程、上海交通大学冬季课程等。在日常科研中,时常有学生或来自其他领域的学者来信表示对计算神经科学有强烈兴趣,希望我能推荐一本好的入门教材。这实在不是一件容易的事,原因包括:①大脑非常复杂,不同模式的动物大脑或相同模式动物大脑的不同脑区都可能存在不同的结构,都可能采取不同的计算策略来加工信息,因此通常需要采用不同的建模方式,目前没有、未来也不会有一本教材能覆盖所有建模知识;②计算神经科学本身还在高速发展中,现有模型不断被修正,新的模型不断涌现,目前的教材很难提供已经标准化的建模知识;③计算神经科学是一门需要与实践(编程实现)紧密结合的学科,目前领域内的教材普遍专注于理论介绍,缺乏相应的模型编程练习,使得初学者或非专业领域的学者理解起来有一定的难度;④最重要的是,我们还缺乏一本计算神经科学的中文教材。由于其鲜明的交叉学科特性,来自数理或计算机背景的初学者通常缺乏神经生物学知识,而来自生物背景的初学者又往往缺乏必要的数理训练,因此一本简单易懂的中文教材对引领大家快速入门非常有益。基于以上原因,我们决定写一本简单易懂的、理论与实践紧密结合的、入门级计算神经科学中文教材。 与领域内的其他教材相比,本书有三大特点:第一,本书的内容不追求大而全,而是着重介绍计算神经科学领域最基础的计算模型,包括神经元、突触及网络层次的基础模型,这些模型一方面能使读者快速入门神经计算建模,另一方面可以普遍使用,能为读者以后的深入研究奠定基础;第二,本书强调将理论与实践紧密结合,为每个计算模型配上相应的编程实现,使读者能通过实操加深对模型的理解;第三,本书中的模型都采用BrainPy(灵机)编程,这是一个简单易学、灵活高效、功能齐全的脑动力学建模通用编程软件,读者在学习这本书的同时也会掌握一项神经动力学的编程技能,为后续开展科研工作奠定基础。 计算神经科学研究的鲜明特点是涉及大量数学计算,尤其是计算机仿真。对于复杂的神经元模型、突触模型或大尺度神经网络模型,理论解析其动力学性质在大多数情况下是不可能的,计算机仿真不可或缺。因此,好的仿真软件对计算神经科学的发展至关重要。这一点我们可以从人工智能的发展经验中得出。这一轮人工智能的快速发展除了得益于大数据和超算,深度学习编程框架(如TensorFlow和PyTorch)的普及也起了关键作用。这些简单易学的编程框架为用户提供了通用的编程接口,支持研究人员在各应用任务上灵活高效地定义人工智能模型,快速形成了良好的生态系统,从而革命性地推动了整个领域的飞速发展。计算神经科学领域也需要类似TensorFlow 和PyTorch 的通用编程软件,以支持用户自主灵活地定义、训练和分析脑动力学模型。领域内经典的脑动力学模拟软件,要么学习门槛高,要么不够灵活、可扩展性差,要么功能不够齐全,不能成为通用的编程平台。为此,我们课题组在最近的工作中研发了BrainPy。 总的来说,BrainPy 是集脑动力学模型定义、模拟、训练和分析于一体的通用编程软件,致力于为神经计算建模提供新生态。BrainPy 的核心是引入了一种基于即时编译技术的脑动力学编程新范式,在保证编程方便灵活、简单易学的同时,也提供了出色的运行速度。具体而言,BrainPy 是基于Google JAX 框架和XLA 编译器构建脑动力学编程的完备编程系统。用户可以基于一整套Python 语法进行编程,自主掌控模型实现逻辑,完成任意动力学模型的自定义(模型定义);在运行阶段,可以基于BrainPy 定义好的模型,使用JAX 和XLA 的即时编译技术将Python 代码自动转换为CPU、GPU、TPU 上的高性能机器码,从而获得媲美C 或CUDA 的运行速度(模型模拟);同时,BrainPy 能与最新的机器学习模型和方法无缝整合,它支持反向传播等算法,可以从数据或任务中训练动力学模型(模型训练);此外,在BrainPy 内定义的模型,不仅可以用于模拟和训练,还可以自动进行动力学分析,包括对低维动力学系统的相图分析、分岔分析和对高维动力学系统的不动点分析(模型分析)。更多关于BrainPy 的介绍请见第1章。 本书内容具体安排如下:第1篇介绍BrainPy 的基础知识,包括数据操作、控制流、动力学模型运行,以及如何安装、查阅文档等;第2篇介绍神经元模型,包括基本的电导模型(HH 模型),以及领域内常见的简化神经元模型;第3篇介绍突触及突触可塑性模型,包括化学突触和电突触模型,以及化学突触的长、短时程可塑性模型;第4篇介绍神经网络模型,包括领域内流行的4 种模型,兴奋—抑制平衡网络、决策网络、连续吸引子网络、库网络。 本书主要由4 位作者共同完成。其中,王超名负责BrainPy 的开发,以及书中大部分模型的编程实现,参与第1 篇和第2 篇的写作;陈啸宇负责第2、3、4 篇的写作;张天秋负责第1 篇的写作;笔者负责全书的统一规划。所有作者都参与了全书的修改。本书的初期准备得到了刘欣宇、江颖芊、林小涵、董行思等课题组成员的帮助。本书部分内容曾经在北京大学、北京人工智能研究院、合肥人工智能研究院等地试讲,得到了学员的有益反馈。此外,我们还特别感谢中国计算神经科学的早期拓荒者、对中国计算神经科学发展做出了重要贡献的3位老师,郭爱克院士、顾凡及教授和梁培基教授为本书作序。 另外,本书中的代码统一放在https://github.com/c-xy17/NeuralModeling,有需要的读者可以查阅和下载。 吴思 2023 年夏于北京大学燕园

目录

第1 篇基础知识 第1 章编程基础知识. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3 1.1 安装教程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 1.1.1 Linux 与macOS 系统. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 1.1.2 Windows 系统. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.1.3 更新版本和环境. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.2 JIT 编译下的编程基础. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2.1 JIT 编译加速. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2.2 数据操作. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2.3 控制流. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 1.3 动力学模型的编程基础. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .22 1.3.1 积分器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 1.3.2 更新函数. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 1.3.3 突触计算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 1.3.4 运行器. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 1.4 查阅文档. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 1.5 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 第2 篇神经元模型 第2 章神经元的电导模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 2.1 神经元结构. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 2.2 静息膜电位. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 2.3 等效电路. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 2.4 电缆方程. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46 2.4.1 电缆方程的推导. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46 2.4.2 电信号在长直纤维中的被动传播. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .48 2.5 动作电位. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 2.5.1 动作电位的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 2.5.2 动作电位的产生机制. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 2.5.3 动作电位的远距离传播. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51 2.6 霍奇金—赫胥黎(HH)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52 2.6.1 离子通道模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52 2.6.2 利用电压钳技术测量离子电流. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53 2.6.3 泄漏电流的测量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 2.6.4 INa 和IK 的测量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 2.6.5 HH 模型的数学表达. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .57 2.7 HH 模型的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 2.8 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 2.9 拓展阅读:求解门控变量n、h、m 的表达式. . . . . . . . . . . . . . . . . . . . . . 63 2.9.1 门拉变量n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63 2.9.2 门控变量h . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65 2.9.3 门控变量m. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68 第3 章简化神经元模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 3.1 泄漏整合发放(LIF)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 3.1.1 LIF 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 3.1.2 LIF 模型的动力学性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73 3.1.3 LIF 模型的优点和缺点. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76 3.2 二次整合发放(QIF)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 3.2.1 QIF 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 3.2.2 QIF 模型的动力学性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 3.2.3 θ 神经元模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 3.3 指数整合发放(ExpIF)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 3.3.1 ExpIF 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 3.3.2 ExpIF 模型的动力学性质. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 3.4 适应性指数整合发放(AdEx)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 3.4.1 AdEx 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 3.4.2 AdEx 模型的发放模式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95 3.4.3 利用相平面分析法研究AdEx 模型产生不同发放模式的动力学机制. . . . . 97 3.5 Izhikevich 模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 3.5.1 Izhikevich 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .103 3.5.2 Izhikevich 模型的发放模式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .105 3.5.3 用分岔分析法研究Izhikevich 模型在不同发放模式间的转换. . . . . . . . . . 107 3.6 Hindmarsh-Rose(HR)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110 3.6.1 Hindmarsh-Rose 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110 3.6.2 Hindmarsh-Rose 模型产生簇发放的动力学机制. . . . . . . . . . . . . . . . . . . . 112 3.6.3 Hindmarsh-Rose 模型的其他发放模式. . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 3.7 泛化整合发放(GIF)模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118 3.7.1 GIF 模型的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118 3.7.2 GIF 模型的动力学分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122 3.8 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125 第3 篇突触及突触可塑性模型 第4 章突触模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129 4.1 化学突触. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129 4.2 化学突触的现象学模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 4.2.1 电压跳变模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133 4.2.2 指数衰减模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136 4.2.3 Alpha 函数模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141 4.2.4 双指数衰减模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142 4.3 化学突触的生理学模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146 4.3.1 建模离子通道的开放与关闭. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146 4.3.2 AMPA 模型和GABAA 模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .147 4.3.3 NMDA 模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 4.3.4 GABAB 模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 4.4 电突触模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 4.5 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159 第5 章突触可塑性模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160 5.1 突触短时程可塑性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160 5.2 突触长时程可塑性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166 5.2.1 脉冲时序依赖可塑性(STDP) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166 5.2.2 赫布学习法则. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172 5.2.3 Oja 法则. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174 5.2.4 BCM 法则. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 5.3 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 第4 篇神经网络模型 第6 章兴奋—抑制平衡网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .185 6.1 兴奋—抑制平衡网络的结构. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185 6.2 兴奋—抑制平衡网络的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186 6.3 兴奋—抑制平衡网络的计算功能. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190 6.4 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193 第7 章决策网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194 7.1 决策行为的研究背景. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194 7.2 脉冲决策网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195 7.2.1 脉冲决策网络的结构. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195 7.2.2 脉冲决策网络模型的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196 7.3 发放频率决策网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203 7.3.1 发放频率决策网络的结构. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203 7.3.2 发放频率决策网络模型的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205 7.3.3 发放频率决策网络模型的动力学分析. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .209 7.4 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 第8 章连续吸引子网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 8.1 吸引子网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 8.2 连续吸引子网络的结构. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213 8.3 连续吸引子网络模型的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216 8.4 连续吸引子网络模型的计算功能. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 8.4.1 神经元群编码. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 8.4.2 平滑跟踪. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 8.4.3 其他计算功能. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222 8.5 本章小结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 第9 章库网络. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 9.1 库网络的定义及发展背景. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 9.2 回声状态网络的定义和限定条件. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 9.2.1 回声状态网络的定义. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 9.2.2 网络具有回声性质的条件. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227 9.3 回声状态网络模型的编程实现. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .228 9.4 回声状态网络的训练. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232 9.4.1 周期(正弦)函数的拟合. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 9.4.2 劳伦兹系统的预测. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236 第10 章网络模型总结. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240 参考文献. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241

作者简介

编辑推荐

作者寄语

电子资料

www.luweidong.cn

下一个