论文部分内容阅读
近日，Google Research举办了一个关于深度学习概念理解的在线研讨会。这次的在线研讨会有一个演讲特别引人注目，就是哥伦比亚大学计算机科学教授Christos Papadimitriou关于“大脑中的文字表征”的演讲。
Papadimitriou在演讲中讨论了随着我们对大脑信息处理机制理解的增多，我们将能够开发更强健的算法、更好地理解和参与对话。他展示了一个简单有效的模型，解释了大脑不同区域如何相互沟通来解决认知问题。
Papadimitriou把与观众“交流”这件事描述为是“世界上最伟大的奇迹之一”。
大脑将结构化的知识转换成电波，通过不同的媒介传输到听者的耳朵，然后再由大脑处理并转换成结构化的知识。“毫无疑问，所有这些都发生在棘波、神经元和突触上。但是怎么实现的呢？这是一个巨大的问题。我相信，未来10年对于如何实现这一目标的细节，我们将会有更好的办法。”
大脑中神经元的集合
认知和神经科学家们正试图弄清楚大脑中的神经活动是如何转化为语言、数学、逻辑、推理、计划和其他功能。如果科学家们能够成功地用数学模型来描述大脑的运作，那么他们将打开一扇新的大门，创造出能够模仿人类思维的人工智能系统。
许多研究集中在单个神经元的活动，直到几十年前，科学家们还认为单个神经元对应着单个的想法。最流行的例子是“祖母细胞”理论，该理论声称，每当你看到祖母时，大脑中就有一个神经元会达到峰值。
最近的一些发现驳斥了这种说法，并证明了每个概念与大量的神经元都有关联，而且神经元与不同概念之间可能存在重叠。这些脑细胞群被称为“集合体”，Papadimitriou将其描述为“一组高度连接、稳定的神经元，它们代表着某种东西：一个词、一个想法或一个物体等。”
神经科学家GyrgyBuzsáki将集合体描述为“大脑的字母表”。
大脑的数学模型
为了更好地理解集合体的作用，Papadimitriou提出了一个被称为“互动循环网”的大脑数学模型，根据这个模型，大脑被划分为有限数量的区域，每个区域包含数百万个神经元。
每个区域都有递归，这意味着神经元之间相互作用，每个区域都与其他几个区域有联系，这些区域间的连接可以被激发或被抑制。这个模型提供了随机性、可塑性和抑制性。
随机性意味着每个大脑区域的神经元是随机连接的，而且，不同的区域之间有着随机的联系。
可塑性使神经元和区域之间的连接能够通过经验和训练进行调整。
抑制性意味着，在任何时刻，有限数量的神经元处于兴奋状态。
Papadimitriou将其描述为一个基于“生命的三种主要力量”的非常简单的数學模型。
与来自不同学术机构的科学家一起，Papadimitriou在2020年发表在《美国国家科学院院刊（PNAS）》的一篇论文中详细阐述了这个模型。
集合体是模型的关键组成部分，并且支持科学家们所说的“集合演算”，即一组能够处理、存储和检索信息的操作。“这些操作不是凭空而来的，我相信这些操作是真的，我们可以通过数学证明和模拟验证这些操作符合真实的行为这些操作符合（在大脑中）观察到的行为。”
Papadimitriou和他的同事们假设集合和集合演算是解释大脑认知功能（如推理、计划、语言）的正确模型。Papadimitriou表示，大部分的认知能力都符合这个要求。
基于集合演算的自然语言处理
为了测试他们的思维模型，Papadimitriou和同事构建了一个自然语言处理系统，该系统使用集合演算来分析英语句子。实际上，他们试图创造一个人工智能系统，模拟大脑中存放与词汇和语言理解相对应的集合的区域。“实际情况是，如果一系列单词在LEX中激发了这些集合，那么这个引擎将生成一个句子的解析。”Papadimitriou介绍说。
该系统专门通过模拟神经元spike来工作（就像大脑一样），这些spike是由集合演算操作引起的，这些神经元集合体对应于内侧颞叶、Wernicke和Broca区域，这3个区域是大脑中高度参与语言处理的区域。
该模型接收一系列单词并生成一个语法树，实验表明，就神经元spike的速度和频率而言，他们的模型活动与大脑中发生的活动非常接近。
人工智能模型仍然非常初级，缺少语言的许多重要部分，Papadimitriou承认这一点。研究人员正在制定计划，填补存在的语言空白。他们相信，所有这些部分都可以用集合演算加以补充，这个假设需要通过时间的检验。
“这是语言的神经基础吗？是不是生来就有这样一个东西存在于我们的大脑左半边？”Papadimitriou问道。关于语言在人脑中是如何工作的，以及它与其他认知功能之间的关系，仍然存在许多问题。但是Papadimitriou相信集合模型使我们更接近理解这些功能，同时回答剩余的问题。语言分析只是测试集合演算理论的一种方法。Papadimitriou和他的合作者们正在研究其他的应用，包括学习和计划，就像小孩子做的那样。
Papadimitriou说：“我们的假设是，集合演算或类似的东西填补了逻辑存取账单，换句话说，这是我们大脑计算方式的一个有用的抽象概念。”
Papadimitriou在演讲中讨论了随着我们对大脑信息处理机制理解的增多，我们将能够开发更强健的算法、更好地理解和参与对话。他展示了一个简单有效的模型，解释了大脑不同区域如何相互沟通来解决认知问题。
Papadimitriou把与观众“交流”这件事描述为是“世界上最伟大的奇迹之一”。
大脑将结构化的知识转换成电波，通过不同的媒介传输到听者的耳朵，然后再由大脑处理并转换成结构化的知识。“毫无疑问，所有这些都发生在棘波、神经元和突触上。但是怎么实现的呢？这是一个巨大的问题。我相信，未来10年对于如何实现这一目标的细节，我们将会有更好的办法。”
大脑中神经元的集合
认知和神经科学家们正试图弄清楚大脑中的神经活动是如何转化为语言、数学、逻辑、推理、计划和其他功能。如果科学家们能够成功地用数学模型来描述大脑的运作，那么他们将打开一扇新的大门，创造出能够模仿人类思维的人工智能系统。
许多研究集中在单个神经元的活动，直到几十年前，科学家们还认为单个神经元对应着单个的想法。最流行的例子是“祖母细胞”理论，该理论声称，每当你看到祖母时，大脑中就有一个神经元会达到峰值。
最近的一些发现驳斥了这种说法，并证明了每个概念与大量的神经元都有关联，而且神经元与不同概念之间可能存在重叠。这些脑细胞群被称为“集合体”，Papadimitriou将其描述为“一组高度连接、稳定的神经元，它们代表着某种东西：一个词、一个想法或一个物体等。”
神经科学家GyrgyBuzsáki将集合体描述为“大脑的字母表”。
大脑的数学模型
为了更好地理解集合体的作用，Papadimitriou提出了一个被称为“互动循环网”的大脑数学模型，根据这个模型，大脑被划分为有限数量的区域，每个区域包含数百万个神经元。
每个区域都有递归，这意味着神经元之间相互作用，每个区域都与其他几个区域有联系，这些区域间的连接可以被激发或被抑制。这个模型提供了随机性、可塑性和抑制性。
随机性意味着每个大脑区域的神经元是随机连接的，而且，不同的区域之间有着随机的联系。
可塑性使神经元和区域之间的连接能够通过经验和训练进行调整。
抑制性意味着，在任何时刻，有限数量的神经元处于兴奋状态。
Papadimitriou将其描述为一个基于“生命的三种主要力量”的非常简单的数學模型。
与来自不同学术机构的科学家一起，Papadimitriou在2020年发表在《美国国家科学院院刊（PNAS）》的一篇论文中详细阐述了这个模型。
集合体是模型的关键组成部分，并且支持科学家们所说的“集合演算”，即一组能够处理、存储和检索信息的操作。“这些操作不是凭空而来的，我相信这些操作是真的，我们可以通过数学证明和模拟验证这些操作符合真实的行为这些操作符合（在大脑中）观察到的行为。”
Papadimitriou和他的同事们假设集合和集合演算是解释大脑认知功能（如推理、计划、语言）的正确模型。Papadimitriou表示，大部分的认知能力都符合这个要求。
基于集合演算的自然语言处理
为了测试他们的思维模型，Papadimitriou和同事构建了一个自然语言处理系统，该系统使用集合演算来分析英语句子。实际上，他们试图创造一个人工智能系统，模拟大脑中存放与词汇和语言理解相对应的集合的区域。“实际情况是，如果一系列单词在LEX中激发了这些集合，那么这个引擎将生成一个句子的解析。”Papadimitriou介绍说。
该系统专门通过模拟神经元spike来工作（就像大脑一样），这些spike是由集合演算操作引起的，这些神经元集合体对应于内侧颞叶、Wernicke和Broca区域，这3个区域是大脑中高度参与语言处理的区域。
该模型接收一系列单词并生成一个语法树，实验表明，就神经元spike的速度和频率而言，他们的模型活动与大脑中发生的活动非常接近。
人工智能模型仍然非常初级，缺少语言的许多重要部分，Papadimitriou承认这一点。研究人员正在制定计划，填补存在的语言空白。他们相信，所有这些部分都可以用集合演算加以补充，这个假设需要通过时间的检验。
“这是语言的神经基础吗？是不是生来就有这样一个东西存在于我们的大脑左半边？”Papadimitriou问道。关于语言在人脑中是如何工作的，以及它与其他认知功能之间的关系，仍然存在许多问题。但是Papadimitriou相信集合模型使我们更接近理解这些功能，同时回答剩余的问题。语言分析只是测试集合演算理论的一种方法。Papadimitriou和他的合作者们正在研究其他的应用，包括学习和计划，就像小孩子做的那样。
Papadimitriou说：“我们的假设是，集合演算或类似的东西填补了逻辑存取账单，换句话说，这是我们大脑计算方式的一个有用的抽象概念。”