本文来自于微信公众号 新智元(ID:AI_era),作者:润。
【新智元导读】澳大利亚和德国高校的科研人员合作,开发出全球首台仿人脑规模超算,能执行每秒228万亿次突触操作,未来将为人工智能应用提供人脑规模的计算能力!
人脑作为地球上最为高效的计算设备,可以仅仅用20w的功率,1.3公斤的质量,就能完成每秒100万亿次的运算量。
而现在人类最大的超级计算机Hewlett Packard Enterprise Frontier,也能以完成和人脑计算量相似的计算,但是占地680平米,运行功率达到2270万瓦。
这两个数字之间的巨大能耗差异,凸显出了人脑作为计算设备构架上的先进性。而最近,澳大利亚的科学家宣布,他们开发了一台完全模仿人脑的超级计算机——DeepSouth,将在明年4月份上线。
这将是世界上第一台能够在人脑规模模拟神经元(数十亿)和突触(数万亿)网络的超级计算机,可以模拟每秒228万亿次突触操作。
西悉尼大学的ICNS团队与来自悉尼大学、墨尔本大学和德国亚琛大学的神经形态领域的合作伙伴合作开发了这台超算。
这台超级计算机被命名为DeepSouth,是为了向IBM的TrueNorth系统和Deep Blue致敬。
西悉尼大学ICNS主任André van Schaik教授称:
由于我们无法大规模模拟类脑网络,我们对大脑如何使用神经元进行计算的理解的进展受到阻碍。使用图形处理单元 (GPU) 和多核中央处理单元 (CPU) 在标准计算机上模拟脉冲神经网络(Spiking Neural Networks)速度太慢且耗电。我们的系统将改变这一点。
这个平台将增进我们对大脑的理解,并在传感、生物医学、机器人、太空和大规模人工智能应用等不同领域开发大脑规模的计算应用。
根据ICNS的说法,这个超算主要的收益在这几个地方:
-极低功率完成超快速、大规模并行处理:大脑能够以20瓦的功率处理相当于每秒10^18次的运算。
DeepSouth使用模拟大脑工作方式的神经形态工程,可以快速处理大量数据,使用的电量少得多,同时比其他超级计算机小得多。
-可扩展性:系统允许添加更多硬件来创建更大的系统,或者缩小规模以实现更小的便携式或更经济高效的应用程序。
-可重新配置:利用现场可编程门阵列 (Leveraging Field Programmable Gate Arrays,FPGA) 促进硬件重新编程,从而能够添加新的神经元模型、连接方案和学习规则,从而克服使用定制设计硬件的其他神经形态计算系统中出现的限制。
DeepSouth将通过前端进行远程访问,该前端允许使用流行的编程语言Python描述神经模型和设计神经网络。前端的开发使研究人员无需详细了解硬件配置即可使用该平台。
-商业可用性:利用商用硬件可确保硬件的持续改进,独立于设计超级计算机的团队,克服使用定制设计硬件的其他神经形态计算系统中出现的限制。
定制芯片需要大量时间来设计和制造,每个芯片的成本高达数千万美元。使用商业现成的可配置硬件意味着该原型可以很容易在世界各地的数据中心复制。
-人工智能:通过模仿大脑,将能够创建比当前模型更有效的方式来执行人工智能流程。
晶体管的极限
而要理解这个「仿真人脑」和现在通用计算机的差别,还是要从现代计算机的构架入手。
1945年6月30日,数学家和物理学家约翰·冯·诺依曼描述了一种新机器的设计——电子离散变量自动计算机 (Edvac)。这有效地定义了我们所知的现代电子计算机。
智能手机、笔记本电脑以及世界上最强大的超级计算机都一直沿用冯·诺依曼在大约80年前引入的相同基本结构。它们都具有不同的处理和内存单元,其中数据和指令存储在内存中并由处理器计算。
几十年来,微芯片上的晶体管数量大约每两年增加一倍,这一现象被称为摩尔定律。这使我们能够拥有更小、更便宜的计算机。
然而,晶体管尺寸现在已接近原子尺度。在如此微小的尺寸下,计算过程中产生过多的热量是一个很严重的问题。
这种被称为量子隧道效应的现象,会干扰晶体管的功能。这使得摩尔定律代表的晶体管小型化之路越来越难以走下去。
为了克服这个问题,科学家们正在探索新的计算方法,从都隐藏在头脑中的强大计算机——人脑开始。
大脑并不按照约翰·冯·诺依曼的计算机模型工作。
它没有单独的计算和存储区域。
相反,它们的工作原理是连接数十亿个以电脉冲形式传递信息的神经细胞。信息可以通过称为突触的连接点从一个神经元传递到下一个神经元。
大脑中神经元和突触的组织是灵活的、可扩展的和高效的。
因此,与计算机不同的是,在大脑中,记忆和计算是由相同的神经元和突触控制的。自20世纪80年代末以来,科学家们一直在研究这个模型,意图将其导入计算中。
模仿生命
神经形态计算机基于简单的基本处理器(其作用类似于大脑的神经元和突触)的复杂网络。这样设计最主要优点是机器本质上是并行的。
这意味着,与神经元和突触一样,计算机中的几乎所有处理器都可以同时运行,串联通信。
此外,由于单个神经元和突触执行的计算与传统计算机相比非常简单,因此能耗要小几个数量级。
尽管神经元有时被认为是处理单元,突触被认为是记忆单元,但它们有助于处理和存储。换句话说,数据已经位于计算需要的地方,没有分别用处理器和存储器分开。
这总体上加快了大脑的计算速度,因为内存和处理器之间没有分离,这在经典(冯·诺依曼)机器中会导致速度减慢。但它也避免了执行从主存储器组件访问数据的特定任务的需要,就像传统计算系统中发生的那样,并且消耗大量的能量。
这些原则是DeepSouth的主要灵感。
但这不是目前唯一活跃的神经形态系统。值得一提的是由欧盟倡议资助的人脑项目(HBP)。HBP于2013年至2023年运行,并催生了BrainScaleS,这是一台位于德国海德堡的机器,用于模拟神经元和突触的工作方式。
由于神经形态计算机被设计用来模仿真实的大脑,因此它们可能是一个转折点的开始。它们提供可持续且经济实惠的计算能力,并允许研究人员评估神经系统模型,是一系列应用的理想平台。
它们有潜力促进人类对大脑的理解,并为人工智能提供新的方法。