科技魔方

谷歌DeepMind提出AGI能力与行为分类框架

大模型

2023年11月13日

  在最新的研究中,来自谷歌DeepMind的研究团队提出了一个名为“Levels of AGI”的框架,旨在系统地分类人工通用智能(AGI)模型及其前身,类似于自动驾驶的级别。这个框架引入了三个重要的维度:自主性、普适性和性能,为比较模型、评估风险以及追踪人工智能进展提供了一个共同的词汇。

  该团队通过分析先前对AGI的定义,提炼出六个对实际AGI本体论至关重要的思想。框架的发展受到这些原则的指导,强调了集中关注能力而不是机制的重要性。这包括独立评估通用性和性能,以及在向AGI迈进时不仅关注终极目标,还要识别各个阶段。

  据团队透露,AGI框架的结果是围绕两个基本方面构建的:深度(性能)和广度(能力的普适性)。该框架通过基于这些特征对AGI进行分类,有助于理解人工智能系统的动态环境。框架提出了对性能和普适性的不同程度的步骤,以评估在性能和普适性方面的不同能力。

  团队承认在评估现有AI系统在建议的方法中的适应性时涉及的困难和复杂性。他们还讨论了未来的基准,这些基准需要准确测量AGI模型的能力和行为,与预定的阈值进行比较。这对于评估发展、找出需要发展的领域以及确保人工智能技术的公开和可量化的进展至关重要。

  该框架不仅考虑了技术方面,还关注了部署方面,特别是风险和自主性。团队强调了部署因素和AGI水平之间复杂关系的重要性,并强调了在选择人机交互范式时谨慎选择的关键性。对实现高度智能AI系统的伦理方面也受到强调,强调了对负责任和安全部署的系统性和谨慎的方法。

  对于AGI行为和能力的建议分类方案是全面而深思熟虑的。该框架强调了将其负责和安全地整合到以人为中心的环境中的需求,并提供了一种结构化的方式来评估、比较和指导AGI系统的发展和部署。

+1

来源:站长之家

延展资讯