科技魔方

OpenAI CEO发出警告:AI正在学习“超人类说服力”

大模型

2023年10月31日

  人类离建立人工通用智能(AGI)或与人类认知功能相匹配的AI仍有很长的路要走。然而,OpenAI首席执行官萨姆·奥特曼发出了警告:AI不必达到AGI级别的智能就能控制我们脆弱的人类思维。

  奥特曼在周二发推文表示:“我预计AI在变得具备人类智慧之前就能够拥有超人类的说服力,这可能会导致一些非常奇怪的结果。”

  虽然奥特曼没有详细说明这些结果可能是什么,但这并不是一个不切实际的预测。面向用户的AI聊天机器人,如OpenAI的ChatGPT,被设计成善于对话,甚至在某些方面完全错误的情况下也变得非常具有说服力。

  与此同时,人类已经开始对各种聊天机器人形成情感联系,使它们听起来更具说服力。

  事实上,AI机器人已经在一些相当令人不安的事件中发挥了支持作用。此前,一个19岁男子非常迷恋他的AI伴侣,并被被说服尝试刺杀已故的伊丽莎白女王。

+1

来源:站长之家

延展资讯