联合国警告脑机接口的危害：AI可能操纵人类大脑

　　《AI前哨》北京时间7月17日消息，联合国上周对神经技术快速进步所带来的“潜在危害”发出警告，称大脑植入物和脑部扫描可能会让人工智能(AI)操纵人类大脑，侵犯私密的人类思想。

　　联合国教科文组织(UNESCO)专门研究AI的经济学家马里亚格拉兹斯奎西亚里尼(Mariagrazia Squicciarini)表示，在AI算法的加持下，神经技术最近得到了快速发展，“神经技术得到了极大强化”。目前，AI算法能够以前所未有的方式处理和学习数据。

　　AI可操纵大脑机制

　　不过，随着AI增强了神经技术领域，它将需要监管。联合国教科文组织负责社会和人文科学的助理总干事加布里埃拉拉莫斯(Gabriela Ramos)表示，AI技术具备了“影响深远而且可能有害”的能力。

　　“我们正在通往这样一个世界:算法将使得我们能够解码人们的心理过程，并直接操纵左右人们意图、情绪和决定背后的大脑机制。”

　　联合国秘书长古特雷斯表示， 神经技术正在“飞速发展”，需要制定道德准则来保护人权。联合国教科文组织在巴黎的一次会议上表示，该机构已开始制定一个全球“道德框架”，以解决神经技术带来的人权问题。

　　联合国官员表示，虽然神经技术可以改变人们的生活，但可能也要付出代价。例如，联合国教科文组织采访过一位患有癫痫症的女性汉娜加尔文(Hannah Galvin)。她在大脑中安装了一个神经技术设备，可以检测癫痫发作，并通知患者何时躺下。但是，这个设备最终让加尔文的生活变得更糟。加尔文表示，她的癫痫症每天发作多达100次，导致装置不断发生故障。

　　最终，加尔文移除了这个神经设备。“我感觉有个人在我的脑袋里，但那个人不是我。我变得越来越沮丧。我一点也不喜欢它。”她表示。

　　但是，斯奎西亚里尼也指出，神经技术对其他人来说可能是“奇妙的”，它可以让盲人重新看到世界或者让瘫痪的人再次走路。

　　道德框架

　　联合国教科文组织总干事奥德蕾阿祖莱(Audrey Azoulay)在6月份提出，针对神经技术建立“国际层面的共同道德框架”。“神经技术可以帮助解决许多健康问题，但它也可以访问和操纵人们的大脑，并产生有关我们身份、情绪的信息。它可能会威胁到事关我们人类尊严、思想自由和隐私的权利。”阿祖莱表示。

　　今年5月，美国科学家透露，他们已经利用脑部扫描和AI将人们思考的“要点”转化为文字，只是他们需要在大型功能磁共振成像(fMRI)机器里待上很长时间。

　　当月晚些时候，亿万富翁埃隆马斯克(Elon Musk)旗下脑机接口公司Neuralink获得美国监管机构批准，可以展开人体试验，将硬币大小的大脑植入物植入志愿者的大脑中。马斯克曾表示，他的最终目标是确保人类不会在智力上被AI压倒。不过，他在上周四他推出了自己的AI公司xAI。

　　根据斯奎西亚里尼参与撰写的一份联合国教科文组织新报告，从2010年到2020年，神经技术公司获得的投资增长了22倍，达到332亿美元。报告称，2015年至2020年间，神经技术设备的专利数量翻了一番，美国占全球专利数量的近一半。到2027年时，神经技术设备市场规模预计将达到242亿美元。联合国安理会将在本周开会讨论AI风险。凤凰网科技《AI前哨》对此将持续关注。