科技魔方

20家科技巨头签署新协议 承诺打击AI欺诈

更多场景

2024年02月18日

  2月18日消息,在当地时间16日德国举行的慕尼黑安全会议(MSC)上,20家人工智能相关行业公司签署自愿协议,承诺打击这一新技术生成欺骗性信息扰乱全球选举。

  据界面新闻报道,联合声明签署方包括了这一领域的主要玩家,比如人工智能模型公司OpenAI、Anthropic和谷歌等,以及可能帮助其传播的社交媒体平台,比如TikTok 、X,以及Facebook和Instagram的母公司Meta等。

  值得注意的是,另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿,这家总部位于旧金山的初创公司没有立即回应媒体置评请求。

  为了防止人工智能新技术生成的虚假信息被用于政治目的,上述20家公司做出8项具体承诺,这包括:合作开发相关开源工具,以减少涉及选举的欺骗性人工智能生成内容;设法检测此类内容的在线传播情况;推动教育活动,提高公众防范意识和媒体素养等,以培养跨行业抵御此类内容的能力等。

  微软认为在技术进步这一议题上,人类面临的“最基本挑战不在技术本身,而是人性”。微软公司总裁布拉德·史密斯在一份声明中称,总体上来看,最新协议的承诺提高了行业的检测和响应能力,将使不良行为者更难使用合法工具制造误导性内容。

  前Facebook数据科学家艾伦(Jeff Allen)对美联社表示协议是“积极的一步”,但他仍然希望社交媒体公司采取其他行动来打击错误信息,比如建立不把用户参与度放在首位的内容推荐系统。

  欧盟委员会副主席朱罗娃((Vera Jourová)在慕尼黑安全会议上指出,虽然这个协议并不全面,但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任,不要以欺骗性方式使用人工智能工具。

  人工智能干预选举的现象已经出现。

  在美国,上个月新罕布什尔州初选中投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

  在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。

  政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。

  对于不断推陈出新的这一新技术进展,OpenAI的最大竞争对手Anthrophic表示,人工智能新技术的应用充满了惊喜和意想不到的影响,“我们预计2024年人工智能系统将会出现令人惊讶的用途,这些用途将是开发人员没有预料到的。”

+1

来源:DoNews 作者:杨亮

延展资讯