据彭博社周三报道,人工智能(AI)初创公司Cohere的首席执行官 Aidan Gomez 在一封致员工的信中对有效利他主义运动提出批评。
Gomez 反对他所认为的该运动的「自以为是」,并警告说这种思维可能导致极端行为。彭博社报道称,一位Cohere发言人确认了信件的真实性,但拒绝进一步置评。
有效利他主义运动专注于如何为人类做出最大的善行,常常谈论 AI 的潜在危险,据报道,在过去十年中在硅谷和 AI 行业中获得了影响力。
据该报告,该运动的支持者包括曾在 OpenAI 董事会任职的人士。
Gomez 表示,该运动变得教条化和自我扩大,他还强调了对那些认为自己特别有资格造福或拯救人类的个体的担忧,认为他们可能倾向于为实现目标而采取极端行动。
报告称,其他人也对这一运动提出了类似的担忧,引用了「目的论」的思维导致了伤害、欺诈和虐待指控的实例。
关于运动对 AI 潜在危险的关注,Gomez 表示,Cohere 公司专注于其目标,并不被「末日和终结者」等场景所分散注意力。
报告还指出,Gomez 批评了与云服务提供商合作的 AI 初创公司。作为一家 AI 初创公司,Cohere 有机会获得来自各种云服务提供商的重大投资。然而,Gomez 强调,该公司选择不接受附有附加条件的资金。
Cohere致力于保持其独立性,不受那些要求将资金回收到自己组织中的投资者的束缚。