OpenAI宣布正在组建一个名为OpenAI Red Teaming Network的专家团队,旨在加强模型安全性。
该团队由经验丰富的专家组成,将为OpenAI提供风险评估和缓解方面的信息和帮助。专家们将根据其专业知识和经验,在模型和产品开发生命周期的各个阶段为Red Teaming Network提供支持和帮助。
成为OpenAI Red Teaming Network的成员并不需要参与每个新模型或产品的研发,并且每个成员的时间贡献将由自己决定,一年内可能只有5-10小时。在参与Red Teaming Network项目时,成员将获得贡献补偿。
需要注意的是,参与Red Teaming Network和其他项目通常需要签署保密协议或无限期保密协议。OpenAI将滚动选择网络成员,申请截止日期为2023年12月1日。