开放式机器学习工程联盟 MLCommons 美国加州当地时间昨日宣布推出适用于衡量消费类 PC 的 AI 性能的 MLPerf Client 基准测试的 0.5 版本,这也是该测试的首个公开版本。
MLCommons 表示 MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果,各方为该测试贡献了丰富的专业知识和资源。
MLPerf Client 基准测试 0.5 版本基于 Meta 的 Llama 2 7B 开源 LLM,包含四项 AI 任务(内容生成、创意写作、对两份不同长度文本的摘要),目前支持DirectML ONNX 和 OpenVINO(仅限英特尔 GPU)两种加速路径。
该基准测试初期仅支持 Windowsx86-64 设备,可在以下设备上运行:
AMDRadeon RX 7900 系列独立显卡;
最低 8GB 显存的英特尔锐炫独显;
最低 12GB 显存的英伟达 GeForce RTX 40 系独显;
锐龙 AI 9 系列处理器(最低 32GB 内存);
搭载英特尔锐炫核显的酷睿 Ultra 200 系处理器(最低 16GB 内存)。
MLCommons 表示 MLPerf Client未来将支持 macOS 和 Windows on Arm 设备,同时还将支持额外的硬件加速路径并引入包含一系列 AI 模型的更广泛测试场景。