科技魔方

UL Solutions 推出AI文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

更多动态

2024年12月12日

  3DMark 开发方 UL Solution 当地时间 9 日宣布推出 Procyon AI 文本生成基准测试,通过使用多种不同参数规模的大语言 AI 模型综合判断 AI 加速器硬件的文本生成能力。

  Procyon AI 文本生成基准测试目前支持通过 DirectML 通用 API 调用本地的英伟达、AMD、英特尔 GPU,也可通过英特尔的 OpenVINO 调用其自家 GPU(IT之家注:独立和集成显卡均支持,但对显存 / 内存容量要求存在差异)。

  该基准测试现包括 4 种参数规模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可对 AI GPU 在多样化大语言模型文本生成用例中的表现进行相对公允的比较。 

  UL Solution 表示 Procyon AI 文本生成基准测试在操作上更为简易轻松,与直接使用完整 AI 模型测试相比又减小了安装体积,能详细展示运行文本生成负载时系统资源的使用情况。

+1

来源:IT之家

延展资讯