科技魔方
  • Buddy最新相关新闻
  • Buddy Compiler打通LLaMA 2端到端推理

    Buddy Compiler 选择使用 TorchDynamo 作为 Trace 工具对接 AI 模型,并使用 Aten IR 作为对接层级,通过 MLIR Python Bindings 实现 Dynamo Compiler 生成 TOSA/Linalg Ops,从而实现了从 PyTorch 到 MLIR 的转换。

  • 站长之家 Buddy
  • 663 0
  • -------------没有了-------------

    图赏更多>