科技魔方

Ollama支持多模态模型使用

大模型

2023年12月14日

  Ollama最新版本支持多模态模型使用了,只需输入“ollama run llava”并运行即可。在下载llava-7B模型后,只需拖放图像输入问题即可。

  Ollama是一款命令行工具,可以在macOS和Linux上本地运行Llama2、Code Llama和其他模型。目前适用于macOS和Linux,并计划支持Windows。

  Ollama目前支持近二十多个语言模型系列,每个模型系列都有许多可用的"tags"。Tags是模型的变体,这些模型使用不同的微调方法以不同的规模进行训练,并以不同的级别进行量化,以便在本地良好运行。量化级别越高,模型越精确,但运行速度越慢,所需的内存也越大。

+1

来源:站长之家

延展资讯