据机器之心报道,斯坦福开发者发布了 LLM 微调工具Lamini,该工具被称为能为每个开发人员提供从 GPT-3到 ChatGPT 的超能力。
最近,Lamini 推出了全新的 Alpha 公测版,通过简洁的代码和快速的速度,让微调变得更加容易。目前,4亿参数以内的 LLM 微调完全免费,这标志着 LLM 微调的开始。Lamini 的优势包括免费、迅速、可扩展的 prompt 大小和学习能力。
在使用示例中,展示了如何使用 Lamini 进行微调。通过一个关于 Lamini 内部工程文档的问答式 LLM 模型,展示了模型性能的提升。使用 Lamini 提供的1400个问题和答案的数据集进行微调,结果表明微调的效果显著。
在使用 Lamini 进行 LLM 微调时,需要遵循几个步骤。首先,使用 Lamini Types 定义 LLM 接口,并根据具体任务和需求定义相应的类型。然后,找到相关的数据并创建与模型需求相匹配的 Lamini Types。将数据加载到模型中,并告诉模型进行训练。如果没有与 LLM 接口相匹配的数据,可以使用 Lamini 进行数据生成,然后通过优化训练来专业化通用的 LLM 模型。
总而言之,Lamini 是一款免费且迅速的 LLM 微调工具,通过简化的流程和高效的训练速度,使得 LLM 微调变得更加容易。这一工具的推出将极大地方便开发人员进行 LLM 模型的微调,为自然语言处理领域的研究和应用带来了新的机遇。