San Francisco的AI初创公司Datasaur宣布推出LLM Lab,这是一款全面的工具,旨在帮助企业构建自定义的大型语言模型应用,类似于ChatGPT。LLM Lab可在云端或本地部署,为企业提供构建内部自定义生成式AI应用的起点,同时减少了来自第三方服务的业务和数据隐私风险。
Datasaur的首席执行官Ivan Lee表示,他们已经构建并交付了自定义模型,因此能够创建可扩展且易于使用的LLM产品。LLM Lab提供了全面的界面,涵盖了从数据收集到模型选择和性能优化等不同方面的构建LLM应用所需的所有功能。
这一工作基于模块化、可组合性、简化和可维护性的原则进行,有效处理各种文本嵌入、向量数据库和基础模型。用户只需选择一个基础模型,并更新与之相关的设置/配置,然后选择提示模板进行测试,以找出最适合其需求的操作。此外,他们还可以上传文档以进行检索增强生成(RAG)。完成上述步骤后,用户需要确定质量/性能权衡的最佳配置,并部署应用程序。
随着应用的使用,他们还可以通过人工反馈进行评估,以对提示/完成对进行精细调整和强化学习。这一工具有望满足不断增长的自定义和隐私重点的LLM应用需求,因为越来越多的企业由于隐私、安全和法规要求的原因,限制员工访问通用模型。VentureBeat的使命是成为技术决策者获取有关变革性企业技术并进行交易的数字城镇广场。