科技魔方

DataStax集成LangChain,简化生成式AI应用程序的创建

大模型

2023年10月26日

  DataStax是一家专注于实时人工智能的公司,宣布将LangChain整合到其Astra DB矢量数据库中。这一整合的目标是使开发者更容易创建生成式AI应用程序,从而鼓励企业积极参与生成式AI革命。通过与LangChain的整合,开发者可以轻松将Astra DB或Apache Cassandra添加为LangChain框架内的新矢量数据源。

  许多企业正在采用检索增强生成(RAG)技术,这是一种从外部数据源提供背景信息以提供更精确的大型语言模型(LLM)查询响应的过程。在他们的生成式AI应用程序中,提供实时更新且在关键的实际生产工作负载上零延迟的矢量存储成为必不可少的。使用RAG堆栈开发的生成式AI应用程序需要一个支持矢量的数据库以及像LangChain这样的编排框架,以为LLMs提供内存或上下文,以提供精确和相关的响应。开发者通常使用LangChain这一AI工具包,将他们的应用程序与不同的数据源连接起来。

  LangChain的首席执行官Harrison Chase表示,创建生成式AI应用程序需要一个强大的数据库。他们通过一个用户友好的插件系统保证用户能够访问顶级的数据库选项。由于DataStax的LangChain连接器等集成,将Astra DB或Apache Cassandra作为矢量存储无缝整合变得轻松且直观。

  Chase表示:“构建生成式AI应用程序需要一个强大而强有力的数据库,我们通过我们简单的插件架构确保用户能够访问市场上最佳的选项。”

  “通过DataStax的LangChain连接器等集成,将Astra DB或Apache Cassandra作为矢量存储进行整合变得轻松且直观。”

  这一新的整合使开发者能够利用Astra DB矢量数据库进行LLM、AI助手和实时生成式AI项目,通过LangChain的插件架构进行矢量存储。

  DataStax的首席产品官Ed Anuff解释了这一整合对于初创企业和大型企业的重要性:“初创企业和大型企业的开发者都在使用LangChain构建生成式AI应用程序,因此深度本地整合是必不可少的。”

  “开发者能够轻松地从LangChain直接使用Astra DB作为他们的首选矢量数据库,从而简化了构建公司所需的个性化AI应用程序的流程。”

  实际上,一些企业已经从这项联合技术中受益。医疗AI公司Skypoint目前利用Astra DB和LangChain来支持其生成式AI医疗模型,展示了DataStax最新整合的实际行业用途。

  将举行远程研讨会,讨论合作技术的应用,业界领袖Harrison Chase(LangChain)和Tisson Mathew(SkyPoint)将分享他们在构建生产RAG应用程序方面的经验。

  Astra DB矢量数据库进一步为开发者提供了一个强大的环境,能够快速构建和部署生产级AI应用程序。企业现在可以利用DataStax在任何云上以无限规模快速建立创新、高增长的AI应用程序,实时调动数据资源。

+1

来源:站长之家

延展资讯