Privado.ai,一家以开发者友好的隐私平台闻名的公司,推出了一款创新的开源 LLM 聊天应用 MuroChat,旨在加强企业数据保护,解决 LLM 聊天机器人引入的数据隐私风险。
这种基于大型语言模型(LLM)的聊天机器人应用如 ChatGPT 等,为全球各行各业的专业人士提供了创作内容、生成想法、撰写电子邮件、生成代码等功能。然而,这些聊天机器人在共享提示时可能无意中包含个人数据或知识产权,而企业本身可能对潜在泄露毫无察觉。
面对这些新的风险,Privado 团队决定采取行动,并构建一种保护自身数据的解决方案。Privado.ai 的联合创始人兼首席技术官 Prashand Mahajan 表示:“我们决定构建自己的聊天应用程序,以使我们能够完全控制我们的数据,防止知识产权和个人数据的潜在泄露。”
MuroChat 通过位于用户和基于 LLM 的聊天机器人之间,自动检测和删除提示中的敏感数据,从而减轻了这些风险。这是保持隐私并遵守合规标准的关键功能。但是,让 MuroChat 真正独特的是其为企业组织解决这个问题而设计的特性。
MuroChat 的特点包括:
- 与大型语言模型的集成:开箱即用支持 OpenAI 的 ChatGPT API,并具备灵活的架构,可与任何第三方 LLM 后端实现无缝集成。
- 数据防火墙:通过集成 Microsoft Presidio,在将数据发送给使用的 LLM 聊天机器人之前,自动检测和删除敏感数据。
- 单一登录(SSO):支持 Okta 等系统,简化身份验证和访问控制。
- 本地聊天历史记录:提供本地存储的聊天历史记录,便于监控和提高问责制。
- 不断发展的功能集:从详细的审计跟踪和监控工具到 LLM 成本控制功能,MuroChat 在未来还有许多令人兴奋的功能。
开源 MuroChat 符合 Privado 的开源理念和对开发者友好的态度(Privado 的旗舰隐私代码扫描解决方案也有开源版本)。更重要的是,这是一种让创新组织在这个新环境中提前保护个人数据和知识产权的方式。Mahajan 解释了开源 MuroChat 的想法:“在开发 MuroChat 的过程中,我们意识到许多其他公司面临着同样的挑战,开源解决方案不仅可以解决我们自身的问题,还可以让其他组织快速开发他们自己的安全聊天应用。”