科技魔方

GitHub仓库WebAI开源:允许开发者直接在浏览器中运行现代深度学习模型

大模型

2023年09月12日

  web-ai是一个开源的TypeScript库,使开发者可以直接在浏览器或Node.js中运行现代深度学习模型。它提供了一种无需复杂服务器端基础设施或依赖第三方API的方式,将AI能力集成到Web应用程序中。

  web-ai的关键目标是使设备上的AI对任何JavaScript开发者来说都是可访问的。它在后台使用ONNX Runtime进行高性能的神经网络模型推理,并处理缓存和基于Web Worker的并行化,以确保流畅的用户体验。

  核心功能:

  - 使用一行代码即可轻松加载模型

  - 使用IndexedDB和localforage无缝缓存模型

  - Web Worker支持在推理期间实现非阻塞UI

  - 由ONNX Runtime提供的广泛模型支持

  - 在服务器上运行模型的Node.js支持

  - 可自定义的缓存大小和其他配置选项

  凭借其简单的API、强大的功能集和MIT许可证,web-ai旨在成为部署深度学习到Web的流行库。它让开发者可以在不受基础设施问题困扰的情况下进行AI实验。

+1

来源:站长之家

延展资讯