科技魔方

比Gemini Pro1.5强!可解读视频的多模态模型​Pegasus-1公测

更多场景

2024年04月25日

  Twelve Labs最新发布了 Pegasus-1的公测版本,这款视频 - 语言基础模型在视频理解领域取得了新突破。

  Pegasus-1是一款具有约17亿参数的视频 - 语言模型,能够以卓越的准确性和细节处理能力从视频输入中生成语言描述。据称,Pegasus-1视频解读能力比Gemini Pro1.5还要强,通过优质数据、优化视频处理和精细训练等升级,提供卓越的视频理解和生成文本能力。在视频总结、问题回答和对话方面表现卓越。

  产品特色功能包括:

  - 数据优化:高质量数据驱动模型表现,100,000个高质量视频 - 文本对训练带来强大基础视频理解能力。

  - 视频处理提升:优化空间和时间分辨率,使 Pegasus-1能更好地捕捉视频信息。

  - 训练技术改进:多阶段训练避免灾难性遗忘,使模型在细节、世界知识和时间理解等方面大幅提升。

  在基准测试中,Pegasus-1在视频问答、对话和摘要等任务中胜过谷歌 Gemini Pro 等现有模型,展现出卓越的性能。无论是零样本表现还是广泛泛化能力,Pegasus-1都站在行业前沿,为视频理解任务设立新标杆。

  然而,仍需关注模型安全性、视频长度限制和偶发幻觉等方面的改进空间。Pegasus-1的不断进化与创新,为视频理解技术开辟新的可能性。值得一提的是,Pegasus-1未开源,通过API使用

+1

来源:站长之家

延展资讯