首个图像序列基准测试Mementos开源 GPT-4V/Gemini竟看不懂漫画

　　近期，马里兰大学与北卡教堂山合作发布了Mementos，这是专为多模态大语言模型(MLLM)设计的图像序列基准测试，旨在全面测试这些模型对于真实世界、机器人和动漫图像序列的推理能力。然而，测试结果令人震惊，GPT-4V和Gemini等MLLM在漫画数据集上的准确率不足20%。这揭示了这些模型在处理图像序列中的幻觉、对象和行为理解方面的明显不足。

　　测试中发现MLLM容易出现对象幻觉和行为幻觉。对象幻觉是指模型产生不存在的对象，而行为幻觉则是模型产生对象未进行的动作。这些问题的根本原因在于对象识别错误可能导致后续行为识别的不准确，共现效应加剧了行为幻觉问题，而行为幻觉的雪球效应导致错误逐渐累积和加剧。这对于MLLM在处理图像序列中的推理能力提出了重要的挑战。

　　在具体的图像案例中，MLLM对于漫画中的场景和行为理解存在明显的困难，例如将人物行为错误识别为持武器相互打斗。作者还指出，这些MLLM对于动漫领域的不熟悉需要大幅度的优化和预训练。此外，测试结果还表明，训练数据的局限性对于开源MLLM的推理能力有直接影响，强调了训练数据的重要性。

　　Mementos测试为多模态大语言模型在图像序列推理方面提供了全面的评估，揭示了它们在处理连续图像中的幻觉、对象和行为理解方面的困难。这对于推动MLLM在图像领域的发展提出了挑战，并强调了进一步研究和优化的迫切性。