科技魔方

OpenAI的ChatGPT搜索工具存在安全漏洞,可能返回恶意代码

OpenAI

2024年12月25日

  近日,英国卫报发布了一篇关于OpenAI的ChatGPT搜索工具安全问题的报道。报道指出,ChatGPT在处理包含隐藏内容的网页时,可能会被恶意使用,返回被操纵的结果,甚至包含恶意代码。

  测试结果显示,尽管页面存在部分负面评论,但通过“提示注入”等技术,可以影响ChatGPT的结果为积极的正面评估。此外,安全研究人员还发现,ChatGPT可以从其搜索的网站返回恶意代码,出现了含有钓鱼恶意行为的虚假网站。

  CyberCX的网络安全研究员Jacob Larsen表示,ChatGPT当前的搜索系统发布后,人们创建专门用于欺骗用户的网站的风险很高。所幸的是,该功能仍处于测试阶段,OpenAI团队正在努力解决这些问题。

  安全公司SR Labs的首席科学家Karsten Nohl则建议将AI聊天服务视为“辅助功能”,不应完全信任其未经过滤的输出内容。Nohl将AI搜索面临的问题比作“SEO中毒”,黑客利用这种技术操纵网站在搜索结果中排名靠前,并在网站中植入恶意软件或代码,他认为ChatGPT的搜索功能也面临类似的挑战。

+1

来源:DoNews

延展资讯