IBM研究人员最近进行了一项研究,结果显示,OpenAI的ChatGPT在生成虚假电子邮件方面表现出惊人的能力。
他们在一家真实的医疗保健公司中测试了ChatGPT生成的钓鱼电子邮件,以查看其是否能够像人工制作的电子邮件一样成功欺骗人们。尽管人工制作的电子邮件略胜一筹,点击率为14%,但与ChatGPT的11%相比,差距微乎其微。
更引人注目的是,制作一封精心制作的钓鱼电子邮件需要人工团队大约16小时,而ChatGPT只需几分钟,这一发现足以引起拥有电子邮件地址的任何人的担忧。
IBM黑客Stephanie Carruthers表示:“人类可能在这场比赛中险胜,但人工智能不断进步。”她还指出,随着技术的不断进步,我们可以预期人工智能将变得更加复杂,甚至有一天可能会超越人类。
面对这一电子邮件欺骗的威胁,IBM提出了一些建议,从常识性建议如在看起来可疑的情况下拨打所谓发件人的电话,到较无效的建议,如寻找“更长的电子邮件”,因为它们通常是人工智能生成文本的标志。