据国外媒体报报道,近日,谷歌推出集成了大型语言模型的AI助手“巴德”,并将其应用于包括Gmail、Google地图在内的多款产品,希望能给用户提供更人性化的服务。但有报道指出,巴德在测试中频频出现乌龙。
《纽约时报》专栏作家在试用后发现,巴德虚构了多封用户从未发送的邮件,这引发了对谷歌是否过于匆忙推广新AI以及用户隐私是否受到侵犯的担忧。
报道称,在专栏作家要求巴德分析邮件并指出他的心理问题后,巴德给出了一个关于用户“担心未来”的分析,并引用了一封用户报告“工作压力大”的虚构邮件作为证据。之后巴德又撤回了另一封用户从未写过抱怨投资失败的邮件。在处理行程信息时,巴德也多次提供了错误的航班及甚至不存在的火车信息。尽管谷歌称巴德仍在调试中,但推出前未能充分验证就令用户成为“白鼠”,以及AI访问邮件引发的隐私担忧都受到批评。
有分析认为,在争夺AI主导地位的过程中,谷歌可能会过于匆忙推出未成熟的产品,从而带来隐患。