科技魔方

Snap AI聊天机器人涉嫌侵犯青少年隐私,英国展开调查

大模型

2023年10月07日

  英国信息委员会(ICO),该国的数据保护监管机构,最近对Snap公司进行了一项调查,涉及其生成式人工智能聊天机器人"My AI"存在的潜在隐私风险,特别是对13至17岁的Snapchat用户。

  调查结果表明,Snap未能充分识别和评估"My AI"对儿童和其他用户隐私的潜在风险。信息委员会的约翰·爱德华兹(John Edwards)在一份声明中表示:“我们的初步调查结果表明,Snap在推出'My AI'之前未能充分识别和评估儿童和其他用户的隐私风险,这令人担忧。”

  然而,值得注意的是,这些调查结果尚不是最终结论,Snap将有机会在最终决定之前解决这些初步担忧。如果信息委员会的初步调查结果最终导致执法通知,Snap可能必须停止向英国用户提供AI聊天机器人,直到解决隐私问题。

  Snap的一位发言人在接受CNBC的电子邮件采访时表示:“我们正在密切审查信息委员会的初步决定。与信息委员会一样,我们致力于保护用户的隐私。”该公司还表示,在推出前,他们对"My AI"进行了严格的法律和隐私审查,以确保其符合标准的产品开发流程。

  值得一提的是,这款AI聊天机器人是基于OpenAI的ChatGPT运行的,它具有一些功能,可以通知家长他们的孩子是否正在使用该机器人,并且Snap表示已经制定了通用准则,以确保机器人不会发表冒犯性言论。

  对于信息委员会的初步调查,该机构并未提供额外评论,理由是这些调查结果仍然是初步性质的。

  在此之前,该机构曾发布了一份“关于AI和数据保护”的指导文件,并在今年4月发布了一份一般通知,列出了开发人员和用户应该就AI提出的问题。

  Snap在其最近的财报中表示,超过1.5亿人已经使用过这款AI机器人。最近,其他生成式AI形式也面临了批评,例如Bing的图像生成AI被极端消息论坛4chan用来制作种族主义图像。

+1

来源:站长之家

延展资讯