登陆注册
10708

英国因青少年隐私问题对 Snap AI 聊天机器人展开调查

站长网2023-10-07 09:16:560

站长之家(ChinaZ.com) 10月7日消息:Snap 公司因其生成式人工智能聊天机器人可能对 Snapchat 用户,尤其是 13 至 17 岁的青少年,构成的潜在隐私风险而在英国面临调查。

图片来自 Snap

英国数据保护监管机构信息专员办公室(ICO)上周发布了初步强制执行通知,指称 Snap 的聊天机器人 My AI 可能会对 Snapchat 用户,特别是 13 至 17 岁的用户,构成风险。

信息专员 John Edwards 在声明中表示:「我们的初步调查结果表明,Snap 未能在推出『My AI』之前充分识别和评估儿童和其他用户的隐私风险,这令人担忧。」

Snap 在 2 月份推出了生成式 AI 聊天机器人(尽管它直到 4 月份才登陆英国),利用 OpenAI 的 ChatGPT 大语言模型 (LLM) 技术来驱动固定在用户信息流顶部的机器人,充当可以向其寻求建议或发送快照的虚拟朋友。

最初,该功能仅适用于 Snapchat 的订阅者,Snapchat 是 Snap 消息平台的高级版本。但很快 Snap 也向免费用户开放了「My AI」的访问权限,同时还增加了人工智能将快照发送回与其交互的用户的能力(这些快照是用生成式人工智能创建的)

这些调查尚未得出最终结论,Snap 将有机会解决初步担忧,然后才会作出最终决定。如果 ICO 的初步发现导致强制执行通知,Snap 可能需要停止向英国用户提供 AI 聊天机器人,直到解决隐私问题。

Snap 的发言人在一封电子邮件中告诉表示:「我们正在密切审查 ICO 的初步决定。与 ICO 一样,我们致力于保护用户的隐私。根据我们的产品开发标准,My AI 在公开提供之前经过了严格的法律和隐私审查流程。」

该技术公司表示,将继续与 ICO 合作,以确保该机构对 Snap 的风险评估程序感到满意。这款运行在 OpenAI 的 ChatGPT 上的 AI 聊天机器人具有一些功能,可以在孩子使用聊天机器人时向父母发出警报。Snap 表示,它还为其机器人制定了通用指南,要求机器人避免发表冒犯性评论。

ICO 没有提供额外评论,理由是这些调查是初步的。该机构此前发布了「AI 和数据保护指南」,并在今年 4 月发布了一则一般通知,列出了开发人员和用户应该就 AI 提出的问题。

Snap 的 AI 聊天机器人自今年年初推出以来一直备受关注,因不当的对话而受到审查,例如建议一名 15 岁的孩子如何掩盖酒精和大麻的气味,据《华盛顿邮报》报道。

Snap 在其最新的财报中表示,已经有超过 1.5 亿人使用了这款 AI 机器人

其他形式的生成式人工智能也在最近受到批评。例如,必应的生成式 AI 图像已被极端分子讨论板 4chan 用来制作种族主义图像。

0000
评论列表
共(0)条