英国因青少年隐私问题对 Snap AI 聊天机器人展开调查
站长之家(ChinaZ.com) 10月7日消息:Snap 公司因其生成式人工智能聊天机器人可能对 Snapchat 用户,尤其是 13 至 17 岁的青少年,构成的潜在隐私风险而在英国面临调查。
图片来自 Snap
英国数据保护监管机构信息专员办公室(ICO)上周发布了初步强制执行通知,指称 Snap 的聊天机器人 My AI 可能会对 Snapchat 用户,特别是 13 至 17 岁的用户,构成风险。
信息专员 John Edwards 在声明中表示:「我们的初步调查结果表明,Snap 未能在推出『My AI』之前充分识别和评估儿童和其他用户的隐私风险,这令人担忧。」
Snap 在 2 月份推出了生成式 AI 聊天机器人(尽管它直到 4 月份才登陆英国),利用 OpenAI 的 ChatGPT 大语言模型 (LLM) 技术来驱动固定在用户信息流顶部的机器人,充当可以向其寻求建议或发送快照的虚拟朋友。
最初,该功能仅适用于 Snapchat 的订阅者,Snapchat 是 Snap 消息平台的高级版本。但很快 Snap 也向免费用户开放了「My AI」的访问权限,同时还增加了人工智能将快照发送回与其交互的用户的能力(这些快照是用生成式人工智能创建的)。
这些调查尚未得出最终结论,Snap 将有机会解决初步担忧,然后才会作出最终决定。如果 ICO 的初步发现导致强制执行通知,Snap 可能需要停止向英国用户提供 AI 聊天机器人,直到解决隐私问题。
Snap 的发言人在一封电子邮件中告诉表示:「我们正在密切审查 ICO 的初步决定。与 ICO 一样,我们致力于保护用户的隐私。根据我们的产品开发标准,My AI 在公开提供之前经过了严格的法律和隐私审查流程。」
该技术公司表示,将继续与 ICO 合作,以确保该机构对 Snap 的风险评估程序感到满意。这款运行在 OpenAI 的 ChatGPT 上的 AI 聊天机器人具有一些功能,可以在孩子使用聊天机器人时向父母发出警报。Snap 表示,它还为其机器人制定了通用指南,要求机器人避免发表冒犯性评论。
ICO 没有提供额外评论,理由是这些调查是初步的。该机构此前发布了「AI 和数据保护指南」,并在今年 4 月发布了一则一般通知,列出了开发人员和用户应该就 AI 提出的问题。
Snap 的 AI 聊天机器人自今年年初推出以来一直备受关注,因不当的对话而受到审查,例如建议一名 15 岁的孩子如何掩盖酒精和大麻的气味,据《华盛顿邮报》报道。
Snap 在其最新的财报中表示,已经有超过 1.5 亿人使用了这款 AI 机器人。
其他形式的生成式人工智能也在最近受到批评。例如,必应的生成式 AI 图像已被极端分子讨论板 4chan 用来制作种族主义图像。
AI视频年大爆发!Gen-2/Pika成时代爆款,2023年AI视频生成领域的现状全盘点
【新智元导读】2023年,也是AI视频元年。过去一年究竟有哪些爆款应用诞生,未来视频生成领域面临的难题还有哪些?过去一年,AI视频领域我们见证了,Gen-2、Pika等爆款产品的诞生。来自a16z的JustineMoore,详细盘点了人工智能视频生成领域的现状、不同模型比较,以及还未解决的技术挑战。接下来,一起看看这篇文章都讲了什么?AI视频生成大爆发站长网2024-02-11 12:33:000002AIGC撒下的种子,开出了不同香气的花
“不知道妙鸭都不懂最近的朋友圈了。”最近,一款名为“妙鸭相机”的AI相机小程序在朋友圈走红,引发了一轮朋友圈“个人写真”的分享热潮。这是一款基于AI人脸识别的AIGC应用,用户花费9.9元上传多张个人照片后就可以获得一个专属的数字分身,生成一套系统模板下的“个人写真”。然而面对上传21张清晰正面照片的操作,许多用户也表示了担忧。能否上传他人照片、照片是否会有其他用处等争议相继出现。站长网2023-08-09 20:03:260000广电总局:电视套娃收费和操作复杂问题得到有效整治
据央视新闻报道,11月3日,国家广播电视总局联合工业和信息化部、国家市场监督管理总局、中央广播电视总台、中国消费者协会等有关单位,召开治理电视“套娃”收费和操作复杂试点工作总结暨全国推广工作部署推进会。会议通报了治理电视“套娃”收费和操作复杂工作进展情况和成效,并对做好下一步全国治理工作提出要求。站长网2023-11-03 14:28:230000ComfyUI Portrait Master 2.2 版本发布 新增全新姿势库
ComfyUI又更新了,增加了全新姿势库的ComfyUIPortraitMaster2.2版本发布,并且提供了与PortraitMaster兼容的工作流程文件,包括对姿势的管理和控制。项目地址:https://github.com/florestefano1975/comfyui-portrait-master/站长网2023-12-22 10:05:180000