字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相
站长网2024-10-19 13:49:530阅
快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。
据大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚构的信息。
据了解,事情发生在六月底。某著名高校博士生田某某在大厂商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。
首先,受影响的业务不是该厂的大模型,而是商业化技术团队的模型训练任务,也就是影响了广告部门。
至于传闻损失上千万美元,则是太夸张了。
另外,实习生被送进去”是假的,处理方式是辞退,同步行业联盟,同步情况给学校。
在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任推给他人,不过很快便遭到了接近字节跳动人士的否认。
据相关知情人士在Gitbub上表述,你(指田某)在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”
据悉,田某某利用了Huggingface(HF)平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。
一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,也使得此次事件有了发生的机会”,其也对此次事件带来的恶性影响表达了担忧,这件事之后肯定会极大地收缩实习生的权限”。
0000
评论列表
共(0)条相关推荐
小鹏汽车:今年实现XNGP全国主要城市路网全覆盖
快科技1月31日消息,在小鹏智驾新春启动发布会上,小鹏汽车立下了新目标:2024年内实现XNGP全国主要城市路网全覆盖、面向全球开始研发高速NGP,2025年面向全球开始研发XNGP。小鹏汽车创始人、董事长何小鹏表示,小鹏汽车以自动驾驶为核心的AI研发数据运营团队超过3000人,每年的研发投入达到35亿元。站长网2024-01-31 13:54:450000马斯克批评 OpenAI 的发展:闭源、追求利润最大化
马斯克在2015年共同创立了ChatGPT的公司OpenAI,但在2018年离开了其董事会。周一晚上在接受福克斯新闻频道的「TuckerCarlsonTonIGht」采访时,他说OpenAI没有达到他的预期。站长网2023-04-19 17:51:270001反盗版组织下线AI训练数据集 “Books3” Meta大模型也曾使用
本文概要:1.反盗版组织成功要求在线盗版书籍资源库TheEye下线AI训练数据集"Books3"。2."Books3"数据集包含了37GB的文本,用于训练人工智能模型,已被多家公司使用。3.反盗版组织表示AI对版权产生了新的挑战,计划继续打击其他存有该数据集的网站。站长网2023-08-22 12:01:020000研究人员设计机器学习模型以更好地预测青少年自杀和自残风险
文章概要:1.澳大利亚青少年中自杀和自残现象十分普遍,需要更好的风险评估方法。2.研究人员使用机器学习模型分析了多种潜在风险因素,发现情绪问题、学校家庭环境等都是重要预测因素。3.相比仅考虑过去尝试史,这些模型可以更准确预测未来自杀自残风险。新南威尔士大学的最新研究显示,人工智能可以帮助识别青少年自杀和自伤的风险因素。站长网2023-09-05 10:47:190000ChatMusician:一个融合了音乐天赋的开源大语言模型
ChatMusician是一个基于开源大语言模型的项目,它通过与文本兼容的音乐符号系统ABC记谱法,使LLaMA2模型能够理解和创作音乐。这意味着模型可以独立地使用纯文本来处理音乐,无需依赖外部的多模态神经网络结构或特殊的词法分析器。令人惊讶的是,即使赋予模型音乐创作能力,它的语言处理能力也没有受到影响,甚至在多模态语言理解评分上有所提升。站长网2024-02-28 09:41:040000