注册

普通用户微调也影响LLM安全性

首页标签普通用户微调也影响LLM安全性

站长资讯
0.2美元微调就能让ChatGPT彻底破防！普林斯顿、斯坦福发布LLM风险预警：普通用户微调也影响LLM安全性
【新智元导读】微调LLM需谨慎，用良性数据、微调后角色扮演等都会破坏LLM对齐性能!学习调大了还会继续提高风险!虽说预训练语言模型可以在零样本（zero-shot）设置下，对新任务实现非常好的泛化性能，但在现实应用时，往往还需要针对特定用例对模型进行微调。不过，微调后的模型安全性如何?是否会遗忘之前接受的对齐训练吗?面向用户时是否会输出有害内容?
站长网2023-10-13 14:45:19
0000

热点

不再PK“全网最低价”，双11重归商家之争
2024-10-15 12:01:36
天猫双11将于10月14日晚8点开启：支持微信支付
2024-10-15 12:01:36
特斯拉推出Robovan货运车、无人驾驶出租车Cybercab没有方向盘和踏板
2024-10-15 12:01:10
小鹏P7+正式发布：智能驾驶系统全系标配高阶智驾终身免费
2024-10-15 11:44:52
小米双11今晚8点开启：手机产品最高优惠1000元
2024-10-15 11:44:52
曝小米15 Ultra春节后登场：2亿像素潜望长焦无敌
2024-10-15 11:44:26
编程语言格局再变: C语言掉队，Rust 崛起、Mojo 语言闪耀登场
2024-10-15 11:44:01
39年后任天堂NES神秘扩展接口迎外设！售价500元
2024-10-15 11:44:01
女子注销号码未解绑网盘致照片泄露客服回应：建议开启登录保护
2024-10-15 11:44:00
10%股份赠予FF！还债回国是必须完成事言论造质疑贾跃亭：走着瞧
2024-10-15 11:43:35

关注

微信下架重生、觉醒类多部违规微短剧：不良导向、未备案等
2024-10-14 19:33:01
高德顺风车正式全国上线上下班顺路捎人挣个停车费、油钱
2024-10-14 19:33:00
客服回应小猿口算PK被大学生占领：将优化PK匹配机制
2024-10-14 19:32:35
鸿蒙版微信正式上架：首批公测体验名额秒空
2024-10-14 19:32:09
抖音：将治理“一剪没及片头党”等低质影视剪辑行为
2024-10-14 19:31:44
腾讯QQ鸿蒙原生版开启内测报名：支持群聊、视频通话
2024-10-14 19:31:17
快手双11购物节正式开启预售 “抽免单”活动已上线
2024-10-14 18:33:42
微信提醒：视频通话出示收款码小心收款变付款
2024-10-14 18:33:42
腾讯4款手游进入全球收入前10！《荣耀》稳坐
2024-10-14 18:33:41
“东北雨姐”虚假宣传被罚165万元：红薯粉条样品未含红薯成分
2024-10-14 18:33:41

推荐