卡内基大学开源TOFU框架,帮助大模型遗忘隐私数据
站长网2024-01-19 10:03:340阅
要点:
1、TOFU框架包含遗忘、数据集、评估等多个模块,提升大模型的安全性。
2、TOFU数据集帮助深入理解大模型的遗忘过程,并提供全新的评估方案。
3、TOFU的遗忘模块可以帮助开发者移除敏感数据,使大模型在行为上表现得好像从未学习过这些遗忘数据一样。
TOFU框架是一个旨在提升大模型安全性的工具,由卡内基梅隆大学研究人员开发。该框架包含遗忘、数据集、评估等多个模块,帮助开发者提升大模型的安全性。
项目地址:https://top.aibase.com/tool/tofu
论文地址:https://arxiv.org/pdf/2401.06121.pdf
TOFU数据集则致力于帮助开发人员更深入地理解大模型的遗忘过程,并提供了全新的评估方案,涵盖了遗忘质量和模型效用两个方面的比较。TOFU的遗忘模块可以帮助开发者从大语言模型中移除敏感数据,使其在行为上表现得好像从未学习过这些遗忘数据一样。
TOFU框架的核心功能之一是遗忘模块,它可以帮助开发者从大语言模型中移除敏感数据,使其在行为上表现得好像从未学习过这些遗忘数据一样。遗忘模块需要根据遗忘集的数据对模型进行调整,以实现遗忘效果。
主要包含参数调整和样本选择两种方法。参数调整通过修改模型的参数,重新训练模型以减少对遗忘集的依赖性,达到遗忘敏感信息的效果。而样本选择则是通过选择性地使用遗忘数据集的样本,以逐渐遗忘与这些样本相关的敏感信息或相关性进行筛选,以便更有针对性地移除敏感数据。
综上所述,TOFU框架的发布为大模型的安全性提供了有力支持,其包含的数据集和评估方案为开发者提供了更多的工具和方法来保护用户隐私数据。遗忘模块的实现更是为大模型的安全应用提供了切实可行的解决方案。这一框架的开源将为整个领域的发展带来新的动力和方向。
0000
评论列表
共(0)条相关推荐
百度推出基于大模型的代码编写助手Comate
据科创板日报报道,百度智能云在成都举行的文心大模型技术交流会上,正式发布了基于大模型打造的新一代编码辅助工具“Comate”代码助手,并已经开放邀测。百度表示,已经在百度内部进行了大量测试,测试结果显示,在“Comate”辅助编写的代码中,近50%的建议代码被开发者采纳。站长网2023-06-07 19:12:170000画一笔AI画整张图!AI实时作画方式被打开,颜色细节自动补全,一个脚本即可实现
现在用AI画画,完整草图都不需要了。每一笔落下,AI都会实时交上“新作业”细节、颜色、画布空白,它都自动补全。还能通过提示词来控制生成图像的内容和风格。比如加一句“一个穿长外套的男人站在海边“,AI立马调整了作画方向:最后成稿的作品如下,效果很奈斯。怪不得网友表示,自己惊掉的下巴已经找不到了。这就是最新火起来的AI实时作画项目,Reddit上的热度有1.8万。站长网2023-05-12 20:41:050000国产大模型落地,等一个“Sora时刻”
仅凭几十个提示词,就能生成一段流畅完整、视角多元的视频,其内容质量几乎能以假乱真,甚至不亚于专业拍摄团队,这就是OpenAI首款文生视频产品Sora,一经发布便激起千层浪,让全球感受到新的AI震撼。2024年的AI故事,伴随着这款杀手级应用的横空出世拉开帷幕,Sora再度让所有人注意到了AI的无限可能性,为略显疲软的市场再打了一针鸡血。0000马云前助理回应“马云进军预制菜”:马家厨房肯定不做预制菜
日前,马云前助理陈伟在朋友圈称,马家厨房不做预制菜。国家企业信用信息公示系统显示,11月22日,杭州马家厨房食品有限公司注册成立,经营范围包括:食品销售(仅销售预包装食品)、货物进出口、食用农产品批发、日用品批发、酒店管理、技术服务等。股权穿透显示,该公司由杭州大井头贰拾贰号文化艺术有限公司全资持股,后者由马云持股99.9%。该消息被解读为为“马云入局预制菜”的信号。站长网2023-11-26 13:25:050001爆款短视频利器!Klap可一键生成适用于多平台的短视频
Klap是一款基于人工智能技术的创新工具,专为内容创作者和社交媒体推广而设计。这个强大的工具可以将现有的YouTube视频转换为适用于多个社交媒体平台,包括TikTok、Shorts和Reels的短视频,仅需点击一次即可完成整个过程。目前,Klap支持YouTube视频链接,而文件上传功能也即将推出,为用户提供更多选择。体验地址:https://klap.app/站长网2023-11-27 11:28:310001