周鸿祎透露360大模型安全解决方案 将推 Agent框架
站长网2023-10-14 10:55:440阅
文章概要:
1.360公司创始人周鸿祎在计算机安全学术交流会上介绍了360大模型安全解决方案,着重解决大模型的安全挑战。
2. 安全风险分为短期、中期、长期三个阶段,涉及网络安全、数据安全、生成内容安全等问题,以及人为恶意应用和更强大人工智能对安全的长期挑战。
3.360将推出Agent框架,将人的能力赋予大模型,同时构建原生安全大模型“360智脑”来确保大模型在企业级场景中安全应用。
360公司创始人周鸿祎在计算机安全学术交流会上详细介绍了360大模型安全解决方案。他指出,大模型发展已进入第二阶段,关键问题是如何构建真正安全可用的大模型。
周鸿祎将安全风险分为短期、中期、长期三个阶段。短期风险主要涉及大模型自身引发的问题,如网络安全、数据安全和生成内容安全。中期风险则包括人为恶意应用,如AI换脸和AI换声诈骗。长期风险是指随着更强大的人工智能的出现,可能对人类生存带来安全挑战。
为了解决这些问题,360公司打造了原生安全大模型“360智脑”,遵循安全、向善、可信、可控的四大原则,以确保大模型在企业级场景中得以应用。
360还将推出Agent框架,将人的能力赋予大模型,既提升大模型的性能,又能对其进行约束。周鸿祎表示,360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户,以外挂式“360大模型安全管家”的形式对外赋能,提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。
0000
评论列表
共(0)条相关推荐
百度希壤与高通达成战略合作 涉及XR技术、生成式AI、数字人等领域
近期,北京百度网讯科技有限公司与高通无线通信技术(中国)有限公司在北京签署非约束性战略合作谅解备忘录,将在XR领域展开全面战略合作。通过此次战略合作的宣布,双方期望在未来开展深度的技术、市场与生态合作,其中包括双方将在XR技术、生成式AI、数字人、产业上下游协同等方面,围绕元宇宙生态行业应用共同打造新一代元宇宙基础设施平台。站长网2023-09-15 12:00:200001拍好女性生活VLog,月入5万。
各位村民好,我是村长。一个人是完全可以拍视频的,也是完全可以靠拍视频带货、接广告赚钱的。那么问题来了,一个人到底该怎么拍视频呢?今天分享其中的一个类型——女性独居生活VLog,适合普通女性上班族。01独居生活Vlog为什么有人看先来分析一下,独居生活Vlog这种题材为什么可以拍?拍了为什么有人看。1、空巢青年太多站长网2023-05-24 09:09:100000调协大模型时代存算矛盾的HBM,如何入局其中寻找机会?
近日,HBM的热度不可谓不高,无论是相关半导体大厂“激进”扩产的计划,还是产品供不应求的消息,都将这个内存领域的“新”技术,推到了资本市场与相关投资者的眼前。在相关大厂的扩产方面,两大存储芯片巨头持续加码:三星、SK海力士拟将HBM产量提高至2.5倍的消息曝出,使得HBM概念股倍受市场关注。站长网2023-12-20 12:06:270001知乎和面壁科技合作大模型“知海图AI”开始内测
今日,知乎创始人、CEO周源宣布,知乎和面壁科技合作的中文大模型“知海图AI”正式开启内测。同时,基于人工智能的“热榜摘要”开启内测,对知乎热榜上的问题回答进行抓取、整理和聚合,并把回答梗概展现给用户。据了解,“知海图AI”大模型,由面壁智能与知乎共同训练完成。“知海图AI”的训练基于面壁智能自主研发的CPM企业级大模型与ModelForce大模型系统。站长网2023-04-13 17:30:150000最先进的开源预训练大语言模型Lemur 平衡文本和代码功能
文章要点:Lemur是首个在文本和代码任务上都表现卓越的开源预训练语言模型。Lemur通过在大规模代码集上预训练,在文本理解和知识任务上保持竞争力的同时,在编程基准测试上超过其他模型。Lemur填补了语言模型中文本和代码能力之间的空白,推动了开源LLM的发展。站长网2023-09-04 10:28:120001