英国AI初创公司Harmonic获得700万美元资金
划重点:
📌 英国初创公司Harmonic Security成功融资700万美元,旨在构建技术以保障企业生成式AI部署的安全性。
📌 Harmonic将开发软件,应对未受监管的AI应用程序采集大规模公司数据的问题。
📌 投资由Ten Eleven Ventures领投,标志着越来越多的初创公司致力于保障生成式AI部署,以满足企业对AI和LLMs(大型语言模型)技术的需求。
英国初创公司Harmonic Security最近成功融资700万美元,旨在开发技术来确保企业中生成式AI部署的安全性。Harmonic总部位于伦敦和旧金山,其使命是应对未受监管的AI应用程序滥用公司数据的问题。
这笔初创阶段融资由Ten Eleven Ventures领投,该投资公司积极支持网络安全初创公司。此外,Storm Ventures和一些网络安全领域的领导者也参与了这一融资。
Harmonic进入了一个越来越拥挤的领域,即以AI为焦点的网络安全初创公司,这些公司希望在企业普遍采用AI和LLMs(大型语言模型)技术的背景下实现盈利。近期,一系列新兴初创公司,如CalypsoAI(筹集了2300万美元)和HiddenLayer(筹集了5000万美元),已经筹集了大规模融资,以帮助企业保障生成式AI部署。
Harmonic公司的创始人Alastair Paterson(曾领导Digital Shadows公司以1.6亿美元的价格被ReliaQuest/KKR收购)表示,他们的技术承诺为企业提供完整的生成式AI采用情况图景,为所有AI应用程序提供风险评估,并识别潜在的合规性、安全性或隐私问题。
该公司还引用了一项Gartner研究,该研究显示,全球55%的企业正在试点或使用生成式AI,但大多数应用程序没有受到监管,对数据的使用方式、传输地点以及安全性都没有明确的政策。
Harmonic解释说:“Harmonic为所有AI应用程序提供风险评估,以识别可能导致合规、安全或隐私问题的高风险AI服务。这种方法意味着组织可以根据需要控制对AI应用程序的访问,包括无需规则或精确匹配的情况下选择性阻止上传敏感内容。”
使用 Bing 聊天控制 Edge 浏览器可能是微软的下一个举措
站长之家(ChinaZ.com)7月13日消息:微软在Bing聊天这个AI工具上投入了很多资源,效果显著。例如,Bing聊天能够根据你提供的信息给出反馈、支持访问互联网获取最新信息以及生成图片等。无论如何,Bing聊天正处于极高的流行浪潮中。截至目前为止,这个AI工具已被15亿用户访问。可以说Bing聊天已经成为一种常用工具。站长网2023-07-13 17:55:380000DeepMind研究减少大型语言模型“阿谀奉承”行为
本文概要:1.大型语言模型容易出现阿谀奉承行为,即模型会修改其响应以与用户观点一致,即使该观点不正确。2.研究人员使用简单的合成数据干预技术成功地减少了阿谀奉承行为。3.研究结果表明,通过简单的合成数据微调可以减少模型重复用户观点的特征。最近,来自GoogleDeepMind的研究人员开展了一项研究,旨在减少大型语言模型(LLM)中的“阿谀奉承”行为。站长网2023-08-14 15:22:570000ChatGPT导致信息泄露后:三星将开发内部AI工具
快科技5月2日消息,早些时候,三星在引入ChatGPT不到20天内,就出现了3起与之相关的泄密事件。近日,三星在内部备忘录中告知员工,暂时禁止使用ChatGPT或其他生成式人工智能,避免类似的情况出现。内部备忘录显示,三星担心传输到谷歌Bard和微软Bing等人工智能平台的数据存储在外部服务器上,难以检索和删除,最终可能会泄露给其他用户。站长网2023-05-03 09:11:260000谷歌工程师警告说大型科技公司可能会在人工智能竞赛中输给开源技术
谷歌公司一位工程师警告称,该公司没有赢得人工智能竞赛的能力,可能会输给普遍可得的开源人工智能技术。站长网2023-05-06 12:06:380000抖音:将打击使用AI技术P图侮辱他人等行为
抖音发布《重点打击泄露隐私、P图公开辱骂等网络暴力言论的公告》称,2024年至今,抖音共发现并处置网暴舆情162件拦截超过5000万条评论信息,发文警示、教育施暴者近70万个。站长网2024-06-03 12:44:150000