微软推出 Azure AI 内容安全服务:帮助用户检测和过滤有害的 AI 和用户生成的内容
站长之家(ChinaZ.com) 10月19日消息: 微软宣布全面推出 Azure AI Content Safety 内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的 AI 和用户生成的内容。
该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论。
「通过关注内容安全,我们可以创建一个更安全的数字环境,促进 AI 的负责任使用,并保护个人和整个社会的福祉,」Azure Anomaly Detector 产品经理 Louise Han 在一篇博文中宣布了该服务的推出。
Azure AI Content Safety 具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用 AI 算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的 360 度全面的安全措施。
该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从 0 到 7。
0-1 级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为 2-3 级,即低级别。
中等严重性的内容被评为 4-5 级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为 6-7 级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。
Azure AI Content Safety 还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。
「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着 AI 生成的内容变得普遍,确保 AI 生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对 AI 技术的信任,」Han 写道。
Azure AI Content Safety 的定价基于按需付费。有兴趣的用户可以在 Azure AI Content Safety 定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。
Airbnb 收购苹果语音助手 Siri 的创始人创立的人工智能初创公司 GamePlanner.AI
随着人工智能技术在科技界迅猛发展并引领潮流,Airbnb于当地周二宣布,已收购由12人组成的初创公司GamePlanner.AI,交易金额未公开。GamePlanner.AI的联合创始人亚当·谢耶(AdamCheyer)也是苹果语音助手Siri的创始人之一。站长网2023-11-15 18:06:410000分享10个好用的手机必装APP,娱乐工作缺一不可!
分享10个手机里必装的APP,包括5个工具类APP和5个娱乐类APP,每一个都非常实用且人性化,能给你的工作生活提供方便。阿里旗下的一款在线文档和知识管理工具。用它来建立知识库和大纲条理非常清晰,而且可以添加标签,方便分类检索,相当于给自己的零碎记录编上了档。里面提供非常多的免费模板,可以一键套用,用来做每日复盘、读书笔记、工作计划等都非常好用。站长网2023-05-24 00:43:340000百度:未来竞争在于做出多少 AI 原生应用 而不是做出多少大模型
近日,百度集团资深副总裁、百度移动生态事业群组总经理何俊杰表示,未来竞争的关键在于做出多少AI原生应用,而不是做出多少大模型。站长网2023-09-05 08:59:520000B站第三支播放破亿视频诞生:《敢杀我的马?!》
哔哩哔哩(B站)宣布,其平台第三支播放量突破亿的视频诞生。据悉,该视频由UP主@哦呼w制作,名为《敢杀我的马?!》。视频在B站上线后受到热烈欢迎,播放量不断攀升,最终突破了亿的播放次数。UP主也为庆祝视频突破亿次播放量而制作了漫画风格的纪念版。据悉,敢杀我的马梗是让子弹飞中的经典台词。这句台词在视频中被频繁使用,表达一种吃惊式愤怒的情绪,意味着胆大包天。站长网2024-02-21 14:35:350000