AI潜在风险:AI聊天机器人或成恐怖主义利器
站长网2023-04-12 13:23:250阅
英国的一家恐怖主义监管机构警告说,人类社会可能很快就会开始见证全面爆发的AI辅助的,甚至AI传播的恐怖主义。
自2019年以来一直担任英国议会现任独立审查员或恐怖主义立法的乔纳森·霍尔告诉《每日邮报》说道:“我认为完全可以想象,人工智能聊天机器人将被编程,更糟糕的是,传播暴力极端主义意识形态,人工智能支持的攻击可能就在眼前。”
事实上,全球反恐专家一直在讨论人工智能。但这种讨论大多集中于使用人工智能工具,如面部识别和其他数据收集来防范恐怖主义。
然而,最近几个月,随着越来越强大的人工智能技术(例如深度伪造技术和生成文本和图像人工智能系统)的公众可用性越来越高,引发了对虚假信息和恐怖主义的新担忧,这种讨论开始发生转变 。
至于霍尔,他提出了对这些日益增长的担忧的有力论据,他认为,像ChatGPT这样的大型语言模型(LLM)工具可以产生通俗易懂、自信和有说服力的言辞,而不论他们在为什么争辩,这可能不仅是恐怖分子用来通过AI生成的宣传和虚假信息制造混乱的便宜有效的工具,甚至可以用来招募新的极端分子,包括那些可能在网上行动,正在寻求认可和社区的人。
虽然这听起来很遥远,但据称聊天机器人已经在导致一位不满的用户自杀中发挥了作用。
霍尔还指出,恐怖分子往往是“技术的早期采用者”,他补充说,并引用恐怖组织“滥用3D 打印枪支和加密货币”作为最近不良行为者使用新兴工具造成混乱和伤害的例子。
此外,该律师表示,由于目前有关人工智能的规范和法律非常模糊,人工智能恐怖主义可能特别难以追踪和起诉。
0000
评论列表
共(0)条相关推荐
英伟达AI游戏引擎炸场CES!NPC与玩家实时交互,对话动作流畅似真人
《赛博朋克2077》里的NPC,已经会和玩家对话了?还是根据玩家说的话实时响应,不用背剧本的那种?在CES2024的活动上,英伟达展示了利用AvatarCloudEngine(ACE)技术打造的最新成果。在ACE的加持之下,游戏中的人物纷纷“活”了起来,与其他角色甚至真人玩家一起对话交流,并根据对话内容做出动作。站长网2024-01-10 14:02:170000穿越电商20年,淘宝“回归生态”的样本观察
前言:营销大师科特勒在面向数字化时代所提出的“5A模型”(认知(Aware)、吸引(Appeal)、询问(Ask)、行动(Act)和拥护(Advocate)),大多数企业非常重视Ask,也就是从对产品感兴趣转入采取行动的关键时间点,但“Advocate”才是今天的致胜关键。最近听说不少商家又开始做淘宝了。准确说不只淘宝,天猫新增品牌数量也比去年同期多出了75%。站长网2023-08-11 14:07:540000元象 XVERSE 与腾讯音乐推出 lyraXVERSE 加速大模型
元象XVERSE与腾讯音乐合作推出lyraXVERSE加速大模型,将应用于音乐助手“AI小琴”中。用户可以通过点击QQ音乐上的“AI一起听”按键来与升级版的“AI小琴”互动,她将根据用户的提问、播放习惯和心情提供闲聊、推歌、音乐解读和词曲创作等服务。站长网2023-10-25 09:12:220000阿里云大模型“通义千问”将于4月11日发布
今日,阿里云官方宣布将在4月11日召开的2023阿里云峰会上,带来“通义千问”相关的重磅消息。根据官方公布的预热海报显示,"通义千问"大模型与其他工具的组合将会使得这一大模型具备更进一步的应用价值。据悉,通义千问是阿里达摩院自主研发的预训练语言大模型,它能够回答问题、创作文字,也能够表达观点、撰写代码。站长网2023-04-12 12:34:210001Runway GEN-2推出新动画功能 支持设置视频的运动幅度
作为目前最最先进的文本和图像转视频模型RunwayMLGen-2近日推出了新的动画功能。据悉,Gen-2的一个特征是静止图像动画,它可以自动扩展图像生成匹配的内容,制作出短视频场景。有了Runway新的运动滑块,现在可以在1到10的范围内设置运动的量。1表示几乎没有运动,10表示强烈的运动。站长网2023-09-01 10:43:190000