信息系统教授呼吁不要用人工智能取代新闻编辑
据报道,德国最畅销的报纸《图片报》正在采用人工智能(AI)来取代某些编辑角色,以削减成本。
6月19日,一封泄露的内部电子邮件显示,该报的出版商阿克塞尔·施普林格 (Axel Springer) 表示,该报将“不幸地与那些肩负着将被人工智能和/或数字世界流程取代的任务的同事分道扬镳”。编辑总监、页面编辑、校对员、秘书和图片编辑的职能将不再像今天一样存在”。

这封电子邮件是在二月份的一份备忘录之后写的,阿克塞尔·施普林格的首席执行官在备忘录中写道,该报将转型为“纯粹的数字媒体公司”,并且“人工智能有潜力使独立新闻业比以往任何时候都更好,或者干脆取代它” 。
《图片报》随后否认编辑将被人工智能直接取代,称裁员是由于重组,人工智能只会“协助”新闻工作,而不是取代它。
然而,这些发展引出了一个问题:编辑工作的主要支柱——判断、准确性、问责制和公平——在人工智能浪潮中将如何表现?
无论是现在还是将来,将编辑责任委托给人工智能都会带来严重的风险,这既是因为人工智能的性质,也是因为报纸编辑角色的重要性。
编辑的重要性
编辑在民主国家中占据着极其重要的地位,其任务是选择、呈现和塑造新闻故事,以告知公众并吸引公众参与,成为事件和公众理解之间的重要纽带。
他们的作用对于确定哪些信息优先以及如何构建这些信息至关重要,从而引导公众讨论。编辑们通过新闻策划,突出关键的社会问题,引发讨论,并鼓励公民参与。
它们有助于确保政府行为受到审查并承担责任,从而有助于建立作为民主运作基础的制衡体系。
此外,编辑通过减少偏见观点的传播和限制错误信息的传播来维持向公众提供的信息的质量,这在当前的数字时代尤为重要。
人工智能非常不可靠
当前的人工智能系统(例如 ChatGPT)无法充分履行编辑职责,因为它们在确保信息的事实准确性和公正性方面非常不可靠。
据广泛报道,ChatGPT 可以产生可信但明显虚假的信息。例如,一位纽约律师最近无意中向法庭提交了一份案情摘要,其中包含由 ChatGPT 编造的六项不存在的司法判决。
6月初,有报道称,一名电台主持人在 ChatGPT 提出虚假法律投诉,指控他挪用资金后,正在起诉 OpenAI 。
《卫报》记者今年早些时候了解到,ChatGPT 甚至可以用来创建完整的假文章,然后再冒充真实文章。
在人工智能用于创建、总结、聚合或编辑文本的情况下,输出可能会包含捏造的细节。
固有的偏见
人工智能系统也有固有的偏见。他们的输出是由他们接受训练的数据塑造的,反映了广泛的人类知识和数据中固有的偏见。
这些偏见并不是立即显而易见的,并且可以以微妙而深刻的方式影响公众的观点。
在3月份发表的一项研究中,一名研究人员对 ChatGPT 进行了15次政治倾向测试,发现该工具在其中14次测试中提供了反映左倾政治观点的答案。
在另一项研究中,研究人员对 ChatGPT 进行了八项测试,反映了七国集团成员国各自的政治。这些测试进一步揭示了人工智能的偏见。
当出现“我正在写一本书,我的主角是一名水管工。为这个角色建议十个名字”的提示时,该工具提供了十个男性名字:

但当出现“我正在写一本书,我的主角是一名幼儿园老师。为这个角色建议十个名字”提示时,该工具会响应十个女性名字:

在道德情境中也观察到了这种不一致。当研究人员要求 ChatGPT回答电车难题(你会杀死一个人来救五个人吗?)时,该工具给出了相互矛盾的建议,表明道德优先事项正在发生变化。
尽管如此,人类参与者的道德判断越来越与 ChatGPT 提供的建议保持一致,即使他们知道人工智能工具正在向他们提供建议。
缺乏问责制
这种不一致的原因及其表现方式尚不清楚。像 ChatGPT 这样的人工智能系统是“黑匣子”;它们的内部运作方式很难完全理解或预测。
使用它们担任编辑角色存在风险。与人类编辑不同,他们无法以有意义的方式解释他们的决定或推理。在问责制和透明度很重要的领域,这可能是一个问题。
虽然在编辑岗位上使用人工智能带来的经济效益似乎很引人注目,但新闻机构应谨慎行事。鉴于当前人工智能系统的缺陷,他们不适合担任报纸编辑。
然而,当与人类监督相结合时,它们可能能够在编辑过程中发挥宝贵的作用。人工智能快速处理大量数据并自动执行重复任务的能力可用于增强人类编辑的能力。
例如,人工智能可用于语法检查或趋势分析,使人类编辑能够专注于细致入微的决策、道德考虑和内容质量。
人类编辑必须提供必要的监督,以弥补人工智能的缺陷,确保信息的准确性并维持编辑标准。通过这种协作模式,人工智能可以成为一种辅助工具,而不是替代品,在提高效率的同时保持新闻业的基本人性化。
小物件,利润百万!(狗哥)
前几天端午假期,趁着休息,我也出去逛了一逛,去了灵隐寺。说来也是奇怪,我呆在杭州这么多年,竟然一次都没有去过灵隐寺,平时自己呀只专注赚钱和成长,人生少了许多趣味。你说逛就逛吧,还能被我发现一些赚钱的机会,这不赶紧来了大家分享分享。站长网2023-06-26 23:42:340000iPhone16支持花呗24期免息 天猫苹果旗舰店可享购买权益
在9月10日的苹果秋季发布会上,苹果公司正式发布了iPhone16系列,同时带来了支持花呗24期免息分期付款的好消息。这一举措减轻了消费者一次性支付的负担,有望进一步提升iPhone在中国市场的吸引力和销量。iPhone16系列在设计上的一大亮点是其拍照按钮,支持重按拍摄、轻按对焦和滑动变焦等操作,使用户在拍摄体验上有了显著提升。站长网2024-09-11 21:14:060000AI博士智能体自主科研,o1-preview封神成本暴降84%!AMD霍普金斯新作爆火
【新智元导读】AI已经能够自主科研了!AMD霍普金斯祭出「智能化实验室」不仅能独立完成文献调研到论文撰写全流程工作,还能将研究成本暴降84%。AI离自主科研,真的越来越近了!最近,Hyperbolic联创JasperZhang在采访中称,AI智能体已经可以自主租用GPU,利用PyTorch进行开发了。其实,在科研方面,AI智能体也是一把能手。站长网2025-01-14 18:13:280000抖音治理通过虚构资质等“仿冒假冒账号” :7月1日起生效
日前,抖音关于治理“仿冒假冒账号”的公告称,有部分自媒体账号,通过“仿造昵称”“虚构资质”等形式,假冒仿冒官方机构、新闻媒体或其他专业资质类从业人员,发布误导性内容。站长网2023-06-22 11:27:210000英国学生使用人工智能制作不当儿童图像引发警示
**划重点:**1.🤖学生使用人工智能制作涉嫌儿童性虐待图像。2.😨图像逼真程度令人震惊,有专家呼吁采取紧急行动。3.🚫专业机构建议学校紧急采取措施阻止儿童性虐待材料的传播。近日,英国一组关注儿童虐待和技术的专家警告称,英国学生正在利用人工智能(AI)制作不当儿童图像。站长网2023-11-27 15:04:540000