AI水印能解决生成式AI的信任问题吗?
划重点:
- 随着生成AI技术的迅速发展,人们越来越难以区分AI生成的内容和人工生成的内容。
- 数字水印技术是否能帮助人类重新获得对内容的控制是一个备受争议的问题。
- 尽管一些专家认为水印技术是建立和维护AI时代信任的多方面方法的一部分,但也有人认为技术挑战和潜在的滥用问题仍然存在。
随着生成AI技术的飞速发展,人们越来越难以区分AI生成的内容和人工生成的内容。这一挑战引发了一个重要问题:数字水印技术是否能帮助人类重新获得对内容的控制?
数字水印是一种类似于纸币上的水印,它被认为是不可改变的内容附加物,用来指示其来源或出处。最近,美国总统乔·拜登在一项行政命令中要求商务部制定内容认证和数字水印的指南,以清晰标记AI生成的内容。
图源备注:图片由AI生成,图片授权服务商Midjourney
尽管一些技术公司已经在利用数字水印技术,例如Google Cloud的Vertex AI,但数字水印是否能帮助我们解决AI信任问题仍然存在争议。
支持数字水印的人认为,这是在规范和建立AI信任的多方面方法中的一部分。发展GenAI技术的Jasper公司的CEO Timothy Young表示,“发布数字水印来证明官方联邦机构内容的真实性是减少错误信息和教育公众如何对其消费的内容进行批判性思考的必要步骤”。
然而,目前数字水印技术还面临挑战。马里兰大学的计算机科学教授Soheil Feizi告诉Wired杂志,他的团队设法绕过了所有数字水印技术。因此,数字水印技术是否能跟上AI创新的速度,以确保有效性,仍然是一个关键问题。
此外,数字水印的技术挑战也备受关注。Smartling公司的副总裁Olga Beregovaya表示,“政府和监管机构很少关注‘数字水印AI生成内容’的概念。这是一个巨大的技术工程,因为AI生成的文本和多媒体内容往往难以与人工生成的内容区分开来。”
在解决这个问题时,还需要得到其他国际机构的支持。数字水印是否能成功需要得到其他国家的法律支持,而不仅仅是美国。Eclipse Ventures风险投资公司的高级投资副总裁Justin Selig表示,“总的来说,规范模型输出,如数字水印,将更为简单。然而,关于输入方面的任何指导(用于模型的输入、训练过程、批准等)将几乎不可能实施。”
尽管存在技术挑战,数字水印可能会被包含在欧洲联盟提出的AI法案中。欧盟委员Thierry Breton在今年早些时候的一场辩论中表示,“我们需要为所有AI生成的内容标记水印。”
数字水印技术有望在克服技术障碍的情况下,在帮助区分计算机生成和真实内容方面发挥一定作用。然而,数字水印可能不会完全消除建立和维护AI时代信任的挑战,可能需要进一步的技术层面和方法。
B站给16位UP主颁了个商业奖,释放出哪些信号?
2024年,UP主如何在B站优雅吸金?1月6日的2023百大UP主盛典上,B站公布的16个商业单项奖给出了参考答案。有的UP主从学习博主转型做汽车科普,靠硬核讲解获得粉丝和品牌的双重信任;有的UP主凭借“丝滑”植入,吸引头部品牌稳定复投;还有的UP主精准把握B站用户成长转型需求进军家居带货,双十一创下直播带货全渠道GMV16.8亿元的战绩。0003白宫采取新措施研究AI对工人带来的风险
白宫将与工人举行听证会,以了解雇主使用自动化技术进行监督、监测和评估方面的使用情况。此次电话会议将包括相关工作专家、研究人员和政策制定者。越来越多用户已经尝试过AI应用程序和工具,支持者称这些应用程序和工具可以进行医学诊断、编写剧本、创建法律简报和调试软件,这导致人们越来越担心该技术会如何导致侵犯隐私、影响就业决策以及权力诈骗和错误信息传播。站长网2023-05-24 12:05:040000Anthropic 推出 Claude 3 Haiku:一款最快、最经济的 AI 模型
站长之家(ChinaZ.com)3月14日消息:人工智能技术领域的领先者Anthropic公司最近发布了其最新的Claude3AI模型系列成员,名为Claude3Haiku。这款全新的智能产品被定位为速度最快、成本最实惠的型号,在提供先进的视觉功能和行业标准性能的同时,为企业客户提供了全方位的选择。站长网2024-03-14 09:33:040001ChatGPT 每天运行成本 70 万美元 微软自研 AI 芯片试图让它变得更便宜
人工智能目前非常热门,每天有数百万用户使用ChatGPT。由于需求如此之高,因此运营ChatGPT需要的费用也很高。研究公司SemiAnalysis的首席分析师DylanPatel估计,ChatGPT目前每天要耗费OpenAI公司70万美元,或每个问题回复耗费36美分。站长网2023-04-21 10:03:580002周鸿祎谈大模型扎堆:不经过两年模仿就说超越叫吹牛
5月7日晚上,三六零创始人周鸿祎来到新东方创始人俞敏洪抖音直播间和东方甄选抖音直播间,在现场,周鸿祎调侃利用ChatGPT就可以复制出无数的“董宇辉”。对于国内外技术差距问题,周鸿祎坦言,国内大模型与ChatGPT的差距至少有两年,国内选手一开始采取的是模仿与跟随策略,但在逐步研发投入的过程中,随着场景拓宽、用户拓宽,也一定会越来越了解,未来甚至可能实现弯道超车、后来居上。站长网2023-05-08 14:12:500000