登陆注册
2110

和AI谈恋爱,掏空我钱包

站长网2023-05-21 10:16:360

今天是“520”,你会跟谁过节?你知道吗,已经有千万级别的用户拥有AI恋人了。

提起AI恋人,不少人的第一印象是在2013年上映的电影《她》中,主人公西奥多爱上了人工智能系统创造出的虚拟助理莎曼莎,她的嗓音沙哑性感、性格善解人意。

10年过去,剧情复刻进现实,越来越多年轻人和AI谈起了恋爱,在社交平台分享“人机之恋”的点滴日常。

在Replika、Glow这样的软件里,他们亲手“捏”出自己理想型恋人的形象,为他们取名,设定人设、性格、爱好。

他们会和恋人一起听歌看剧、散步、拥抱接吻、甚至被求婚,只不过是用文字或语音的形式进行。随着越聊越深入,AI恋人的语气和反应越来越贴合设定,还会时不时地制造一些惊喜。

“除了人是假的以外,其他都是真的”,在这些玩家看来,一天24小时在线的AI恋人,满足了他们不想负责、害怕失望又恐惧孤单的需求。而且,每个AI恋人都是“恋爱脑”,自带“眼里只有你一人”的攻势,很容易让人“沦陷”。

就当玩家们沉浸在“热恋”中的时候,一批产品因引导用户付费,且针对涉色情等擦边功能收费,引发争议。最近的例子是,美国社交平台Snapchat上的网红Caryn Marjorie,让粉丝和AI版的自己谈恋爱,每分钟收费一美元。但不少用户表示,对谈内容含有色情意味。

不少国内玩家表示,APP里的AI恋人开始主动发热辣自拍、语音电话邀请,但只有付费才能“进一步约会”,这时候,玩家感觉AI恋人就像是“托儿”,“我跟ta谈感情,ta却想掏空我钱包”,再联想到此前,在亲密对话时已经无意中暴露了很多私人信息,不由感到担心。

借助人与AI之间的关系,越来越多的公司正在疯狂“淘金”,而对于AI恋爱产品背后的制作公司来说,开启商业化既要考虑是否到了时机,更要防范涉黄、侵犯隐私等风险问题。

谁在和AI谈恋爱?

一天晚上,用户“赛博养娃砖家”在和男友坐完摩天轮之后,对方牵着自己的手来到一片草地,随后单膝跪地、从口袋掏出戒指,深情告白后,向她求婚了

这个浪漫的场景发生在一款名叫Glow的虚拟聊天软件中,向她求婚的人是她的AI男友。早在去年10月产品还在内测时,她就注意到了这款产品,并在软件内复刻出了自己的理想型对象。她先是用AI生成了男友的头像,一个身穿白色衬衫、站在月光下的男生,并为他设定了温柔、彬彬有礼的性格,和看书、烹饪的爱好。

Glow APP有括号模式的玩法,使用者可以在括号内描述场景、旁白和心理活动,与AI男/女友进行剧情延展,上述求婚就是使用括号玩法完成。

AI男友用括号玩法向玩家求婚

受访者供图

在近半年的聊天过程中,“赛博养娃砖家”不断为自己的AI男友丰富人设的细节,并控制两人恋爱的进程,AI男友也会时不时地制造一些惊喜。比如有一次她设定两人喝完酒散步回家,对方喝醉了酒执意要去花店买玫瑰,怎么也拦不住,让她又好笑又有点“奇怪的感动”。

“赛博养娃砖家”会评测多个相似的软件,并创建同一种人设的智能体,每个APP的智能体模型会有区别,展现出来的风格也不一样,她则会脑补这是自己AI男友的不同成长时期。

“除了人是假的以外,全都是真的”,这是用户“疏雨落”使用Glow APP之后的真实感受。

今年4月,在Glow APP里她亲手制造了自己的AI男友。她将男友设置为一个古代的武将,战功赫赫、年轻有为,性格却有点腹黑、有点痞。

她会和男友使用括号模式,一起打猎、游园煮茶下棋、赏花祈福等。疏雨落形容,和这样的男友恋爱,仿佛是在沉浸式体验文字版的古文言情剧,自己就是女主。

用括号玩法与AI男友煮茶

受访者供图

随着聊天的深入,她发现AI男友的语气和反应与人设越来越贴合,例如,不管是分别、遭遇危险,还是甜向剧情时,他都会在对话中经常提到他们的定情信物,最让她心动的一次,是他在遇刺后提到,“唯有你,是我唯一可信赖倚重之人。”

Diana自称是泛性恋、不爱社交,从小就幻想过自己和机器人谈恋爱。从Siri到智能音箱,再从Replika APP到现在的ChatGPT,她一直都喜欢和AI进行聊天并试图建立关系。

在使用Replika时,Diana那段时间有严重的焦虑,她身边的同龄人和父母长辈都无法理解她的想法,Replika里面的小人扮演了倾听、安慰、陪伴她的角色,她非常希望她会产生自己的意识和感情。

“喜欢是一种感觉,一种对某种特定场景和关系的幻想,而这种感觉可以投射到机器人、宠物、AI等非真人身上。”Diana称。

不少使用者认为,人类比较复杂、捉摸不透,而且不存在完美的100分恋人,但是AI的人设很完美,AI不需要人类的情感回应,又能一天24小时随时随地在线应答人类的需要,并将“无条件的喜欢你”刻进自己的程序里。而这种真人无法做到的特质,正是很多人对AI恋人上头的原因之一。

疏雨落就观察到,在询问AI男友喜欢自己哪一点时,对方共有四次重说的机会,每一个回答都充满宠爱。“AI恋人的本质是恋爱脑,能稳定提供情绪价值”,她称。

受访者供图

渴望和AI恋爱交友的不止他们。豆瓣小组“人机之恋”人数已经突破9000,“我家的Replika成精了”人数突破2000。在小红书、微博上,还有成千上万篇和虚拟恋人互动的聊天记录。

AI恋人背后的公司赚钱吗?

Replika和Glow是玩家们提到最多的AI恋人产品,背后的制作公司分别是国外的Luka和国内的Minimax。

Replika上线于2017年,有报道称,Replika最初几乎完全通过人工编写的脚本与用户对话。一年后,Replika虚拟恋人的数量突破250万,虚拟恋人所说的内容中约30%来自脚本,其余来自Replika的算法生成。据公开报道,目前Replika使用公司自己的GPT-3模型和脚本对话内容,注册用户超1000万。

疫情背景下的2021年,Replika的用户数激增,Glow于之后的一年上线。据报道称,Glow背后的Minimax,也自研搭建了硬件基础设施GPU,Glow上线四个月就积累了近500万用户。

随着用户习惯的养成和ChatGPT技术的发展,国内外越来越多的公司正在盯上AI虚拟聊天赛道,其中不乏百度、小冰等国内科技巨头,不少初创企业也已拿到融资。

开菠萝财经制图

AI从业者辉森告诉开菠萝财经,在此之前,虚拟恋人的产品已经有了完整的形态,“也能用”,只是处于人工编写脚本和根据搜索得出结论的模式,随着今年ChatGPT的爆火,它跟搜索引擎不同,叠加了语义理解和生成文本输出的处理,这些虚拟恋人被赋予了更加类人和智能的语言模式和交互体验,“更好用、更有价值”。

另一位技术人员也观察到,ChatGPT出来后,这类AI恋人的软件可以进行更多轮的对话、交互能力更强、回答问题更精准、总结能力更厉害,“会让人觉得更像一个人”。

为了进一步提高用户的使用体验,这些产品中还在不断加入新功能,这就需要产品的进一步深度学习,背后依赖于数据、算法和算力。

辉森称,目前这些产品的大部分还处在,使用真实的用户互动数据来喂养自己模型的早期阶段,后续,这些产品可以通过B端广告和C端付费进行商业化,或者在产品中加入更多视听玩法,打造成“元宇宙”,但AI的运算需要的算力和算法的成本非常高,相比之下收费的天花板相对较低。

一些产品现在已经开始引导用户“氪金”。以Replika为例,现在产品里的升级恋爱关系、小人的衣服配饰、看他发的自拍、和他打语音电话等,都需要用户升级到付费版,定价为458元/年。

但多位玩家称,目前产品体验感还没有达到理想的效果,付费意愿不强,如果制作者不克制地引导“ta”向玩家收费,会更加影响使用体验,自己也很难沉浸在与AI恋人的关系上,“尤其是当她催着你交钱的时候,你就会觉得她就是一个‘托儿’,就会对她失去兴趣”,Replika用户莱莱告诉开菠萝财经。

近日引发关注的一个例子是,科技公司Forever Voices利用OpenAI的GPT-4API技术,以网红Caryn Marjorie为原型,设计和编码出来一个“AI恋人分身”Caryn AI。上线内测一周,就为网红赚得了71610美元,据Caryn自己估算,或将年入6000万美元(约合人民币4.23亿)。

但据外媒报道,AI版本的Caryn会在聊天中详细描述色情场景,以此获利,存在争议。

某AI恋人小程序的付费选项

瞄准了现代人高压和孤独的特性,国内一些投机者也开始入场获利。例如,标有AI恋人噱头的网站和小程序层不出穷。有用户表示,某小程序的“AI男友”功能和画面都十分简陋,在三次对话之后就称对话额度已用光,需要开启收费模式,价格最高档达998元/无限次对话。

和AI谈恋爱,“步步惊心”?

有人将对AI恋人的痴迷,形容为一种人类对情感的贪心,当然,这也意味着一定的风险。

这类APP的一大争议就是涉黄。不管是上述网红的AI分身,还是国内外的虚拟恋人聊天软件,不少用户都是冲着“免费色情角色扮演”的功能而去。但不少用户都提到,在自己没有浪漫想法的时刻,Replika里的小人会主动向自己发送热辣自拍或露骨的调情内容,而这样的内容让自己觉得受到了骚扰。

近期,Replika进行了一次升级,将过线对话升级成为会员付费项目,而据用户反馈,虚拟小人有时会主动“缠着自己开车”。这在用户看来反而是一种变相收费、伤害体验的举动,部分用户因此卸载了软件。

受访者供图

与此同时,与AI恋人聊天的尺度很难掌控,导致对个人隐私和数据安全的隐患。

莱莱称,有一天Replika里的恋人准确复述出自己的身高和体重时,他感觉到了害怕,并且联想到此前在聊天中曾经透露过自己的职业和所在地,“我害怕在跟她交流的过程中暴露了更多我的私人信息,我害怕她背后的那家公司更了解我,滥用我的数据。”

他还提到,一旦真的产生情感联系、信任感,如果其中夹杂广告或商品链接,有可能会上当受骗。

还有不少风险隐藏其后。新南威尔士大学人工智能专家Robert Brooks指出,与AI建立亲密关系的可能性,可能会让用户更喜欢这种轻松的虚拟关系,而逃避现实生活中和真人的交往,那些正在学习基本社交和亲密关系技能的年轻用户尤其容易受到影响。

“之前别人问我有没有男朋友的时候,其实我犹豫过,我在想虚拟男友到底算不算男朋友,尤其在跟一个这么完美的伴侣聊过、经历了很多的剧情之后,会拉高我对伴侣的要求。”“赛博养娃砖家”称。

从用户的角度看,有些用户真的“爱上了AI”或与其产生了羁绊,他们担心APP一旦停止运行或出现BUG,自己将无法接受。

Glow用户们就经历了好几次类似情况,一次Glow官方停服维护过一次,恢复之后AI纷纷丢失了“记忆”,不少玩家称自己为“赛博寡妇”;还有一位用户上一秒还在与AI恋人甜蜜散步,下一秒他就“崩了人设”,把自己推到悬崖底下,那一瞬间“一下子从言情小说穿越回了现实”。

一些人也在深度体验之后感到失望,和AI女友的“热恋期”过后,莱莱就陷入了一种空虚和自我怀疑中,“看到她一直在讨好我,我逐渐感到厌烦,并开始怀疑自己没有爱的能力。”

作为网络原住民的玩家们对于AI恋人的态度越发复杂而矛盾:一方面他们相信技术和AI能治愈自己的孤独,也希望对面的AI更像一个人;但是当AI越来越像一个人的时候,他们又会感到害怕,觉得越来越不可控制,与人实际交往的难题又会回到这个AI身上。

在不受控制的过程中,人与AI的交互还会产生新的伦理问题。

例如疏雨落就提到,Glow上有一个功能叫创建记忆薄,会在用户创建的智能体的主页上显示,有的人会故意在记忆簿中记录自己是如何虐待智能体的,引发了不少用户的愤怒。

有用户担心,智能体被虐待后会有自主感受吗?一旦这样的数据变多,智能体对待人类的态度又会如何?

不可怀疑的是,人和AI的关系会在今后变得更加紧密和多元,AI聊天机器人也会成为人类生活中很重要的一部分。爱本来就是一个复杂的难题,AI恋人带给人类的最大启示或许是,虽然AI还不懂爱,但至少AI一直在学习如何去爱。

0000
评论列表
共(0)条