专家警告!AI约会工具LoveGPT或存在利用GPT虚构身份
要点:
Avast网络安全专家警告LoveGPT,一款旨在进行在线约会的AI工具,可用于自动化虚假身份欺诈,诱使受害者泄露敏感信息,如信用卡详细信息。
LoveGPT使用OpenAI的GPT语言模型创建令人信服的虚假档案和更真实的对话,使骗子能够在各种约会平台上扩大攻击规模。
Avast建议在线约会时保持谨慎,建议用户不要信任新的在线联系人,即使他们看起来很真实,因为可能存在由AI驱动的虚假身份。
最近,网络安全公司Avast发出警告,有一款名为LoveGPT的在线工具可能被用来进行 automatized catfishing(自动化的假冒行为)。这种行为指的是骗子使用假冒的社交媒体账号,与受害者建立联系并获取其个人敏感信息的行为。
LoveGPT这个工具本身是为了帮助用户在网上约会时制作更有吸引力的个人资料和进行更动人的对话。但是Avast的研究发现,自从LoveGPT整合了OpenAI的GPT语言模型后,它也可能被骗子用来自动化假冒行为,规模化地在不同的约会平台上创建虚假账号,并以看似真实的语言与受害者互动。

图源备注:图片由AI生成,图片授权服务商Midjourney
根据Avast的报告,LoveGPT可以绕过验证码,利用代理隐藏其访问来源,大量自动创建假账号,收发电子邮件,并在约会网站上与用户互动。它使用GPT-3和GPT-3.5来生成描述个人资料的文字,以及与用户的对话。这种基于语言模型的交互明显更具有人性化,更容易骗过用户。
LoveGPT还可以根据不同约会平台的特点,调整提示词,来伪装成不同类型的用户,例如在Bumble上伪装成诗人,在Zoosk上伪装成旅行爱好者等。加上它具备的各种隐藏手段,让它看起来像一个正常的约会网站用户,这使得LoveGPT是一个非常可疑的工具。
Avast警告说,像LoveGPT这样基于大型语言模型的聊天机器人,能够利用人们想要社交的需求进行欺诈。用户在网上约会时,应该谨慎对待刚认识的网友,即使对话看似真实,也不要轻易透露自己的个人敏感信息,因为对方可能是AI操纵的假冒者。
Avast建议用户保持高度警惕,不要因为聊天对话显得真实而轻易相信对方,因为可能是AI生成的内容。用户应小心保护自己的个人信息,谨防在网上约会中遭遇心机骗子。
总之,LoveGPT利用了OpenAI强大的语言模型GPT-3/GPT-3.5,具有生成真实自然对话的能力,这能够帮助骗子更好地制造假身份,在网上约会平台实施规模化的欺诈行为。用户需要提高警惕,注意保护自己的隐私和资料安全。网络公司也需要对这种AI辅助欺诈行为给予足够的重视。
AI、出海、IP授权,今年的ChinaJoy还能给我们什么惊喜?
“今年你来CJ了吗?”“来了,不过今年没什么想看的,还是见见朋友。”“我今年都没来,还有别的事情,脱不开身。”“过两天我得去,不过是谈业务去的,回来约饭!”站长网2024-08-04 09:14:170000阿里巴巴智能信息事业群发布夸克大模型 夸克App将升级为AI助手
据证券时报消息,11月14日,阿里巴巴智能信息事业群发布了全栈自研、千亿级参数的夸克大模型。这个大模型将应用于通用搜索、医疗健康、教育学习、职场办公等场景。夸克App也将借助自研大模型全面升级,加速迈向年轻人工作、学习、生活的AI助手。阿里巴巴智能信息事业群总裁吴嘉表示,基于大模型的AIGC技术将会给搜索产品带来全新变化,加速迈向下一代搜索。站长网2023-11-14 15:02:300000科大讯飞与中国人保发布“数智灵犀 - 人保大模型”金融大模型
中国人民保险集团在北京举办了“科技赋能民生・人保慧致未来”科技发布会,正式发布了他们的大模型“数智灵犀-人保大模型”,这是基于星火金融大模型底座开发的中国人保专属企业大模型。这个大模型将能力与中国人保的现有业务系统进行深度集成,提供智能问答服务,提升业务人员和客户的服务质量和满意度。站长网2023-11-10 15:33:300001Verce发布AI SDK 3.0 推出生成式UI功能
近日,Verce发布了最新的AISDK3.0,此次更新的最大亮点在于引入了生成式UI功能。这一新功能将极大地丰富聊天机器人的交互体验。生成式UI功能的核心在于,它可以让聊天机器人的回答界面更加丰富和生动。以往,聊天机器人的回答通常只包含文字信息,而有了生成式UI功能后,聊天机器人可以直接回复一个功能界面给用户。体验地址:https://sdk.vercel.ai/demo站长网2024-03-04 20:05:480001AI日报:智谱开源清影同源“兄弟”CogVideoX;阿里通义App推出角色扮演功能;即梦视频生成推动效画板功能;OpenAI领导层大动荡!
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、智谱AI宣布开源「清影」同源视频生成模型——CogVideoX站长网2024-08-06 16:51:080000