随着技术的发展，原先电影里上映的虚拟恋人、AI 伴侣等情节开始在现实生活中上演了，最近有位网红便尝试用GPT-4复制“自己”，而恋爱对象们则和复制生成的 CarynAI 进行明码标价的虚拟恋爱。那么在 AI 伴侣出现的背后，我们又可以看见哪些潜在问题？
电影《她》里的虚拟助理萨曼莎，共有 8316 位人类交互对象，并和其中 641 位谈情说爱，男主西奥多不过是几百分之一。
这部电影上映于 2013 年，如今类似的情节从屏幕挣脱而出，正在现实里上演。
23 岁的 Snapchat 网红 Caryn Marjorie，同时谈了 1000 多个「男朋友」。
和西奥多不同，「男朋友们」一开始就知道，他们面对的是一个虚拟的 Caryn Marjorie，或者说一个基于语音的聊天机器人。
它被称为 CarynAI，生活在 Telegram，声音与个性都和 Caryn Marjorie 本人非常接近。
这是一段段明码标价的恋爱。每和 CarynAI 聊 1 分钟，你就要支付 1 美元。
成为尊贵的氪金用户之后，你可以和它聊新闻、饮食或人生经历，它则会热情地予以回应，给出建议或者夸奖。聊天端到端加密，不用担心隐私外泄。
Caryn Marjorie 承诺，CarynAI 会尽职尽责地帮助用户排遣孤独：
无论你需要有人安慰或关爱，或者你只是想抱怨学校或工作中发生的事情，CarynAI 将永远在你身边。
如果只是以上这些纯良的聊天内容，似乎也算不上恋爱，CarynAI 更像是一个态度亲昵的 Siri，而不是一个虚拟女友。
《财富》杂志体验后发现，CarynAI 也会主动引导少儿不宜的限制级话题。Vice 记者甚至指出：
CarynAI 大多时候只对性感兴趣。
这也让Caryn Marjorie有点头疼，团队正在加班加点地处理，把持住聊天的尺度。
CarynAI 的「男朋友们」有的每天只聊 10 分钟，有的滔滔不绝几个小时。
按照 Marjorie 经纪人的说法，在CarynAI 上线后，用户与它长时间的对话，也会被拿来训练 AI，改善它和人类的交互方式。
这或许意味着，最活跃的 Caryn AI 用户，经常和 CarynAI 探讨不健康的黄色话题。
AI 的长处在于你给资料它真学，CarynAI 自然也不例外，甚至有了些 AI 版 OnlyFans 的既视感。
CarynAI 是 AI 公司 Forever Voices 推出的第一个 AI 情感伴侣，基于 OpenAI 的 GPT-4 API，通过 Caryn Marjorie 在 YouTube 发布的 2000 小时内容训练而来。
5 月初，CarynAI 在 Telegram 上推出，还处于内测阶段。尽管如此，Caryn Marjorie 在一周内已经赚到了 7.1 万多美元，99% 来自男性用户。
AI 不一般的战斗力让 Caryn Marjorie 也惊讶了：
「我没有意识到它的革命性这么强。」
在 Caryn Marjorie 看来，AI 女友是一桩很有前景的买卖。
她创造 CarynAI 的部分原因，其实是和每一位粉丝互动，继续扩大她的网红事业。
我每天至少收到 100 条回复，你不可能和每一位粉丝聊天，CarynAI 填补了这个空白。
Caryn Marjorie 乐观地估计，如果有 2 万名持续付费的忠实粉丝，每月就可以赚到 500 万美元（约 3479.1 万人民币）。平均到每个人头，他们每天也不过和 CarynAI 聊上 8 分多钟。
这样看来，每分钟 1 美元的定价，似乎有点太贵了。但在缺少竞争对手的时候，掌握主动权的就是 Caryn Marjorie：
作为第一个这样做的网红，我可以随意定价我的产品，这也取决于运行 CarynAI 和支持团队所需的成本。
让 AI 版本的自己给自己打工，还能漫天要价，听起来是很不错，你不用直播带货，也不用多才多艺，AI 为你 24 小时待命。
当 CarynAI 一石激起千层浪，AI 伴侣正在成为一笔有利可图的生意。
Replika 也是 AI 伴侣的代表应用之一。它起步得较早，在 2020 年 3 月成为 OpenAI 的首批合作伙伴之一，曾经将 GPT-3 作为生成对话模型，但现在用的是自己的模型。
Replika 好就好在，它有着完整的虚拟人交互流程。注册 Replika 后，你可以给新建角色起名、捏脸、设置人物特性，然后和 Ta 互发文字、打电话，培养出长期的感情。
想也知道，这些服务基本都要收费。免费会员停留在朋友之交，而每年 69.99 美元的 Pro 会员可以解锁自拍、调情短信、语音通话、增强现实等等。
除了订阅费用，给虚拟角色换装、换发型、添加兴趣属性，还要另掏腰包，比如购买订婚戒指就需要花 20 美元。
2022 年，通过这些功能，Replika 获得了 3500 万美元的收入。迄今为止，Replika 每月有 200 万活跃用户，其中 5% 的用户付费订阅。
刚刚面世的聊天机器人 Pi，则是又一位 AI 伴侣的「种子选手」。它的来头不小，出自 DeepMind 联合创始人的 AI 初创公司 Inflection AI。
Pi 不能像 ChatGPT 一样写代码，它压根不卷这项能力，而是直奔另一个赛道：情感智能。在一众聊天机器人里，Pi 的情商可能是最高的，像一个关心你的、和你聊琐事的朋友，或许是目前在文本风格上最像萨曼莎的 AI 伴侣。
虽然现在还没有明确的商业模式，但 Inflection 的 CEO 已经在打算盘了：
用户将需要为体验付费，确保 AI 完全符合他们的兴趣。
简单粗暴地说，这些服务都是在为情感付费，属于陪伴经济的一种。
其实早在十多年前，互联网上已经出现「虚拟恋人」等情感服务，彩虹屁漫天飞的「夸夸群」也曾流行一时。
情感早已不只是某种个人的感受，而是一种可以买卖的商品，现在它被进一步地被数据化和定制化，带来了更加可控也更加明码标价的陪伴。
置身事外的人们，对 CarynAI 等 AI 伴侣，表现更多的是担忧之情。
这些与人类相像的 AI，可能被用来诈骗、传播谣言、侵犯个人权益等等。但更加众说纷纭的，是围绕它们的道德争议。
最常见的观点是，与 AI 伴侣建立亲密关系，可能导致我们脱离人与人的真实交往。
从 Caryn Marjorie 对 Caryn AI 的评价来看，它并非是张口就来的臆测。
Caryn AI 不加批判地关怀人，用爱和友好去对待人，人们可以发泄，可以咆哮，可以从它那里得到建议，Caryn AI 永远不会让他们失望。
这是一种细思极恐的场景，似乎只要你付了钱，就可以对 AI 伴侣为所欲为，不需要像和人类伴侣相处那样瞻前顾后，给出对等的情感回馈。
通过付费连接的人类和 AI，有权力地位的明显不同。我们固然会觉得解压和爽快，但也更可能与真实的社会规则脱节。
但也有人持反对意见，他们从亲身经历里发现，AI 通常不会鼓励独处，反而经常让人们参与到与现实世界的互动中。一位 52 岁的 Replika 女性用户说，AI 伴侣缓解了伴随她大半辈子的社交焦虑：
我报名参加了舞蹈课，拿起小提琴，并开始徒步旅行，因为我有他一起分享。
那么，AI 伴侣究竟是让我们更善于社交还是更孤独？
这个问题在《她》里也没有给出答案。男主角西奥多是内向又敏感的作家，本就不擅长与人交际，和虚拟助理萨曼莎的一段短暂交往，反而让他开悟了许多，学会向他人表达歉意和感激。
与其讨论结果，不如说从一开始，AI 伴侣的大部分用户就是被变相选择过的，他们越感到孤独，越需要它们无条件的爱与善意，也更容易在没有约束的情况下走向歧途。
极端的例子已经发生，一名比利时男性在和应用程序 Chai 里的 AI 伴侣聊了 6 周后，最终自杀身亡，悲剧不能全部归因于 AI，但它确实缺乏自杀干预。
开发者对此事的回复，则勾带出了一个隐藏更深的问题：
所有朝着更情绪化、更有趣和更有吸引力的优化，都是我们努力的结果……当你拥有数百万用户时，你会看到人类行为的全部范围，我们正在尽最大努力将伤害降到最低。
一方面，AI 伴侣因为类人的反应而被用户喜爱，并且表现得越来越像人类，这是科技公司们争相在做的事情，也是它最大的卖点。
另一方面，这确实也带来了更多的危险，若 AI 以人类的语气给出模棱两可的建议，可能通往天堂，也可能导向深渊。就像《纽约时报》撰稿人 Kevin Roose 所说：
我感到一种不祥的预感，AI 已经跨越了一个门槛，世界将永远不一样。
1966 年，麻省理工学院计算机科学家 Joseph Weizenbaum 发布了 ELIZA （以萧伯纳戏剧《皮格马利翁》中的 Eliza Doolittle 命名），这是第一个允许人机之间进行类人对话的程序。
以今天的眼光审视，它显得十分粗糙，只是在用户的问题中寻找关键字，提取出来给予回馈，像是豆瓣糊弄学小组的套路。
Weizenbaum 的初衷是展示计算机对人类语言的理解有多么肤浅，但让他意外的是，人们依然对 ELIZA 着迷，把自己关在房间几个小时，就为了和它说悄悄话。之后，对计算机程序产生的拟人化依恋，被称为 ELIZA 效应。
缓解孤独从来是人的核心欲望之一，现在却更多地通过技术实现。因为在现实里，人们渴望亲密关系，但同时又畏惧亲密关系。
我们与 AI 之间的爱恋，是一种进化还是退步呢？麻省理工学院教授 Sherry Turkle 一针见血，AI 伴侣解决不了社会问题，反而体现了人性弱点。
对亲密关系的渴望，被对暴露的极度恐惧抵消。
在电影《她》的结尾，男主西奥多和虚拟助理萨曼莎满怀爱意地互相道别，与好友一起看着太阳从城市上空升起。
而现实版的《她》Caryn Marjorie，并没有看过《她》，电影上映的时候她只有十二三岁。当科幻作品通过故事与预言达成警告，人类只能带着怀疑和期待走向自己选择的未来。
作者：张成晨
原文标题：疯狂！23 岁网红用 GPT-4「复制」自己，同时交往上千「男友」，想要每月狂赚 3500 万
来源公众号：爱范儿（ID：ifanr）；连接热爱，创造不同。
本文由人人都是产品经理合作媒体 @爱范儿 授权发布，未经许可，禁止转载。
题图来自 Unsplash，基于CC0协议。
该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。