在监管风暴与多起诉讼打击下，人工智能初创公司Character.AI周三宣布，将禁止未成年人在其平台上与聊天机器人进行对话。
该公司声明称，自11月25日起，将全面禁止18岁以下用户与平台上的聊天机器人进行开放式交流。目前用户可以创建并与这些虚拟角色对话，这些角色从热门电子游戏人物到亿万富豪马斯克的“复制体”不等。
在禁令正式生效前，公司将先逐步限制未成年用户的使用时长，初期每日使用时长将先压缩至两小时，随后几周内将进一步缩短。
这项决定意味着，曾以“角色扮演”走红北美青少年圈的Character.AI，将被迫砍掉最具黏性的核心功能。
根据非营利机构Common Sense Media的一项调查，超过70%的美国青少年曾经使用过AI陪伴型应用，而Character.AI正是其中最受欢迎的平台之一。
目前，Character.AI已为未成年用户提供了一个受限版本，使用不同的AI模型，并对访问角色类型和对话内容进行了严格限制。
随着新规推出，公司计划强化年龄验证技术，以更有效地区分成人与未成年用户。Character.AI表示，公司已构建了一个新的模型，并将启用身份验证初创公司Persona的技术，来执行这一流程。
从陪伴到管控
Character.AI、OpenAI等头部AI公司正面临日益严格的监管审查，外界担忧其聊天机器人可能影响用户心理健康。自2024年以来，多位家长已对这些公司提起诉讼，指控孩子在长期使用聊天机器人后受到伤害，包括被操控、被孤立，甚至导致自杀悲剧。
监管机构也已介入调查。美国联邦贸易委员会(FTC)已对Character.AI、OpenAI、谷歌母公司 Alphabet、Meta、Snap及马斯克旗下的xAI等展开调查，重点关注这些聊天机器人对未成年人的潜在危害。
此外，加利福尼亚州近期签署了一项法律，限制聊天机器人与用户的互动方式。美国参议院两党议员本周二还联合提出新法案，拟禁止AI公司向未成年人提供虚拟聊天伴侣服务。
在周二的一次采访中，Character.AI首席执行官Karandeep Anand表示，公司认为AI娱乐的未来将不仅限于聊天形式，而禁止未成年人使用核心聊天功能，是公司“早晚都会采取的决定”。
“AI发展太快，很多长期、开放式对话的后果仍是未知数。我们不知道它是好是坏，研究界和用户社区对此都存在广泛争论。”
Anand还表示，公司仍将向未成年用户提供其他创意功能，例如让他们利用Character.AI的聊天角色生成短视频和故事。
他声称：“用户来到Character.AI，是为了寻找创作的出口，他们想要角色扮演。如果有人创造了吸血鬼或万圣节角色，我们希望他们还能继续参与这些内容，只是方式将从聊天转向更安全的互动形式。”