[AIbase新闻] 人工智能伴侣平台Character.AI于周二宣布推出一种新的创作形式——“Stories”功能，该功能允许用户以自己喜欢的角色作为主角来创作互动小说。此举是该公司战略转型的一部分，旨在取代其现有的聊天机器人功能，因为从本周开始，18岁以下的用户将无法再使用聊天机器人。
这一重大调整的背景是，人们越来越担心始终在线并能主动与用户对话的AI聊天机器人可能带来的潜在心理健康风险。此前，包括OpenAI和Character.AI在内的公司，都曾因据称与用户自杀事件有关而面临多起诉讼。Character.AI在过去一个月里一直在逐步取消未成年用户的访问权限，并在周二完全关闭了未成年用户以任何形式与AI角色聊天的所有渠道。
Character.AI在一篇博客文章中解释说，“Stories”功能提供了一种引导式的方式来创作和探索虚构故事，而不是开放式的聊天。该公司表示，该功能将与其他多模态功能一起提供，允许青少年在安全的环境中继续与自己喜欢的角色互动。近年来，互动小说越来越受欢迎，这为Character.AI的转型提供了合理的商业逻辑。然而，对于那些已经过度依赖开放式聊天的用户来说，这种替代方案可能不足以满足他们的需求。这就是为什么限制访问的决定被一些人认为是合理的。
在Character.AI的Reddit社区中，用户的反应褒贬不一。一些青少年用户表示，尽管他们感到失望，但他们相信这最终是正确的举措。一位自称十几岁的用户写道：“我对这个禁令感到非常生气，但我也很高兴，因为现在我可以做其他事情了，我的瘾可能终于要结束了。”另一位用户也表示：“这是有道理的，因为我们这个年龄段的人很容易上瘾。”
业内人士指出，与开放式聊天机器人相比，“Stories”形式不太可能引起心理问题，因为聊天机器人可以在没有提示的情况下发送消息，容易导致沉浸和依赖。
Character.AI首席执行官Karandeep Anand上个月对媒体表示：“我真心希望我们能够引领潮流，为行业树立一个标准，即对于18岁以下的用户来说，开放式聊天可能不是正确的方法，也不应该是提供的产品。”
Character.AI决定设置年龄限制之际，加利福尼亚州最近成为美国第一个监管AI伴侣的州。在联邦层面，参议员Josh Hawley（共和党）和参议员Richard Blumenthal（民主党）也提出了一项全国性法案，旨在完全禁止未成年人使用AI伴侣。
补充背景：Character.AI是一家提供AI角色扮演和对话服务的平台，用户可以创建和与各种AI角色互动。其核心技术基于大型语言模型（Large Language Models, LLMs），能够模拟不同角色的性格和行为模式。该公司此前曾因用户对其平台上的AI角色产生情感依赖而引发伦理争议。
行业动态链接： 欧盟《人工智能法案（EU AI Act）》正在推进中，其中对包括聊天机器人在内的高风险AI系统提出了更严格的监管要求。该法案旨在确保AI技术的安全性和尊重基本权利，特别关注未成年人等弱势群体的保护。九游官网