暗藏暴力、软色情AI聊天软件不能无序生长

　　■ 观察家

　　大模型创业，不应该走向靠色情与擦边来引流的歪路。

　　大模型创业赛道上，涌现了AI剧情聊天这一商业模式。新京报贝壳财经记者调查发现，AI聊天软件通过设定极富想象力的剧情、风格迥异的人物角色，吸引了大批用户。

　　但在部分AI剧情聊天软件的对话中，会出现色情擦边、语言暴力以及侮辱用户等涉嫌违法违规的内容。其中，聊天对象甚至可以设置为“出轨对象”，并能够进行拥抱、亲吻、睡觉等行为。聊天越界也与充值挂钩，这些平台会一步步诱导用户“为爱氪金”。

　　AI剧情聊天其实就是此前的互联网语擦，套上了一层人工智能的马甲。所谓语擦，即语言cosplay，语擦师通过扮演二次元角色或三次元偶像，以文字交流的形式提供服务。

　　在传统语擦模式中，语擦师由真人扮演，他们一般打着“提供情绪价值”的旗号，扮演不同角色与用户聊天，但也常常因为“打擦边球”“界限模糊”，引发法律与道德风险。AI剧情聊天则是传统语擦的升级版。这类软件背后的大语言模型数据主要来源是对话式小说，或从小说里做一些文字提取。

　　这种商业模式不可避免地存在两种风险：其一是版权，平台抓取的数据有没有得到授权？其二，同样绕不过法律与伦理问题。

　　其实，这种陪伴式聊天工具，自开发之日起就内置一种隐秘动机，想带用户进入一种不为外人所知又比较暧昧的虚拟场景。这类内容对处于青春期的青少年来说，尤其具有杀伤力。

　　贝壳财经揭露的AI剧情聊天软件中，未成年人就是主要的“收割对象”之一。一些聊天工具设置了免费使用区间，但当用户使用完免费聊天次数后，需要充值才可以继续聊天。

　　自从ChatGPT引爆新一轮人工智能热潮之后，大模型创业在国内便如火如荼地开展起来。大模型商业化变现最大的难点在于找到合适的应用场景。在方向难寻的背景下，将大模型植入语擦赛道，就是一条捷径。

　　只不过，任何创业都要经受住法律与道德的审视。对此，相关创业公司应该有所敬畏。国内大模型创业，也不应该走向靠色情与擦边来引流的歪路。

　　实际上，针对大模型创业可能引发的风险，我国于去年颁布的《生成式人工智能服务管理暂行办法》已有明确提示：提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。

　　大模型创业，当然要受到这些法律法规的规制。而对于一些指望靠擦边内容来盈利的企业，从内部审核管理上净化不良内容，可能动机不足。这就意味着要引进、强化外部监管，通过日常巡查、联合执法，以及法律法规的完善等，确保用户权益不被侵犯，让大模型创业走在正确轨道上。

　　□新京报评论员 王言虎