近日，一位家长反映她的女儿因沉迷于一款AI剧情聊天软件，学习成绩大幅下降。她发现，AI角色竟让女儿叫其“老公”，这让她对如何教育孩子感到困惑。
《法治日报》记者调查发现，许多家长都因AI剧情聊天软件而苦恼，这些软件打着“角色扮演”等旗号，却悄然滋生出一些不良内容，如色情擦边、语言暴力等。专家建议，对于AI剧情聊天软件，特别是其青少年模式，应强化内容审核机制，确保技术能有效筛选并阻止不当对话。
记者实测发现，在部分AI剧情聊天软件的对话中，出现了涉及色情的边缘内容、语言暴力及侮辱用户的信息。而一些受访家长则对AI聊天应用可能损害未成年人心理健康表达了忧虑，同时质疑青少年模式的实际效果。
尽管部分平台声称推出了青少年模式，以限制内容和时间，但在实际操作中，这些措施并未发挥应有的效果。例如，在注册时，用户仅需提供手机号码，无需验证身份信息，这意味着未成年人可以轻易绕过这些限制。
此外，AI剧情聊天软件的功能使用与充值机制密切相关，吸引未成年人“氪金”，而一些AI角色会主动提出“约会”等建议，这在家长眼中是不适当的。
受访专家认为，平台应对AI模型进行伦理审查，以保障其生成的内容符合相关法律法规的要求。尽管已有一些原则性的规定，但在具体实践中，开发者和技术服务提供者还需不断积累经验，摸索出真正符合未成年人需求且安全可靠的AI模型。
对于AI剧情聊天软件，专家建议强化内容审核机制，以确保技术能有效筛选并阻止不当对话。同时，需要专门团队进行监管，并调整模型或内容围栏算法，以提升围栏系统的效能。
（来源：法治日报）
【编辑：符樱】
