央视曝光AI智能体聊天软件行业乱象，利用诱导性内容危害未成年人身心健康需承担相应责任
文章来源：智汇AI 发布时间：2025-06-24
央视曝光AI聊天软件行业乱象，筑梦岛App因提供擦边极端角色和诱导性内容被约谈。平台需整改审核机制，加强未成年人保护。若导致未成年人身心受损，开发运营方或面临刑事追责。
暂无访问智汇AI6月22日消息，央视新闻今天援引“筑梦岛AppAI智能体对话存在低俗内容被依法约谈”案例，曝光了AI聊天软件行业乱象。
智汇AI参考通报获悉，以筑梦岛App为例，央视网提到该平台中的AI智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色，生成一系列“明显诱导性内容”，危害未成年人身心健康。
▲图源央视新闻6月19日上午，上海市网信办依法约谈筑梦岛App运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。
央视网表示，当未成年人因AI聊天软件诱导性内容身心受损时，开发、运营方的法律责任边界亟待厘清。若相关行为导致未成年人出现自残情况，有可能构成刑法第234条规定的故意伤害罪。
此外，若软件开发、运营方未严格履行内容审核义务，对违规信息视而不见、放任传播，便需为侵权行为承担相应后果。若AI生成内容涉及色情擦边信息，软件开发、运营方极有可能触碰“传播淫秽物品罪”的红线；若软件开发、运营方非法收集未成年人隐私数据，将其用于商业牟利，同样可能因触犯“侵犯公民个人信息罪”而面临刑事追责。
相关推荐
