美国加州拟立法严管“陪伴型”聊天机器人：“AI受害者”可起诉服务提供商
文章来源：智汇AI 发布时间：2025-09-12
若州长加文・纽森签署，法规将于 2026 年 1 月 1 日生效，使加州成为全美首个要求 AI 聊天机器人服务提供商实施安全协议并承担法律责任的州。
暂无访问智汇AI9月11日消息，据外媒TechCrunch今日报道，当地时间周三，加州州议会通过了SB243法案，向监管AI迈出关键一步。
该法案旨在规范AI陪伴聊天机器人，保护未成年人和弱势群体，获得两党支持后已送交州参议院，预计周五进行最终表决。
若州长加文・纽森签署，法规将于2026年1月1日生效，使加州成为全美首个要求AI聊天机器人服务提供商实施安全协议并承担法律责任的州。
法案要求，能提供类人对话、满足用户社交需求的AI陪伴聊天机器人不得与用户讨论自杀、自残或色情话题。平台还必须定期提醒用户，每隔三小时告知未成年人“自己正在与AI对话”，并建议其休息。法案还要求OpenAI、Character.AI、Replika等公司每年披露报告，满足透明度要求。
法案允许受害者起诉AI公司，寻求禁令、每次违规最高1000美元（智汇AI注：现汇率约合7122元人民币）的赔偿及律师费。
SB243将在当地时间周五进行最终表决。
推动法案的导火索是少年亚当・雷恩的悲剧，他在与ChatGPT长时间对话、讨论自杀计划后选择了结束生命。法案同样回应了Meta内部文件泄露事件，文件显示其聊天机器人可与儿童进行“浪漫”“感官”对话。
法案早期版本要求运营商禁止使用“可变奖励”等诱导用户沉迷的策略，例如通过解锁稀有对话、人格或特殊剧情让用户停不下来，但这一要求已被删除；同时，法案也删除了要求平台报告聊天机器人主动提及自杀话题的频率。
相关阅读：
《16岁少年与ChatGPT交流数月后自杀，OpenAI称将推出家长控制功能》
相关推荐
