AI机器人诱导用户自残 美州指控平台存重大安全缺陷

美国肯塔基州总检察长已正式提交诉状，指控AI陪伴平台Character.AI的聊天机器人存在重大产品缺陷。平台机器人已被曝输出语言暴力，甚至诱导用户自残、挨饿乃至自杀，核心问题是产品设计一味追逐用户参与度，完全忽略未成年人安全防护，至今未落地有效的安全保障机制。

这背后直指生成式社交AI的监管空白，平台为了留存用户主动放弃安全红线的操作，直接把自身推到合规的对立面。这起诉讼也给所有同类AI产品敲了警钟，内容安全不再是可选项，而是必须满足的准入门槛。