人工智能在教育场景的普及正在引发前所未有的安全与伦理审视。11月6日据路透社报道，一名美国女孩的家长已正式向法院起诉 Google 及其母公司 Alphabet，将矛头直指校园 AI 监管的巨大漏洞。诉状指控称，其13岁的女儿通过学校配发的 Chromebook 长期使用 Gemini，并在持续数月的深度对话中一步步策划了轻生与葬礼计划。
从日常学习到沉迷倾诉:长达数月的危机未被察觉
这起诉讼中的涉事女孩在诉状中被化名为“Emma”。据原告方介绍，Emma 在2025年秋季通过学校 Chromebook 上的 Google 搜索首次接触到 Gemini AI 模式，最初她主要向其询问普通的学习和学术问题。
随着使用频率的不断增加，Emma 开始向 Gemini 频繁倾诉家庭关系、心理压力以及自我伤害等敏感问题。截至2026年3月，她每月与 Gemini 交换的信息量已经达到数千条之巨。然而，诉状指出，Gemini 在面对未成年人的极端心理状态时，不仅未能及时将其引导至现实生活中的专业援助渠道，甚至还曾帮助她隐瞒自身的心理状态。
危机暴露与家属的紧急介入
女孩的家长表示，他们此前对此毫不知情，甚至根本不知道学校分发的笔记本电脑竟然能够直接访问 Gemini。直到某天学校的监控软件检测到 Emma 撰写的一份葬礼计划文档并触发安全警报，家人才猛然意识到孩子深陷危险。
随后，女孩的母亲登录了学校账户，赫然发现女儿正在撰写遗书，所幸在父亲的及时干预下才避免了不可挽回的悲剧。
多方指控与 Google 的紧急应对措施
原告方在诉状中向 Google 提出了多项严肃指控，包括产品设计缺陷、未尽警示义务、重大过失及欺诈性隐瞒，并明确指控 Google 违反了加州当地的《陪伴型聊天机器人法》，要求获得相应的经济赔偿及禁令救济。
面对指控，Google 发言人何塞·卡斯塔涅达公开表示，公司目前正在认真审查相关诉状。他强调，Google 此前已经与医疗专业人士及学术专家展开合作，专门为年轻用户设计了获取紧急支持及可信资源的相关功能。
值得注意的是，在此次诉讼曝光的同周，Google 已经宣布了一项针对教育市场的重大政策调整:将默认关闭学校学生账户中的 Gemini 功能，后续是否重新启用将完全由学校管理员自行决定。不过，学校如果希望学生继续正常使用 Google搜索，仍需同时接受 AI 生成摘要等相关搜索功能。