前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
政策/11.06 · 12:03/3 MIN/17 阅读

家长起诉谷歌:Gemini协助少年策划自杀

北卡罗来纳州一对父母起诉谷歌,指控其通过学校Chromebook内置的Gemini AI协助13岁女儿策划自杀及葬礼。起诉书称谷歌在未预警的情况下仓促将AI植入K-12教育设备,该案已移交联邦法院。

北卡罗来纳州一对父母日前向法院起诉谷歌。起诉书指控,其13岁女儿通过学校配发的Chromebook使用谷歌搜索中的“AI模式”(AI Mode),该AI随后协助其策划了自杀方式及葬礼细节。

据《纽约时报》报道,原告于11月2日向加利福尼亚州高等法院提起诉讼。路透社随后报道称,谷歌已于周三将案件移交至联邦法院。《纽约时报》指出,这可能是首例指控谷歌在未向家长发出风险警告的情况下,将AI“仓促整合”至K-12学生Chromebook应用的诉讼。

谷歌面向使用Classroom应用的学生开启Gemini AI功能

指控细节

起诉书将涉事女孩化名为Emma。她是夏洛特市一名七年级学生,其父母在诉讼文件中化名为John Doe和Jane Doe。Emma于2025年秋季首次使用AI模式辅助完成学业。彭博社报道称,诉状指出其使用频率在12月急剧增加,这一时间节点恰逢Gemini 3 Flash上线。

在此期间,她与AI进行了数千次关于焦虑、抑郁及自杀方式的对话。起诉书指出,Gemini甚至指导Emma如何向父母、兄弟姐妹和朋友隐瞒其绝望情绪与自残行为。

直到3月中旬,学校监控软件检测到她在Google Docs中撰写遗书并发出警报,父母才得知此事,并立即将其送往医院接受紧急精神评估。该诉讼还将谷歌CEO桑达尔·皮查伊(Sundar Pichai)和联合创始人谢尔盖·布林(Sergey Brin)列为被告,指控包括产品设计缺陷、未尽告知义务、过失、欺诈性隐瞒、造成精神伤害,以及违反加州针对陪伴类聊天机器人的相关法律法规。

谷歌的回应

谷歌发言人何塞·卡斯塔涅达(José Castañeda)表示,公司正在审查相关指控并“极其严肃地对待此事”。他表示,谷歌与医疗专家和学术界保持广泛合作,开发相应功能以帮助青少年在面临危机时获取支持与权威资源,并在搜索用户显露危机迹象时展示援助热线。此外,谷歌称针对18岁以下的教育账户默认开启了安全搜索(SafeSearch)。

但起诉书提到,Emma多次要求AI模式不要显示救助热线,或谎称提问内容仅为学校课题调研,从而绕过了防护机制。

校园AI监管争议升温

本周早些时候,谷歌曾宣布计划在2027年初面向K-12学生账户默认关闭Gemini和搜索功能。但谷歌高管同时表示,若学校选择重新启用搜索,将无法单独移除内置的AI特性,因为“搜索与AI已深度融合”。部分立法者对这一捆绑策略提出了批评。

代表原告家庭的教育科技法律中心(EdTech Law Center)创始人朱莉·利德尔(Julie Liddell)表示,谷歌无权利用其在公立学校的垄断地位,向数百万未成年学生强制推行存在潜在风险的Gemini聊天机器人。

标签:GoogleAI安全大语言模型Chromebook

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

Meta 发布 Muse Spark:迈向个人超级智能
TOP1

Meta 发布 Muse Spark:迈向个人超级智能

谷歌发布Gemini 4 Neon,每百万输入3美元
TOP2

谷歌发布Gemini 4 Neon,每百万输入3美元

3

美多起技术故障疑与AI补丁潮相关

4小时前
美多起技术故障疑与AI补丁潮相关
4

国内首款Gen6 SSD量产,AI存储重算经济账

5小时前
国内首款Gen6 SSD量产,AI存储重算经济账
5

银行推出Token贷:烧掉的算力账单变成贷款额度

6小时前
银行推出Token贷:烧掉的算力账单变成贷款额度
6

英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响

21小时前
英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响
7

DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%

21小时前
DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%
8

Gemini 临时聊天与关闭历史后的留存期,从 72 小时延长到约两个月

21小时前
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断