谷歌宣布在Gemini中引入更直接的危机支持界面，并通过Google.org在未来三年投入3000万美元资助全球危机热线与相关组织，同时与ReflexAI等伙伴扩展培训与技术支持。公司强调将临床最佳实践融入模型响应，优先连接真人支持、避免强化有害或错误信念，并对未成年人采取额外保护措施。
概览
– 目标：通过AI更好地将需要帮助的用户连到信息、资源与人工支持。
Gemini功能更新
– 新的“有帮助可用”模块：在对话中检测到可能需要心理支持时弹出，由临床专家参与设计，便于获取相关信息。
– 一键危机界面：当识别出潜在自伤/自杀危机时，提供一键聊天、呼叫、短信或访问热线网站的入口，且在会话中持续保持专业求助选项可见。
扩大危机支持能力
– 资助：Google.org将在三年内提供3,000万美元，用于支持全球危机热线扩展能力。
– 合作与技术援助：与ReflexAI扩展合作（含400万美元直接资金及将Gemini集成入其培训套件），并通过Google.org Fellows提供Prepare平台的技术支持，用于AI驱动的逼真模拟培训志愿者与员工。
– 优先伙伴包括教育领域组织，如Erika’s Lighthouse与Educators Thriving。
模型响应与安全设计
– 优先连接真人资源：Gemini被设计为在必要时优先引导用户寻求人类和专业帮助，而非替代临床护理。
– 设计原则：鼓励求助、避免验证或美化有害行为；避免强化错误信念，区分主观感受与客观事实；在识别急性情境时引导至现实世界帮助。
未成年人保护
– 特定保护措施：对未成年人采取额外限制，避免将Gemini塑造成陪伴型角色或涉及有害话题，提供更安全和合适的回复。
已声明的限制与承诺
– Gemini非临床替代：公司明确表示模型不是专业治疗或危机支持的替代品，并持续在临床、工程与安全团队之间协作以改善响应。
这是把AI作为“初步引导+扩展热线能力”工具的实务化进展，关键在于落地与合作伙伴的执行质量。