谷歌本周二宣布对 Gemini 聊天机器人进行更新，以改善对表现出与心理健康相关迹象的用户的支持。这一变化引入了一个简化的一键式界面，当对话表明可能存在自杀或自残危机时，该界面可以直接连接到专业帮助热线。此外，系统在对话框中显示一个重新设计的名为“可用帮助”的模块，建议需要有关该主题的信息。这些变化旨在在不取代临床护理的情况下加快转介专业人力资源。
该公司还宣布将拨款 3000 万美元用于支持全球危机情况下的求助热线。这些功能允许用户在打电话、发短信、聊天或访问帮助热线网站之间进行选择。激活后，该界面在对话的其余部分中保持可见，以便轻松进行持续访问。
敏感对话中的检测和重定向功能
双子座经过训练，能够识别对话何时可能表明情绪困扰或需要心理健康支持。在这些情况下，“可用帮助”模块会突出显示，并提供与专业服务的直接连接。
该功能是在临床专家的指导下开发的，以确保更有效和直接的反应。目标是以快速实用的方式将用户与真正的护理联系起来。
在危机情况下激活一键式界面
当系统识别出与自杀或自残相关的危机迹象时，双子座会呈现一个简化的界面。在这里，用户只需轻轻一按即可选择自己喜欢的选项来联系帮助热线。
选项包括电话、短信、在线聊天或访问服务网站。该工具在对话中保持活跃，以加强获得支持的机会。
重定向优先考虑转介给专业人士，而不是就敏感话题进行长时间对话。
全球求助热线投资
谷歌已拨款 3000 万美元来加强在不同国家运营心理健康危机帮助热线的组织。这笔捐款旨在扩大在紧急情况下提供援助的能力。
该举措补充了 Gemini 的技术更新，并强化了该公司对负责任地使用人工智能的承诺。
使用 Gemini 的限制和指南
聊天机器人仍然是提供一般信息和学习的工具，但它并不能取代治疗或专业临床护理。建议用户在必要时寻求专业帮助。
新功能并没有改变这样一个事实：有关心理健康的对话需要护理和适当的转介到人类服务。
与临床专家共同开发
这些更新是与心理健康专家合作开发的，以改善对风险迹象的识别。重新设计的模块旨在提供与支持资源更有效的联系。
这种方法反映了平衡人工智能的使用和保护用户福祉的持续努力。
可用性和实施
这些变化正在逐步在不同地区的 Gemini 接入中实施。最初的重点是在不影响工具整体实用性的情况下改善敏感对话的体验。
开始有关心理健康主题对话的用户将能够以更集成的方式注意到新的支持界面。
- “可用帮助”模块在表明需要有关心理健康信息的对话中激活。
- 在可能出现与自杀或自残相关的危机的情况下，会出现一键式界面。
- 联系方式包括电话、短信、聊天或网站帮助热线。
- 激活后，该功能在整个对话过程中保持可见。
- 3000 万美元的投资支持全球援助项目。
更新旨在让人工智能的使用承担更大的责任
谷歌强调，双子座不应被视为专业心理健康护理的替代品。重点是在发现风险迹象时快速转向专业服务。
这些措施是更广泛努力的一部分，旨在负责任地、专注地开发人工智能对人类互动的影响。
信号识别的模型训练
训练调整可以让双子座更好地识别表明痛苦或需要支持的环境。响应优先考虑升级而不是继续就高风险主题进行对话。
该策略旨在最大限度地减少潜在伤害并最大限度地获得真正的帮助。
对组织的伙伴关系和支持
宣布的财政捐款将直接提供给在多个国家维持求助热线的实体。该倡议扩大了危机时期的支持基础设施。
谷歌强调了将技术进步与加强现有人类服务相结合的重要性。
用户实际操作
在对话过程中，如果系统检测到相关信号，相应的模块就会以清晰易懂的方式出现。用户决定是否激活立即联系或继续交互。
一键式界面的简单性减少了那些需要紧急支持的人的障碍。
安全策略的持续演进
这些更新代表了 Gemini 针对敏感主题的安全指南的改进。该开发依赖于临床专业人员的输入以提高精度。
该公司坚持认为人工智能只是专业人类护理的补充，而不是替代品。
