谷歌本週二宣布對 Gemini 聊天機器人進行更新，以改善對錶現出與心理健康相關跡象的用戶的支持。這項變更引入了一個簡化的一鍵式介面，當對話顯示可能存在自殺或自殘危機時，該介面可以直接連接到專業幫助熱線。此外，系統在對話方塊中顯示一個重新設計的名為「可用幫助」的模組，建議需要有關該主題的資訊。這些變化旨在在不取代臨床護理的情況下加快轉介專業人力資源。
該公司還宣布將撥款 3000 萬美元用於支持全球危機情況下的求助熱線。這些功能允許用戶在打電話、發送簡訊、聊天或訪問幫助熱線網站之間進行選擇。啟動後，該介面在對話的其餘部分中保持可見，以便輕鬆進行持續存取。
敏感對話中的檢測和重定向功能
雙子座經過訓練，能夠識別對話何時可能表明情緒困擾或需要心理健康支持。在這些情況下，「可用幫助」模組會被反白顯示，並提供與專業服務的直接連接。
該功能是在臨床專家的指導下開發的，以確保更有效和直接的反應。目標是以快速實用的方式將使用者與真正的護理聯繫起來。
在危機情況下啟動一鍵式介面
與自殺或自殺有關的危機相關的系統識別標誌，雙子座呈現簡化的介面。在這裡，用戶只需輕輕一按即可選擇自己喜歡的選項來聯繫幫助熱線。
選項包括電話、簡訊、線上聊天或訪問服務網站。該工具在對話中保持活躍，以加強獲得支持的機會。
重定向優先考慮轉介給專業人士，而不是就敏感話題進行長時間對話。
全球求助專線投資
谷歌已撥款 3000 萬美元來加強在不同國家運作心理健康危機幫助熱線的組織。這筆捐款旨在擴大在緊急情況下提供援助的能力。
該舉措補充了 Gemini 的技術更新，並強化了該公司對負責任地使用人工智慧的承諾。
使用 Gemini 的限制和指南
聊天機器人仍然是提供一般資訊和學習的工具，但它並不能取代治療或專業臨床護理。建議用戶在必要時尋求專業協助。
新功能並沒有改變這樣一個事實：有關心理健康的對話需要護理和適當的轉介到人類服務。
與臨床專家共同開發
這些更新是與心理健康專家合作開發的，以改善對風險跡象的識別。重新設計的模組旨在提供與支援資源更有效的連結。
這種方法反映了平衡人工智慧的使用和保護使用者福祉的持續努力。
可用性和實施
這些變更正在逐步在不同地區的 Gemini 接入中實施。最初的重點是在不影響工具整體實用性的情況下改善敏感對話的體驗。
開始有關心理健康主題對話的用戶將能夠以更整合的方式註意到新的支援介面。
- 「可用幫助」模組在顯示需要有關心理健康資訊的對話中啟動。
- 在可能出現與自殺或自殘相關的危機的情況下，會出現一鍵式介面。
- 聯絡方式包括電話、簡訊、聊天或網站求助專線。
- 該功能在觸發後在整個對話過程中保持可見。
- 3000 萬美元的投資支持全球援助計畫。
更新旨在讓人工智慧的使用承擔更大的責任
谷歌強調，雙子座不應被視為專業心理健康照護的替代品。重點是在發現風險跡象時快速轉向專業服務。
這些措施是更廣泛努力的一部分，旨在負責任地、專注地開發人工智慧對人類互動的影響。
訊號辨識的模型訓練
訓練調整可以讓雙子座更能辨識出顯示痛苦或需要支持的環境。響應優先考慮升級而不是繼續就高風險主題進行對話。
該策略旨在最大限度地減少潛在傷害並最大限度地獲得真正的幫助。
對組織的夥伴關係和支持
宣布的財政捐款將直接提供給在多個國家維持求助熱線的實體。該倡議擴大了危機時期的支持基礎設施。
谷歌強調了將技術進步與加強現有人類服務相結合的重要性。
使用者實際操作
在對話過程中，如果系統偵測到相關訊號，對應的模組就會以清晰易懂的方式出現。用戶決定是否啟動立即聯繫或繼續互動。
一鍵式介面的簡單性減少了那些需要緊急支援的人的障礙。
安全策略的持續演進
這些更新代表了 Gemini 針對敏感主題的安全指南的改進。該開發依賴臨床專業人員的輸入以提高精度。
該公司堅持認為人工智慧只是專業人類護理的補充，而不是替代品。
