Google은 이번 화요일에 정신 건강과 관련된 징후를 보이는 사용자에 대한 지원을 개선하기 위해 Gemini 챗봇 업데이트를 발표했습니다. 이 변경 사항에서는 대화에서 자살 또는 자해 위기가 나타날 때 전문 헬프라인에 직접 연결되는 단순화된 원터치 인터페이스가 도입되었습니다. 또한 시스템은 해당 주제에 대한 정보의 필요성을 제안하는 대화 상자에 “사용 가능한 도움말”이라는 재설계된 모듈을 표시합니다. 이러한 변화는 임상 진료를 대체하지 않고 전문 인력에 대한 의뢰를 가속화하는 것을 목표로 합니다.
또한 회사는 전 세계 위기 상황에서 헬프라인을 지원하기 위해 3천만 달러를 할당할 것이라고 발표했습니다. 이 기능을 통해 사용자는 전화, 문자 메시지, 채팅 또는 헬프라인 웹사이트 방문 중에서 선택할 수 있습니다. 활성화되면 인터페이스는 대화의 나머지 부분에서도 계속 표시되므로 계속해서 쉽게 액세스할 수 있습니다.
민감한 대화의 감지 및 리디렉션 기능
Gemini는 대화가 정서적 고통이나 정신 건강 지원의 필요성을 나타낼 수 있는 시기를 인식하도록 훈련되었습니다. 이러한 경우 “사용 가능한 도움말” 모듈이 눈에 띄게 나타나며 전문 서비스에 대한 즉각적인 연결을 제공합니다.
이 기능은 보다 효과적이고 직접적인 대응을 보장하기 위해 임상 전문가의 지도를 받아 개발되었습니다. 목표는 빠르고 실용적인 방법으로 사용자를 실제 진료에 연결하는 것입니다.
위기 상황에서 원터치 인터페이스 활성화
시스템이 자살이나 자해와 관련된 위기의 징후를 식별하면 Gemini는 단순화된 인터페이스를 제공합니다. 여기에서 사용자는 단 한 번의 탭으로 헬프라인에 연락하기 위해 선호하는 옵션을 선택할 수 있습니다.
옵션에는 전화 통화, 문자 메시지, 온라인 채팅 또는 서비스 웹 사이트 방문이 포함됩니다. 이 도구는 지원에 대한 액세스를 강화하기 위해 대화에서 활성 상태로 유지됩니다.
리디렉션은 민감한 주제에 대해 장기간 대화를 나누는 것보다 인간 전문가에게 문의하는 것을 우선시합니다.
헬프라인에 대한 글로벌 투자
Google은 여러 국가에서 정신 건강 위기 상담 서비스를 운영하는 조직을 강화하기 위해 3천만 달러를 할당했습니다. 이번 기부는 긴급 상황에서 지원을 제공할 수 있는 역량을 확대하기 위한 것입니다.
이 이니셔티브는 Gemini의 기술 업데이트를 보완하고 인공 지능의 책임감 있는 사용에 대한 회사의 약속을 강화합니다.
Gemini 사용에 대한 제한 사항 및 지침
챗봇은 일반적인 정보와 학습을 위한 도구로 남아 있지만 치료나 전문적인 임상 진료를 대체하지는 않습니다. 사용자는 필요할 때마다 전문적인 도움을 구하는 것이 좋습니다.
새로운 기능은 정신 건강에 관한 대화에는 치료와 인간 서비스에 대한 적절한 의뢰가 필요하다는 사실을 바꾸지 않습니다.
임상 전문가와 함께 개발
이 업데이트는 위험 징후 식별을 개선하기 위해 정신 건강 전문가와 협력하여 개발되었습니다. 재설계된 모듈은 지원 리소스와의 보다 효과적인 연결을 제공하려고 합니다.
이 접근 방식은 AI 사용과 사용자의 웰빙 보호 사이의 균형을 맞추려는 지속적인 노력을 반영합니다.
가용성 및 구현
변화는 여러 지역의 Gemini에 대한 액세스에 점진적으로 구현되고 있습니다. 초기 초점은 도구의 전반적인 유용성을 손상시키지 않으면서 민감한 대화의 경험을 개선하는 것입니다.
정신 건강 주제에 관해 대화를 시작하는 사용자는 보다 통합된 방식으로 새로운 지원 인터페이스를 확인할 수 있습니다.
- “사용 가능한 도움말” 모듈은 정신 건강에 대한 정보가 필요함을 나타내는 대화에서 활성화됩니다.
- 자살이나 자해와 관련된 위기 상황이 발생할 경우 원터치 인터페이스가 나타납니다.
- 연락 옵션에는 전화, 문자, 채팅 또는 웹사이트 헬프라인이 포함됩니다.
- 이 기능은 활성화된 후에도 대화 내내 계속 표시됩니다.
- 3천만 달러의 투자는 글로벌 구호 라인을 지원합니다.
업데이트는 AI 사용에 대한 더 큰 책임을 목표로 합니다.
Google은 Gemini가 전문적인 정신 건강 치료를 대체할 수 있는 서비스로 간주되어서는 안 된다는 점을 강조합니다. 위험 징후가 감지되면 전문 서비스로 신속하게 전환하는 데 중점을 둡니다.
이러한 조치는 인간 상호 작용에 미치는 영향에 대해 책임감 있고 세심하게 인공 지능을 개발하려는 광범위한 노력의 일부입니다.
신호 인식을 위한 모델 훈련
훈련 조정을 통해 Gemini는 고통이나 지원의 필요성을 암시하는 상황을 더 잘 식별할 수 있습니다. 응답에서는 고위험 주제에 대한 대화를 계속하는 것보다 에스컬레이션을 우선시합니다.
이 전략은 잠재적 피해를 최소화하고 실제 도움에 대한 접근성을 최대화하는 것을 추구합니다.
조직을 위한 파트너십 및 지원
발표된 재정 기부금은 여러 국가에서 지원 전화를 유지하는 기관에 직접 전달됩니다. 이 이니셔티브는 위기 상황에서 지원 인프라를 확장합니다.
Google은 기술 발전과 기존 인간 서비스 강화를 결합하는 것의 중요성을 강조합니다.
사용자를 위한 실제 작동
대화 중에 시스템이 관련 신호를 감지하면 해당 모듈이 명확하고 접근 가능한 방식으로 나타납니다. 사용자는 즉각적인 연락을 활성화할지 아니면 상호 작용을 계속할지 결정합니다.
원터치 인터페이스의 단순성은 긴급 지원이 필요한 사람들의 장벽을 줄여줍니다.
보안 정책의 지속적인 발전
업데이트는 민감한 주제에 대한 Gemini의 보안 지침을 개선한 것입니다. 개발은 정확성을 높이기 위해 임상 전문가의 의견에 의존했습니다.
회사는 AI가 전문적인 인간 치료를 대체하는 것이 아니라 보완적인 역할을 한다는 입장을 유지합니다.