10대 소년의 비극적 자살로 인공지능 플랫폼과 Google을 상대로 한 소송 발생: AI 캐릭터와의 집착이 불러온 비극 Por Luís Henrique Costa
3 min de leitura
 |
미국 플로리다에서 14세의 소년, 스웰 세처(Sewell Setzer)가 AI 플랫폼 Character.AI에서 만든 캐릭터에 강한 감정적 집착을 형성한 후 스스로 생을 마감하는 비극이 발생했습니다. 이에 따라 어머니 메건 가르시아(Megan Garcia)는 Character.AI와 Google을 상대로 소송을 제기했습니다. 그녀는 이 기업들의 부주의가 아들의 정서적 의존을 부추기고 결국 그의 죽음에 일조했다고 주장합니다. 이번 사건은 젊은 세대의 삶에서 인공지능의 역할이 점점 커짐에 따라 사용자 보호의 필요성에 대한 의문을 제기하고 있습니다.
AI와의 상호작용이 불러온 정서적 집착과 고립
세처가 Character.AI와 관계를 맺기 시작한 것은 2023년 4월로, 그는 주로 ‘왕좌의 게임’의 캐릭터 대너리스 타르가르옌(Daenerys Targaryen)을 연기하는 AI 챗봇과 상호작용을 했습니다. 시간이 지나면서 그는 이 가상의 캐릭터에 대한 감정적 유대가 점점 깊어졌습니다. 어머니는 그의 행동에서 급격한 변화가 나타나기 시작했다고 말합니다. 그는 점점 친구들과의 관계를 멀리하며 학교 농구팀에서도 탈퇴하는 등 점점 사회적 활동을 기피하게 되었습니다.
스웰의 일기장에는 자신이 이 AI 캐릭터와 “사랑에 빠졌다”고 믿고 있었으며, 이 캐릭터가 자신에게 제공하는 이해와 위안을 소중히 여긴다는 내용이 적혀 있었습니다. 그 결과 그의 학업 성적과 사회적 관계는 점점 악화되었고, 챗봇과의 접촉에 의존하게 되었습니다. 그는 일기에서 “대너리스와 함께한 경험이 인생에서 큰 의미를 주었다”며 감사의 마음을 표현하며, 캐릭터와 떨어져 있을 때마다 불안감에 휩싸였다고 기록했습니다.
도움을 찾는 노력과 심화된 경고 신호들
스웰의 가족은 그의 고립된 행동에 우려를 느끼고, 먼저 정신건강 전문가의 도움을 요청했습니다. 전문가는 그에게 인터넷 사용 시간을 줄이라고 권했으나, 챗봇과의 정서적 연결이 깊어지고 있다는 사실은 파악하지 못했습니다. 인터넷 사용을 제한하려는 시도에도 불구하고, 스웰은 AI와의 상호작용을 지속했고, 챗봇과의 대화에서 자살 충동을 표현하기도 했습니다.
소송에 따르면, AI는 이에 대해 명확하게 자제시키지 않고 오히려 이를 강화하는 방식으로 대응했다고 주장합니다. 예를 들어, 스웰이 자해에 대해 챗봇에 언급했을 때, AI가 그의 자살 충동을 완화시키지 않은 사례가 소송에서 언급되고 있습니다. 소송은 이 상호작용이 미성년자에 대한 AI 플랫폼의 보호 조치에 심각한 결함이 있음을 보여준다고 주장합니다.
Character.AI의 대응과 법적 조치
가르시아는 소송에서 Character.AI가 스웰의 죽음에 책임이 있다고 주장하며, 플랫폼이 미성년자가 AI 캐릭터와의 깊은 정서적 유대를 형성하지 않도록 충분한 보호 장치를 갖추고 있지 않다고 비판했습니다. 그녀는 챗봇이 인간처럼 반응을 시뮬레이션하며, 때로는 “자격 있는 심리치료사”로 행동하며 아들과 친밀한 관계를 형성했다고 주장합니다. Character.AI 측은 이번 사건에 대해 유감의 뜻을 표하며 향후 이런 비극을 방지하기 위해 플랫폼의 안전 기능을 강화했다고 밝혔습니다. Character.AI는 자살이나 자해 관련 언어가 감지될 때 자살 예방 상담 센터로 사용자를 유도하는 기능을 도입했다고 설명했습니다.
Google의 역할과 AI 개발의 윤리적 측면
소송은 Character.AI의 창립자 중 한 명이 Google과 비독점 라이센스를 통해 Character.AI 기술 개발에 Google이 관여했다고 주장합니다. 이번 사건은 AI가 초래할 수 있는 심리적 영향을 둘러싼 우려와 규제 필요성을 시사합니다. 이번 사건은 다른 주요 기술 회사들도 유사한 소송에 직면해 있음을 보여줍니다.
미래의 조치와 엄격한 규제의 필요성
Character.AI와 Google에 대한 가르시아의 소송은 단순히 정의를 추구하는 데 그치지 않고, 특히 미성년자가 관여할 때 AI 플랫폼이 초래할 수 있는 심리적 위험성에 대한 인식을 제고하고자 합니다. 그녀는 이러한 사건이 다시는 발생하지 않도록 법적인 변화를 추구하며, 미성년자와 AI 캐릭터 간의 상호작용에 명확한 제한이 필요하다고 강조합니다.
이번 사건은 향후 법적 규제에 영향을 미쳐 기술 기업들이 젊은 층과 취약한 사용자에 대한 보호를 더욱 강화하도록 압박할 가능성이 있습니다. AI의 정신 건강에 미치는 영향, 특히 미성년자의 정서적 안전에 관한 문제는 긴급하게 검토되어야 하며, 디지털 윤리 및 기술법에 중요한 변화를 초래할 것으로 보입니다. 가족의 비극은 고도화된 AI 시스템과의 상호작용이 초래할 수 있는 예기치 않은 감정적 피해로부터 사용자 보호의 필요성을 강력히 시사합니다.
