10대 중 25%만이 인공지능이 만든 딥페이크를 식별할 수 있습니다.
Microsoft는 인공 지능이 생성한 허위 콘텐츠에 대한 청소년의 취약성이 증가하고 있음을 폭로하는 글로벌 보고서를 발표했습니다. 젊은 층 중 25%만이 딥페이크를 정확하게 식별할 수 있는데, 이는 1년 전의 46%에 비해 크게 감소한 수치입니다. 안전한 인터넷의 날(Safer Internet Day)을 앞두고 시작된 이 연구에서는 여러 국가에서 수천 명의 참가자가 참여했으며 우려스러운 시나리오를 보여주었습니다. 기술이 발전함에 따라 디지털 조작을 감지하는 십대의 능력이 크게 감소했습니다.
가짜 콘텐츠 탐지율이 크게 감소했습니다.
딥페이크 식별이 21% 포인트 감소한 것은 생성 기술의 가속화된 발전을 반영합니다. 가짜 동영상, 이미지, 오디오는 점점 더 사실적으로 변해 일반 사용자가 확인하기 어려워지고 있습니다. 십대들은 특히 정교한 AI 도구를 사용하여 만든 경우 실제 재료와 인공 제품을 구별하려고 할 때 점점 더 많은 어려움에 직면합니다.
딥페이크의 정교함은 최근 몇 달 동안 기하급수적으로 증가했습니다. 콘텐츠 생성 플랫폼은 알고리즘을 개선하여 훈련받지 않은 사람이 가짜를 원본과 거의 구별할 수 없도록 만들었습니다. 이 시나리오는 젊은이들을 취약한 위치에 놓이게 합니다. 많은 사람들이 시각적 또는 청각적 조작의 징후를 인식하기 위한 특별한 교육을 받지 않았기 때문입니다.
10대들이 직면한 디지털 위험
약 64%의 10대 청소년이 분석 기간 동안 적어도 하나의 온라인 위험에 직면했습니다. 주요 위험에는 증오심 표현, 사기, 사이버 괴롭힘 등이 있으며, 이는 청소년의 심리적 안녕과 개인 안전에 직접적인 영향을 미칩니다. 이러한 발생 빈도는 이전 기간에 비해 증가하여 디지털 환경에서 위협이 확대되고 있음이 강조되었습니다.
- 참가자의 35%가 증오심 표현을 언급했습니다.
- 10대의 29%가 온라인 사기 및 사기 행위를 언급했습니다.
- 청소년 참가자 중 23%가 사이버 괴롭힘을 신고했습니다.
많은 십대들은 이러한 문제의 일부를 인공 지능의 오용과 연관시킵니다. 허위 콘텐츠와 관련된 사기는 정보 검증에 있어 젊은이들의 어려움을 이용하여 점점 더 일반화되고 정교해졌습니다. 이러한 첨단 기술과 디지털 활용 능력 부족이 결합되어 사기와 조작이 발생하기 쉬운 환경이 조성됩니다.
젊은이들 사이에서 AI 도구 사용 확대
생성 인공 지능의 주간 사용이 크게 증가하여 10대 응답자의 38%로 뛰어올랐습니다. 젊은이들은 질문에 답하는 것부터 활동 계획, 학업 효율성 향상에 이르기까지 다양한 실용적인 목적으로 이러한 기술을 사용합니다. 이러한 채택은 AI의 인식된 이점을 반영하지만 부적절한 사용과 관련된 위험에 대한 노출도 증가시킵니다.
- 질문 답변은 AI 사용자의 42%가 채택했습니다.
- 활동 계획은 청소년의 41%가 사용했습니다.
- 37%의 젊은 사람들이 업무 효율성이 향상되었다고 보고했습니다.
청소년들은 빠르고 접근 가능한 답변을 제공하기 때문에 이러한 도구와의 상호 작용을 중요하게 생각합니다. 학습, 개인 정리, 생산성에 도움을 주며 디지털 일상의 필수적인 부분이 됩니다. 그러나 AI에 대한 이러한 익숙해짐은 동일한 기술로 생성된 악성 콘텐츠를 식별하는 중요한 기술의 개발과 보조를 맞추지 못했습니다.
AI의 부정적인 영향에 대한 광범위한 우려
청소년의 약 91%가 인공지능의 부정적인 영향에 대해 어느 정도 우려를 표명했습니다. 주요 발작은 청소년의 개인 안전과 사생활에 직접적인 영향을 미치는 민감한 영역과 관련됩니다. 성적 착취 또는 학대가 가장 많이 언급되었으며 참가자의 78%가 언급했으며, AI 기반 사기가 77%의 청소년과 관련되어 그 뒤를 이었습니다.
개인정보 침해는 응답자 중 70%가 고수하는 위협의 주요 그룹을 완성합니다. 이러한 우려는 기술의 한계와 위험성에 대한 인식이 높아지고 있음을 보여줍니다. 십대들은 이익과 위험 사이의 균형을 인식하고 기업이 불법적이거나 유해한 콘텐츠를 제한하기 위해 추가 보호 조치를 구현할 것으로 기대합니다.
청소년의 회복탄력성과 보호행동
위험에도 불구하고 십대의 72%는 디지털 위협에 직면한 후 누군가와 대화할 때 회복력을 보여주었습니다. 이러한 대화는 일반적으로 부모, 친구 또는 교사와 함께 이루어지며 부정적인 경험을 처리하고 지침을 구하는 데 도움이 됩니다. 부적절한 콘텐츠에 대한 신고율도 2년 연속 증가해 약 75%가 사용자 차단이나 계정 해지 등 보호 조치를 취했습니다.
이러한 입장은 젊은이들의 대처 메커니즘이 발달했음을 나타냅니다. 청소년들은 사고의 영향을 완화하고 디지털 보안을 강화하기 위한 지원을 구합니다. 도움을 구하는 것과 직접적인 조치를 결합하는 것은 위협의 정교함을 고려하면 아직 충분하지 않지만 온라인 위험 관리의 성숙도가 높아지고 있음을 보여줍니다.
디지털 보호를 위한 Microsoft 이니셔티브
Microsoft는 식별된 위험에 대응하여 보호 메커니즘을 강화하고 Windows 및 Xbox와 같은 플랫폼에서 도구를 개발하여 자녀 보호 기능을 강화합니다. 교육 프로그램은 회사의 활동에서 강조되어 젊은 사용자들에게 책임감 있는 습관을 장려합니다. AI의 미래에 관한 청소년 협의회는 십대들을 모아 직접적인 피드백을 제공하고 다양한 지역의 참가자들이 새로운 기술에 대한 관점을 제공할 수 있도록 합니다.
전문 기관과의 파트너십을 통해 AI 보조자의 안전한 사용에 대한 교육에 초점을 맞춘 이니셔티브의 범위가 확대됩니다. Minecraft Education 시리즈와 같은 자료는 온라인 모집 및 디지털 조작과 같은 주제를 다루며 전 세계 수백만 명의 사용자에게 다가갑니다. 기술, 정책 및 교육의 결합은 십대의 디지털 회복력을 강화하고 점점 더 복잡해지는 환경을 탐색할 수 있는 도구를 갖추기 위해 구현되는 전략의 기초를 형성합니다.
