하버드 과학자, 가짜 AI 생성 비디오의 표적이 된 후 시각적 인식에 대한 연구 시작
하버드 대학교 천체물리학자인 Avi Loeb는 대중이 디지털 환경에서 시각적 콘텐츠를 어떻게 평가하고 소비하는지 이해하기 위한 새로운 학술 조사를 시작했다고 발표했습니다. 이 계획은 연구원 자신의 이미지와 목소리가 인공 지능 도구에 의해 복제된 일련의 최근 사건에 대한 직접적인 대응으로 이루어졌습니다. 이 프로젝트의 주요 목적은 사람들이 합성 조작을 거친 이미지와 짧은 비디오를 믿거나 불신하게 만드는 인지 과정을 매핑하는 것입니다.
비디오 공유 플랫폼의 승인되지 않은 채널이 복제 기술을 사용하여 천체 물리학자가 한 적이 없는 진술을 유포한 이후 연구의 긴급성이 더욱 분명해졌습니다. 이러한 위조된 자료는 중재자가 식별하고 제거하기 전에 상당한 수의 조회수를 축적했습니다. 사기의 정교함은 인터넷 사용자가 과학 정보를 소비하고 검증하는 방식에 심각한 취약성을 보여주었습니다.
데이터 수집을 수행하기 위해 이 프로젝트는 심리학 및 인지 과학 전문가가 참여하는 다학문적 협력에 의존합니다. Gershon Tenenbaum 교수와 Nancy Cooke 교수는 Omer Eldadi 박사와 함께 설문지를 구성하고 응답을 분석하는 팀의 일원입니다. 이러한 다양한 지식 영역의 결합은 자동화된 편집 도구의 급속한 발전 시나리오에서 대중의 즉각적인 인상에 대한 자세한 개요를 만드는 것을 목표로 합니다.
데이터 수집 구조는 접근 가능하고 엄격하게 설계되었으며 다음과 같은 방법론적 특징을 나타냅니다.
– 응답자의 개인 정보 보호를 보장하기 위해 완전히 자발적이고 익명으로 참여합니다.
– 양식의 모든 단계를 완료하는 데 소요되는 예상 시간은 10분입니다.
– 트릭 질문이나 정답 및 오답 측정 기준이 없습니다.
– 동료 심사를 거친 과학 저널에 출판하기 위한 최종 결과 제출.
개인적인 동기가 새로운 학문적 탐구를 주도합니다
이 설문 조사를 주도하기로 결정한 것은 천체 물리학자가 가상 환경에서 신원 위조의 결과를 직접 경험한 후에 이루어졌습니다. 지난 몇 달 동안 여러 계정이 그의 신체적 외모와 음성 매너리즘을 충실하게 재현하여 그의 추종자들과 학계의 상당 부분을 혼란스럽게 하는 이야기를 만들어냈습니다. 이 자료를 유포하려면 그의 이름과 관련된 허위 사실이 퍼지는 것을 막기 위해 지속적인 보고와 모니터링 노력이 필요했습니다.
청중을 끌어들이기 위해 신뢰성을 미끼로 사용한 경험은 디지털 플랫폼의 진위 검증 메커니즘의 구조적 결함을 강조했습니다. 연구자는 영상에 시각적 불일치나 립싱크 오류가 나타나는 경우에도 많은 시청자가 조작의 징후를 식별하지 못하고 합성된 내용을 실제 다큐멘터리 기록으로 받아들이는 경우가 많다고 지적했습니다.
과학적 시나리오에서 디지털 조작의 위협
미디어 생성 소프트웨어의 확산으로 사실적인 딥페이크 생성이 극적으로 촉진되어 인간의 특징을 복제하는 데 필요한 소스 데이터가 점점 줄어들었습니다. 현재 훈련된 알고리즘이 전체 연설을 합성하는 데는 몇 분 분량의 공개 오디오와 사진이면 충분합니다. 이 기술 시설은 이전에 전문 스튜디오에만 국한되어 있던 위조 권한을 인터넷 접속이 가능한 일반 사용자에게 이전했습니다.
과학 분야에서 이러한 현실은 발견과 이론의 전달에 심각한 위험을 의미합니다. 디지털 보안 전문가의 최근 보고서에 따르면 합성 콘텐츠는 높은 신뢰성이 요구되는 틈새 시장에서 인기를 얻고 있으며 빠른 참여와 클릭 수익 창출만을 추구하는 조작된 내러티브로 주요 소스를 대체하고 있습니다.
천문학과 우주 탐사는 일반 대중이 복잡한 데이터를 해석하기 위해 전문가에게 의존하기 때문에 이러한 현상에 특히 취약한 분야입니다. 전문가의 모습이 형성되면 입증된 사실과 공상과학 사이의 장벽이 사라지고 체계적인 허위 정보가 발생하기 쉬운 환경이 조성됩니다.
인간의 판단 지도에 적용되는 방법론
현재 진행 중인 연구는 현재 인터넷 생태계에서 시각 매체를 볼 때 개인이 형성하는 즉각적인 인상을 분석하는 데 중점을 두고 있습니다. 연구팀은 다양한 유형의 시각적 자극을 제시하기 위해 설문지를 구성했으며 참가자들에게 표시된 자료의 진실성을 결정하는 데 사용하는 자신감 수준과 단서를 보고하도록 요청했습니다.
프로젝트 공동 작업자는 이 데이터를 사용하여 인간 두뇌가 잠재적으로 합성된 정보를 처리하는 방법을 이해하는 것을 목표로 합니다. 인지 과학에 관한 문헌에 따르면 사람들은 권위 있는 인물을 신뢰하는 경향이 있으며, 이는 근거 없는 이론을 검증하기 위해 유명한 학자의 이미지를 사용하는 가짜 비디오의 성공을 설명합니다.
선택한 접근 방식은 질문을 공식화하는 데 있어 단순성을 우선시하고 학계 외부에서 참가자를 소외시킬 수 있는 기술적 전문 용어를 피합니다. 목표는 소셜 네트워크 및 스트리밍 플랫폼의 일반 사용자의 실제 행동을 반영하여 일상적으로 뉴스를 따르는 개인의 인식을 포착하는 것입니다.
이 데이터 수집의 종합적인 결과는 행동 경향을 개략적으로 설명하고 조작된 미디어를 믿는 데 가장 취약한 인구통계학적 그룹을 식별하는 데 도움이 됩니다. 이러한 경험적 기반은 미래의 미디어 리터러시 도구 개발의 기본이 될 것입니다.
동영상 플랫폼에 승인되지 않은 정보를 유포하는 행위
추천 알고리즘의 아키텍처는 인공지능이 생성한 콘텐츠 배포에 핵심적인 역할을 합니다. 사용자 유지 시간을 극대화하도록 설계된 시스템은 사실의 정확성에 관계없이 놀라움이나 호기심을 불러일으키는 동영상에 우선순위를 두는 경우가 많습니다. 하버드 천체물리학자를 모방한 물질의 경우 친숙한 얼굴과 남다른 주장이 결합해 유기적 바이럴리티에 대한 이상적인 공식을 만들어냈다. 조정팀이 조치를 취하기 전에 정보 무결성에 대한 피해가 이미 대규모로 인식되었습니다.
디지털 커뮤니케이션 전문가들은 딥페이크 탐지가 중재 소프트웨어에만 의존할 수 없으므로 시청자의 비판적 입장의 변화가 필요하다고 지적합니다. 환경과 호환되지 않는 인공 조명, 말에서 자연스러운 호흡 부족, 얼굴 주변의 시각적 인공물과 같은 미묘한 징후가 오늘날 대부분의 가짜에 여전히 존재합니다. 그러나 연구에서는 사람들이 모바일 장치에서 수동적으로 콘텐츠를 소비할 때 이러한 세부 사항을 얼마나 효율적으로 알아차리는지 정확하게 정량화하려고 합니다.
합성기술과 우주탐사의 교차점
천문학과 대중의 신뢰 사이의 관계는 망원경과 우주 탐사선을 통해 얻은 검증 가능한 증거의 제시에 기초합니다. 인공지능 도구를 사용하여 천체 현상으로 추정되는 초현실적인 이미지를 생성하거나 확인되지 않은 발견에 대한 과학자의 진술을 위조하는 경우 과학적 방법은 직접적인 공격을 받습니다. Avi Loeb가 주도한 연구는 개인 이미지의 문제를 넘어 학문적 성실성을 수호하는 방법을 탐구합니다. 픽셀과 합성 음파가 인간의 마음을 어떻게 속이는지 이해하면 연구 기관이 새로운 커뮤니케이션 전략을 개발하는 데 도움이 될 것입니다. 대중의 인지적 취약성을 매핑함으로써 과학계는 실제 데이터를 전파하기 위한 보다 효율적인 프로토콜을 만들 수 있으며, 기술 발전이 우주 탐험 분야에서 사실적 진실을 모호하게 만드는 도구가 되지 않도록 보장할 수 있습니다.
데이터 수집에 자발적 참여 촉구
연구를 담당하는 팀은 과학에 관심이 있는 개인의 기여가 매핑 성공의 기본임을 강조합니다. 설문지에 응답하라는 초대는 비판적 분석과 방법론적 엄격함을 중시하는 모든 사람에게 적용됩니다. 연구자들은 사회의 적극적인 참여를 통해 현대 디지털 생태계에서 잘못된 정보에 대한 보다 강력한 방어책을 공식화하는 데 도움이 되는 견고한 지식 기반을 구축하기를 희망합니다.
