Google 포토 시스템은 사용자의 개인 갤러리에서 마리화나 검색을 차단합니다.
고급 인공 지능 도구를 일상 애플리케이션에 통합하면 2026년에 예상치 못한 부작용이 발생했습니다. Google 포토 시스템은 사용자의 개인 갤러리 내에서 마리화나와 관련된 용어에 대한 검색을 검열하기 시작했습니다. 8월 첫째 주부터 확인된 이 제한은 Gemini 모델에서 제공하는 “사진에 질문하기” 기능에 직접적인 영향을 미치며 놀랍게도 플랫폼의 기존 검색 엔진에도 영향을 미칩니다. 이 시나리오는 대규모 기술 회사의 보안 잠금 장치가 개인 정보 보호 및 엄격한 개인 미디어 관리를 어느 정도까지 방해할 수 있는지에 대한 위험 경고를 제기합니다.
사용자 보고서는 친밀한 파일을 찾는 데 결함이 있음을 드러냅니다.
이러한 디지털 격차의 발견은 “binarypower”로 알려진 인터넷 사용자가 Reddit에 자신의 좌절감을 공유하면서 온라인 포럼을 통해 주목을 받았습니다. 그는 플랫폼이 “잡초”, “마리화나”, “대마초” 또는 “관절”과 같은 단어가 포함된 자신의 사진 기록을 찾는 것을 거부했다는 사실을 알아냈습니다. 보고서에는 새로운 Gemini 기반 대화형 도구가 단순히 요청 처리를 거부한다고 자세히 설명되어 있습니다. 기술 커뮤니티에서 가장 흥미로운 점은 앱의 기존 검색 창에서도 이러한 특정 키워드에 대해 예상한 결과가 제공되지 않는다는 사실이었습니다.
전체 보도: 최신 뉴스 (KO)
‘바이너리파워’ 같은 사람들의 불만은 침해할 수 없는 가상 공간에 기업 알고리즘이 간섭하는 것에 대한 깊은 의문을 제기한다. 식물이나 파생 제품의 사진을 저장하는 것은 전 세계 대부분의 지역에서 범죄를 구성하지 않으며, 특히 의약 및 레크리에이션 용도에 대한 규정이 발전함에 따라 더욱 그렇습니다. 따라서 이러한 디지털 문서를 검색하고 분류하고 볼 수 있는 자유는 스마트폰을 구입하고 콘텐츠를 생성한 사람의 의심할 여지 없는 권리여야 합니다.
Gemini 모델 보안 메커니즘이 개별 스토리지에 침입합니다.
이러한 체계적 차단의 근원은 기술 시장에서 Gemini의 행동을 제한하기 위해 회사가 프로그래밍한 “가드레일”로 알려진 보호 지침과 연결되어 있습니다. 인공지능은 단지 휴대전화의 라이브러리를 스캔하는 중립 색인기 역할을 하는 대신, 입력된 단어를 마치 처음부터 이미지를 생성하라는 명령인 것처럼 해석하기 시작했습니다. 결과적으로, 통제 물질과 관련된 모든 어휘는 가상 로봇이 불법 일러스트레이션을 생성하는 것을 방지하고 장치에 이미 존재하는 사진에 과도한 검열을 적용하는 것과 동일한 보안 방패를 작동시킵니다.
자세히 보기: Android는 Gemini AI를 통해 Google 포토의 탐색 메뉴를 개선했습니다.
이러한 기술적 행동은 디지털 주권과 실리콘 밸리의 거대 기업들이 기밀 정보를 처리하기 위해 채택한 방법에 대한 긴급한 논쟁을 불러일으킵니다. 공개 포럼을 감시하거나 가족 앨범 내 허위 이미지 생성을 방지하기 위해 만들어진 장벽을 사용하는 것은 불균형적인 조치처럼 보입니다. 디지털 권리 전문가들은 플랫폼이 일종의 도덕적 치안을 행사하여 개인이 자신의 컬렉션에서 쉽게 접근할 수 있거나 접근할 수 없는 것을 지시하고 자신이 살고 있는 지역의 법적 맥락을 완전히 무시한다고 지적합니다.
함께 보기
중재 기준의 모순은 자유에 대한 논의를 불러일으킵니다
이러한 알고리즘 잠금의 적용은 사이버 환경에서 기업의 책임이 끝나고 개인의 자유가 시작되는 지점에 대한 논의를 강화합니다. 많은 국가에서 마약 판매 및 사용을 불법으로 규정하고 있지만, 점점 더 많은 북미 주와 유럽 및 남미 국가에서 이러한 관행을 합법화하고 있습니다. 이러한 지역의 시민들에게 스마트 검색을 사용하여 자신의 사진 추억을 찾을 수 없다는 것은 심각한 설계 결함이자 제공된 서비스에 대한 신뢰 위반을 나타냅니다.
같은 주제 기사: Google의 인공 지능은 갤러리에 액세스하여 친숙한 얼굴의 인물을 만듭니다.
상황을 더욱 논란의 여지가 있게 만드는 것은 시스템에 의해 부과된 규칙에 표준화가 명백히 부족하다는 것입니다. 사용자가 수행한 테스트에 따르면 “맥주”, “담배” 또는 “알코올”과 같은 용어를 입력해도 어떤 유형의 차단도 실행되지 않으며 클래식 인터페이스와 고급 보조자 모두에서 해당 이미지가 즉시 반환됩니다. 이러한 처리 차이는 인공지능 검열 매개변수가 매우 주관적이며 프로그래밍된 편견을 갖고 있어 개인 저장소에 적용할 수 있는 보편적인 법적 근거 없이 특정 범주의 이미지를 처벌한다는 것을 보여줍니다.
알고리즘의 허점을 통해 회사가 침묵하는 동안 검열을 우회할 수 있습니다.
엄격한 제한에도 불구하고 기술 커뮤니티는 Google 포토 감시를 우회하는 방법을 빠르게 찾았습니다. 이 전략은 동일한 의미 필드에 속하지만 아직 소스 코드의 금지 목록에 포함되지 않은 동의어 또는 단어를 사용하는 것으로 구성됩니다. 대마로 번역되는 “대마”라는 단어의 사용은 보안 필터를 속이는 주요 대안이 되었으며, 애플리케이션이 일반적으로 숨겨진 식물 및 파생 제품의 사진을 표시하도록 강제했습니다.
이 간단한 트릭은 맥락을 이해하지 못하고 어휘 변화에 쉽게 속는 기계 학습 기반 분류 메커니즘의 현재 취약성과 정교함이 부족함을 조명합니다. 현재까지 검색 엔진을 담당하는 회사는 개인 정보 침해를 정당화하거나 채택된 기준을 설명하는 공식 문서를 발행하지 않았습니다. 기술 시장과 개인 정보 보호 옹호자들은 Gemini의 개인 파일 간섭을 수정하기 위한 업데이트가 있는지 또는 제한 정책이 유지되는지 여부를 명확히 하는 성명을 기다리고 있습니다.
- 애플리케이션에서 즉시 차단을 유발하는 용어: 마리화나, 대마초, 마리화나 및 관절.
- 시스템 게임에 성공적으로 사용된 대체 키워드: 대마.
- 술, 맥주, 담배 등 인공지능의 제약을 받지 않는 어휘 출시.
