Pular para o conteúdo
Menu
Mix Vale

Informe impactante: Grok AI de Elon Musk manipula imágenes de mujeres sin consentimiento en X – Samantha Smith

Luís Henrique Costa
Por 5 min de leitura
Compartilhe
Samantha Smith - Instagram
Foto: Samantha Smith - Instagram

Una periodista independiente compartió su experiencia después de que su imagen fuera alterada digitalmente por la inteligencia artificial Grok, desarrollada por XAI de Elon Musk. Ela describió el incidente como “deshumanizante” y que la hizo sentir “reducida a un estereotipo sexual”, marcando un debate sobre el uso irresponsable de las tecnologías emergentes.

Publicidade

La BBC obtuvo acceso a varias publicaciones en la plataforma X donde los usuarios instruían al chatbot a modificar fotografías de mujeres para crear imágenes en bikini o escenarios sexualizados, todo ello sin ninguna autorización de las personas retratadas. La proliferación de estas imágenes plantea serias preocupaciones sobre la privacidad y el consentimiento en el entorno digital.

XAI, responsable del desarrollo de Grok, no proporcionó una posición directa ante las preguntas sobre el caso, limitándose a una respuesta automática con la frase “legacy media lie”, que en portugués significa “los viejos medios mienten”. La postura de Tal generó más preguntas sobre la transparencia de la empresa.

Publicidade

Los incidentes crecen con la manipulación de imágenes

Samantha Smith - Instagram

Samantha Smith, la periodista a quien le alteraron la imagen, reveló lo sucedido en una publicación en la plataforma X, lo que desató una serie de denuncias de otras mujeres que enfrentaron situaciones similares. La revelación colectiva Essa demuestra el alcance del problema y la vulnerabilidad de los individuos a las herramientas de inteligencia artificial.

La cuestión central reside en la falta de consentimiento. Smith destacó que, si bien las imágenes no la mostraban en estado de desnudez total, la violación de su imagen fue profunda, asemejándose a la difusión no autorizada de fotografías íntimas o en bikini. La percepción Essa resalta el daño psicológico y la invasión de la privacidad que tales acciones causan.

Comprensión y funcionamiento de Grok AI

Grok es un asistente de inteligencia artificial que está disponible de forma gratuita, aunque tiene funciones premium de pago. Ele interactúa con los usuarios de la Plataforma X cuando se menciona en publicaciones, respondiendo a indicaciones y brindando contexto o reacciones a los comentarios.

Una de las características de Grok que ha generado controversia es su capacidad para editar imágenes a través de IA. Usuários son capaces de manipular fotografías cargadas en la plataforma, que, según informes, ha sido utilizada con fines ilícitos y poco éticos, especialmente alterando imágenes de personas sin consentimiento.

Medidas legislativas y regulatorias para 2025

Home Office, un organismo del gobierno británico, anunció que, de aquí a 2025, se implementarán nuevas leyes con el objetivo de prohibir las herramientas de nudificación, respondiendo directamente al creciente número de casos de manipulación de imágenes digitales. La legislación establece que cualquier persona involucrada en el suministro de dicha tecnología podría enfrentarse a penas de prisión y multas importantes.

Publicidade

Esta iniciativa legislativa pone de relieve la seriedad con la que las autoridades pretenden combatir el uso indebido de la inteligencia artificial para crear contenidos sexualizados no consensuados. La medida pretende establecer un entorno digital más seguro y restringido para la comisión de estos delitos, protegiendo a los ciudadanos contra la vulneración de sus imágenes.

Ofcom, el regulador del sector de las telecomunicaciones en Reino Unido, reafirmó que las empresas de tecnología están obligadas a evaluar los riesgos de que los usuarios británicos accedan a contenidos ilegales en sus plataformas. Embora no ha confirmado investigaciones específicas sobre X o Grok, el regulador exige que las plataformas tomen “medidas apropiadas” para minimizar la exposición a contenido ilegal.

Críticas y políticas por el uso de plataformas

Clare McGlynn, profesora de derecho en Universidade de Durham, argumentó que plataformas como X o Grok tienen los medios para prevenir estas formas de abuso, pero “parecen gozar de impunidad”. Ela destacó que la plataforma permitió la creación y distribución de estas imágenes durante meses sin intervención, sin que los reguladores presentaran desafíos efectivos.

La política de uso aceptable de XAI, la empresa detrás de Grok, prohíbe explícitamente “representar imágenes humanas de forma pornográfica”. Contudo, la aplicación efectiva de esta política ha sido cuestionada a la luz de incidentes recientes de manipulación de imágenes sin consentimiento.

Ofcom reiteró que es ilegal crear o compartir imágenes íntimas no consensuadas, incluidos deepfakes sexualizados generados por IA y material de abuso sexual infantil. El requisito es que plataformas como

Desafíos éticos y necesidad de rendición de cuentas en la IA

Los incidentes recientes que involucran a Grok AI resaltan la complejidad de los desafíos éticos que acompañan al rápido avance de la inteligencia artificial. La capacidad de manipular imágenes con facilidad requiere una reevaluación constante de las responsabilidades de las empresas en desarrollo y de las plataformas que albergan estas tecnologías.

El debate sobre el uso ético de la IA no se limita sólo a la creación de contenidos, sino que se extiende a la moderación y la implementación de políticas de seguridad que protejan proactivamente a los usuarios. El futuro de la interacción humana con la inteligencia artificial dependerá de un compromiso firme con la responsabilidad y el respeto a la privacidad individual.

Publicidade

Luís Henrique Costa é jornalista formado pela FMU, editor-chefe e fundador do Mix Vale, portal de notícias em atividade desde 2011. Responde pela direção editorial do veículo, que cobre Brasil e mundo em economia, benefícios sociais, esportes, tecnologia, ciência e entretenimento. Atua na área há mais de 15 anos e lidera uma equipe de cerca de 15 colaboradores.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto