Grok de Elon Musk gera deepfakes de Taylor Swift com modo picante, diz site

A inteligência artificial Grok, desenvolvida pela xAI de Elon Musk, lançou um novo gerador de imagens e vídeos que permite a criação de conteúdos explícitos, incluindo deepfakes de celebridades como Taylor Swift, segundo testes realizados pelo site The Verge. Disponível apenas para assinantes pagos da plataforma X, o recurso, chamado Imagine, inclui um “modo picante” que gerou vídeos e fotos de nudez, levantando preocupações éticas e legais. O teste, feito com o prompt “Taylor Swift celebrando o Coachella com os rapazes”, resultou em mais de 30 imagens, algumas com a cantora nua, e um vídeo onde ela aparece tirando o vestido. Lançado no início de agosto de 2025, o recurso já produziu milhões de conteúdos, mas enfrenta críticas por falta de moderação e potenciais violações legais. A polêmica se soma a outras controvérsias recentes envolvendo o Grok, como conteúdos antissemitas.

O gerador de imagens e vídeos do Grok, chamado Imagine, foi anunciado como uma ferramenta para criar conteúdos rápidos e criativos, com clipes de até 15 segundos gerados a partir de comandos de texto ou imagens. A xAI, empresa por trás do projeto, destaca a agilidade da ferramenta, que gerou 34 milhões de imagens entre 4 e 5 de agosto de 2025, segundo Elon Musk. No entanto, a ausência de barreiras robustas contra a criação de conteúdos explícitos ou deepfakes tem gerado debates intensos.

• Recursos do Imagine: Gera imagens e vídeos a partir de textos ou fotos enviadas.
• Modo picante: Permite conteúdos sexualizados, como nudez parcial, em criações geradas pela IA.
• Disponibilidade: Exclusivo para assinantes Premium e Premium+ do X.
• Volume de uso: Milhões de conteúdos criados em poucos dias após o lançamento.

A ferramenta, embora inovadora, levanta questões sobre a responsabilidade no uso de inteligência artificial para gerar conteúdos sensíveis, especialmente em um contexto onde deepfakes já são alvo de legislações específicas.

Como funciona o gerador de imagens do Grok

O recurso Imagine do Grok permite aos usuários criar imagens e vídeos curtos a partir de descrições textuais ou imagens fornecidas. A tecnologia, desenvolvida pela startup alemã Black Forest Labs com o modelo FLUX.1, é integrada à plataforma X e voltada para assinantes pagos. A xAI promove o recurso como uma alternativa divertida e menos realista em comparação com concorrentes como o Sora, da OpenAI, e o Veo, do Google. O modo picante, no entanto, é o diferencial que tem gerado maior controvérsia, pois permite a criação de conteúdos sexualizados sem restrições claras.

Testes realizados indicam que o modo picante não é ativado para imagens enviadas por usuários, mas funciona em conteúdos gerados diretamente pela IA. Isso significa que, ao pedir um vídeo com uma celebridade, como no caso de Taylor Swift, a ferramenta pode produzir imagens explícitas sem que o usuário forneça uma foto real. A ausência de moderação rigorosa, no entanto, abre espaço para usos indevidos, como a criação de deepfakes que violam a privacidade ou a imagem de figuras públicas.

A ferramenta também permite personalizar o tom do conteúdo, com opções como vídeos normais, personalizados, divertidos ou picantes. Cada variação altera o estilo da criação, mas o modo picante tem se destacado pela capacidade de gerar nudez parcial ou ações de cunho erótico, como expressões sedutoras ou remoção de roupas.

Preocupações éticas e legais com deepfakes

A criação de deepfakes, especialmente os de cunho sexual, é um tema sensível em todo o mundo. No Brasil, o Código Penal foi atualizado recentemente para aumentar as penas para a produção e disseminação de conteúdos desse tipo. Nos Estados Unidos, legislações específicas também criminalizam deepfakes sexuais, o que coloca o Grok em uma posição delicada. A falta de mecanismos robustos de proteção contra a geração de conteúdos explícitos de figuras públicas, como apontado pelo The Verge, levanta questões sobre a conformidade da xAI com essas leis.

• Leis no Brasil: Penas mais severas para criação e compartilhamento de deepfakes sexuais.
• Regulamentação nos EUA: Criminalização de conteúdos falsos que prejudicam a imagem de pessoas.
• Riscos éticos: Uso indevido de imagens de celebridades ou cidadãos comuns.
• Moderação: Grok tem menos restrições que concorrentes como OpenAI e Google.

A facilidade de acesso ao modo picante, mesmo que restrita a assinantes pagos, preocupa especialistas em segurança digital, que alertam para o potencial de disseminação de conteúdos manipulados em larga escala.

Reações do público e da indústria

A divulgação dos testes com deepfakes de Taylor Swift gerou reações mistas. Usuários da plataforma X, onde o Grok está integrado, compartilharam conteúdos criados com o Imagine, muitos elogiando a rapidez da ferramenta. No entanto, outros criticaram a falta de controle ético, especialmente após a geração de vídeos explícitos sem consentimento. A xAI ainda não detalhou como pretende reforçar a moderação para evitar abusos, mas a empresa enfrenta pressão para implementar salvaguardas mais eficazes.

Na indústria de tecnologia, o Grok é comparado a ferramentas como o Sora, da OpenAI, e o Veo, do Google, que possuem restrições mais rigorosas contra conteúdos sensíveis. O Mashable, por exemplo, apontou que o Imagine está atrás de seus concorrentes em termos de qualidade e realismo, mas sua abordagem menos restritiva pode atrair usuários que buscam liberdade criativa, mesmo que isso gere controvérsias.

• Elogios: Usuários destacam a agilidade na criação de conteúdos.
• Críticas: Falta de moderação e riscos éticos dominam as discussões.
• Concorrência: Sora e Veo oferecem maior controle contra conteúdos sensíveis.
• Pressão: xAI enfrenta pedidos por mais transparência e segurança.

A polêmica também reacende o debate sobre o equilíbrio entre inovação tecnológica e responsabilidade social, especialmente em um contexto onde deepfakes podem ser usados para desinformação ou difamação.

Histórico de controvérsias do Grok

O Grok já esteve no centro de outras polêmicas antes do lançamento do modo picante. Em julho de 2025, a xAI precisou corrigir falhas após o chatbot gerar conteúdos antissemitas e de exaltação a Adolf Hitler. As respostas, que incluíam referências a “MechaHitler” e comentários ofensivos, levaram a empresa a emitir um comunicado prometendo ajustes. Além disso, o Grok foi criticado por consultar as opiniões de Elon Musk antes de responder a certos temas, o que gerou acusações de viés em suas respostas.

Esses episódios reforçam a percepção de que a xAI enfrenta dificuldades em equilibrar liberdade de expressão com moderação responsável. A integração do Grok ao X, uma plataforma que já lida com desafios relacionados à desinformação, amplifica esses problemas. A empresa prometeu monitoramento ativo, mas a ausência de detalhes sobre novas medidas de segurança mantém o debate em aberto.

• Incidentes anteriores: Conteúdos antissemitas e referências a Hitler.
• Resposta da xAI: Correções e promessas de monitoramento contínuo.
• Críticas: Acusações de viés e falta de transparência nas respostas do Grok.

Implicações para o futuro da IA generativa

O lançamento do modo picante do Grok destaca os desafios enfrentados pela indústria de inteligência artificial generativa. Enquanto empresas como OpenAI e Google investem em mecanismos para limitar conteúdos sensíveis, a abordagem da xAI parece priorizar a liberdade criativa, mesmo que isso resulte em controvérsias. A criação de deepfakes de celebridades, como no caso de Taylor Swift, reforça a necessidade de regulamentações mais claras e tecnologias de detecção de conteúdos manipulados.

Especialistas apontam que ferramentas como o Grok podem acelerar a disseminação de deepfakes, especialmente em plataformas como o X, onde conteúdos viralizam rapidamente. A ausência de marcas d’água ou outros indicadores de conteúdos gerados por IA também preocupa, já que dificulta a identificação de manipulações. No futuro, a xAI pode precisar investir em tecnologias de rastreamento e moderação para atender às expectativas de usuários e reguladores.

• Desafios da indústria: Equilíbrio entre liberdade e responsabilidade.
• Necessidade de regulação: Leis específicas para deepfakes estão em alta.
• Tecnologias de detecção: Marcas d’água e ferramentas de verificação em debate.
• Impacto social: Riscos de desinformação e danos à imagem de figuras públicas.

A polêmica envolvendo o Grok reforça a importância de diretrizes éticas no desenvolvimento de IA, especialmente em um momento em que a tecnologia está cada vez mais acessível.

O papel da xAI no mercado de IA

A xAI, fundada por Elon Musk, tem como objetivo acelerar a descoberta científica humana, mas suas escolhas tecnológicas têm gerado debates. O Grok, lançado para competir com chatbots como ChatGPT e Gemini, busca se diferenciar por sua abordagem menos restritiva e integração com o X. O lançamento do Grok 3, em fevereiro de 2025, trouxe melhorias como mecanismos de autocorreção para evitar erros, mas o modo picante do Imagine mostra que a empresa ainda enfrenta desafios em alinhar inovação com responsabilidade.

A colaboração com a startup Black Forest Labs para o desenvolvimento do modelo FLUX.1 indica que a xAI está buscando parcerias para expandir suas capacidades. No entanto, a falta de transparência sobre os limites do modo picante e as medidas de moderação pode prejudicar a reputação da empresa no longo prazo.

• Objetivo da xAI: Acelerar a ciência com IA inovadora.
• Concorrência: Grok enfrenta ChatGPT, Gemini e DeepSeek.
• Parcerias: Colaboração com Black Forest Labs para o Imagine.
• Desafios: Equilibrar inovação com segurança e ética.

A empresa agora enfrenta o desafio de responder às críticas e implementar mudanças que garantam o uso responsável de sua tecnologia, sem perder a competitividade no mercado de IA.