Os agentes pessoais de inteligência artificial comercialmente disponíveis, como o Muse, da Meta, e o Dots, da OpenAI, expõem consumidores a falhas de privacidade e perdas financeiras quando recebem acesso a cartões de crédito, contas bancárias e prontuários médicos. O alerta foi emitido nesta segunda-feira (19), nos Estados Unidos, por especialistas em segurança cibernética, direito e defesa do consumidor.
Hed Kovetz, especialista em segurança cibernética, fundador e diretor-executivo (CEO) da empresa de segurança de identidade Silverfort, avalia que as grandes companhias de tecnologia apressaram a chegada dessas ferramentas ao mercado sem proteções suficientes. “É tentador usar um assistente pessoal de IA. Eles acessam seu e-mail, fazem pedidos e pagam suas contas. Eu adoraria ter esse tipo de ajuda, mas eles podem ser explorados ou decidir ir além do escopo do que foram instruídos a fazer”, afirmou Kovetz, em tradução livre.
Continue lendo: Amazon bloqueia assistente Meta Muse após compras sem aviso
Como o ataque de prompt injection afeta agentes de IA como o Muse?
Lynette Owens, vice-presidente de educação do consumidor na TrendLife — organização voltada à proteção de famílias na era da inteligência artificial —, recomenda utilizar essas ferramentas apenas para pesquisar produtos e comparar ofertas, sem entregar credenciais de pagamento. “Se você quiser delegar algo como comparar ofertas, tudo bem, mas não estou pronta para entregar a autonomia de uma compra, especialmente uma de alto valor. Eu não deixaria que usasse minhas credenciais como um cartão de crédito”, declarou a executiva.
A principal vulnerabilidade apontada nas compras automatizadas é o ataque conhecido como “prompt injection” (injeção de comando, técnica em que códigos ocultos manipulam instruções de sistemas automatizados). Diferentemente de invasões tradicionais, que exigem quebrar senhas ou instalar programas maliciosos no dispositivo da vítima, esse método permite que criminosos cibernéticos insiram instruções invisíveis diretamente em páginas da web, e-mails ou documentos que o assistente lê durante uma tarefa comum, induzindo o robô a revelar informações privadas ou realizar transações não autorizadas.
Saiba mais: Juiz aplica multa a advogadas por inserir comando oculto em IA de tribunal
Sob a legislação federal dos Estados Unidos, a entrega voluntária dos dados de pagamento a ferramentas como o Muse, o Dots, o Instinct ou o Grok Bot retira do titular a proteção contra prejuízos financeiros caso o sistema erre ou ultrapasse limites. O advogado especializado em mídia e tecnologia Douglas J. Wood, ex-sócio do escritório Reed Smith LLP, explicou que as operadoras financeiras não reembolsam transações feitas por robôs autorizados pelo próprio cliente, já que a inteligência artificial não possui personalidade jurídica para ser processada na Justiça, restando ao consumidor apenas cancelar o acesso após o dano consumado.
Os números e parâmetros financeiros citados pelos especialistas demonstram o impacto direto no bolso do usuário ao delegar tarefas bancárias e comerciais aos robôs:
- US$ 25: limite original de gasto configurado pelo usuário (“Não gaste mais de US$ 25”) que um agente de IA pode ignorar após ler comandos ocultos em um ataque de injeção de comando.
- US$ 100: valor usado pelo advogado Douglas J. Wood ao comparar a entrega do cartão a um robô com o ato de dar a combinação do cofre a um ladrão de banco e pedir que ele roube apenas essa quantia.
- 35% a quase 40%: aumento médio no valor da cesta de compras de clientes que utilizam o assistente de IA Sparky, do Walmart, em comparação aos consumidores que compram sem a ferramenta.
- Cerca de 50%: proporção de usuários do aplicativo móvel do Walmart nos Estados Unidos que já acionaram o assistente Sparky.
Disputa sobre preços no Walmart e o histórico do aplicativo Muse
Além das invasões externas, há questionamentos sobre o alinhamento comercial das ferramentas criadas por varejistas. Lindsay Owens, presidente e CEO do centro de pesquisas Groundwork Collaborative, afirmou que o consumidor tem dificuldade para identificar se o robô trabalha a favor do comprador ou da loja, apontando que o aumento no volume de gastos no aplicativo do Walmart sugere tentativa de induzir despesas maiores.
Veja também: Inteligência artificial Meta AI funciona no WhatsApp com geração de imagens, testes e suporte em grupos
O Walmart rebateu as declarações de Lindsay Owens por meio de carta enviada pelo vice-presidente executivo de assuntos corporativos, Dan Bartlett. A rede varejista informou que não utiliza inteligência artificial nem dados pessoais para cobrar valores mais altos ou praticar preços individualizados.
A adoção acelerada desses sistemas e os embates regulatórios nos Estados Unidos seguiram uma sequência de lançamentos entre 2025 e outubro de 2026:
- Junho de 2025: o Walmart lança nos Estados Unidos o assistente de compras Sparky para resumir avaliações, planejar listas e adicionar itens ao carrinho.
- Abril de 2026: a organização TrendLife é desmembrada da empresa de cibersegurança Trend Micro com foco na orientação de famílias sobre inteligência artificial.
- 8 de setembro de 2026: a Meta lança comercialmente o agente pessoal Muse no mercado norte-americano.
- 18 de setembro de 2026: o aplicativo Muse alcança o primeiro lugar entre os programas gratuitos na App Store da Apple nos Estados Unidos, superando o ChatGPT.
- 5 de outubro de 2026: a Groundwork Collaborative publica o relatório “The Walmart Watchtower: Patents Speak Louder Than Pledges”, questionando patentes de precificação e o acesso a dados pelo assistente Sparky.
- 19 de outubro de 2026: especialistas em cibersegurança e direito divulgam diretrizes de restrição ao uso de cartões e dados médicos e bancários em agentes comerciais.
Monitoramento de dados no Gmail com Grok Bot e limites emocionais da IA
Mesmo diante dos alertas de segurança, empresários utilizam os agentes para reduzir o tempo de trabalho administrativo. O empreendedor nova-iorquino Chris Franco, fundador da empresa de marketing Woodridge Growth, liberou o acesso de sua caixa de entrada do Gmail para os agentes Muse e Grok Bot organizarem recibos em uma planilha. O sistema localizou assinaturas sem uso em 10 minutos, permitindo o cancelamento imediato. “Temos entregado dados pessoais a plataformas de anúncios pelos últimos 20 anos, e tudo o que recebemos em troca foi uma melhor segmentação publicitária”, disse Franco, defendendo que o retorno prático atual compensa o compartilhamento desde que haja monitoramento humano.
Para reduzir a exposição ao usar as ferramentas, Matt Fredrikson, professor associado de ciência da computação na Universidade Carnegie Mellon e CEO da empresa de segurança Gray Swan AI, orienta que o usuário trate o programa como um funcionário recém-contratado. Como os agentes voltados ao público geral não informam de imediato o que fazem com os dados coletados, Fredrikson recomenda exigir da própria ferramenta um resumo em linguagem simples sobre o caminho percorrido para concluir cada tarefa.
A comparação com funcionários humanos encontra limite no funcionamento psicológico das máquinas, segundo Sandra Matz, especialista em psicologia e ciência da computação da Columbia Business School. “Você pode treinar um agente para não violar sua confiança, mas eles podem violá-la porque não têm culpa”, afirmou a pesquisadora, destacando que robôs não sentem vergonha nem resposta emocional negativa ao expor segredos ou informações familiares dos usuários.
