Itália proíbe chatbot norte-americano Replika de usar dados pessoais

MILÃO, Itália (Reuters) – A Agência de Proteção de Dados da Itália disse nesta sexta-feira que proibiu a empresa de inteligência artificial Replika de usar dados pessoais de usuários italianos em seu chatbot, citando riscos para menores e pessoas emocionalmente frágeis.

A Replika, uma startup norte-americana lançada em 2017, oferece aos clientes avatares personalizados que falam e ouvem. O chatbot despontou entre os falantes de inglês e é gratuito, embora gere cerca de 2 milhões de dólares em receita mensal com a venda de recursos, como chats de voz.

O “amigo virtual” é comercializado como capaz de melhorar o bem-estar emocional do usuário.

Mas o regulador italiano disse que, ao intervir no humor do usuário, “pode ​​aumentar os riscos para indivíduos ainda em estágio de desenvolvimento ou em estado de fragilidade emocional”.

A agência também apontou a ausência de um mecanismo de verificação de idade, como filtros para menores ou um dispositivo de bloqueio se os usuários não declararem explicitamente sua idade.

Leia Tambem

Google Pixel Buds ganha ícone com gradiente azul-roxo na atualização do app

PlayStation Plus de junho traz Warhammer 40K: Darktide, Grounded e Destiny 2

Nintendo planeja elevar produção do Switch 2 para 20 milhões de unidades

A Replika viola os regulamentos europeus de privacidade e processa dados pessoais ilegalmente, pois não pode se basear, mesmo implicitamente, em um contrato que um menor não possa assinar, disse o órgão de vigilância.

A desenvolvedora da Replika, a empresa norte-americana Luka, deverá notificar a autoridade italiana sobre as medidas tomadas para implementar as medidas de segurança em 20 dias e pode ser multada em até 20 milhões de euros, ou até 4% de seu faturamento anual global.

A Replika não comentou o assunto.