A startup americana Anthropic anunciou a implementação de medidas de segurança para restringir solicitações relacionadas a cibersegurança em seu modelo disponibilizado inicialmente em abril apenas para um grupo limitado de parceiros.
A Anthropic começou a oferecer uma versão limitada e voltada ao consumidor do Mythos, seu modelo de inteligência artificial cujo acesso era controlado por causa das fortes capacidades em ciberataques. Chamada de “Claude Fable 5”, a nova opção representa “um modelo do tipo Mythos, mas que tornamos seguro para uso geral”, informou a empresa responsável pelo assistente Claude em publicação no blog nesta terça-feira, 9 de junho.
“Sem medidas de segurança, os recursos de cibersegurança do Fable 5 poderiam ser mal utilizados e causar sérios danos”, destacou a Anthropic. “Por isso, decidimos lançá-lo publicamente com salvaguardas que redirecionam consultas sobre determinados tópicos para o nosso modelo mais poderoso em seguida, o Claude Opus 4.8.”
Essa limitação vale para pedidos de usuários sobre segurança cibernética, mas também sobre biologia e química, segundo a Anthropic, que vê risco de os modelos facilitarem a criação de armas biológicas. A empresa citou ainda a “destilação”, técnica em que um modelo menor consulta um maior para copiá-lo — prática que, de acordo com a companhia, teria sido usada por agentes chineses. Ao detectar solicitação nessas áreas, o Fable 5 deve recusar e encaminhar a consulta ao Opus 4.8.