La startup estadounidense Anthropic anunció la implementación de medidas de seguridad para restringir las solicitudes relacionadas con la ciberseguridad en su modelo inicialmente disponible en abril solo para un grupo limitado de socios.
Anthropic comenzó a ofrecer una versión limitada y orientada al consumidor de Mythos, su modelo de inteligencia artificial cuyo acceso estaba controlado debido a sus fuertes capacidades de ciberataque. Denominada “Claude Fable 5”, la nueva opción representa “un modelo tipo Mythos, pero que hemos hecho seguro para uso general”, informó la empresa responsable del asistente Claude en una publicación de blog este martes 9 de junio.
“Sin medidas de seguridad, las funciones de ciberseguridad de Fable 5 podrían usarse indebidamente y causar daños graves”, destacó Anthropic. “Así que decidimos publicarlo con medidas de seguridad que redirigen las consultas sobre ciertos temas a nuestro siguiente modelo más potente, Claude Opus 4.8”.
Esta limitación se aplica a las solicitudes de los usuarios sobre ciberseguridad, pero también sobre biología y química, según Anthropic, que ve el riesgo de que los modelos faciliten la creación de armas biológicas. La empresa también citó la “destilación”, una técnica en la que un modelo más pequeño consulta a uno más grande para copiarlo, una práctica que, según la empresa, habría sido utilizada por agentes chinos. Al detectar una solicitud en estas áreas, Fable 5 debería rechazar y reenviar la consulta a Opus 4.8.