Claude Fable 5: Anthropic apuesta por modelos más capaces con frenos incorporados
El lanzamiento de Claude Fable 5 por Anthropic marca un hito en la inteligencia artificial al presentar un modelo de clase Mythos con características mejoradas y controles de seguridad integrados. Este nuevo modelo, descrito como «seguro para uso general», busca equilibrar la potencia con la prevención de usos riesgosos. Acompañado por Claude Mythos 5, que levanta ciertas restricciones en áreas específicas, reservado para un grupo selecto de ciberdefensores y proveedores de infraestructura crítica dentro de Project Glasswing.
La metáfora utilizada por Anthropic para explicar este enfoque es la de entregar un coche potente con un limitador inteligente, permitiendo una mayor capacidad de trabajo sin comprometer la seguridad.
Mejoras en capacidades y eficiencia
Según Anthropic, Fable 5 destaca en tareas complejas y prolongadas, manteniendo su autonomía por períodos extensos de tiempo. Se ha destacado una mejora en programación, capacidad de visión, memoria extendida y contexto largo, así como una mayor eficiencia en tokens.
En el contexto de modelos basados en API, los tokens representan el combustible esencial, y una mayor eficiencia se traduce en un procesamiento más rápido y coherente. Esto se refleja en la capacidad de adjuntar contratos extensos o bloques de código sin interrupciones, permitiendo una fluidez en el trabajo.
Enfoque en visión y continuidad en tareas
La capacidad de Fable 5 para extraer información precisa de figuras científicas, así como reconstruir código a partir de capturas de pantalla, destaca su habilidad en tareas de visión. Además, se resalta su capacidad para mantener enfoque y continuidad en tareas que requieren largo tiempo de procesamiento, reduciendo contradicciones y repeticiones.
Anthropic también menciona avances internos en diseño de proteínas, generación de hipótesis en biología molecular y proyectos de genómica con autonomía prolongada, aunque subrayando la importancia de evitar el doble uso de estas capacidades en manos maliciosas.
Desafíos y controles de seguridad
Si bien Fable 5 presenta numerosas ventajas, también plantea desafíos en términos de seguridad y detección de usos potencialmente peligrosos. La implementación de salvaguardas para detectar solicitudes relacionadas con ciberseguridad, biología, química y posibles intentos de extracción de capacidades del modelo, es un aspecto crucial para prevenir malos usos.
La empresa se enfrenta al desafío de equilibrar la seguridad con la usabilidad, ajustando los umbrales de detección para evitar falseos innecesarios sin comprometer la protección del sistema.
Consideraciones finales y precios
Anthropic anuncia un precio de 10 dólares por millón de tokens de entrada y 50 dólares por millón de salida para acceso vía API a Claude Fable 5. Además, se ofrecen oportunidades de acceso gratuito temporal para suscriptores de determinados planes.
En conclusión, Claude Fable 5 representa una tendencia hacia modelos de inteligencia artificial más potentes pero con controles de seguridad más visibles, abriendo la discusión sobre la importancia de mantener un equilibrio entre capacidad y prevención de usos riesgosos en la IA.
