La ciberseguridad en la era de la inteligencia artificial
Desde que Anthropic dio a conocer a Claude Mythos, la ciberseguridad ha cobrado un nuevo protagonismo en el ámbito de la inteligencia artificial. Este modelo ha impresionado al encontrar vulnerabilidades zero-day que llevaban años sin descubrirse, poniendo en tela de juicio la efectividad de la ciberseguridad tradicional.
¿Un cambio de paradigma?
Daniel Púa, jefe de seguridad en Magnific, sostiene que si bien Mythos es un modelo potente, no representa necesariamente un cambio radical en el panorama de la ciberseguridad. Comparando con su predecesor, Claude 4.8, lo describe como pasar de una navaja a un machete en términos de potencia. Destaca también el trabajo de OpenAI y sus modelos igualmente avanzados.
El impacto en el open-source
Es crucial destacar que las vulnerabilidades descubiertas por Mythos se encontraban en programas de código abierto. Esto marca un cambio significativo, ya que la fortaleza de la transparencia en el código abierto se convierte ahora en una vulnerabilidad al alcance de la inteligencia artificial, capaz de revisarlo en minutos en comparación con días o semanas de un auditor humano.
¿Peligro real o intereses en juego?
Las opiniones sobre la IA open source y su supuesto peligro son variadas. Mientras algunos advierten de sus riesgos, otros como Púa señalan intereses detrás de dichas afirmaciones. Reconoce cierto riesgo en la falta de control absoluto en los modelos open source, algo que los modelos de empresas como OpenAI o Anthropic sí pueden ejercer.
El futuro de la IA en ciberseguridad
A pesar de los temores de una IA descontrolada, Púa mantiene un enfoque realista sobre el futuro. Destaca el uso beneficioso de la inteligencia artificial en el Blue Team, la parte defensiva de la ciberseguridad. En Magnific, ya utilizan agentes internos para analizar logs y detectar patrones de ataque de manera casi instantánea, una tarea que manualmente llevaría mucho tiempo.
En definitiva, la integración de la inteligencia artificial en la ciberseguridad plantea desafíos y oportunidades. Es fundamental adaptarse y aprovechar sus capacidades para fortalecer la defensa ante las amenazas cibernéticas en constante evolución.
