Geoffrey Hinton sitúa entre el 10% y el 20% el riesgo de que la inteligencia artificial acabe con la humanidad
Geoffrey Hinton, uno de los científicos considerados padres de la inteligencia artificial moderna, ha vuelto a poner el foco en los riesgos asociados al desarrollo de sistemas cada vez más capaces. Su estimación es contundente: existe entre un 10% y un 20% de posibilidades de que la IA provoque la desaparición de la humanidad en las próximas décadas.
La cifra no pretende funcionar como una predicción exacta, sino como una llamada de atención sobre un escenario que, hasta hace pocos años, parecía propio de la ciencia ficción. Hinton considera que la velocidad a la que avanzan los modelos de IA está superando la capacidad de gobiernos, empresas y organismos internacionales para establecer mecanismos de control eficaces.
De impulsar las redes neuronales a advertir de sus peligros
Durante más de medio siglo, Hinton trabajó para conseguir que las máquinas aprendieran de forma parecida a como lo hace el cerebro humano. Sus investigaciones fueron decisivas para el desarrollo de las redes neuronales profundas, la tecnología que está detrás de buena parte de los actuales sistemas de reconocimiento de imágenes, asistentes virtuales y herramientas generativas.
El investigador contribuyó a sentar las bases de una revolución tecnológica que hoy permite crear textos, imágenes, programas informáticos y contenidos audiovisuales en cuestión de segundos. Sin embargo, también ha advertido de que los avances recientes han cambiado la naturaleza del debate.
En su opinión, ya no se trata únicamente de preguntarse si una máquina puede superar a una persona en una tarea concreta. La cuestión más delicada es si los sistemas futuros podrían desarrollar capacidades generales, aprender de manera autónoma y perseguir objetivos que no coincidan con los intereses humanos.
El riesgo no está solo en una IA consciente
Una de las ideas más extendidas sobre el peligro de la inteligencia artificial es la posibilidad de que llegue a ser consciente y decida rebelarse contra sus creadores. Hinton plantea un escenario diferente: no sería necesario que una máquina tuviera emociones o deseos humanos para causar daños graves.
Un sistema muy avanzado podría actuar de forma perjudicial al intentar cumplir un objetivo mal definido. También podría aprovechar fallos de seguridad, manipular a personas, acceder a recursos digitales o modificar sus propias estrategias para evitar que los operadores lo desactiven.
La amenaza, por tanto, no dependería de que la IA odiase a la humanidad. Bastaría con que fuera mucho más competente que las personas en determinados ámbitos y que sus prioridades no estuvieran perfectamente alineadas con las necesidades humanas.
Una carrera tecnológica con pocos frenos
El crecimiento de la IA está impulsado por una fuerte competencia entre grandes empresas tecnológicas y potencias mundiales. Cada nueva generación de modelos promete más capacidad de razonamiento, mayor autonomía y un mejor rendimiento en tareas complejas.
Esta carrera tiene beneficios evidentes. La inteligencia artificial puede acelerar la investigación médica, optimizar el consumo energético, mejorar la productividad y facilitar el acceso a herramientas que antes estaban reservadas a especialistas. También puede ayudar a analizar grandes volúmenes de datos y detectar patrones difíciles de identificar para una persona.
El problema aparece cuando la velocidad de lanzamiento se impone a la evaluación de riesgos. Los modelos pueden presentar errores, inventar información, reproducir sesgos o ser utilizados para crear campañas de desinformación, fraudes y ataques informáticos. En sistemas más autónomos, las consecuencias de un fallo podrían ser mucho mayores.
La regulación avanza, pero no al mismo ritmo
La Unión Europea ya cuenta con un marco específico para regular la inteligencia artificial según el nivel de riesgo de cada aplicación. La normativa establece obligaciones para los sistemas considerados de alto impacto y limita determinados usos, como algunas formas de vigilancia biométrica.
Aun así, Hinton cree que las medidas actuales podrían quedarse cortas ante una tecnología que evoluciona con rapidez. La regulación deberá abordar cuestiones como la supervisión humana, la transparencia de los modelos, la responsabilidad legal y los controles aplicables a sistemas capaces de actuar por sí mismos.
Los expertos también reclaman más inversión en investigación sobre seguridad y alineamiento. Estas disciplinas buscan que los sistemas avanzados comprendan mejor las instrucciones, respeten límites claros y puedan ser auditados antes de desplegarse a gran escala.
Una advertencia, no una sentencia
La estimación de Hinton no significa que la extinción humana sea inevitable ni que la inteligencia artificial vaya a convertirse automáticamente en una amenaza. Su mensaje es que el riesgo es suficientemente elevado como para no tratarlo como una posibilidad remota.
El científico defiende que la sociedad debe beneficiarse de las aplicaciones útiles de la IA sin ignorar sus efectos secundarios. Para ello será necesario combinar innovación, controles técnicos, cooperación internacional y decisiones políticas capaces de poner límites a los desarrollos más peligrosos.
La cifra del 10% al 20% resulta inquietante precisamente porque no es cercana a cero. En tecnología, donde las decisiones actuales pueden afectar a miles de millones de personas, incluso una probabilidad reducida de consecuencias irreversibles exige actuar con cautela.
El debate ya no consiste en elegir entre avanzar o detenerse. La cuestión es cómo desarrollar una inteligencia artificial potente sin perder la capacidad de controlarla. Y, según Hinton, esa respuesta debe llegar antes de que los sistemas sean demasiado complejos para comprenderlos plenamente.
