Geoffrey Hinton eleva la alerta sobre la inteligencia artificial: ve hasta un 20% de posibilidades de extinción humana
Geoffrey Hinton, uno de los científicos que sentaron las bases de la inteligencia artificial moderna, considera que existe entre un 10% y un 20% de probabilidades de que la IA pueda provocar la extinción de la humanidad. El investigador, conocido como el padrino de esta tecnología, advierte de que el riesgo no procede únicamente de un uso malintencionado, sino también de sistemas que desarrollen objetivos difíciles de controlar.
Su preocupación se centra en el momento en que las máquinas puedan superar a los seres humanos en la mayoría de las tareas intelectuales. Según Hinton, todavía no se ha demostrado que los sistemas actuales hayan alcanzado ese nivel de capacidad general, pero el ritmo de desarrollo obliga a prepararse para un escenario que hasta hace pocos años parecía propio de la ciencia ficción.
El riesgo de crear sistemas más inteligentes que sus creadores
La principal inquietud de Hinton es que una inteligencia artificial muy avanzada pueda aprender, planificar y actuar con mayor eficacia que las personas encargadas de supervisarla. En ese contexto, la humanidad podría perder la capacidad de comprender sus decisiones o de corregir su comportamiento a tiempo.
El científico plantea una comparación con la relación entre adultos y niños. Los adultos son más fuertes y poseen mayores conocimientos, pero eso no significa que controlen cada acción de los menores. Del mismo modo, una IA más inteligente podría encontrar estrategias que sus diseñadores no hubieran previsto.
El problema no tendría que surgir necesariamente de una voluntad hostil. Bastaría con que una máquina persiguiera un objetivo mal definido y considerase a los seres humanos un obstáculo para cumplirlo. Por eso, una parte esencial de la investigación actual se centra en la alineación de la inteligencia artificial: conseguir que los sistemas actúen de acuerdo con los valores y las prioridades humanas.
Una advertencia nacida desde el corazón de la IA moderna
Hinton no es un observador externo. Sus trabajos sobre redes neuronales y aprendizaje profundo contribuyeron a impulsar la revolución tecnológica que ha permitido desarrollar asistentes conversacionales, herramientas de generación de imágenes y sistemas capaces de analizar grandes volúmenes de información.
El investigador compartió el Premio Turing en 2018 por sus aportaciones al aprendizaje profundo y recibió el Nobel de Física en 2024 junto a John Hopfield. Durante años también trabajó en Google, compañía que abandonó para poder hablar con mayor libertad sobre los riesgos asociados a la inteligencia artificial.
Su cambio de posición refleja una preocupación cada vez más extendida entre expertos del sector. Muchos investigadores que participaron en la creación de estas tecnologías reconocen ahora que la capacidad de los modelos avanza más deprisa que las herramientas disponibles para auditarlos, limitar sus errores y garantizar un uso seguro.
La extinción no es el único escenario preocupante
El porcentaje mencionado por Hinton no representa una predicción exacta ni un cálculo aceptado por toda la comunidad científica. Es una estimación personal sobre un riesgo caracterizado por su enorme incertidumbre y por la dificultad de realizar experimentos fiables sobre sistemas que todavía no existen.
La posibilidad de una catástrofe global es el extremo más grave del debate, pero los efectos perjudiciales de la IA ya se manifiestan en otros ámbitos. Entre ellos figuran la difusión de desinformación, la suplantación de identidad, los fraudes automatizados, la discriminación algorítmica y la transformación de numerosos puestos de trabajo.
También preocupa la concentración de poder en unas pocas empresas con capacidad para entrenar los modelos más avanzados. El acceso a grandes centros de datos, enormes cantidades de información y talento especializado puede dejar las decisiones fundamentales sobre esta tecnología en manos de un grupo reducido de compañías y Gobiernos.
Más investigación y supervisión internacional
Para Hinton, la respuesta no pasa por detener de forma indefinida todo el desarrollo tecnológico, sino por dedicar muchos más recursos a la seguridad de la IA. Esto incluye estudiar cómo se comportan los modelos, detectar sus capacidades ocultas y diseñar mecanismos que permitan apagarlos o limitar sus acciones cuando sea necesario.
La regulación también tendrá un papel decisivo. Las normas europeas, los acuerdos internacionales y los estándares técnicos deberán evolucionar al mismo ritmo que los sistemas de inteligencia artificial. El desafío consiste en evitar tanto la ausencia de controles como una regulación tan rígida que impida desarrollar aplicaciones beneficiosas en medicina, ciencia, educación o accesibilidad.
El mensaje del pionero del aprendizaje profundo es, en esencia, una llamada a la prudencia. La inteligencia artificial puede ofrecer avances extraordinarios, pero sus creadores todavía no saben con certeza cómo se comportará cuando alcance capacidades superiores a las humanas. Para Hinton, reconocer esa incertidumbre es el primer paso para reducir un riesgo que, aunque difícil de medir, podría tener consecuencias irreversibles.
