Bill Gates alerta de que la IA puede causar daños masivos y advierte: “No basta con tener un interruptor de apagado”
El debate sobre los riesgos de la inteligencia artificial ha recuperado intensidad en las últimas semanas. La posibilidad de que sistemas cada vez más avanzados provoquen daños a una escala sin precedentes ha dejado de ser una hipótesis reservada a investigadores y especialistas para ocupar de nuevo el centro de la conversación pública.
Bill Gates se ha sumado ahora a ese debate con una advertencia contundente. El cofundador de Microsoft considera que la inteligencia artificial ya es lo bastante poderosa como para desencadenar acontecimientos con un número de víctimas extraordinariamente elevado, aunque sitúa el principal peligro no solo en las máquinas, sino en las personas que puedan utilizarlas con malas intenciones.
Una tecnología capaz de amplificar el daño
“La IA es sin duda lo suficientemente poderosa como para provocar acontecimientos que causen 1.000 millones de muertes”, ha afirmado Gates. El empresario no ha asignado una probabilidad concreta a un escenario de extinción humana, pero sus declaraciones reflejan el nivel de riesgo que atribuye a los sistemas de inteligencia artificial más avanzados.
En los últimos días se han difundido estimaciones que sitúan en torno al 10% la posibilidad de que la IA acabe con la humanidad durante la próxima década. Se trata de cálculos debatidos y difíciles de verificar, no de predicciones científicas consensuadas. Aun así, han contribuido a reabrir una discusión sobre los límites que deberían imponerse al desarrollo de estos modelos.
Para Gates, la amenaza más inmediata no sería necesariamente una inteligencia artificial que actuase por iniciativa propia contra los seres humanos. Su preocupación se centra en el uso deliberado de estas herramientas por parte de individuos, grupos o gobiernos con objetivos destructivos.
“Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas”, ha señalado. La frase resume uno de los principales riesgos actuales: la capacidad de la IA para multiplicar la velocidad, el alcance y la sofisticación de acciones que ya resultan peligrosas sin esta tecnología.
Por qué un botón de apagado no sería suficiente
Una de las medidas de seguridad más mencionadas en el debate sobre la inteligencia artificial es el llamado kill switch o interruptor de apagado. Se trataría de un mecanismo que permitiría desconectar un sistema si comienza a comportarse de manera peligrosa o deja de responder a las instrucciones de sus responsables.
Gates considera que contar con ese recurso puede ser útil como medida de emergencia, pero no resuelve el problema de fondo. “No basta con tener un interruptor de apagado”, ha advertido. Si una organización necesita pulsarlo, significa que el sistema ya ha producido un comportamiento dañino o que el incidente se encuentra en una fase avanzada.
Por ese motivo, el empresario reclama controles previos y una supervisión continua. La monitorización consiste en observar de forma permanente el comportamiento de un modelo, sus respuestas y las acciones que ejecuta para detectar señales de riesgo antes de que puedan traducirse en consecuencias reales.
Estos controles pueden incluir límites de acceso, registros de actividad, pruebas de seguridad y revisión humana. También resulta relevante controlar las herramientas externas con las que se conecta una IA, como bases de datos, sistemas informáticos o servicios capaces de realizar acciones automáticamente.
Gates pide una regulación obligatoria
El debate también alcanza al papel de los gobiernos. Algunas empresas tecnológicas defienden que el sector debe desarrollar sus propios estándares de seguridad y aplicar mecanismos de autorregulación. Sin embargo, Gates considera que ese enfoque no es suficiente para controlar los riesgos de los sistemas más potentes.
Preguntado sobre si Estados Unidos debería aprobar leyes específicas para supervisar la inteligencia artificial, su respuesta fue clara: “Absolutamente”. Además, ha defendido que “nadie piensa que la autorregulación sea suficiente”.
La regulación podría establecer obligaciones comunes para las compañías que entrenan y despliegan modelos avanzados. Entre ellas estarían la realización de auditorías independientes, la notificación de incidentes, la evaluación de riesgos antes del lanzamiento y la aplicación de medidas de seguridad proporcionales a la capacidad del sistema.
Uno de los puntos más complejos será definir qué modelos deben quedar sujetos a controles reforzados. No es lo mismo una herramienta generativa que redacta textos o crea imágenes que un sistema con acceso a infraestructuras críticas, capaz de ejecutar código o de tomar decisiones sin supervisión directa.
La supervisión humana, en el centro del debate
Las declaraciones de Gates llegan después de que distintos investigadores y antiguos trabajadores del sector hayan alertado de que la carrera por desarrollar modelos cada vez más capaces puede avanzar más deprisa que los mecanismos de seguridad. El problema no se limita a una eventual pérdida de control, sino también al uso de la IA para fraude, ciberataques, desinformación o diseño de herramientas biológicas.
La inteligencia artificial no actúa necesariamente como una entidad consciente. En términos generales, un modelo de IA analiza grandes cantidades de datos y genera predicciones o respuestas a partir de patrones aprendidos. Su capacidad para automatizar tareas y operar a gran velocidad, no obstante, puede aumentar considerablemente el impacto de un error o de un uso malicioso.
El mensaje de Gates apunta así a una combinación de medidas: vigilancia técnica, intervención humana, límites de acceso y normas públicas aplicables a todas las empresas. Para el empresario, esperar a que un sistema falle y confiar únicamente en un botón de apagado sería reaccionar demasiado tarde.
