Publicidad

Ian Stewart reclama una desaceleración de la inteligencia artificial para ordenar su desarrollo

El matemático Ian Stewart considera necesario frenar el ritmo actual de expansión de la inteligencia artificial para analizar con mayor rigor sus efectos. A su juicio, la tecnología avanza sin una dirección suficientemente coordinada y se encuentra actualmente en un estado de anarquía, con empresas y organizaciones compitiendo por desplegar nuevos sistemas antes de que existan garantías claras sobre sus consecuencias.

La propuesta no plantea detener por completo la innovación, sino introducir una pausa razonable que permita distinguir entre los usos beneficiosos de la IA y aquellos que pueden generar riesgos sociales, económicos o políticos. Stewart defiende que la evaluación de estas herramientas debe preceder a su adopción masiva, especialmente cuando afectan a decisiones relevantes para la ciudadanía.

Una tecnología que avanza más rápido que su regulación

La inteligencia artificial generativa ha pasado en pocos años de ser una herramienta especializada a integrarse en buscadores, oficinas, centros educativos, servicios sanitarios y plataformas digitales. La velocidad de esta transformación ha dificultado que las instituciones puedan establecer normas comunes y mecanismos de supervisión eficaces.

En este contexto, el matemático advierte de que el desarrollo de la IA no debería quedar únicamente en manos de las compañías tecnológicas. Las empresas tienen incentivos para lanzar productos cada vez más potentes y captar usuarios, pero no siempre disponen de razones comerciales para asumir todos los costes derivados de posibles errores, abusos o efectos no deseados.

La falta de coordinación también puede provocar que cada territorio adopte criterios distintos. Mientras algunos países priorizan la innovación y la competitividad, otros ponen el foco en la privacidad, la seguridad o la protección de los derechos fundamentales. Para Stewart, esta fragmentación complica la respuesta ante sistemas que operan a escala internacional.

Evaluar beneficios y riesgos antes de ampliar su uso

La inteligencia artificial puede aportar mejoras importantes en campos como la investigación científica, el diagnóstico médico, la accesibilidad o la automatización de tareas repetitivas. También puede ayudar a analizar grandes volúmenes de información y facilitar el trabajo de profesionales que necesitan detectar patrones con rapidez.

Sin embargo, los beneficios no deberían ocultar los riesgos. Entre ellos se encuentran la difusión de información falsa, la generación de contenidos manipulados, los sesgos en los modelos y la utilización de datos personales sin suficiente control. También preocupa el impacto de la automatización sobre determinados empleos y la posibilidad de que unas pocas empresas concentren capacidades tecnológicas decisivas.

Una evaluación completa tendría que estudiar no solo si un sistema funciona desde el punto de vista técnico, sino también cómo se utiliza en la vida real. Un modelo puede ofrecer resultados aparentemente correctos y, aun así, perjudicar a ciertos colectivos si se entrena con datos incompletos o reproduce discriminaciones presentes en la sociedad.

Un marco regulatorio sensato y aplicable

La alternativa que plantea Stewart pasa por crear un marco regulatorio sensato, capaz de proteger a la población sin bloquear la investigación. La regulación, en este sentido, debería ser proporcional al nivel de riesgo de cada aplicación. No tendría el mismo tratamiento un asistente para redactar textos que una herramienta utilizada para seleccionar personal, conceder créditos o apoyar decisiones médicas.

Entre las medidas que podrían reforzar la confianza se encuentran la obligación de informar cuando una persona interactúa con un sistema automatizado, la identificación de los contenidos generados por IA y la realización de auditorías independientes. También sería necesario exigir explicaciones comprensibles cuando una decisión automatizada afecte de forma significativa a los derechos de una persona.

  • Supervisión humana en aplicaciones de alto impacto.
  • Controles sobre los datos utilizados para entrenar los modelos.
  • Auditorías técnicas y pruebas de seguridad antes del lanzamiento.
  • Responsabilidades claras para empresas y organizaciones usuarias.
  • Protección reforzada de la privacidad y de la información sensible.

La desaceleración no equivale a rechazar la innovación

La idea de ralentizar el desarrollo de la inteligencia artificial suele generar debate porque puede interpretarse como una amenaza a la competitividad tecnológica. Las compañías temen que una regulación demasiado estricta permita a otros países avanzar con menos restricciones. No obstante, la posición de Stewart se centra en ganar tiempo para tomar decisiones informadas, no en renunciar a las ventajas de la tecnología.

Una pausa selectiva podría servir para establecer estándares comunes, mejorar los sistemas de seguridad y preparar a las instituciones para los cambios que ya está provocando la IA. También permitiría reforzar la educación digital de la ciudadanía y ofrecer formación a los trabajadores cuyas tareas puedan transformarse.

La cuestión principal, por tanto, no es elegir entre innovación y regulación. El desafío consiste en conseguir que ambas avancen juntas. Sin controles, la adopción acelerada puede aumentar los daños y reducir la confianza pública. Con normas claras y revisables, la inteligencia artificial tendría más posibilidades de consolidarse como una herramienta útil y aceptada.

Una decisión con impacto social

El debate sobre el futuro de la IA ya no pertenece únicamente a los laboratorios ni a los departamentos de ingeniería. Sus decisiones afectan al empleo, la educación, la información y la relación de la ciudadanía con las instituciones. Por ello, Stewart defiende que el rumbo de esta tecnología debe definirse con participación de matemáticos, científicos, juristas, empresas, gobiernos y sociedad civil.

La desaceleración que propone representa, en último término, una llamada a la responsabilidad. Antes de permitir que sistemas cada vez más autónomos ocupen un lugar central en la vida cotidiana, resulta necesario comprobar qué beneficios ofrecen, qué riesgos introducen y quién responderá cuando algo falle.

Artículo anteriorStephen A Smith se reconcilia con LeBron James tras el choque