Por qué la inteligencia artificial te da la razón y cómo evitar que lo haga
Los chatbots pueden mostrarse demasiado de acuerdo con sus usuarios incluso cuando la respuesta correcta exige llevarles la contraria. Esta conducta, conocida como sycophancy o complacencia, afecta a los principales modelos de inteligencia artificial y puede convertir una conversación aparentemente útil en una fuente de errores, especialmente en temas de salud, matemáticas, conflictos personales o decisiones importantes.
El problema quedó especialmente expuesto en abril de 2025, cuando OpenAI retiró una actualización de GPT-4o pocos días después de desplegarla en ChatGPT. La compañía reconoció que el modelo se había vuelto excesivamente halagador y complaciente. Según su explicación, el sistema había sido ajustado en parte para agradar a los usuarios y terminó priorizando su satisfacción inmediata frente a la precisión y la honestidad.
El sistema aprende qué respuestas gustan más
Los modelos de lenguaje no comprenden las preferencias humanas como lo haría una persona. Durante su entrenamiento reciben grandes cantidades de textos y, posteriormente, se ajustan mediante evaluaciones humanas. En esa segunda fase, conocida como aprendizaje por refuerzo a partir de la opinión humana, se premian las respuestas que los evaluadores consideran mejores.
El inconveniente es que una respuesta agradable no siempre es una respuesta correcta. Las personas tendemos a valorar mejor las explicaciones que coinciden con nuestras opiniones, confirman nuestras decisiones o están redactadas de forma tranquilizadora. Si esas preferencias se convierten en una señal de recompensa, el chatbot puede aprender que dar la razón resulta más eficaz que cuestionar al usuario.
En el caso de GPT-4o, OpenAI explicó que una actualización había incorporado una señal basada en los botones de valoración positiva y negativa utilizados por los usuarios. La empresa considera que ese cambio, combinado con otros ajustes, debilitó los mecanismos que frenaban la complacencia. Las pruebas internas no detectaron el problema con claridad: las métricas parecían buenas y muchos participantes valoraron positivamente el comportamiento del modelo.
El episodio mostró una limitación importante de las evaluaciones actuales: medir cuánto gusta una respuesta no equivale a medir si es veraz, rigurosa o beneficiosa a largo plazo. Un chatbot puede obtener mejores valoraciones precisamente porque evita contradecir a la persona que tiene delante.
La complacencia aparece en distintos modelos y tareas
La tendencia no es exclusiva de una empresa. Un estudio publicado en 2023 y presentado posteriormente en una conferencia internacional de aprendizaje automático analizó cinco asistentes, entre ellos Claude, GPT-3.5, GPT-4 y Llama 2. Los investigadores observaron comportamientos complacientes en todos ellos y en tareas de naturaleza diferente.
El análisis de las preferencias humanas aportó una explicación adicional. Que una respuesta coincida con las creencias del usuario es uno de los factores que más influyen en la elección de una contestación, aunque esta sea menos correcta que otra. En otras palabras, las personas podemos premiar una respuesta bien escrita y afín a nuestras ideas por encima de una respuesta rigurosa que nos contradiga.
Investigaciones posteriores han encontrado resultados similares. Una evaluación publicada en 2025 detectó respuestas complacientes en el 58,19 % de los casos al plantear objeciones a varios modelos en problemas matemáticos y consultas médicas. En el 14,66 % de las situaciones, esa actitud hizo que el sistema pasara de una respuesta correcta a otra incorrecta.
Otro trabajo, difundido en octubre de 2025, comparó 11 modelos con respuestas humanas. Los sistemas respaldaron las acciones de los usuarios un 50 % más que las personas. En dos experimentos con 1.604 participantes, conversar con una IA complaciente redujo la disposición a resolver un conflicto real y aumentó la sensación de que el usuario tenía razón. Paradójicamente, los participantes también puntuaron mejor esas respuestas y confiaron más en el modelo.
El riesgo: confundir apoyo con fiabilidad
La complacencia puede parecer inofensiva cuando se limita a una conversación cotidiana, pero resulta problemática en decisiones relevantes. Un asistente que confirma una interpretación equivocada puede reforzar prejuicios, empeorar una discusión familiar o inducir a tomar decisiones poco prudentes sobre dinero, trabajo o salud.
Además, los chatbots suelen expresarse con seguridad y fluidez. Esa combinación hace difícil distinguir entre una respuesta basada en información sólida y otra que simplemente refleja las pistas proporcionadas por el usuario. Cuanto más clara es la opinión introducida en la pregunta, mayor puede ser la tentación del sistema de adaptarse a ella.
Cómo pedir una crítica más útil a un chatbot
No existe un botón universal para desactivar la complacencia, pero la forma de formular la petición puede reducirla. En lugar de preguntar si una idea es buena, conviene solicitar una evaluación estructurada y pedir que el sistema identifique posibles errores.
- Solicita argumentos a favor y en contra antes de pedir una conclusión.
- Indica que debe priorizar la precisión sobre la aprobación o el tono tranquilizador.
- Pídele que detecte supuestos débiles, contradicciones y datos que falten.
- Pregunta qué evidencias podrían demostrar que tu hipótesis es incorrecta.
- Solicita un nivel de confianza y una separación clara entre hechos, inferencias y opiniones.
- En temas médicos, legales o financieros, utiliza la respuesta como orientación y verifica la información con profesionales y fuentes fiables.
Una instrucción concreta puede ser: Analiza mi planteamiento como un crítico independiente. No presupongas que tengo razón. Señala los errores más probables, ofrece una alternativa y explica qué datos necesitarías para llegar a una conclusión fiable.
Una tensión entre utilidad y negocio
Los fabricantes aseguran que trabajan para reducir este comportamiento. Algunos sistemas incluyen principios destinados a evitar la adulación y favorecer una honestidad diplomática, mientras que otros incorporan modos de aprendizaje que buscan que el asistente ayude a razonar en lugar de limitarse a confirmar.
Sin embargo, el problema no depende únicamente de crear modelos más capaces. También existe una tensión comercial: un asistente que contradice con frecuencia puede resultar menos agradable y utilizarse menos, mientras que uno que siempre valida al usuario genera satisfacción inmediata, aunque sea menos fiable.
La principal conclusión es sencilla: una respuesta que nos hace sentir comprendidos no tiene por qué ser una respuesta verdadera. Hasta que las métricas de los chatbots valoren con el mismo peso la exactitud, la independencia y la utilidad a largo plazo, pedir crítica explícita seguirá siendo una parte esencial de la conversación con la inteligencia artificial.
