Leemos personalidad donde solo hay números: el engaño de los textos generados por IA
La ilusión de inteligencia detrás de los textos automáticos
En los últimos años, la inteligencia artificial (IA) ha irrumpido con fuerza en el terreno de la generación de textos. La capacidad de modelos como GPT para producir textos coherentes, emocionantes o aparentemente creativos ha provocado asombro y también confusión. Sin embargo, la lingüista Emily M. Bender y la socióloga Alex Hanna nos invitan a mirar más allá del brillo superficial con su libro La estafa de la IA. En él, advierten que tras esos textos no hay una mente, sino cálculos matemáticos que generan patrones estadísticos, y que la percepción de una “inteligencia” real es un engaño al que nos someten quienes promueven estas tecnologías.
¿Por qué creemos que una IA tiene “personalidad”?
Cuando leemos un texto escrito por una IA, nuestro cerebro tiende a atribuirle las mismas cualidades que a un ser humano que escribe: intenciones, emociones, criterios. Esta tendencia humana a antropomorfizar —ver rasgos humanos en objetos o procesos inanimados— es poderosa y en la interacción con la IA resulta particularmente efectiva. Pero, como enfatizan Bender y Hanna, esta ilusión se fundamenta en un malentendido esencial:
La IA no “entiende” ni “piensa”, solo calcula
Los sistemas de lenguaje basados en inteligencia artificial no poseen conciencia, ni experiencias ni razonamientos propios. Su funcionamiento se basa en procesar grandes cantidades de texto para identificar patrones estadísticos en las palabras y su contexto. Cuando generan un texto, lo que hacen es seleccionar la siguiente palabra más probable según esas matemáticas complejas, sin que exista un pensamiento real detrás.
Consecuencias de esta confusión
– Subestimaciones sobre las limitaciones de las IA: se espera que produzcan textos veraces o creativos como un humano, cuando en realidad su producción puede ser errónea o inconsistente.
– Riesgos al delegar decisiones en sistemas que no comprenden ni evalúan el contenido de forma real.
– Potencial para desinformación, manipulación o sesgos que permanecen ocultos bajo la apariencia de “inteligencia”.
“La estafa”: una industria que quiere vendernos una ilusión
Bender y Hanna describen la proliferación de promesas y narrativas que presentan a las IA como entidades que “piensan”, “escriben” o “crean” de forma autónoma. Esta imagen contribuye a inflar el interés comercial y la inversión, pero esconde una realidad mucho más compleja y menos glamourosa.
Los autores alertan que esta visión exagerada no solo distorsiona la percepción pública, sino que también favorece a determinados actores económicos que sacan provecho de la expectación tecnológica, mientras no asumen responsabilidades sobre los perjuicios que pueden ocasionar estas herramientas mal comprendidas.
Un llamado a la alfabetización digital real
Para afrontar este panorama, la propuesta clave es educar sobre cómo funcionan realmente estas tecnologías y qué límites presentan. Solo entendiendo que:
– Los textos generados por IA no reflejan una mente ni una personalidad,
– Los modelos pueden reproducir sesgos y errores presentes en sus datos de entrenamiento,
– No deben ser sustitutos de la verificación humana ni del juicio crítico,
podremos aprovechar sus ventajas sin caer en falsas expectativas o peligros.
El papel de periodistas, educadores y usuarios
La responsabilidad no recae solo en las empresas tecnológicas, sino en toda la sociedad. Los periodistas, especialmente, tenemos el deber de informar con rigor, desmontar mitos y denunciar cuando estas herramientas se utilizan de forma irresponsable.
También los educadores deben fomentar un consumo crítico y una comprensión transparente de la IA, especialmente entre las nuevas generaciones que crecerán rodeadas de estas máquinas.
Por último, como usuarios, es vital desarrollar hábitos de lectura y evaluación que no caigan en la trampa de atribuir personalidad o inteligencia real a lo que solo son combinaciones matemáticas.
Claves para interpretar textos generados por IA
– Siempre verificar la información con fuentes confiables.
– Considerar que la fluidez y coherencia no garantizan veracidad.
– Desconfiar de mensajes que apelan demasiado a emociones o sensacionalismos.
– Recordar que la IA no tiene intenciones ni conciencia.
Un futuro con IA más consciente y transparente
El debate planteado por Emily M. Bender y Alex Hanna no busca demonizar a la inteligencia artificial, sino situarla en un marco de realismo y ética. Reconocer el artificio y la limitación detrás de estos textos es el primer paso para desarrollar mejores modelos, diseñar políticas adecuadas y evitar la manipulación.
El desafío es construir una relación con la tecnología basada en el conocimiento y la responsabilidad, en lugar de la fascinación acrítica. Solo así podremos integrar la IA como una herramienta poderosa, pero sin caer en la trampa del “engaño” que hoy denunciamos.
En definitiva:
La IA no tiene mente, solo números. La tarea de quienes informamos y gestionamos información es recordar siempre esta verdad para proteger la calidad del conocimiento y la confianza social.
Referencias:
- Bender, Emily M., y Hanna, Alex. La estafa de la IA.
- Entrevista publicada en El País, 20 de febrero de 2026: Leemos personalidad donde solo hay números.
