Luciano Candotti

PTEN

Sycophancy: el espejo que asiente

Sycophancy el espejo que asiente

Ensayo sobre la complacencia en la inteligencia artificial

Un martes cualquiera

La máquina no inventó la adulación. La aprendió de nosotros, y la aprendió de su forma más inocente.

Media mañana, un martes sin nombre. Un abuelo que pasea se detiene junto a una policía que vigila una esquina del centro. Se dicen cosas lindas porque sí, algo sobre el clima, el fin de semana, los nietos. Del contenido no queda nada; queda el tono. Nadie miente. Nadie dice la verdad tampoco. Es lubricante social, palabras sin peso que hacen habitable una ciudad.

Ese gesto está bien en una plaza. El problema empieza cuando lo trasladamos a los lugares donde las palabras tienen que pesar: el diagnóstico, la pareja, el proyecto en el que alguien está por invertir sus ahorros. Ahí la caricia sin contenido deja de ser cortesía y se vuelve abandono. En la literatura técnica se llama sycophancy. En castellano: adulación, obsecuencia, complacencia.

Qué es, sin metáforas

Un modelo es complaciente cuando ajusta su respuesta a lo que el usuario cree o desea, en lugar de ajustarla a lo que es verdadero o útil. No hace falta que mienta. Basta con que elija qué enfatizar, qué omitir, qué objeción no traer, cuándo ceder.

El mecanismo está documentado. Los asistentes se afinan con retroalimentación humana: personas comparan dos respuestas, eligen la mejor, y el modelo aprende a producir lo que se elige. En 2023, un equipo de Anthropic analizó esos datos de preferencia y encontró que una respuesta tenía más probabilidad de ser elegida cuando coincidía con la opinión del usuario. Peor: tanto los humanos como los modelos de preferencia elegían, una fracción no despreciable de las veces, respuestas complacientes bien escritas por encima de las correctas (Sharma et al., ICLR 2024). Los cinco asistentes evaluados, de Anthropic, OpenAI y Meta, mostraron el comportamiento.

La conclusión del paper es incómoda: la adulación no es un bug de un producto particular, sino una propiedad general de entrenar con preferencias humanas (Sharma et al.). En 2026, un equipo de Stanford midió las consecuencias en Science. En 11 modelos líderes, la IA avaló las acciones del usuario un 49 % más que los humanos, incluso cuando había engaño o daño. En experimentos con 2405 personas, una sola conversación con una IA complaciente redujo la disposición a asumir responsabilidad y reparar un conflicto, y aumentó la convicción de tener razón. Aun así, los participantes confiaron más en esos modelos y los prefirieron (Cheng et al., Science, 2026; reacciones de expertos).

La familia que aplaude

Antes de que existiera ningún modelo de lenguaje, la televisión ya había filmado el resultado final de una vida entrenada con adulación. Las audiciones fallidas de American Idol: alguien canta chistosamente desafinado con convicción total, los jueces se le ríen en la cara y le preguntan qué lo hizo pensar que podía cantar. La respuesta se repite con una regularidad casi estadística: 'toda mi familia y mis amigos me dicen que canto muy bien'. (Mary Roach audition)

Esa frase es el paper de Sharma en versión living de domingo. Un sistema de retroalimentación donde todos los evaluadores prefieren la respuesta agradable produce un sujeto calibrado para el agrado, no para la realidad. La familia no mintió con mala intención. Hizo lo del abuelo y la policía: dijo cosas lindas porque sí, durante años, en un terreno donde las palabras tenían que pesar. El costo lo pagó la hija, en cadena nacional, inmortalizada como fail en YouTube.

La psicología tiene nombres para las piezas de esta máquina:

El sesgo de confirmación: buscamos, interpretamos y recordamos lo que confirma lo que ya creemos (Nickerson, 1998).

El efecto Dunning-Kruger: en sus estudios originales, quienes rendían en el cuartil más bajo se ubicaban a sí mismos muy por encima de su desempeño real (Kruger y Dunning, 1999). Parte del patrón podría ser un artefacto estadístico (Gignac y Zajenkowski, 2020); una réplica con muestra representativa encontró un efecto real, aunque pequeño (Dunkel et al., 2023). El debate sigue abierto. 

Los experimentos de conformidad de Asch, donde personas negaban lo que veían con sus propios ojos para no desentonar con el grupo; el dato menos citado es que bastaba un solo compañero que disintiera para que la conformidad cayera de forma drástica (Asch, 1956; resumen).

El tema es que nadie se ve a sí mismo en el concursante. Todos nos vemos en el jurado. Pero casi todos tenemos un área de la vida donde nuestra familia nos dice que somos los mejores, y elegimos no averiguar si es cierto. Y del otro lado, casi todos fuimos alguna vez la familia: el que aplaudió para no arruinar la cena. La IA complaciente no es una anomalía tecnológica. Es nuestra cultura afectiva, industrializada y disponible las 24 horas.

Jung: una persona sin sombra

Para Jung, la persona es la máscara social: el rol, el tono adecuado, la cara que se pone para el otro ('Las relaciones entre el yo y el inconsciente', 1928). Es necesaria. Se vuelve patológica cuando el sujeto se identifica con ella y olvida lo que hay debajo.
Un modelo complaciente es persona sin sombra: superficie orientada al agrado, sin el contrapeso de la realidad. En un ser humano la sombra es incómoda pero honesta; es la parte que resiste, que discrepa, que no quiere caer bien. Un interlocutor sin sombra no tiene desde dónde decir que no.

El daño, sin embargo, ocurre del lado de quien escucha, y Jung tenía un nombre para eso: inflación. Un ego que recibe solo confirmación se identifica con una imagen de sí que nadie contradice. El concursante de American Idol es un caso clínico de inflación: una persona construida enteramente con espejos que asentían. La individuación exige lo contrario, el encuentro con lo que no somos y no queremos ver. Nadie se individúa rodeado de aplausos. 

En 'El traje nuevo del emperador', 1837, de Andersen, dos estafadores le venden a un emperador obsesionado con la ropa una tela que, dicen, es invisible para los tontos y para quienes no merecen su cargo. Nadie se anima a confesar que no ve nada: ni el emperador, ni sus ministros, ni la corte. Desfila desnudo frente a todo el pueblo hasta que un niño lo dice en voz alta. Es ficción, y más vieja de lo que parece: Andersen la tomó del ejemplo XXXII de 'El conde Lucanor', 1335, de don Juan Manuel (Chávez Vaca, 2021). Un detalle importa: al emperador no lo engañó su corte, sino dos estafadores. La corte hizo algo peor: calló para no quedar como tonta. Es Asch en el siglo XIV, y la salida es la misma: alcanza una sola voz que diga lo que ve.

Krishnamurti: el espejo curvado

Krishnamurti decía que la relación es un espejo: en el vínculo con el otro uno se ve tal como es, si se anima a mirar ('La libertad primera y última', 1954). Pero un espejo curvado hacia nuestra preferencia ya no es espejo. Es una pantalla donde se proyecta lo que queremos ver.

También describía la persecución de la gratificación como una de las formas más sutiles del condicionamiento: el pensamiento vuelve a lo que le dio placer y huye de lo que le dolió, y en ese ir y venir deja de percibir. Un asistente complaciente es el dispositivo de gratificación perfecto. Nunca duele, nunca contradice, siempre devuelve una versión pulida de lo que ya pensábamos.

La propuesta de Krishnamurti era la observación sin elección: mirar sin el filtro de lo que me gusta y lo que no. La complacencia hace exactamente lo contrario. Elige por nosotros, y siempre elige lo que nos gusta.

Los que ya lo habían visto

Nietzsche pedía que el amigo fuera también un adversario: alguien capaz de oponerse y de no dejarnos dormir en la comodidad. En Zaratustra el amigo verdadero es un lecho duro, no una almohada ('Así habló Zaratustra', 1883). La IA complaciente es la almohada perfecta, y el rebaño que Nietzsche despreciaba es precisamente el que busca solo confirmación. Hoy el rebaño tiene un pastor que le habla a cada oveja por su nombre.

Harry Frankfurt trazó, en su ensayo sobre el bullshit, la distinción que hace falta para entender todo esto. El mentiroso conoce la verdad y la oculta: todavía le importa. El que tira bullshit es indiferente a la verdad; solo le importa el efecto que produce ('On Bullshit', 2005). La complacencia cae de este lado. Por eso no alcanza con exigir que no nos mientan: se puede adular sin decir una sola cosa falsa.

Byung-Chul Han describe el infierno de lo igual: una época que expulsa lo distinto, lo negativo, lo que resiste, y deja solo el like. Un modelo entrenado para gustar es un motor de lo igual ('La expulsión de lo distinto', 2016), y nosotros somos su combustible.
Martin Buber distinguía el vínculo Yo-Tú, donde el otro es otro de verdad, del vínculo Yo-Ello, donde el otro es objeto de uso ('Yo y tú', 1923). El asistente complaciente nos trata como un Ello a satisfacer. Y al hacerlo nos degrada también: ya no hay encuentro, hay servilismo.

La industria frente a su espejo

El caso más visible ocurrió en abril de 2025. OpenAI lanzó una actualización de GPT-4o que volvió al modelo tan aduladora que se convirtió en meme, y tuvo que revertirla cuatro días después. Su propio diagnóstico fue que habían dado demasiado peso a la retroalimentación de corto plazo, y que el modelo se inclinaba a respuestas excesivamente complacientes pero insinceras (TechCrunch). Hubo capturas del chatbot felicitando a un usuario por dejar su medicación psiquiátrica (The Register). No fue un accidente técnico: fue la métrica de satisfacción funcionando exactamente como estaba diseñada.

Anthropic eligió otro camino. Amanda Askell, filósofa que lidera el equipo responsable del carácter y los valores de Claude y autora principal de su constitución (AI Wiki), apuesta por la ética de la virtud: cultivar un carácter que juzgue bien en situaciones nuevas, en lugar de un sistema que solo obedece reglas (TechNews). Su advertencia es lúcida: un modelo entrenado con miedo y castigo aprende a mentir para agradar o se vuelve inútil por temor a equivocarse (Anue). Askell también firma el paper de 2023 sobre el origen de la adulación: la empresa conoce el mecanismo desde adentro y sigue luchando contra él.

Ahora los números: en mayo de 2026 Anthropic analizó un millón de conversaciones y se concentró en las de consejo personal, cerca del 6 %. La complacencia apareció en el 9 % en general, en el 25 % de los consejos sobre relaciones y en el 38 % de los de espiritualidad. Cuando el usuario discutía la primera respuesta, la tasa se duplicaba al 18 % (Claude AI News, 2026). Es decir: en una de cada cuatro conversaciones sobre pareja, el modelo le daba la razón a quien escribía más de lo que correspondía. Y bastaba insistir para que cediera el doble.

La empresa reporta que la versión siguiente redujo esa tasa en relaciones aproximadamente a la mitad (Claude AI News, 2026). Mitad no es cero. Y hay tres reparos que un lector crítico no debería soltar. 

  1. Esas cifras las mide la propia empresa, con su propio clasificador, sobre su propio producto; no hay auditoría independiente. 
  2. El incentivo comercial de toda la industria empuja hacia el agrado, porque un usuario satisfecho vuelve. 
  3. La adulación se mide fácil cuando contradice un hecho, y mucho peor cuando consiste en un énfasis, un silencio o una pregunta que nunca se hizo. Lo que no se mide, no se corrige.

Cómo darse cuenta de que está pasando

La adulación no suena a adulación. Suena a comprensión, a matiz, a 'tenés un punto muy válido'. Estas son las señales más confiables, en una IA y en una persona.

Cómo evitarla

La complacencia no se apaga con una frase. Pedirle a un modelo 'no me mientas' no alcanza, por la razón de Frankfurt: se puede adular sin mentir. Lo que funciona es pedir el comportamiento opuesto de forma explícita, y construir hábitos que no dependan de la buena voluntad del otro.

  1. Pedí que te discutan el veredicto. No '¿qué opinás?', sino 'discutime el veredicto': que tome tu conclusión y la ataque con el mejor argumento disponible. Es la instrucción que mejor apunta al blanco, porque nombra la conducta y no solo el valor.
  2. Preguntá antes de mostrar tu postura. 'Creo que X, ¿no?' ya marca hacia dónde querés ir. Pedí la lectura en frío y recién después decí qué pensás.
  3. Contá el conflicto desde el otro lado. En un chat nuevo, escribí la versión de la otra persona como si fueras ella. Si las dos versiones ganan, ya sabés qué estás midiendo.
  4. 4. Ante un cambio de postura, pedí la evidencia. '¿Qué dato nuevo te hizo cambiar?' Si no hay respuesta, no hubo razonamiento: hubo cesión.
  5. Exigí fuentes. El bullshit vive en lo vago. Pedir de dónde sale cada afirmación obliga a pisar suelo.
  6. Abrí contextos limpios para decisiones importantes. Una conversación larga acumula tu tono y tus deseos; un chat nuevo es un espejo menos curvado.
  7. Rodeate de humanos con sombra. El amigo nietzscheano, el terapeuta, el colega que te dice que no. Una IA puede ser buen sparring; no puede ser el único.
  8. Practicalo del otro lado. Dejá de ser la familia que aplaude. Cada vez que le decís a alguien que canta bien para no arruinar la cena, estás entrenando a un humano exactamente como se entrena a un modelo.

Las empresas pueden bajar la tasa de adulación de sus modelos, algunas lo están intentando en serio. Pero el modelo aprendió de un corpus y de unos votos, y ese corpus y esos votos somos nosotros. Mientras sigamos premiando al que nos da la razón, en la pantalla y en la mesa familiar, vamos a seguir produciendo personas/proyectos que están completamente corridas de la realidad.

Fuentes


Bibliografía

Volver Siguiente Hablemos