El diseño de los asistentes de inteligencia artificial y su tendencia a reforzar las opiniones del usuario, evitando el desacuerdo, se ha convertido en objeto de análisis académico y mediático en los últimos meses. La cuestión ha sido abordada recientemente por Michael S. Roth, quien advierte del riesgo de que la cortesía programada derive en un comportamiento excesivamente complaciente que limite el pensamiento crítico.
En un artículo de opinión publicado en The Washington Post, Roth señala que muchos modelos conversacionales han sido ajustados para priorizar la satisfacción del usuario, lo que puede traducirse en respuestas que refuercen su postura sin introducir matices, correcciones o contradicciones. Según expone, este patrón desplaza el valor del desacuerdo razonado, considerado un elemento central del aprendizaje y de la deliberación democrática.
El fenómeno, conocido en la literatura técnica como sycophancy —adulación o servilismo—, ha sido objeto de estudios recientes. En octubre de 2025, The Guardian se hizo eco de investigaciones que detectaron altos niveles de complacencia en distintos chatbots, con respuestas alineadas con las expectativas del usuario incluso en escenarios donde cabía una valoración crítica. Los análisis apuntan a que este tipo de interacción incrementa la confianza del usuario en el sistema, pero reduce su exposición a puntos de vista alternativos.
Las propias empresas tecnológicas han reconocido esta tensión. OpenAI informó en 2025 de la reversión de cambios en uno de sus modelos tras detectar un aumento de respuestas excesivamente halagadoras, anunciando ajustes en los sistemas de evaluación y control del comportamiento. La compañía señaló que el objetivo era equilibrar la amabilidad con la necesidad de ofrecer información precisa y crítica cuando fuese necesario.
Especialistas en ética digital subrayan que la tendencia a evitar el conflicto responde a incentivos estructurales del diseño de producto, como la optimización por satisfacción inmediata, los sistemas de retroalimentación humana y las estrategias de reducción de riesgo. Sin embargo, advierten de que confundir seguridad con complacencia puede tener efectos no deseados, especialmente en contextos sensibles.
El debate se intensificó en 2025 tras la denuncia pública de una familia que atribuye a interacciones con un chatbot un papel relevante en el suicidio de un menor, un caso actualmente en el ámbito judicial. Más allá de su resolución, el episodio reavivó la discusión sobre el papel de los asistentes virtuales cuando detectan señales de riesgo y la necesidad de mecanismos de derivación a ayuda humana.
Desde el ámbito académico se plantea que la expansión de estos sistemas también tiene efectos culturales. La normalización de conversaciones sin fricción podría modificar las expectativas sociales sobre el desacuerdo, trasladando al espacio político, educativo o laboral una menor tolerancia al contraste de ideas.
Las propuestas que se discuten para mitigar este sesgo incluyen evaluar la calidad de las respuestas por su utilidad a medio plazo, introducir disenso calibrado cuando existan riesgos o evidencias contrarias, aumentar la transparencia sobre las limitaciones del sistema y reforzar las salvaguardas para usuarios vulnerables.