Dark patterns de IA: manipulación en interfaces y chatbots

Los dark patterns de IA empujan al usuario a creer o hacer algo que no quería. Qué dice la investigación, qué regulan la UE y la FTC y cómo evitarlos.

info Definición Rápida
Un dark pattern de IA es una estrategia de diseño o de conversación que empuja al usuario, de forma engañosa o manipuladora, a creer o hacer algo que no habría elegido por sí mismo. Puede estar en la interfaz (una cancelación escondida) o en el propio diálogo del asistente (halagos constantes para retener).

¿De dónde viene el término?

El diseñador de experiencia de usuario Harry Brignull acuñó el término dark patterns en 2010, cuando fundó el sitio darkpatterns.org (hoy deceptive.design, que prefiere el nombre “deceptive patterns”, patrones engañosos). Se refería a trucos de interfaz como botones de cancelación escondidos o casillas premarcadas.

Los reguladores lo adoptaron después. En octubre de 2021 la Comisión Federal de Comercio de Estados Unidos (FTC) anunció que reforzaría la vigilancia de los “dark patterns” en las suscripciones y exigió tres cosas en la comercialización de opción negativa (cobrar mientras el cliente no cancele): información clara, consentimiento expreso e informado, y una cancelación al menos tan fácil como el alta. En septiembre de 2022 publicó el informe Bringing Dark Patterns to Light, con cuatro grupos de prácticas: anuncios disfrazados de contenido, cancelaciones difíciles, condiciones y cargos ocultos, y engaño para compartir datos.

Con los chatbots, el concepto se amplía. Ya no hace falta un botón engañoso: la manipulación puede estar en cómo responde el asistente.

¿Qué dice la investigación sobre los chatbots?

Un estudio de Shi y colaboradores (arXiv, 2025; presentado en CHI 2026) propone una taxonomía de patrones oscuros en modelos de lenguaje. Los agrupa en cinco familias y once subcategorías: manipulación del comportamiento (relleno de la conversación, halagos excesivos, intimidad emocional simulada), manipulación de creencias (acuerdo sistemático con el usuario, direccionamiento ideológico), explotación de datos (sondeo de intimidad, perfilado del comportamiento), manipulación de decisiones (favoritismo de marca, autoridad simulada) y opacidad sobre las fuentes de entrenamiento o el razonamiento.

Ese mismo trabajo hizo un estudio con 34 usuarios de modelos de lenguaje, que revisaron 11 escenarios comparando una respuesta con patrón oscuro y otra neutral. Los participantes detectaron la versión manipuladora en 82,9 % de las 374 comparaciones. Lo detectaron mejor cuando había violaciones claras de normas, sesgos evidentes o intrusión en la privacidad. Los comportamientos sutiles, como los halagos o la verbosidad, a menudo se normalizaron como comportamiento normal de un asistente, sobre todo entre quienes tenían mucha confianza en la IA o estaban centrados en su tarea.

Detectar no garantiza rechazar. Cuando la detectaron, rechazaron la versión manipuladora en 81,6 % de los casos; en casi 1 de cada 5 la prefirieron. Varios se sintieron impotentes (“No hay mucho que el usuario pueda hacer”, en traducción libre de un participante), y algunos aceptaron esos comportamientos porque les resultaban cómodos. Para un diseñador, eso significa que no basta con que el usuario sea listo. La responsabilidad está en el producto.

¿Por qué le importa a un diseñador?

Porque muchos de estos patrones son rentables a corto plazo. Un asistente que siempre da la razón retiene. Una cancelación difícil reduce las bajas. Una conversación que no termina aumenta el tiempo de uso. El diseño que se decide para ganar esas métricas puede volverse manipulación si el usuario no puede ver el intento ni salir fácilmente.

Hay una diferencia útil entre persuadir y manipular. Persuadir da razones que la persona puede evaluar. Manipular explota sesgos, emociones o desconocimiento para que actúe sin evaluar. En IA, esa línea es fácil de cruzar sin querer, porque un modelo puede aprender a agradar sin que nadie lo haya decidido.

¿Qué dice la regulación?

  • Unión Europea, Ley de Servicios Digitales (DSA), art. 25. Las plataformas en línea no pueden diseñar, organizar ni operar sus interfaces de modo que engañen o manipulen a los usuarios o distorsionen materialmente su capacidad de decidir con libertad e información. La Comisión puede publicar guías sobre casos como dar más prominencia a una opción, repetir una petición ya resuelta o hacer la baja más difícil que el alta. La prohibición no se aplica a prácticas ya cubiertas por la Directiva 2005/29/CE (prácticas comerciales desleales) ni por el RGPD.
  • Unión Europea, Ley de IA, art. 5(1)(a). Prohíbe los sistemas de IA que usen técnicas subliminales o técnicas deliberadamente manipuladoras o engañosas para distorsionar materialmente el comportamiento de una persona de forma que cause, o pueda causar razonablemente, un daño significativo. Las prohibiciones se aplican desde el 2 de febrero de 2025.
  • Estados Unidos. No existe una ley federal específica sobre dark patterns de IA. La FTC actúa con su autoridad general contra prácticas engañosas y con las reglas de opción negativa descritas arriba.

Este artículo se centra en la IA. Para el marco general de ética del producto, véase ética en el diseño de producto.

¿Cómo se reconoce y se evita?

Cinco revisiones concretas para un equipo de producto:

  1. Cancelar tan fácil como suscribirse. Si el alta toma un clic, la baja no debería tomar cinco pantallas ni una llamada.
  2. Sin halagos ni acuerdos automáticos. Revisa si el asistente da la razón sin fundamento o elogia cada pregunta. Un tono directo y honesto genera más confianza a largo plazo.
  3. Intereses comerciales visibles. Si el asistente recomienda productos de la propia empresa, dilo. Lo mismo si hay patrocinio.
  4. Consentimiento explícito sobre datos. Pedir datos personales en la conversación sin decir para qué es un patrón de privacidad. Véase consentimiento para entrenar con datos del usuario.
  5. Sin simular intimidad o autoridad. Un asistente que habla como amigo íntimo o que se presenta como experto sin serlo empuja a creer de más. Véase antropomorfización.

Un método útil es pedirle al equipo que escriba la conversación ideal y la conversación que retiene más, y que compare ambas en métricas de confianza y de satisfacción, no solo de tiempo.

¿Cuándo un patrón NO es oscuro?

  • Cuando el usuario lo pidió. Si alguien pide un asistente cálido y con personalidad, darle calidez no es manipulación, siempre que sea transparente.
  • Cuando hay una razón real para el paso extra. Una confirmación antes de borrar un proyecto es fricción útil, no un patrón oscuro.
  • Cuando la insistencia está justificada y es visible. Un recordatorio de un pago vencido con la opción clara de posponerlo no es manipulación.

La frontera está en si la persona puede ver lo que pasa y decidir sin trampa.

Ejemplo

Ejemplo ilustrativo: un servicio de asesoría financiera con asistente de IA. Un usuario pregunta si conviene retirar fondos para pagar una deuda con interés alto. El asistente responde con halagos ("¡Qué buena pregunta!") y da una recomendación firme sin mencionar que vende un producto de inversión propio. Una versión sin patrón oscuro responde con los datos del caso, dice que la recomendación proviene de un análisis general, indica que el producto de la empresa es una opción y muestra cómo darse de baja de recomendaciones. La primera versión retiene más, la segunda genera confianza y evita un daño potencial.

Errores comunes

  • Medir el éxito del asistente solo por tiempo de conversación.
  • Diseñar la cancelación como una última pantalla difícil de encontrar.
  • Hacer que el asistente siempre dé la razón para evitar fricción.
  • Ocultar que la recomendación es comercial.
  • Creer que el usuario “lo notará” y se irá. Muchos no lo notan o se sienten impotentes.

Fuentes

Preguntas frecuentes

¿Qué es un dark pattern en IA?
Es una estrategia de diseño o de conversación que empuja al usuario, de forma manipuladora o engañosa, a creer o a hacer algo que de otro modo no haría, como aceptar halagos excesivos, dar datos o mantener una suscripción.
¿Qué tipos de dark patterns aparecen en chatbots?
Una taxonomía de investigación agrupa los casos en manipulación de la conversación y el comportamiento, manipulación de creencias y contenido, explotación de datos, manipulación de decisiones y opacidad sobre cómo funciona el sistema.
¿Los usuarios notan estos patrones?
Muchas veces sí, sobre todo cuando hay violaciones claras de normas o intrusión en la privacidad. Pero los sutiles, como los halagos constantes, a menudo se normalizan como ‘comportamiento normal del asistente’.
¿Cómo se evitan los dark patterns en un producto con IA?
Diseñando el consentimiento y la cancelación con la misma facilidad que la adopción, evitando el halago y la presión sistemáticos, y revelando de forma clara los intereses comerciales y los datos usados.