Privacidad y datos en productos con IA: qué pedirle a tu equipo
La privacidad en productos con IA depende de qué datos entran al modelo, cuánto se guardan y si el usuario lo sabe. Guía de diseño, RGPD y AI Act.
¿Qué datos genera realmente un producto con IA?
Cuando alguien escribe un prompt, el dato visible es el texto. Pero casi nunca es el único. Un producto con IA suele generar, como mínimo:
| Tipo de dato | Ejemplo | Riesgo típico |
|---|---|---|
| Prompt | “Resume el contrato de Ana Pérez” | Contiene nombres y datos de terceros |
| Respuesta | Un resumen con cifras | Se copia a otros documentos |
| Historial | Todas las conversaciones de la cuenta | Acumula datos sensibles sin que nadie lo note |
| Adjuntos | PDF, capturas, audios | Metadatos y datos ocultos |
| Contexto recuperado | Documentos internos que el sistema busca | Puede mostrar cosas que el usuario no debía ver |
| Telemetría | Qué botón se pulsó y cuánto tardó | Puede revelar comportamiento íntimo |
Haz este inventario con ingeniería: si no sabes qué se guarda, no puedes explicarlo.
¿Qué pasa con esos datos después?
Hay tres preguntas que cualquier usuario se hace y que el producto debería poder responder: quién lo ve, para qué se usa y cuánto dura. Un estudio de 2026 sobre cinco chatbots de consumo (ChatGPT, Gemini, Claude, Grok y DeepSeek) describe una opacidad estructural: los proveedores pueden reutilizar chats para entrenar, hacer que personas anotadoras los revisen y compartirlos con otros canales. El autor señala que todos los proveedores grandes entrenan con datos de consumo por defecto, y que la mayoría de los usuarios no puede saber quién accede a sus conversaciones ni por cuánto tiempo (IAPP, marzo de 2026).
Para el diseño, esto significa que la configuración de entrenamiento no puede esconderse en un menú de ajustes con tres niveles de profundidad. Debe estar donde la decisión ocurre.
¿Cómo se diseña el aviso sin que nadie lo lea?
El error más común es resolver la privacidad con un texto largo al pie. Un experimento de 2025 con 104 participantes sobre chatbots de atención al cliente encontró que las declaraciones y los sellos de privacidad estáticos no reducían de forma significativa la preocupación de los usuarios (Javadi y Kordzadeh, AIS eLibrary). Otro estudio de 2026 sobre chatbots de entrevista comparó tres condiciones: sin edición, con edición libre de la transcripción y con edición asistida por IA al final. Las personas comparten de más información sensible en estos chats, y la edición asistida redujo la divulgación de datos personales identificables, manteniendo la calidad de los datos y el nivel de engagement (arXiv:2602.01387). Participaron 188 personas en un estudio sobre un tema sensible: es evidencia de dirección, no una garantía para cualquier producto.
Un patrón práctico que sale de estos hallazgos:
- Aviso en el momento de compartir. Una línea junto al campo de entrada: “Lo que escribas puede guardarse en tu historial”.
- Revisión antes de enviar. Si la app detecta un dato sensible (un número de tarjeta, un diagnóstico), muestra un aviso y ofrece editarlo.
- Revisión después de la conversación. Un resumen que el usuario puede corregir o borrar, como en el estudio de entrevistas.
- Controles visibles. Un botón para borrar el historial y otro para desactivar el uso de datos en entrenamiento, ambos fuera de los términos.
¿Qué le toca al diseño y qué al equipo legal?
El diseño no decide la base legal del tratamiento, pero sí decide si el usuario entiende lo que le pedimos. Conviene separar tres decisiones en la interfaz:
- Uso para prestar el servicio. Es necesario para que la función funcione. Se explica en una línea.
- Uso para mejorar el producto. Se pide con una opción clara, no con una casilla marcada por defecto.
- Uso para entrenar modelos de terceros. Requiere un consentimiento específico y reversible. Ver consentimiento para entrenar con datos del usuario.
¿Qué exigen el RGPD y el AI Act?
Si tu producto trata datos de personas en la Unión Europea, el RGPD fija reglas que se traducen en pantallas. Esto no es asesoría legal; sirve para saber qué pedirle al equipo de privacidad.
| Regla | Qué dice | Qué implica en la interfaz |
|---|---|---|
| Art. 5(1)(b) y (c) | Los datos se recogen para fines concretos y se limitan a lo necesario | No pidas ni guardes más de lo que la función usa |
| Art. 5(1)(e) | Se conservan solo el tiempo necesario | Muestra y respeta un plazo de conservación |
| Art. 13(2)(a) | Al recoger datos hay que informar cuánto tiempo se guardarán, o con qué criterio se decide | El plazo aparece donde el usuario escribe, no solo en los términos |
| Art. 7(3) | Retirar el consentimiento debe ser tan fácil como darlo | Si se acepta con un clic, se retira con un clic |
| Art. 17 | Derecho de supresión, por ejemplo si ya no son necesarios o se retira el consentimiento | El botón de borrar existe y funciona |
El AI Act añade, en su artículo 50(1), que los sistemas de IA pensados para interactuar con personas deben informarles de que hablan con una IA, salvo que sea evidente por el contexto. Esa obligación se aplica desde el 2 de agosto de 2026 (artificialintelligenceact.eu). El diseño concreto se trata en avisar que algo lo hizo una IA.
Las reglas cambian por país: para obligaciones concretas, consulta a la autoridad de protección de datos del tuyo y a la persona responsable de privacidad.
¿Qué política de datos tiene el proveedor del modelo?
Antes de diseñar el aviso, averigua qué pasa con los datos en el modelo que usas. Un caso documentado: Anthropic anunció el 28 de agosto de 2025 que en sus planes de consumo (Free, Pro y Max, incluido Claude Code con esas cuentas) la persona elige si permite usar sus chats para entrenar. Si lo permite, los datos se conservan cinco años; si no, rige el plazo de 30 días. Los servicios con términos comerciales (Team, Enterprise, API) quedan fuera de ese cambio (Anthropic). La lección general: el mismo modelo puede tener reglas distintas según el plan, y esas políticas cambian. Lee los términos vigentes de cada proveedor.
Ejemplo
Ejemplo ilustrativo: una app de notas médicas para fisioterapeutas tiene un asistente que resume sesiones. Antes, el aviso estaba en los términos. Al rediseñarla, aparece una línea bajo el campo: “Esta nota se guarda en la historia del paciente y no se usa para entrenar modelos”. Hay un interruptor separado para “Mejorar el asistente con mis notas anonimizadas”, apagado por defecto, con una descripción de qué significa anonimizado. Y al terminar un resumen, la app marca nombres y fechas para que el profesional los revise.
Para ver cómo se ve un consentimiento bien hecho, revisa consentimiento para entrenar con datos del usuario.
Errores comunes
- Dejar el consentimiento de entrenamiento activado por defecto dentro de un paquete de aceptación de términos.
- Prometer “no guardamos tus datos” cuando existe un registro de auditoría o un historial.
- Ocultar el botón de borrar historial en un submenú.
- Mostrar datos de otros usuarios en el contexto que recupera el sistema.
- Tratar la privacidad como un aviso y no como un flujo que cambia según el dato que se comparte.
- Diseñar el borrado como un proceso que no tiene fin claro: el usuario debe saber si lo borrado sale de las copias de respaldo y en qué plazo.
Fuentes
- IAPP, “You Trust Your Chatbot With Everything. Should You?” (resumen del estudio de Théodore Christakis, marzo de 2026): https://iapp.org/news/a/new-study-maps-the-privacy-gap-in-consumer-ai-and-proposes-a-fix
- Javadi y Kordzadeh, “Anthropomorphic Design and Privacy Assurance in Customer Service Chatbots” (Pre-ICIS SIGDSA Symposium, 2025): https://aisel.aisnet.org/sigdsa2025/64
- Li, Xiao y Li, “Disclose with Care: Designing Privacy Controls in Interview Chatbots” (arXiv, 2026): https://arxiv.org/abs/2602.01387
- Texto del RGPD, artículos 5, 7, 13 y 17: https://gdpr-info.eu/art-5-gdpr/, art. 7, art. 13, art. 17
- AI Act, artículo 50: https://artificialintelligenceact.eu/article/50/
- Anthropic, “Updates to our consumer terms” (28 de agosto de 2025): https://www.anthropic.com/news/updates-to-our-consumer-terms