Checklist de IA responsable para diseñadores: qué revisar antes de lanzar

Checklist práctica para diseñadores de features de IA: datos, expectativas, errores, control y transparencia, más las normas clave (AI Act, NIST, ISO 42001).

info Definición Rápida
Una checklist de IA responsable es una lista de preguntas que el equipo responde antes de lanzar una feature de IA. Su objetivo es encontrar los riesgos de diseño mientras todavía son baratos de corregir, no después de que un usuario los encuentre.

¿Por qué una checklist y no solo principios?

Los principios de IA responsable son fáciles de estar de acuerdo y difíciles de aplicar. “Ser justos” o “ser transparentes” no le dice a nadie qué cambiar en la pantalla. Una checklist traduce cada principio en una pregunta concreta que alguien del equipo puede responder con evidencia.

Las guías de diseño de referencia van en esa dirección. El People + AI Guidebook de Google está organizado en capítulos que siguen el flujo de desarrollo de producto, y cada uno viene con una hoja de trabajo para convertir la guía en acciones (Google PAIR, People + AI Guidebook). Microsoft, por su lado, organiza su HAX Toolkit en guías, biblioteca de diseño, patrones, workbook y playbook para explorar fallas comunes antes del lanzamiento (Microsoft HAX Toolkit, Acerca de). La checklist de abajo es una síntesis práctica de esos enfoques, no una norma oficial.

¿Qué hay que revisar antes de lanzar?

1. Necesidad y alcance

  • ¿La IA resuelve un problema que el usuario tiene, o solo muestra que tenemos IA?
  • ¿Qué pasa si no usamos IA? ¿La alternativa sigue siendo aceptable?
  • ¿Qué decisiones toma el usuario y cuáles toma el sistema?

2. Datos

  • ¿Qué datos entran al modelo, incluidos adjuntos, historial y contexto recuperado?
  • ¿El uso para entrenar está separado del uso para prestar el servicio? Ver consentimiento para entrenar con datos del usuario.
  • ¿Sabemos cuánto tiempo se guardan y quién puede verlos?

3. Expectativas

  • ¿La interfaz indica que es una IA y que puede equivocarse?
  • ¿Se muestran límites concretos, como la fecha de corte del conocimiento o la falta de acceso a ciertos datos?
  • ¿El tono hace creer algo falso sobre lo que la IA sabe o siente? Ver antropomorfización.

4. Errores

  • ¿Cómo se detecta un error, y qué pasa cuando el sistema no lo detecta?
  • ¿El usuario puede corregir el resultado en el lugar, sin rehacer la tarea?
  • ¿Hay deshacer para cualquier acción que la IA ejecute? Ver errores de IA y recuperación.

5. Control

  • ¿El usuario puede detener, editar o rechazar la respuesta en cualquier momento?
  • ¿Las acciones de alto impacto piden confirmación antes de ejecutarse?
  • ¿Existe un camino a una persona cuando la IA no alcanza?

6. Accesibilidad

  • ¿Un lector de pantalla anuncia los estados de generación sin repetir toda la respuesta? Ver accesibilidad en interfaces de IA.
  • ¿Hay alternativa al color para indicar confianza o advertencias?

7. Medición

  • ¿Qué significa que la feature funciona bien, y qué métrica indicaría que está causando daño?
  • ¿Quién revisa los casos fallidos, y con qué frecuencia?

¿Qué leyes y normas conviene tener a la vista?

La checklist no es una norma, pero se apoya en marcos que sí lo son. Estado a noviembre de 2026:

  • Reglamento de IA de la UE (AI Act). Entró en vigor el 1 de agosto de 2024 y su aplicación general empezó el 2 de agosto de 2026, con las reglas de transparencia incluidas. La reforma conocida como “AI Omnibus”, en vigor desde el 27 de julio de 2026, aplazó las obligaciones de alto riesgo al 2 de diciembre de 2027 (sistemas de las áreas del Anexo III) y al 2 de agosto de 2028 (productos regulados, Anexo I) (Comisión Europea).
  • NIST AI RMF 1.0. Marco de uso voluntario publicado el 26 de enero de 2023, con las funciones Govern, Map, Measure y Manage. Existe un perfil para IA generativa (NIST-AI-600-1, 26 de julio de 2024), y NIST indica que el marco está en revisión (NIST).
  • ISO/IEC 42001:2023. Publicada el 18 de diciembre de 2023, especifica requisitos para establecer y mantener un sistema de gestión de IA dentro de una organización (IEC Webstore).

Si el producto se ofrece en la UE, qué obligaciones aplican depende del caso. Esa pregunta es para el equipo legal.

¿Cómo se usa sin volverla un trámite?

Tres reglas simples:

  • Responde con evidencia. “Sí” sin una prueba no cuenta. Cada respuesta debe apuntar a una pantalla, un texto o un dato concreto.
  • Marca lo que no sabes. Una pregunta sin respuesta es un riesgo abierto, y debe tener dueño y fecha.
  • Revísala en cada cambio importante. Un nuevo modelo o una nueva fuente de datos puede cambiar casi todas las respuestas.

Ejemplo

Ejemplo ilustrativo: un equipo diseña un asistente que sugiere respuestas a correos de clientes. Al revisar la checklist, descubren que el asistente guarda los borradores aunque el usuario no los envíe (punto 2), que no hay forma de deshacer un envío automático (punto 5) y que el texto de sugerencia dice “Te recomiendo esta respuesta” sin indicar que es generada (punto 3). Los tres cambios son pequeños: un aviso de borrador, una confirmación antes de enviar y una etiqueta visible de “Sugerido por IA”. Ninguno requiere rehacer la feature.

Cómo aplicarlo mañana

  1. Copia la checklist en un documento compartido y asigna un responsable por sección: diseño, ingeniería, legal o producto.
  2. Responde las siete secciones en una sola sesión de una hora. Lo que no se puede responder en esa hora pasa a una lista de riesgos abiertos, con dueño y fecha.
  3. Para cada “sí”, pega el enlace a la pantalla, al texto o a la prueba que lo demuestra. Si no hay enlace, cambia la respuesta a “no”.
  4. Antes de cada lanzamiento, revisa solo lo que cambió desde la última vez. Si cambió el modelo o la fuente de datos, revisa las siete secciones completas.

Con este ritmo, la checklist deja de ser un trámite y se convierte en una conversación corta que el equipo repite.

Errores comunes

  • Usar la checklist una sola vez, al final del proyecto.
  • Responderla solo el equipo de diseño, sin ingeniería ni legal.
  • Marcar “sí” en todo sin mostrar evidencia.
  • Tratar la privacidad y la transparencia como un texto legal y no como parte del flujo.
  • Olvidar los casos de fallo en la lista, porque el equipo solo prueba el camino feliz.
  • Creer que una checklist aprobada significa que la feature es responsable para siempre.

Fuentes

Preguntas frecuentes

¿Qué es una checklist de IA responsable?
Es una lista de preguntas que el equipo responde antes de lanzar una feature de IA, para revisar datos, expectativas, errores, control del usuario y transparencia.
¿Quién debe usar la checklist?
Diseñadores, product managers e ingeniería juntos. Muchas respuestas dependen de decisiones técnicas, como qué datos se guardan o qué tan confiable es el modelo.
¿Cuándo conviene revisar la checklist?
Al inicio, para definir el alcance, y otra vez antes del lanzamiento y después de cada cambio importante de modelo o de datos, porque el riesgo cambia con ellos.
¿La checklist sustituye una evaluación legal?
No. Sirve para detectar riesgos de diseño y preguntas para el equipo legal o de privacidad, pero no determina obligaciones regulatorias.