Sesgos de la IA en el research: qué se distorsiona y cómo detectarlo

¿Qué tipos de sesgo existen?

Tres tipos aparecen una y otra vez en la evidencia:

Un cuarto caso, menos visible, es el de la precisión desigual: la transcripción o la codificación funcionan mejor para unos grupos que para otros.

¿Qué dicen los estudios?

Cuatro trabajos publicados dan una idea de la escala del problema:

• Representación. Un análisis de más de 1,5 millones de personas ocupacionales generadas por cuatro modelos (GPT-4, Gemini 2.5, DeepSeek V3.1 y Mistral-medium), comparadas con datos de empleo de Estados Unidos, encontró que los modelos generan menos variación demográfica que la realidad y empujan cada ocupación hacia un perfil dominante. Algunas distorsiones son extremas, como empleadas domésticas retratadas casi todas como hispanas.
• Estereotipo. Un estudio de Penn State, presentado en AAAI en enero de 2026, pidió a tres modelos que adoptaran personas definidas por edad, género, raza u ocupación, entre otros rasgos, y comparó más de 1.500 personas con las respuestas de 141 personas reales. Los modelos enfatizaron marcadores raciales y usaron lenguaje estereotipado sobre grupos minorizados más que las personas reales.
• Promedio. Un estudio de Li, Li y Qiu (arXiv, 2025) pidió a GPT-4 y a Llama 3.1 que respondieran preguntas de la encuesta electoral ANES 2020 y halló una homogeneización severa: las opiniones minoritarias quedaban subrepresentadas frente a los datos humanos. Los autores lo atribuyen a que los modelos favorecen la respuesta más probable.
• Precisión desigual. Un estudio de PNAS de 2020 probó cinco sistemas comerciales de reconocimiento de voz (Amazon, Apple, Google, IBM y Microsoft) y midió una tasa de error por palabra de 0,35 para hablantes negros frente a 0,19 para blancos. Los autores lo atribuyen a los modelos acústicos, no al vocabulario. Los sistemas actuales cambian, pero el patrón recuerda que la precisión general oculta diferencias entre grupos.

Para el caso de los usuarios simulados, mira Usuarios sintéticos; para el origen de estos sesgos en los datos de entrenamiento, Sesgos en modelos de IA.

¿Dónde se cuela en tu proceso?

Un mapa de los puntos de entrada en un proceso de research típico:

1. Reclutamiento y personas: el modelo propone perfiles que no representan a tu público.
2. Guion: las preguntas reflejan supuestos del modelo sobre el usuario.
3. Sesión: un moderador de IA puede responder distinto según el acento o el tono del participante.
4. Transcripción: el error puede ser mayor para ciertos hablantes (más en Transcripción y etiquetado con IA).
5. Codificación y síntesis: la mayoría se impone sobre las minorías, y los temas raros se pierden.

Cada punto es una oportunidad de auditar. No hace falta hacer todo a la vez.

¿Cómo lo detectas en tus datos?

Una auditoría básica, que cabe en una tarde:

1. Divide tus participantes por grupos relevantes: edad, región, lengua materna, contexto de uso.
2. Revisa la representación: ¿los perfiles o participantes reflejan a tu público real?
3. Compara la precisión: en una muestra por grupo, mide cuántos errores de transcripción o de codificación aparecen.
4. Compara las categorías: ¿una categoría importante aparece casi solo en un grupo?
5. Documenta el hallazgo: si hay un sesgo, decide si lo corriges con más datos, lo marcas como limitación o cambias de herramienta.

Si una herramienta funciona peor para un grupo, eso es un hallazgo de accesibilidad, no un detalle técnico.

¿Cuándo el sesgo importa más?

• Cuando el research define decisiones de accesibilidad, salud, finanzas o empleo.
• Cuando el grupo afectado tiene poca presencia en los datos de entrenamiento del modelo.
• Cuando el resumen se usa para priorizar y las minorías no aparecen en el resultado.
• Cuando la herramienta se elige por precio y nadie revisó su comportamiento por grupo.

Ejemplo

Ejemplo ilustrativo: un equipo analiza 180 entrevistas sobre el uso de una app de trámites. El resumen de la IA dice que el principal problema es la lentitud. Al auditar por grupo, descubren que las personas mayores mencionan con frecuencia la falta de texto grande, un tema que la síntesis había agrupado como “otros”. Lo que parecía un detalle se convierte en un hallazgo de accesibilidad.

Lo que aprendió: el promedio ocultaba a un grupo entero. Auditar por grupo cambió la prioridad.

¿Qué documentar en el informe?

Un informe que usó IA debe declarar sus límites de representación con la misma claridad con que declara sus hallazgos. Incluye:

• Quién participó y quién no: grupos de edad, regiones, lenguas o contextos que faltan en la muestra.
• Qué partes del proceso usaron IA: personas, transcripción, codificación, síntesis, y en cuál de ellas se auditó.
• Resultados de la auditoría por grupo: precisión de transcripción, categorías que cambian entre grupos y lo que hiciste al respecto.
• Qué no puede concluir el estudio: si un grupo tiene pocos participantes, di que no hay base para generalizar a ese grupo.

Esta sección no resta valor al estudio. Le da a quien lo lee la información para decidir si el resultado aplica a su caso. Un informe que calla sus límites no es más fuerte; solo es más difícil de cuestionar hasta que alguien encuentra el hueco.

¿Cómo elegir una herramienta pensando en el sesgo?

Pide al proveedor su evaluación por grupo, no solo su precisión general. Un número promedio esconde diferencias: una herramienta puede ser excelente para la mayoría de hablantes y mala para un grupo que necesitas. Si el proveedor no puede mostrar resultados por grupo, o solo ofrece una demo grabada por su propio equipo, trátalo como evidencia faltante. Antes de comprometerte, haz tu propia auditoría con una muestra de tus participantes y guarda el resultado en el expediente del proyecto, para que el siguiente equipo sepa qué se probó y con quién.

Errores comunes

• Creer que un resumen automático representa a todos los participantes.
• Confundir “sin sesgo aparente” con “sin sesgo”: a veces no se mide.
• Agrupar a las minorías en “otros” sin revisarlas.
• Corregir el sesgo con un prompt y dar el asunto por cerrado.
• No documentar qué grupos quedaron fuera del estudio.

Fuentes

• Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations (arXiv 2510.21011)
• ChatGPT is not A Man but Das Man: Representativeness and Structural Consistency of Silicon Samples (arXiv 2507.02919)
• Penn State: chatbots overemphasize sociodemographic stereotypes
• Koenecke et al., Racial disparities in automated speech recognition (PNAS, 2020)