La Inteligencia Artificial, (IA) que no te ve: cuando el futuro se entrena sin ti
O cómo enseñarle a una máquina a ignorar a 1.300 millones de personas
La semana pasada di una charla en la Universidad de Alicante sobre datos, inteligencia artificial y discapacidad. El título era pretencioso y académico como mandan los cánones: ¿Quién entrena a quién? Pero el mensaje era sencillo y bastante incómodo: la IA del futuro se está construyendo sin tener en cuenta a una parte enorme de la humanidad. Esto tiene nombre: se llama sesgo algorítmico, y no es un fallo técnico puntual, es una consecuencia directa de decidir, con prisa o sin pensar, qué datos entran y cuáles no.
Y lo peor no es que sea un problema técnico difícil de resolver. Lo peor es que nadie ha parado lo suficiente para darse cuenta de que existe.
Podéis ver la charla en el enlace de grabación del Día de la Accesibilidad Digital en la UA 2026
«Hazme una foto de alguien usando un ordenador»
Empecemos con algo concreto. Durante la preparación de la charla hice algo muy simple: le pedí a una IA generativa de imágenes que me mostrara una persona usando un ordenador.
El resultado: hombre, blanco, joven, sin gafas, sin silla de ruedas, sin audífono, sin nada que se saliera del molde más estándar posible. Repite el experimento tú mismo ahora mismo y dime qué ves. Spoiler: probablemente lo mismo.
Ahora piensa en esto: ¿cuántas personas usan ordenadores con un pulsador porque no pueden usar el ratón? ¿Cuántas usan lectores de pantalla porque no ven? ¿Cuántas tienen una configuración de escritorio completamente diferente a la que «todo el mundo» usa?
La IA no los ve. Literalmente. Porque nadie los metió en los datos con los que aprendió.
El problema no es la tecnología. Es la prisa.
Aquí viene la parte que más me gusta explicar porque es la que nadie quiere escuchar, el sector tecnológico no está excluyendo a personas con discapacidad por malicia, lo está haciendo por prisa. Y hay una diferencia importante entre las dos cosas, aunque el resultado sea el mismo.
Construir un dataset de calidad (la colección de datos con la que se entrena un modelo de IA) lleva tiempo, dinero y criterio. Requiere preguntarte: ¿a quién estoy incluyendo aquí? ¿Quién falta? ¿Cómo interactúa con la tecnología alguien con movilidad reducida, con dislexia, con sordera?
El resultado de esas decisiones apresuradas tiene nombre: sesgo algorítmico, y sus consecuencias no se ven en los dashboards de métricas, se ven en las personas que el sistema deja de servir.
Esas preguntas no son difíciles, son incómodas porque ralentizan el lanzamiento del producto.
Y en un mercado donde todo el mundo compite por ser el primero, donde los titulares de TechCrunch no dicen «empresa lanza IA equitativa» sino «empresa lanza IA en tiempo récord», adivina qué se sacrifica primero.
La accesibilidad lleva 25 años siendo lo que se añade al final, cuando queda tiempo, si queda tiempo, con la IA, el problema es exactamente el mismo, pero con consecuencias multiplicadas: no estás parcheando una interfaz, estás parcheando el cerebro del sistema. Y eso, una vez entrenado, es carísimo de arreglar.
¿Qué pasa cuando la IA no te conoce?
Algunos ejemplos reales que van más allá de las imágenes generadas:
El reconocimiento de voz que no reconoce tu voz. Los grandes modelos de transcripción y asistentes de voz se entrenaron mayoritariamente con voz de locutores profesionales. Clara, sin disfemia, sin disartria, sin el patrón de habla de alguien con parálisis cerebral. El resultado: una persona que usa un asistente de voz para controlar su entorno domótico (no por capricho, sino porque es su forma de autonomía) obtiene una tasa de error dramáticamente mayor. Google lleva años intentando corregir esto con Project Euphonia, un proyecto específico para recopilar voz atípica. El hecho de que ese proyecto exista es, en sí mismo, la evidencia del problema.
El lector de documentos que no lee tu documento. Los modelos que procesan PDFs y documentos se entrenaron con documentos «bien formados». Los documentos accesibles (con estructura semántica correcta, texto alternativo, etiquetas de navegación) son una minoría en los datos de entrenamiento. Resultado: los sistemas de IA que se usan para resumir, traducir o procesar documentos funcionan peor con los documentos que más necesitan ser procesados correctamente.
El subtítulo automático que falla justo cuando más importa. Un subtítulo automático con un 30% de tasa de error no es una herramienta de accesibilidad. Es una promesa rota. Y si ese subtítulo está en una clase universitaria, en una entrevista de trabajo o en una consulta médica, la promesa rota tiene consecuencias reales.
Si las personas con discapacidad no están en los datos, tampoco estarán en las soluciones
El sesgo de normalidad, o por qué la IA asume que eres como todos los demás
Existe un concepto en psicología llamado normalcy bias: la tendencia humana a asumir que las cosas seguirán siendo normales aunque haya señales de que algo va mal. Por eso la gente no evacúa cuando hay alertas de emergencia. Porque el cerebro dice: esto no me puede estar pasando a mí.
Los sistemas de IA tienen su propio sesgo de normalidad. Asumen que el usuario es el usuario mayoritario. El estándar. El que aparece más veces en los datos. Y cuando alguien que no encaja en ese perfil interactúa con el sistema, el sistema no falla ruidosamente (eso sería detectable), falla silenciosamente, da resultados peores, ofrece menos opciones, no entiende lo que se le pide.
Y nadie lo mide porque las métricas de éxito de los modelos de IA no incluyen «¿cuánto peor funciona esto para personas con discapacidad?» Se mide precisión global, velocidad, coste por consulta. No equidad por subgrupo. Así que el sesgo ni siquiera aparece en los informes de rendimiento.
Esto es, en esencia, lo que los investigadores llaman sesgo algorítmico aplicado a la discapacidad: no un error de cálculo, sino un reflejo de a quién consideramos «normal» cuando construimos tecnología.
Hay soluciones, el problema es que requieren querer aplicarlas.
No escribo esto para que acabes deprimido, escribo esto porque el problema tiene solución y ya hay gente demostrándolo.
- Project Euphonia (Google) lleva años recopilando muestras de voz atípica con voluntarios. Sus modelos reconocen mucho mejor el habla de personas con disartria o disfemia que los modelos estándar.
- VizWiz es un dataset de preguntas visuales generadas por personas ciegas con su móvil. Las fotos son borrosas, mal encuadradas, tomadas en condiciones difíciles. Es decir: son fotos reales. Y los modelos entrenados con ellas funcionan infinitamente mejor para ese caso de uso que los entrenados con fotos de stock perfectamente iluminadas.
- Common Voice de Mozilla es un proyecto de crowdsourcing para construir datasets de voz en múltiples idiomas con diversidad de hablantes. En español está creciendo. Puedes contribuir grabando tu voz ahora mismo.
- El botón de «no me gusta» que nadie usa en serio. Cuando una IA te da un resultado malo y tú lo señalas (con un pulgar abajo, con una corrección, con un «esto no es lo que pedí») estás contribuyendo a su entrenamiento. Se llama aprendizaje por refuerzo con feedback humano, y es uno de los mecanismos principales por los que los modelos mejoran después del lanzamiento. El problema es que si las personas con discapacidad no usan el sistema (precisamente porque funciona mal para ellas) ese feedback nunca llega. El círculo vicioso se cierra solo: el modelo no aprende a servirte porque tú dejaste de usarlo porque el modelo no sabía servirte.
La diferencia entre estos proyectos y los datasets estándar es una sola cosa: alguien tomó la decisión de ir a buscar los datos que faltaban en lugar de usar los que ya existían, no es magia, es criterio y voluntad.
¿Y ahora qué?
Si desarrollas sistemas de IA o trabajas con datos: la próxima vez que uses un dataset, hazte una pregunta honesta. ¿Quién no está aquí? ¿Cómo interactúa con esto alguien con movilidad reducida, con visión reducida, con una forma de hablar diferente a la estándar?
Si usas IA en tu trabajo: pregunta de dónde vienen los datos, no es una pregunta técnica, es una pregunta de responsabilidad.
Si tienes discapacidad, tu forma de usar la tecnología es un dato que el sistema necesita para funcionar contigo. Proyectos como los mencionados arriba necesitan tu participación.
Y si simplemente lees esto y piensas «tiene sentido»: cuéntaselo a alguien que construya tecnología, la presión social también es un mecanismo de cambio.
La IA del futuro no será inclusiva por defecto, será inclusiva porque alguien decidió que lo fuera.
Y esa decisión, hoy por hoy, todavía está disponible.
