Por qué las experiencias de IA accesibles necesitan personas en el bucle, buenos diseños conversacionales y límites claros para la tecnología
Toca escribir otro post sobre IA, (Inteligencia Artificial), ese que os comentaba en la newsletter «Cosas Accesibles» que tenía en borrador desde hace unas semanas, así que ahí va.
Durante años, cuando hablábamos de accesibilidad digital pensábamos sobre todo en páginas web, formularios y componentes de interfaz.
Ahora, sin embargo, cada vez más personas interactúan con sistemas de IA: chatbots que atienden, asistentes que recomiendan, paneles que resumen información compleja. La accesibilidad ya no depende sólo de si una página cumple WCAG, sino de si las experiencias de IA que construimos son realmente experiencias de IA accesibles.
Lo interesante es que, en muchos casos, la conversación se queda en el contenido: alt text generado automáticamente, subtítulos que aparecen sin que nadie los escriba, textos “simplificados” con un clic, todo eso suma, pero si dejamos fuera el diseño de la experiencia (cómo se conversa, cómo se navega, cómo se cometen y se corrigen errores) estamos dejando fuera justo la parte donde la IA toca a las personas.
La IA como motor, no como la experiencia
Es fácil caer en la idea de que “la IA” es lo que la persona vive, en realidad, lo que el usuario se encuentra es un flujo de interacción: un widget de chat que se abre, un mensaje que aparece, un conjunto de botones, avisos, tiempos de espera, silencios.
Pensemos en un chatbot de soporte, desde el punto de vista técnico, la pieza protagonista es el modelo que genera respuestas, desde el punto de vista de quien lo usa, la experiencia es otra cosa: cómo se les saluda, si se avisa de que se trata de un sistema automático, si la ventana se puede usar con teclado, si las respuestas son legibles y si existe un camino claro para pedir hablar con una persona.
Aquí es donde la accesibilidad se decide de verdad, un sistema puede tener un modelo potente y seguir siendo inaccesible si el diseño ignora a personas que navegan con lector de pantalla, que tienen dificultades cognitivas o que dependen de tecnologías de apoyo para interactuar.
La IA es el motor. La experiencia la construimos nosotros.
Human in the loop: por qué las personas siguen siendo necesarias
La expresión human in the loop se ha vuelto casi omnipresente, se usa para describir sistemas en los que las personas participan en algún momento clave del proceso: supervisan decisiones, corrigen salidas, validan resultados antes de que tengan consecuencias reales.
Mirado desde la accesibilidad, esta idea deja de ser una buena práctica genérica y se convierte en una condición básica.
Hay cosas que la IA puede hacer muy bien, pero hay otras que requieren juicio humano, contexto y empatía:
- Evaluar si una respuesta es comprensible para alguien que procesa la información de forma distinta, por una cuestión cognitiva o de fatiga.
- Detectar patrones de confusión que los datos no muestran solos: usuarios que abandonan siempre en la misma parte de una conversación, personas que repiten la misma pregunta porque no han entendido la explicación inicial.
- Traducir respuestas técnicamente correctas a instrucciones que realmente funcionan con lector de pantalla, teclado, voz o dispositivos alternativos.
Sin esa presencia humana, los sistemas de IA pueden parecer eficientes, pero su eficiencia se logra al precio de excluir silenciosamente a quien más necesita que la experiencia sea clara y amable.
Guardarraíles: poner límites a lo que la IA puede hacer
Que la IA pueda hacer algo no significa que deba hacerlo. En el mundo de la IA se habla cada vez más de guardrails, esos “guardarraíles” que impiden que el sistema se salga de los límites razonables.
Con accesibilidad en mente, estos límites no son sólo controles técnicos, son decisiones sobre hasta dónde queremos que la IA llegue y en qué momentos debe ceder espacio a las personas.
Podemos imaginar tres tipos de guardarraíles especialmente relevantes:
- En lo que entra: qué datos aceptamos, qué tipo de tareas derivamos a un chatbot, qué interacciones consideramos inapropiadas para un canal conversacional y preferimos resolver con formularios accesibles, atención humana o flujos más estructurados.
- En lo que sale: filtros que examinan las respuestas antes de mostrarlas, buscando si el lenguaje es claro, si la información se presenta en bloques manejables, si se están usando imágenes o vídeos sin alternativas textuales.
- En lo que el sistema ejecuta: límites sobre qué acciones puede llevar a cabo la IA sin consentimiento explícito, especialmente en procesos de riesgo (pagos, cambios de configuración, decisiones legales), donde además la ley exige transparencia y capacidad de recurrir a un humano.
Un ejemplo muy concreto: un asistente de atención al cliente que, por diseño, nunca cierra una cuenta, cancela un contrato o modifica un dato sensible sin una confirmación clara, comprensible y accesible.
El modelo podría hacerlo, pero el guardarraíl establece que esas decisiones las toma siempre la persona, con toda la información delante.
Conversación, interfaz e integración: tres capas de accesibilidad
Cuando hablamos de experiencias de IA accesibles, los chatbots son un caso muy representativo. No basta con que “respondan bien”, su accesibilidad juega en tres capas que se superponen: el contenido de la conversación, la interfaz que la muestra y la forma en que esa interfaz se integra en el producto.[w3]
Contenido: cómo hablamos con las personas
En la capa de contenido, las buenas prácticas parecen sencillas, pero se violan todos los días:
- Utilizar lenguaje claro y frases relativamente cortas.
- Evitar jerga técnica innecesaria o explicarla cuando no haya alternativa.
- Dividir las explicaciones complejas en pasos, en lugar de soltar un bloque enorme que la persona tiene que decodificar.
La IA puede ayudarnos a reescribir, simplificar y estructurar, pero lo que marca la diferencia es qué le pedimos y qué aceptamos como “suficiente”.
Un chatbot puede dar una respuesta correcta y, sin embargo, presentar la información de una forma que hace la vida mucho más difícil a quien tiene menos energía cognitiva disponible para leer.
Interfaz: cómo presentamos esa conversación
La segunda capa es la interfaz donde vive el chatbot: la ventana, los botones, el campo de texto, los mensajes que aparecen y desaparecen.
Aquí entran cuestiones clásicas de accesibilidad:
- Compatibilidad con lectores de pantalla, con roles y anuncios de nuevos mensajes.
- Navegación completa con teclado, incluyendo envío de mensajes sin depender del ratón.
- Control del usuario sobre el ritmo: evitar actualizaciones que desaparecen sin aviso, no imponer tiempos de respuesta que penalicen a quien necesita más tiempo.
Podemos añadir IA en la generación de las respuestas, en la clasificación de las preguntas o en la sugerencia de acciones, pero si la interfaz que envuelve todo eso es inaccesible, el sistema sigue siendo excluyente.
La experiencia de IA accesible empieza por una interfaz alineada con estándares como WCAG, adaptada a tecnologías de apoyo y probada con personas reales.
Integración: dónde y cómo aparece la IA en el producto
La tercera capa es la integración. Un chatbot no vive aislado; forma parte de la arquitectura de un sitio web, una app o una plataforma.
Ahí también puede romper la accesibilidad:
- Si aparece como un pop‑up que bloquea la navegación principal y complica el uso de lectores de pantalla.
- Si se sitúa en lugares inesperados, sin coherencia entre páginas, obligando a reaprender en cada pantalla.
- Si promete acciones que no son accesibles fuera de la propia conversación, por ejemplo, “pulsa el botón azul” en una interfaz que no está etiquetada correctamente.
Diseñar experiencias de IA accesibles significa entender que el chatbot es un actor más dentro de un sistema de diseño. Lo que haga tiene que estar coordinado con el resto de la interfaz, no puede ir “por libre”.
Voz e IA: más allá del texto
La conversación no siempre es textual, muchas experiencias con IA incluyen voz: asistentes que hablan, sistemas de texto a voz que leen contenido, comandos de voz que permiten interactuar.
Aquí la accesibilidad añade otra dimensión.
La voz puede abrir puertas para quien tiene dificultades con la lectura, pero también puede cerrarlas si se utiliza mal.
Es importante cuidar:
- La claridad y el ritmo: permitir que la persona ajuste la velocidad, que pueda pausar y reanudar sin perder el hilo.
- La coherencia en la voz utilizada: cambios bruscos de timbre o acento pueden ser confusos, especialmente en usos prolongados.
- La existencia de texto equivalente: la voz debe complementar, no sustituir al texto; todo lo que se dice tiene que estar disponible de forma visible.
La IA puede generar voces muy naturales, pero los guardarraíles tienen que garantizar que nadie se queda atrapado en una experiencia exclusivamente sonora, sin alternativa clara para quien no puede o no quiere interactuar por voz.
La ley también está mirando estas experiencias
Todo esto no se queda en el terreno de la recomendación ética, en Europa, la AI Act y la Ley Europea de Accesibilidad están haciendo explícito que determinados sistemas de IA deben ser accesibles por diseño, y que chatbots y asistentes tienen obligaciones concretas de transparencia y usabilidad.
En la práctica, eso significa que:
- La accesibilidad deja de ser un “nice to have” y se convierte en un requisito vinculante en contextos de alto riesgo.
- Incluso sistemas de riesgo limitado, como chatbots generalistas, tienen exigencias de transparencia que deben ser perceptibles para todas las personas, incluyendo quienes usan lectores de pantalla.
- Los guardarraíles y la presencia humana en los flujos dejan de ser una cuestión de buen diseño y pasan a ser mecanismos concretos de cumplimiento.
La normativa no resuelve por sí sola el diseño, pero marca una dirección clara: es responsabilidad de las organizaciones asegurarse de que sus experiencias con IA no excluyan a nadie.
Un trabajo de equipo, no de una sola disciplina
Llegados aquí, quizás la conclusión más importante es que diseñar experiencias de IA accesibles no es tarea de un único rol, requiere coordinar diseño de interacción, desarrollo, contenido, legal y personas expertas en accesibilidad para que cada decisión contemple a quienes más se juegan en esas interacciones.
En la práctica, esto se traduce en preguntas compartidas:
- ¿Qué parte de esta experiencia queremos automatizar y qué parte queremos que siga siendo humana?
- ¿Cómo vamos a detectar y corregir errores que afecten de forma desproporcionada a usuarios con discapacidad?
- ¿Qué límites vamos a poner a la IA para evitar que tome decisiones que no deberían salir del ámbito humano?
Cuando equipos enteros se hacen estas preguntas, las personas en el bucle y los guardarraíles dejan de verse como frenos a la innovación, se convierten en la forma más concreta de asegurarse de que la innovación llega a todos, no sólo a quienes se parecen al “usuario estándar” para el que todavía se diseñan demasiados sistemas.
Si la IA va a ayudarnos a llegar más lejos, lo mínimo es asegurarnos de que nadie se queda fuera del camino.
Y eso, en esencia, es diseñar experiencias de IA accesibles: experiencias donde la tecnología nunca viaja sola, sino acompañada por personas, procesos y límites que la mantienen alineada con la responsabilidad que asumimos al ponerla en manos de otros.
