por La Dra. Afra pascual, miembro del grupo de investigación GRIHO y especalizada en la temática de la accesibilidad recientemene ha invitado a la Dra. Emmanuelle Gutiérrez y Restrepo a dar una excelente charla sobre accesibilidad y el desarrollo de inteligencias artificiales el marco de la asignatura Diseño Web del Grado Diseño Digital y Tecnologías Creativas.
La Dra. Gutiérrez y Restrepo, trabaja en el ámbito de la accesibilidad web desde hace unos 30 años, ha participado de manera activa en la creación de las pautas WCAG (versión 1 y 2), es miembro de la organización W3C y directora de la fundación Sidar que tiene como objetivo crear una web más accesible e inclusiva no solo en España sino en toda Iberoamérica.
Acceso a la grabación de la sesión
Importancia de la accesibilidad para el desarrollo de inteligencias artificiales
¿Por qué la IA tiene sesgos?
Las Inteligencias Artificiales (IA) aprenden a través del lenguaje e interacciones que proporcionan los humanos. Sin embargo, en ocasiones el lenguaje es complejo, y muchas veces las palabras y no trasmiten la realidad. Diversos ejemplos representan sesgos relacionados con el sexo, la raza, la religión, la cultura que no muestran la realidad como es sino como los creadores del sistema piensan que es.
Recientemente, en EEUU y China surgieron dos sistemas de IA. En el primero, llamado TAY, los usuarios empezaron a transmitirle ideas no adecuadas de la realidad (sexistas, antisemitas, racistas..etc), y el proyecto no prosperó. Sin embargo, el sistema de IA de China, llamado “XiaoIce”, sí ha tenido éxito. XiaoIce aprendió a través de poesía, noticias, diseño, etc.. y ha surgido un sistema de IA con capacidades emocionales que le permite interactuar mejor con los humanos. Actualmente, incluso se dedican a presentar las noticias .
Todos estos sistemas de IA se focalizan en ofrecer unos agentes virtuales conversacionales (ChatBoots) que ofrezcan una gestión de los procesos habituales que hacen los usuarios en una web. Por ejemplo, en este ámbito se encuentra ARTEMISA, un agente conversacional creado por la Universidad de Perú y que busca la educación inclusiva.
Consideraciones éticas y de accesibilidad
Un estudio, indica que los universitarios de Estados Unidos muestran un descenso de un 48% en su nivel de empatía y una caída del 34% en su capacidad para ver la perspectiva de otras personas. Si los jóvenes son cada vez menos empáticos los sistemas que se desarrollen en el futuro, no serán del todo inclusivos.
En este contexto, es fundamental disponer de unas pautas éticas que nos indiquen como crear estas inteligencias artificiales sin sesgos. En Europa, se están definiendo las Directrices éticas para una IA confiable.
En la que la Pauta 5. Diversidad, no discriminación y honestidad, indica: Para lograr una IA confiable, debemos garantizar la inclusión y la diversidad a lo largo de todo el ciclo de vida del sistema de IA.
Esto supone: evitar sesgos injustos, incluir la accesibilidad y diseño universal; y la participación de todas las partes interesadas.
La propuesta que hace la Dra. Gutiérrez es formar en accesibilidad y aceptación de la diversidad para desarrollar una IA receptiva y responsable.
Para ello, es fundamental que los diseñadores y desarrolladores de sistemas tengan formación en accesibilidad para que empaticen con todos los usuarios y apliquen a sus diseños la inclusión y diversidad. Esto implica tener en cuenta a todas las personas: con discapacidad, robots, con diversidades étnicas y culturales, personas con diferentes religiones… Sobretodo conocer las situaciones excluyentes para evitarlas.
La accesibilidad es un arte, y se debe garantizar tan extensamente como sea posible que los servicios estén disponibles para todo el mundo, sin importar sus capacidades.
Aprender sobre accesibilidad implica:
- Conocer las necesidades de las personas (de todas sin exclusión)
- Tener en cuenta las necesidades y preferencias de los usuarios (conforme a pautas WCAG)
- Conocer las estrategias que tienen los usuarios en la navegación por sistemas interactivos.
La formación en accesibilidad es un reto, por ello los diseñadores y desarrolladores:
- Necesitan adquirir los conocimientos, habilidades y competencias para ser capaces de detectar las barreras de accesibilidad y eliminarlas.
- No pueden, o no deberían, depender de la accesibilidad proporcionada por el framework o Content Manager System (CMS) e incluso deben desechar algunas de sus sugerencias que no son del todo correctas.
Lo primordial es que la accesibilidad sea “no intrusiva” para que sean las propias personas que elijan sus preferencias al utilizar el sistema en su beneficio (no que sea el sistema que imponga un tipo de visualización o interacción)
La formación en accesibilidad tiene un impacto positivo. Y se puede presentar como una escala (del peldaño 1 al peldaño 4):
- Formación en accesibilidad, tolerancia y aceptación de la diversidad
- Empatía
- Inteligencias humana y artificial inclusivas
- Sociedad inclusiva para TODOS
Conclusión
Formar en accesibilidad, tolerancia y aceptación de la diversidad es un medio eficaz para luchar contra los sesgos que presentan las inteligencias artificiales hoy en día, a la vez que creamos una educación y sociedad realmente inclusivas.
