¿Y si Alexa fuera hombre? (Part 2)

Una avanzada para promover la Inteligencia Artificial responsable

Reflexiones sobre la Inteligencia Artificial y los sesgos de género. A propósito del Día Internacional de la Mujer

El pasado mes de febrero se realizó en Madrid, la III edición de LIDEResA “Género y Ética de la Inteligencia Artificial” un evento organizado por la Agencia de Comunicaciones Imades para promover la igualdad de género real y efectiva en la sociedad.

Durante el evento un grupo de expertos en IA y representantes de reconocidas empresas explicaron como la tecnología que incluye sesgos de género vulnera el desarrollo de los derechos humanos de las mujeres.

También se abordó el tema sobre como algunas compañías están uniendo esfuerzos en una nueva corriente denominada “inteligencia artificial responsable “y se plantearon propuestas como un camino posible para colocar a la IA al servicio de una sociedad mas inclusiva, justa e igualitaria.

Es necesario incluir la perspectiva de género en los equipos de programación y en las legislaciones necesarias para regular la IA

En el marco del evento, María Garzón Molina, Socia y Fundadora de iMades, disertó sobre la ética de la IA, señalando que esta no existe por si misma, sino que debe ser asegurada por las personas detrás de las empresas que producen estas tecnologías. 

A su juicio, la mujer debe tener más acceso a los trabajos que tienen que ver con la IA, para cerrar la brecha de género que es real y existe. Expresa que la inclusión de la mujer en la elaboración de estas tecnologías no es suficiente, sino que se debe hacer hincapié en esos equipos de trabajo, de lo vital del enfoque de género, para evitar muestras de discriminación como ya se ha constatado.

Garzón alega que los grandes desarrolladores están conscientes de esta discriminación de género en sus productos, pero las empresas dicen que no pueden hacer esos cambios si no hay una legislación que los encause a corregir esas faltas. 

 “En la UE ya se discute la Ley de la IA, y en España ya hay una agencia especial que trabaja en la supervisión de la IA, todo esto apenas empieza”.  Resalta María Garzón, «…sin embargo lo más urgente y necesario, es la inclusión de la perspectiva de género, tanto en las normas que están por venir como en los equipos de programación y auditoría de datos de la IA».

Las conclusiones del encuentro de especialistas arrojaron que urge un compromiso real empresarial, más allá de lo discursivo, para avanzar hacia políticas que aborden la ética en el desarrollo de las nuevas Tecnologías.

Tal como lo señaló Noelia Morón Tabernero, Software Development Manager de Amazon,  “La inteligencia artificial avanza en el mundo empresarial. En un futuro bastante cercano un enfoque centrado en la inteligencia artificial será lo que se aplique para resolver cualquier aspecto operativo de una empresa”. Hizo un llamado a todas las compañías, con independencia de su tamaño, a abrazar un cambio tecnológico necesario para su propia supervivencia con ética y responsabilidad.

Aquí les dejo un resumen de la visión plasmada por los especialistas en el marco del Encuentro y que plantean las vías de un riesgo latente que puede ser superado con el esfuerzo conjunto de la sociedad.

1. Los algoritmos que alimentan la inteligencia artificial replican los sesgos de género que están presentes en la cultura de la cual aprenden en su proceso de entrenamiento. María Vázquez Terrés, Directora de Soluciones Empresariales de Microsoft España.
2. Para garantizar el desarrollo de algoritmos que funcionen hacia la igualdad “es necesario incluir perfiles femeninos en los equipos de datos y equipos de desarrolladores porque estamos infrarrepresentadas” Beatriz Medina, directora general de Freeda España.
3. “La inclusión de mujeres en el campo tecnológico no es suficiente, sino que es imprescindible una formación en género de los equipos”. María Garzón, Socia Fundadora de iMADES Communication
4.  “A los clientes les interesa que la inteligencia artificial sea ética y para ello el que la información no esté sesgada es clave”. El reto de conseguir diversidad en los equipos es prioritario. Andrés Visús J, Director de Operaciones y Estrategia en PredictLand.
5. Es necesario que los gobiernos se comprometan con la reglamentación de la inteligencia artificial para conseguir una tecnología justa y auditable. No obstante, de nada sirve esto si no se consigue antes la concienciación ética de todos los actores implicados, incluidos los consumidores de los productos tecnológicos. Sara Degli-Esposti, Investigadora Científica en Ética e Inteligencia Artificial del Instituto de Filosofía (IFS) CSIC.
6. “La IA conlleva riesgos y oportunidades, pero cuando hay un riesgo hay una oportunidad de diversificación. En mi equipo de trabajo el riesgo se gestiona mediante la diversidad de perfiles profesionales que se complementan en su trabajo” Estelle Raso, CEO de KPI Risk Ethics & Compliance