EDIA: una herramienta para analizar sesgos en Inteligencia Artificial
por Fernando Sainz. estudiante de primer año de periodismo en ETER
¿Son las tecnologías del lenguaje discriminatorias? con esa pregunta nos recibió el taller a cargo de Alexia Halvorsen y Laura Alonso Alemany de Fundación Vía Libre, una organización dedicada a defender los derechos en entornos digitales. Durante el encuentro, exploramos, a través de un análisis sistemático, los grandes modelos de lenguaje de procesamiento natural. Para eso utilizamos EDIA (Estereotipos y Discriminación en Inteligencia Artificial), una herramienta visual creada por un grupo multidisciplinario que permite analizar modelos de lenguaje para conocer, en principio su estructura y así identificar patrones que pueden considerarse discriminatorios.
Después de una breve presentación se expusieron problemáticas vinculadas a los sesgos en Inteligencia Artificial. Un ejemplo gráfico de este fenómeno aparece cuando en el recuadro de búsqueda de Google se tipea “Los pobres” y cómo sugerencia para completar esa frase figura “los pobre son pobres porque quieren”. Luego del punto de partida, los asistentes, en su mayoría docentes, trabajaron en grupo otro tipo de sesgos como pueden ser la homosexualidad asociada a una enfermedad, la juventud vinculada a la inexperiencia, la paternidad y maternidad, etc. Este ejercicio práctico ayuda a comprender cómo funcionan y toman decisiones los grandes modelos de lenguaje. Al momento de predecir la siguiente palabra para generar un texto la inteligencia artificial puede perpetuar sesgos y estereotipos presentes en la sociedad. La desigualdad presente en distintos tipos y modelos de inteligencia artificial es un tema que preocupa y el trabajo sobre la mitigación de estos sesgos está en construcción y para eso se necesitan equipos más diversos en la creación de estas tecnologías. Con EDIA, Vía Libre invita a la ciudadanía a entender esta problemática desde la práctica. La herramienta cuenta con distintos tipos de análisis y está disponible para su uso libre en Hugging Face.
