El objetivo central del desafío será descubrir nuevos casos de sesgo confirmados para el modelo de procesamiento de lenguaje natural más usado en español (BETO).

A partir de una hipótesis de sesgo detectar en qué herramientas de uso masivo se valida la existencia de dicha hipótesis (por ejemplo: sesgos de género en contextos de profesionales o laborales, antisemitismo, gordofobia, racismo, aporofobia, etc).

Analizar interseccionalidades de sesgo, para ver cómo diferentes dimensiones de la identidad de una persona (como género, raza, orientación sexual, clase social, etc.) pueden combinarse y superponerse para generar formas únicas de discriminación o desigualdad y según como se utilicen la connotación que adquieren.

Investigar y comprender el uso de modelos de lenguaje o word embeddings que se están usando actualmente en sistemas de procesamiento de lenguaje natural, como chatbots de atención al público, motores de búsqueda de portales estatales, herramientas de análisis de texto, etc.

Testear con la herramienta para la detección de sesgos: https://huggingface.co/spaces/vialibre/edia desarrollada para evaluar y analizar el nivel de estereotipos y discriminación presentes en los sistemas de procesamiento de lenguaje natural para el idioma español.

Presentar casos de uso específicos donde se detecten sesgos, proponer soluciones y mejoras para mitigarlos basados en las diferentes opciones manejadas en los talleres previos.

Promover la conciencia sobre los sesgos y estereotipos presentes en sistemas de IA.

Estimular la investigación y el desarrollo de soluciones que contribuyan a reducir la discriminación algorítimica.

Ver cómo los sitios uruguayos trabajan en el área de ética en Inteligencia Artificial.

Puedes participar de forma individual o en un equipo de hasta 3 integrantes.

Descargar Pautas de trabajo y estructura del informe

Cada equipo debe presentar un informe y realizar una presentación de la investigación realizada y como se comporto la herramienta.

- Si tienes dudas puedes plantearlas en el foro de este challenge e intercambiar con otros participantes.

Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore et dolore magna aliqua. Ut enim ad minim veniam, quis nostrud exercitation ullamco laboris nisi ut aliquip ex ea commodo consequat. Duis aute irure dolor in reprehenderit in voluptate velit esse cillum dolore eu fugiat nulla pariatur. Excepteur sint occaecat cupidatat non proident, sunt in culpa qui officia deserunt mollit anim id est laborum.