Compartimos lo visto en la charla del 20/09/2023 sobre IA, Ética y Derechos Humanos en la exposición de dos destacadas ponentes: 

• Beatriz Busaniche, Presidente de Fundación Vía Libre. 
• Patricia Díaz Charquero, Miembro de DATA Uruguay y Coordinadora de Datysoc. 

Temas Abordados:

Sesgos en IA.

Se trato cómo los sesgos en los algoritmos de inteligencia artificial pueden tener un impacto significativo en la vida de las personas. Se exploraron ejemplos de resultados, como esto afecta para la creación y la negación de empleo debido a sesgos algorítmicos. Otro ejemplo que se mencionó es el problema de sesgos sociales y cómo pueden manifestarse en los datos de entrenamiento y el procesamiento de lenguaje natural, incluso en lenguajes que no tienen género gramatical.

La charla abordó la discriminación, diferenciando entre discriminación directa, que implica un trato desigual, y discriminación indirecta, que se refiere a prácticas en apariencia neutras pero que tienen un impacto desigual en los derechos de las personas. 

 Se resaltó la importancia de la detección de sesgos en la IA, como se mostró en el proyecto del MIT que expuso sesgos en la tecnología de reconocimiento facial. También se subrayó que a menudo es difícil determinar por qué ocurren estos sesgos. Debido a que el proceso de IA puede ser visto como una "caja negra" en ciertos casos, porque aunque podemos observar las entradas y las salidas del sistema, el funcionamiento interno y la lógica específica de cómo la IA llega a sus decisiones o resultados no siempre es transparente.

Ref.: Buolamwini, J. (2021). Algorithmic Justice League among Fast Company's most innovative companies in artificial intelligence for 2020/2021. Acceso web.

Transparencia Algorítmica.

Se destacó la importancia de la transparencia en los algoritmos de IA y se discutió cómo esta no se limita únicamente al código, sino que también abarca los datos de entrenamiento y el contexto en el que se desarrollan estas herramientas. 

En cuanto a la transparencia algorítmica, se destacó que esta no siempre es suficiente y que también se requiere transparencia en los datos de entrenamiento y en el contexto de creación de la herramienta. La importancia de los comités de ética y la necesidad de regulaciones se resaltaron como elementos clave.

Finalmente, se hizo hincapié en la importancia de realizar evaluaciones de impacto para comprender y abordar los sesgos en IA.
 

Regulaciones sobre Discriminación y Responsabilidad Civil.

Las ponentes proporcionaron información sobre cómo las regulaciones son fundamentales para abordar la discriminación en la IA y la responsabilidad civil de las organizaciones y desarrolladores de estas tecnologías. En el material adjunto van a poder ahondar en esta área.

Dejamos adjunto el material de la presentación.