Identificar y analizar sesgos presentes en modelos de lenguaje natural utilizados en el análisis de noticias y redes sociales.

Evaluar cómo estos sesgos impactan la detección de noticias falsas y la desinformación.

Proponer estrategias para mitigar los sesgos detectados y fomentar un uso más ético de la IA.

Aplicar herramientas de PLN para analizar textos y evaluar tendencias de sesgo en el contexto uruguayo.

Pauta de trabajo:

• Portada:
  • Título del informe.
  • Nombre de los integrantes del equipo y carrera.
  • Fecha de presentación.
• Resumen:
  • Objetivos, metodología y principales resultados.
• Introducción:
  • Presentación del desafío y contexto.
  • Objetivos del informe.
• Fundamentos teóricos y éticos:
  • Definiciones clave: sesgo, estereotipo, discriminación algorítmica.
  • Importancia de abordar la IA desde una perspectiva ética.
• Metodología:
  • Descripción de la metodología empleada.
  • Herramientas y datasets analizados.
• Caracterización de sesgos:
  • Evaluación de sitios uruguayos en términos de sesgos algorítmicos y noticias falsas.
  • Análisis de noticias falsas, sesgos y estereotipos detectados.
• Resultados y soluciones:
  • Presentación de los hallazgos y ejemplos concretos.
• Propuestas para mitigar los sesgos:
  • Cómo consideran debería desarrollarse un clasificador.
  • Uso de herramientas existentes: por ejemplo, Hugging Face - EDIA.
  • Interseccionalidad del sesgo.
  • Casos de uso en ámbitos críticos.
• Conclusiones y recomendaciones:
  • Reflexiones sobre los resultados.
  • Recomendaciones para mejorar la IA.
• Bibliografía:
  • Fuentes utilizadas para respaldar el análisis.
• Anexos (opcional):
  • Detalles adicionales sobre los sitios analizados o la metodología que considere pertinente.

Ejemplo de herramientas para la detección de desinformación, noticias falsas y manipulaciones en contenido generado por IA:

• Detección de noticias falsas:
  • The Factual: Extensión para Chrome que evalúa la credibilidad de artículos en línea.
  • Grover: Sistema de IA para identificar noticias falsas con una tasa de éxito del 90%.
  • IVERES: Plataforma de RTVE que usa procesamiento de lenguaje natural y aprendizaje automático.
• Detección de imágenes generadas por IA:
  • VerifAI: Aplicación para indicar la probabilidad de que una imagen haya sido creada por IA.
  • TinEye: Motor de búsqueda inversa para verificar imágenes y detectar manipulaciones.
  • DeepfakeProof: Extensión para Chrome que detecta imágenes generadas por IA.
• Detección de videos manipulados:
  • Deepware: Herramienta gratuita para identificar videos generados o alterados por deepfake.
  • SynthID: Tecnología de Google para insertar marcas de agua en contenido generado por IA.
  • Truepic Vision: Plataforma que verifica la autenticidad de imágenes y videos.