Rank Columnas | Mail o Telegram

El siguiente resumen se basa en la columna de opinión escrita por Hilda Nucci el 5 de Junio de 2025, donde se analiza el papel de los algoritmos en la Inteligencia Artificial (IA) y su impacto en los derechos de los usuarios. Se destaca la importancia de la transparencia y la necesidad de regular su uso para evitar sesgos, discriminación y deshumanización.

Un dato importante es la mención del artículo 22 del Reglamento General de Protección de Datos en Europa, que busca regular la sujeción algorítmica involuntaria.

📝 Puntos clave

• Los algoritmos son fundamentales para la IA, permitiendo procesar datos y resolver problemas.
• Funcionan a través del Big Data, seleccionando información relevante para cada usuario.
• Su diseño es inherentemente excluyente, ya que solo procesan datos cuantificables, dejando fuera aspectos como emociones, ética y justicia social.

• Publicidad
• Se utilizan sin el consentimiento de los usuarios, generando sesgos, discriminación y manipulación.
• Ejemplos de su uso problemático incluyen reclutamiento de personal, decisiones de libertad condicional y aprobación de créditos.
• Se plantea el derecho a la "desconexión algorítmica", que permite rechazar decisiones automatizadas y solicitar supervisión humana.
• Europa y Estados Unidos han comenzado a regular el uso de algoritmos para proteger los derechos de los usuarios.
• En México, se necesita una legislación que garantice la transparencia y el control sobre el uso de datos en la IA.

❓ Conclusión: Lo malo y lo bueno

👎🏼 ¿Cuáles son los principales riesgos y aspectos negativos del uso de algoritmos en la IA según el texto?

Los principales riesgos son la falta de transparencia, la posibilidad de sesgos y discriminación, la manipulación de la información, la exclusión de realidades complejas y la deshumanización en la toma de decisiones. Además, se destaca la vulnerabilidad de los usuarios al no tener control sobre cómo se utilizan sus datos.

👍🏼 ¿Qué soluciones o aspectos positivos se proponen en el texto para mitigar los riesgos asociados al uso de algoritmos en la IA?

Se propone el derecho a la "desconexión algorítmica", que permite a los usuarios rechazar decisiones automatizadas y solicitar supervisión humana. También se destaca la importancia de la transparencia en el uso de algoritmos y la necesidad de una legislación que proteja los derechos de los usuarios, garantizando el control sobre sus datos y la posibilidad de intervenir en decisiones que afecten sus derechos fundamentales. Se mencionan ejemplos de regulación en Europa y Estados Unidos como modelos a seguir.