IA responsable: gobernanza y seguridad en la era digital

Este texto escrito por Kurt Yanez el 10 de Noviembre del 2025, aborda la importancia de la seguridad en la implementación de la Inteligencia Artificial (IA) en el sector gubernamental, especialmente a nivel estatal y local en México. El autor destaca que, si bien la IA ofrece grandes oportunidades para mejorar los servicios públicos, es crucial abordar los desafíos de seguridad de manera proactiva y estratégica.

La seguridad de la IA es alcanzable adaptando las estrategias de seguridad existentes.

📝 Puntos clave

• La IA tiene el potencial de transformar los servicios públicos en México, pero la seguridad es un desafío crucial.
• Existe el mito de que la IA es demasiado compleja para proteger, pero la realidad es que se puede asegurar fortaleciendo las prácticas de seguridad fundamentales.

• Publicidad
• Los gobiernos estatales y locales pueden adaptar sus estrategias de seguridad actuales para proteger la IA sin necesidad de empezar desde cero.
• Se proponen tres estrategias clave:
  • Construir sobre una base sólida de seguridad, incluyendo gestión de identidades, segmentación de redes y protección de endpoints. El uso de TPM 2.0 es un ejemplo de seguridad por diseño.
  • Implementar una estrategia de múltiples capas que abarque datos, modelos, API y aplicaciones, protegiendo contra vulnerabilidades específicas de la IA.
  • Priorizar una sólida gobernanza humana, con supervisión constante, auditorías periódicas y transparencia en los sistemas de IA.
• El uso responsable de la IA requiere la participación humana en decisiones críticas y el establecimiento de marcos de gobernanza claros.
• El camino hacia una IA segura es un proceso continuo que requiere preparación, adaptación y evolución constante.

Lo malo y lo bueno 👎👍

¿Cuál es el aspecto más desafiante o problemático que se plantea en el texto con respecto a la implementación de la IA en el gobierno?

La principal preocupación radica en la seguridad de la IA, especialmente en la protección de los datos de entrenamiento y los modelos contra ataques y manipulaciones. La necesidad de una estrategia de seguridad integral y de múltiples capas, así como la gobernanza humana, implica una inversión significativa en recursos y capacitación, lo cual puede ser un desafío para los gobiernos con presupuestos limitados.

¿Cuál es el aspecto más positivo o prometedor que se destaca en el texto sobre el uso de la IA en el gobierno?

El potencial de la IA para mejorar los servicios públicos y optimizar las operaciones gubernamentales es el aspecto más prometedor. La capacidad de transformar áreas como la atención médica, la atención ciudadana y la gestión documental, junto con la posibilidad de mejorar la eficiencia y la respuesta a emergencias, ofrece beneficios significativos para los ciudadanos. Además, el texto enfatiza que la seguridad de la IA es alcanzable y que los gobiernos pueden adaptar sus estrategias existentes, lo que hace que la implementación de la IA sea más accesible y factible.