Seguridad y sostenibilidad: convergencias para uso y desarrollo de IA

Este texto de Isaac Morales Tenorio, escrito el 22 de noviembre de 2024, analiza la primera reunión de la red de Institutos de Seguridad de la Inteligencia Artificial (IA) en San Francisco, y la relaciona con la COP 29 en Azerbaiyán, destacando la convergencia entre la seguridad y la sostenibilidad en la gobernanza global de la IA.

Resumen:

• Se llevará a cabo la primera reunión de la red de Institutos de Seguridad de la Inteligencia Artificial (IA) en San Francisco los días 21 y 22 de noviembre. Participarán países como Alemania, Australia, Canadá, Corea, Estados Unidos, Francia, Italia, Japón, Reino Unido, Singapur y la Unión Europea.
• Esta reunión es el resultado de cumbres previas sobre seguridad de IA celebradas en Reino Unido (noviembre 2023) y Seúl (mayo 2024).

• Publicidad
• El objetivo principal es acordar medidas para garantizar el uso seguro de la IA en la investigación y el desarrollo, mitigando riesgos de explotación hostil o criminal.
• Se busca un entendimiento común sobre la seguridad de la IA, promoviendo la interoperabilidad de modelos y proyectos, el intercambio de experiencias y mejores prácticas en el desarrollo de código.
• Se espera una combinación de aspectos científicos y políticos, con la participación del G7 y la creación de estándares para la comunidad científica y la industria.
• Coincidiendo con la reunión en San Francisco, se celebra la COP 29 en Azerbaiyán, donde se discute el impacto ambiental de los grandes modelos de lenguaje de IA y sus emisiones de gases de efecto invernadero.
• La COP 29 también explorará cómo la IA puede ofrecer soluciones climáticas, como el mejor mapeo de riesgos climáticos y la conservación de la biodiversidad.
• Se plantea la posibilidad de una convergencia entre la agenda de seguridad y sostenibilidad para configurar una gobernanza global para el desarrollo y uso de la IA.

Conclusión:

El texto de Morales Tenorio subraya la importancia de la creciente cooperación internacional para abordar los desafíos y oportunidades que presenta la IA, enfatizando la necesidad urgente de una gobernanza global que considere tanto la seguridad como la sostenibilidad en el desarrollo y uso de esta tecnología. La reunión en San Francisco y la COP 29 en Azerbaiyán representan pasos cruciales en este proceso.