Cumbres sobre seguridad de la IA
¿Qué son las Cumbres sobre Seguridad de la IA?
Las Cumbres sobre Seguridad de la IA son reuniones internacionales bianuales organizadas por los Estados para debatir sobre la seguridad y la regulación de la inteligencia artificial, en particular de los sistemas avanzados de IA.
El Reino Unido convocó la primera Cumbre sobre Seguridad de la IA en Bletchley Park en noviembre de 2023.
Tras la segunda Cumbre sobre Seguridad de la IA, que se celebrará en Seúl los días 21 y 22 de mayo de 2024, Francia ha sido designada para acoger la tercera en febrero de 2025.
¿Por qué son importantes las Cumbres?
Las grandes empresas están inmersas en una carrera por desarrollar sistemas de IA cada vez más avanzados, que pueden ser utilizados por grupos malintencionados para llevar a cabo ciberataques contra infraestructuras digitales o para crear nuevas armas bioquímicas. Estos avances tecnológicos también corren el riesgo de consolidar el poder en manos de un número limitado de empresas privadas. La intervención de los gobiernos y la coordinación internacional son esenciales para mitigar estos riesgos.
Las Cumbres de Seguridad son oportunidades clave para la gobernanza de la IA: permiten la cooperación internacional en torno a resultados concretos. Por ejemplo, uno de los objetivos de la primera Cumbre sobre Seguridad de la IA era desarrollar una comprensión global compartida de los riesgos que plantean los sistemas avanzados de IA. Como resultado, un grupo internacional de expertos redactó el Informe Internacional sobre la Seguridad de la IA: un informe científico actualizado sobre la seguridad de los sistemas avanzados de IA.
¿Cuál es el compromiso de FLI con las Cumbres?
En el periodo previo a las Cumbres, FLI apoya a los anfitriones y a otros países participantes con información clave sobre los avances de la IA y recomendaciones sobre cómo mejorar la cooperación en torno a la seguridad de la IA.
FLI Recomendaciones provisionales para la Cumbre de Acción sobre AI
Noviembre de 2024
Nuestras recomendaciones para la Cumbre de Acción sobre AI, que se celebrará en Francia del 10 al 11 de febrero de 2025.
Esbozamos un marco estratégico para la gobernanza mundial de la IA, dando prioridad a la colaboración internacional y al desarrollo de normas de seguridad claras. Estas recomendaciones se centran en un enfoque integral en tres áreas fundamentales: comprender los riesgos de la IA (ciencia), fomentar la cooperación mundial (soluciones) y establecer normas internacionales sólidas (normas).
Recomendaciones FLI para la Cumbre sobre seguridad de la IA en el Reino Unido
Septiembre de 2023
En vísperas de la Cumbre sobre Seguridad de la Inteligencia Artificial del Reino Unido, que se celebrará en Bletchley Park los días 1 y 2 de noviembre de 2023, FLI elaboró y publicó un documento con recomendaciones clave. Entre ellas:
- Una propuesta de Declaración sobre la seguridad de la IA, para que la firmen los asistentes.
- Principales recomendaciones de determinados gobiernos antes de la Cumbre.
- Una propuesta de orden del día de la Cumbre, con temas cruciales a incluir.
- Una hoja de ruta posterior a la Cumbre, en la que se esbozaban las medidas necesarias que debían adoptarse tras el evento.
Cuadro de mando FLI y política de normas de seguridad
Octubre de 2023
FLI también elaboró un cuadro de mando para trazar el panorama de la gobernanza de cara a la Cumbre de Seguridad de la IA del Reino Unido, y una Política de Normas de Seguridad (SSP) que proporciona un marco regulador para unas normas, medidas y supervisión de seguridad sólidas.
París AI Desayunos de seguridad
NUEVO: septiembre de 2024
La Cumbre de Acción sobre IA se celebrará en febrero de 2025. Esta serie de actos tiene por objeto estimular el debate en torno a la Cumbre de Seguridad para el público inglés y francés, y reunir a expertos y entusiastas en la materia para intercambiar ideas y perspectivas.
Ima (Imane Bello) es responsable de las Cumbres de Seguridad de la IA para el Future of Life Institute FLI).
Contenidos relacionados
Contexto y orden del día de la Cumbre de Acción 2025 sobre IA
París AI Safety Breakfast #2: Dra. Charlotte Stix
París AI Safety Breakfast #1: Stuart Russell
Declaración en vísperas de la Cumbre sobre seguridad de la IA de Seúl
Otros proyectos en este ámbito
Perspectivas de las religiones tradicionales sobre el futuro positivo de la IA
