Macron reúne a gobiernos y empresas tecnológicas para impulsar la seguridad de la IA

"El diagnóstico es compartido. Hay que actuar juntos", manifestó Macron en un mensaje publicado en redes sociales, en el que advirtió de que el rápido avance de la inteligencia artificial plantea "riesgos reales para nuestra seguridad colectiva".

Según un comunicado del Elíseo, el encuentro congregó a jefes de Estado y de Gobierno de Baréin, Canadá, Finlandia, Japón, Noruega, Países Bajos, Reino Unido y Sierra Leona, al secretario del Tesoro de Estados Unidos, representantes de Naciones Unidas y la Organización para la Cooperación y el Desarrollo Económicos (OCDE).

Asistieron también al encuentro, tanto presencial como por videoconferencia, directivos de siete empresas del sector, entre ellos Sam Altman, de OpenAI; Dario Amodei, de Anthropic, y Arthur Mensch, de Mistral AI. También participaron investigadores como Yoshua Bengio y representantes de la sociedad civil.

La cita reunió así a cerca de medio centenar de participantes y da continuidad a los contactos mantenidos entre dirigentes políticos y responsables de empresas de IA durante la cumbre del G7 de Évian, el pasado 17 de junio.

Los participantes coincidieron en la necesidad de establecer un marco internacional de gobernanza para abordar los riesgos de seguridad asociados a la IA y señalaron tres prioridades: reforzar las evaluaciones independientes de los modelos, armonizar los estándares para evaluar y comunicar incidentes graves y delimitar las responsabilidades de los distintos actores.

El encuentro concluyó con la firma del 'Llamamiento de París por la seguridad de la inteligencia artificial', una declaración que, por primera vez, reúne compromisos de empresas del sector para promover una respuesta internacional y coordinada ante los riesgos de los modelos más avanzados, según la Presidencia francesa.

En materia de evaluación, gobiernos, desarrolladores e investigadores se comprometieron a establecer un marco común para evaluar y gestionar los riesgos de estos sistemas, aprovechando los mecanismos existentes y el trabajo de la Red Internacional para la Medición, Evaluación y Ciencia de la IA Avanzada (NAAIMES).

Las evaluaciones prestarán especial atención a los posibles usos maliciosos de la tecnología, en particular en los ámbitos de la ciberseguridad y los riesgos nucleares, radiológicos, biológicos y químicos (NRBQ), así como a los escenarios de pérdida de control sobre los sistemas de IA.

Los firmantes también acordaron publicar los resultados no sensibles de las evaluaciones en formatos estandarizados y reunirlos en un repositorio común de acceso público.

En materia de intercambio de información, se comprometieron a reforzar los mecanismos de alerta temprana y notificación de incidentes graves, incluidos los relacionados con la ciberseguridad y posibles pérdidas de control.

Asimismo, estudiarán la creación de un mecanismo específico de cooperación internacional.

Los gobiernos, por su parte, prevén habilitar canales seguros y confidenciales para que los denunciantes puedan comunicar riesgos sistémicos sin temor a represalias.

La declaración establece además que cada actor de este ecosistema deberá asumir responsabilidades en función de su papel.

Así, los desarrolladores de modelos avanzados se comprometen a informar públicamente sobre las capacidades, limitaciones y riesgos conocidos de sus sistemas, facilitar su evaluación por expertos independientes cualificados, establecer mecanismos para interrumpir su funcionamiento y reforzar sus estructuras internas de supervisión.

Los responsables políticos, en tanto, se comprometieron a aclarar las responsabilidades en caso de daños a gran escala, incluidos aquellos que trasciendan las fronteras nacionales, con el objetivo de proteger a los afectados y proporcionar seguridad jurídica a las empresas.

El 'Llamamiento de París por la seguridad de la inteligencia artificial' quedó abierto a la adhesión de nuevos firmantes.

"Nuestra ambición es clara: hacer de la IA un progreso para todos, con una seguridad garantizada por el compromiso de cada uno", concluyó Macron.