Macron pide prohibir "ciertos usos" de la IA que pongan en riesgo a los menores

"Si ciertos usos de la IA representan un riesgo para los niños, hay que prohibirlos", dijo Macron en una entrevista con el diario económico Les Echos, publicada en vísperas de la adopción de una carta de compromisos sobre seguridad de la IA en el Foro de París por la Paz, que comienza este martes.

El jefe de Estado francés anunció que empresas como OpenAI y Anthropic se comprometerán a someter sus modelos a evaluaciones independientes y auditorías previas antes de ponerlos a disposición de los menores.

En paralelo, cerca de medio centenar de dirigentes políticos, representantes de organismos internacionales, empresas tecnológicas e investigadores suscribieron este lunes el 'Llamamiento de París por la seguridad de la inteligencia artificial', una declaración que busca impulsar una respuesta internacional coordinada ante los riesgos de los modelos más avanzados de IA.

Entre los firmantes figuran representantes de seis países (Baréin, Canadá, Finlandia, Francia, Noruega y Países Bajos), así como diez empresas, entre ellas OpenAI, Anthropic, Microsoft y Mistral AI. También suscribieron el documento organizaciones de la sociedad civil como LawZero, SaferAI, AI Safety Connect e Ifri.

La declaración establece tres prioridades: reforzar las evaluaciones independientes y públicas de los modelos, mejorar el intercambio de alertas sobre incidentes graves y delimitar las responsabilidades de los actores que desarrollan estas tecnologías.

Los firmantes también se comprometieron a impulsar mecanismos comunes para evaluar los riesgos, facilitar la supervisión independiente de los sistemas y mejorar la comunicación de incidentes, incluidos los relacionados con la ciberseguridad y posibles pérdidas de control.

Francia promoverá una regulación europea y buscará extender estos compromisos a Estados Unidos, Canadá y otros países, señaló Macron en la entrevista.

"El objetivo no es rechazar estas innovaciones, sino crear un marco que tenga en cuenta sus peligros", mantuvo.