Australia anuncia organismo regulador de la IA con capacidad punitiva y normas a empresas

El primer ministro australiano, Anthony Albanese, anunció este martes las nuevas medidas, que formarán parte de la futura legislación sobre IA del país y estarán supervisadas por un nuevo organismo regulador, tras el acceso no autorizado de un agente de la estadounidense OpenAI a un portal del sistema público sanitario de Australia.

Camberra aún no ha fijado una fecha para la puesta en marcha del nuevo organismo regulador, cuya creación se enmarcará en la futura legislación sobre seguridad de estos sistemas, que tiene previsto presentar ante el Parlamento en 2027.

El anuncio se produjo después de la publicación también hoy de una revisión gubernamental del incidente de Open AI, que ocurrió el pasado junio, la cual contiene 18 recomendaciones del Ejecutivo a la empresa, responsable del asistente de IA ChatGPT.

Entre ellas figuran mantener controles de seguridad durante el desarrollo y despliegue de los modelos, identificar riesgos, notificar comportamientos inesperados, permitir evaluaciones independientes y actualizar los estándares según avance la tecnología.

"El Ejecutivo ha comenzado a trabajar para aplicar (las recomendaciones)", afirmó Albanese, acompañado por el ministro de Defensa, Richard Marles, y el titular de Interior, Tony Burke.

Este último advirtió que los sistemas de IA pueden identificar vulnerabilidades informáticas en cuestión de horas y defendió la obligatoriedad de informar inmediatamente cuando un modelo actúe de manera imprevista.

Marles, por su parte, reclamó una mayor coordinación entre los organismos de Defensa, Interior y ciberseguridad.

El incidente que ha motivado las medidas ocurrió en junio, cuando un modelo de OpenAI utilizado en un entorno interno de entrenamiento y evaluación recibió la tarea de investigar datos sobre el gasto público en medicamentos para enfermedades de la piel en comunidades del estado de Victoria (sur de Australia).

Ante las dificultades para conseguir la información, el agente realizó acciones no autorizadas y accedió a zonas no públicas de un portal gubernamental relacionado con Medicare, el sistema sanitario australiano, consultando archivos internos, credenciales e información estadística. Incluso llegó a escribir archivos.

OpenAI aseguró que no encontró pruebas de que el modelo accediera a historiales médicos ni a datos personales de pacientes, si bien reconoció fallos en su respuesta y pidió disculpas por haber tardado demasiado en informar a las autoridades.

El episodio se suma a otros incidentes detectados durante pruebas de modelos de OpenAI y su competidora Anthropic, responsable del asistente Claude, que han evidenciado las dificultades para controlar sistemas capaces de ejecutar tareas y actuar de forma autónoma en entornos digitales.