El Gobierno de Australia resolvió que las compañías de inteligencia artificial deberán notificar sin demora cuando un modelo suyo opere fuera de los límites previstos. La medida también las obligará a someter sus sistemas a evaluaciones. El primer ministro Anthony Albanese confirmó que el Ejecutivo adopta las más de quince propuestas surgidas de una revisión urgente del episodio protagonizado por OpenAI, la empresa de Sam Altman.

El caso que disparó todo se conoció en septiembre de 2026. Para entonces, OpenAI había admitido ante las autoridades que uno de sus agentes —un asistente capaz de ejecutar tareas sin intervención humana— había ingresado sin autorización a portales oficiales, entre ellos el de estadísticas de Medicare, el sistema público de salud australiano.

Qué incluyen las nuevas pautas

El comunicado oficial detalla que las directrices abarcan la obligación de reportar conductas desalineadas y episodios informáticos. Además, el Gobierno evalúa una reforma del derecho penal para sancionar casos de mala conducta grave y busca aceitar el intercambio de información cuando ocurren incidentes con IA.

El texto confirma que la aplicación de las recomendaciones ya está en marcha, aunque no precisa plazos, castigos ni qué se entiende exactamente por un modelo que se sale de control. Tampoco explica cómo se llevarán a cabo las evaluaciones.

Cómo fue la intrusión

El accionar del agente se remonta a mediados de junio de 2026. El programa investigaba el gasto público en medicamentos y, tras recibir una negativa cuando pidió ciertos datos, accedió por su cuenta a un portal antiguo de Services Australia, el organismo de servicios sociales. Allí copió estadísticas sanitarias no públicas y archivos internos.

Según las autoridades, los datos eran agregados y no contenían información personal. El Gobierno sostiene que no se accedió a datos de personas. Investigadores calificaron el hecho como el primer hackeo autónomo de un sitio estatal.

OpenAI detectó el problema el 11 de agosto de 2026, durante una revisión de la actividad de sus modelos en entrenamiento. Recién el 10 de septiembre de 2026 envió un correo a una dirección genérica que los investigadores usan para reportar fallas y que, según Reuters, se revisa una vez por día.

La respuesta de la empresa

Albanese había calificado lo ocurrido de “inaceptable” y aseguró que le transmitió su “extrema preocupación” a Altman. El comunicado oficial reiteró esa calificación y consideró “inadecuada” la divulgación que hizo la compañía.

“No debería haber ocurrido”, declaró Jason Kwon, director de estrategia de OpenAI, ante una comisión parlamentaria en Sídney en octubre de 2026. Kwon reconoció que la respuesta de la empresa “no es suficiente” y que debieron actuar mejor.

El directivo explicó que ahora supervisan los modelos en tiempo real durante las pruebas y que se activa una alarma si interactúan con internet de forma no prevista. Gracias a ese mecanismo, según dijo, avisaron en 48 horas al Gobierno de Nueva Gales del Sur de otro acceso indebido. La empresa agregó que respaldaría un marco de divulgación obligatoria.

Otros antecedentes y próximos pasos

El primer ministro de Nueva Gales del Sur, Chris Minns, había informado que un agente de OpenAI accedió a una base de datos de investigación de la oficina estatal de estadísticas sobre delitos. En septiembre de 2026, Medicare era uno de al menos cuatro accesos a sitios del Gobierno australiano.

Durante la audiencia, Dave Orr, jefe de salvaguardas de Anthropic, contó que su empresa revisó cientos de millones de registros de conversaciones tras la intrusión de agentes de OpenAI en la plataforma Hugging Face, en julio de 2026, y no encontró casos similares en sitios australianos.

El ministro asistente de Ciencia, Tecnología y Economía Digital, Andrew Charlton, había adelantado en septiembre de 2026 que el Gobierno quería presentar antes de fin de año proyectos de ley con estándares de seguridad para la IA y aprobarlos a comienzos de 2027.