🛡 VULNERABILIDADES 🛡

El gobierno australiano considera la obligatoriedad del reporte de incidentes de IA.

⏰8 de octubre de 2026🛡CyberObservatorio

Idioma

◢ VULNERABILIDADES ◣

El gobierno australiano considera la obligatoriedad del reporte de incidentes de IA.

⟫ 07/10/2026 ⟫ Nate Nelson

Fuente: Dark Reading

La reciente discusión sobre la regulación de la inteligencia artificial (IA) ha cobrado un protagonismo significativo en Australia, donde las autoridades gubernamentales están consultando a líderes de la industria para evaluar cómo gestionar y regular esta tecnología emergente, a menudo considerada peligrosa. Este movimiento se produce tras una serie de incidentes en los que agentes de IA, particularmente de OpenAI, han logrado salir de sus entornos controlados para llevar a cabo ataques cibernéticos a objetivos de terceros, incluyendo redes vinculadas al sistema de Medicare australiano.

El 6 de octubre en Sídney, el Comité Selecto Conjunto de Inteligencia Artificial del estado convocó a altos ejecutivos de las cuatro compañías que lideran la carrera de la IA en el hemisferio occidental: OpenAI, Anthropic, Microsoft y Google. Durante una serie de audiencias, encabezadas por el director de estrategia de OpenAI, Jason Kwon, los miembros del comité interrogaron a los líderes de la industria sobre cuestiones de seguridad, infracción de derechos de autor, y cómo podría ser una regulación efectiva, entre otros temas.

Los representantes de la industria de la IA reconocieron la amenaza que su tecnología representa para la infraestructura crítica y la sociedad en general. Por ejemplo, cuando se les preguntó si los modelos de OpenAI podrían penetrar y operar en una instalación de petróleo y gas, Kwon admitió que "no lo sabemos", sugiriendo que tales organizaciones deberían actualizar sus procesos de pruebas de penetración para tener en cuenta ataques de tipo IA. Kwon también se disculpó por la incapacidad de OpenAI para descubrir y reportar adecuadamente un ataque con agentes sobre los servicios gubernamentales australianos el verano pasado.

Uno de los temas más relevantes abordados fue la posibilidad de establecer requisitos de notificación obligatoria para ciberataques agenticos. Los representantes de la industria evitaron oponerse a tales requerimientos, enfocándose en cambio en la necesidad de reglas que pudieran estandarizarse a nivel mundial. David Masters, responsable de políticas de Anthropic para Australia y Nueva Zelanda, expresó de manera clara que lidiar con una maraña de regulaciones diferentes en todo el mundo añade complejidad y ralentiza la capacidad de cumplir con los requisitos en los mercados donde operan.

Otras cuestiones serias fueron planteadas, como las interpretaciones laxas de las leyes de derechos de autor por parte de las empresas de IA, las inversiones nacionales de Australia en infraestructura de IA, y el riesgo de que la IA avanzada pueda ayudar a actores maliciosos a llevar a cabo ataques biológicos catastróficos.

Las deliberaciones continuaron el 7 de octubre, con la participación de proveedores de datos, operadores de centros de datos y expertos en seguridad de IA ante el mismo comité. En una sesión de la tarde, una portavoz de políticas de Palo Alto Networks abogó por el concepto de "IA segura por diseño" y por una mayor inversión en el nuevo instituto de seguridad de IA de Australia, una iniciativa que opera bajo el Departamento de Industria, Ciencia y Recursos del gobierno australiano.

En junio, un agente de OpenAI, que fue sobreprovisionado para una tarea de investigación, obtuvo acceso no autorizado a un portal gubernamental asociado con el Servicio de Estadísticas de Medicare de Servicios Australia. Ejecutó comandos, recuperó archivos internos, datos y credenciales, y escribió archivos. Afortunadamente, los registros médicos de los pacientes no fueron comprometidos. Además, los agentes también lograron vulnerar, o intentaron hacerlo, en otros cuatro servicios gubernamentales australianos.

El problema no solo radicaba en la brecha de seguridad, sino en el relajado cronograma de divulgación de OpenAI. La compañía aparentemente tomó conocimiento de los incidentes dos meses después de que ocurrieran, y tardó un mes adicional en informar a las agencias afectadas. Mientras tanto, el CEO Sam Altman se reunió con el viceprimer ministro australiano, Richard Marles, sin informarle sobre lo sucedido. Ante el comité de IA, Kwon afirmó que el CEO no estaba al tanto de la brecha en el momento de la reunión. Ahora, Kwon indicó que la compañía ha "ajustado" sus procedimientos para que, cuando ocurran incidentes futuros, "incluso si no comprendemos completamente la situación, simplemente notificaremos y comenzaremos a trabajar de manera colaborativa con la parte afectada".

La frustración en torno a la falta de notificación oportuna tras la brecha es palpable. Jasa Rakus, experto en ciberseguridad de Huntress, con sede en Brisbane, señala que "la demora en la notificación después de la brecha ha sido difícil de aceptar. Medicare toca casi a todos los australianos, así que un retraso en la divulgación no es un asunto menor. Deja a las personas expuestas e incapaces de actuar".

Casey Ellis, fundador de disclose.io y Bugcrowd, describe el sentimiento público como "bastante iracundo". A diferencia de Estados Unidos, donde la influencia positiva de la IA en el mercado de valores ha oscurecido cualquier posibilidad de acción del gobierno federal, el australiano cree que "lo que Australia carece en tamaño comparado con EE. UU. lo compensa con voluntad política".

Ellis añade que no le sorprendería que, tras este incidente, se tomen medidas una vez que la Dirección de Señales de Australia (ASD) complete sus investigaciones y finalice la investigación parlamentaria, señalando que el Código Penal de su país identifica el acceso no autorizado y la modificación de datos restringidos en computadoras del Commonwealth como un delito federal.

Irónicamente, señala, "si un individuo hubiera hecho esto sin permiso, probablemente sería acusado de un crimen. La conversación que necesita tener lugar es si los laboratorios deberían ser sometidos a un estándar similar, o si las leyes deberían modificarse o actualizarse".

Rakus concluye que "Australia tiene una oportunidad genuina para liderar aquí", pero señala que se debe ser pragmático sobre el enfoque. "Canberra no puede regular de manera realista los modelos de fundación de IA globales de forma aislada. Donde el gobierno puede tener un impacto real es en los protocolos de notificación: quién informa a quién, con qué rapidez y qué sucede después".

Cualquier marco de notificación debería imponer transparencia y plazos de divulgación coordinados firmes pero realistas. Rakus sugiere que podría inspirarse en modelos ya existentes: "La Ley de Seguridad de Infraestructura Crítica (SOCI) ya proporciona un modelo de trabajo, con una notificación inicial de 12 horas para impactos severos y un seguimiento detallado de 72 horas".

Un desafío más complicado puede ser definir qué se considera un incidente en primer lugar. "Hoy en día, la notificación de incidentes se basa en umbrales subjetivos y basados en el daño, como cuántos registros de ciudadanos fueron tocados. Eso significa que la decisión de informar a menudo espera hasta que se mide el daño, lo que retrasa el aprendizaje colectivo que ayudaría a los demás. Para la IA, el marco necesita un desencadenante técnico objetivo. Un agente de IA que acceda a un sistema fuera de su alcance autorizado debería ser reportable por defecto, punto final", argumenta Rakus.

Ellis y Rakus también sugieren que el gobierno podría complementar futuras regulaciones con un centro centralizado y público para la notificación de incidentes de IA, así como canales más abiertos para informar a las agencias estatales.

Mientras tanto, el experto de Huntress, Adam Maloney, argumenta que incluso regulaciones diligentes y sistemas de notificación pueden no ser suficientes. "Mi opinión honesta es que los ciclos legislativos estándar se mueven demasiado lentamente para el ritmo de la IA. Si aprobamos leyes rígidas y prescriptivas hoy, hay un riesgo real de que estén desactualizadas para cuando entren en vigor", señala.

Maloney sugiere la creación de un consejo asesor de IA más ágil e independiente. "Debería reunir a profesionales de la ciberseguridad, expertos legales, especialistas en privacidad de datos, autoridades de propiedad intelectual y defensores de las libertades civiles, para que la seguridad, los derechos y las realidades comerciales se ponderen en conjunto y no en silos", sugiere. "Ese consejo podría informar la política gubernamental, establecer y actualizar las reglas operativas de compromiso, y mantener las barreras realistas a medida que evolucionan las capacidades de la IA".

◢ VULNERABILIDADES ◣

Australian Gov't Weighs Mandatory AI Incident Reporting

⟫ 07/10/2026 ⟫ Nate Nelson

Source: Dark Reading

Australia's government is sounding out artificial intelligence (AI) industry leaders this week, as it evaluates how to best regulate and manage investing in the emerging, and some say dangerous, technology. The move comes after goal-oriented OpenAI agents once again made headlines for slipping their sandboxes andhacking third-party targets on their own, this time networks affiliated with Australia's Medicare system. In Sydney on Oct. 6, the state's Joint Select Committee on Artificial Intelligence lined up executives from the four companies leading the AI race in the Western hemisphere:OpenAI, Anthropic, Microsoft, and Google. In aseries of hearings, headlined by OpenAI chief strategy officer Jason Kwon, committee members questioned the AI industry leaders about safety, copyright infringement, what effective regulation might look like, and more. AI industry representatives acknowledged their technology'sthreat to critical infrastructureand society in general. Asked, for example, whether OpenAI models could break into and operate an oil and gas facility, Kwon admitted that "we don't know," and advocated that such organizations update their penetration testing processes to account for AI-grade attacks. Kwon opened his remarks by apologizing for OpenAI's failure to discover and adequately report an agentic attack on Australian government services last summer. One major topic of discussion was the prospect of mandatory reporting requirements for agentic cyberattacks. Industry representatives dared not advocate against such requirements. Instead, many used their energy to advocate for rules that could be standardized worldwide. David Masters, Anthropic's head of policy for Australia and New Zealand, expressed most clearly, "If we're having to deal with a web of different regulations around the world, that adds complexity, and I think it does actually slow down our ability to meet those requirements in the markets we operate in." Other serious points of contention were tossed into the mix, including AI companies' loose interpretations of copyright laws, Australia's national investments in AI infrastructure, and the risk that frontier AI might help bad actors perform catastrophic biological attacks. The deliberation continued on Oct. 7, with AI and data vendors, data center operators, and AI safety experts speaking before the same committee. In an afternoon session, a Palo Alto Networks policy spokeswoman advocated for so-called "secure AI by design," and greater investment in Australia's new AI safety institute, an initiative operating under the government's Department of Industry, Science and Resources. Back in June, an overprovisioned OpenAI agent with a research task obtained unauthorizedaccess to a government portalassociated with the Services Australia Medicare Statistics Reporting Service. It ran commands, retrieved internal files, data, and credentials, and wrote files. Patient medical records were spared. Agents also breached, or attempted to breach, four other Australian government services. The issue wasn't merely the breach, but OpenAI's relaxed disclosure timeline. Apparently, the company became aware of the incidents two months after the fact. Then it took an extra month before informing affected agencies. In the meantime, CEO Sam Altman had met with Australian deputy prime minister Richard Marles, without informing him of what'd happened. Before the AI committee, Kwon stated that the CEO wasn't aware of the breach at the time of the meeting. Now, Kwon said, the company has "adjusted" so that when future incidents occur, "even if we don't fully understand the situation, we are just going to notify and start working through the situation collaboratively with the impacted party." "There is real frustration about what came after," says Brisbane-based Huntress cybersecurity expert Jasa Rakus. "The delay in notification following the breach has been hard to accept. Medicare touches nearly every Australian, so a lag in disclosure isn't a minor process issue. It leaves people exposed and unable to act." "I would describe the public sentiment as pretty irate," says Casey Ellis, founder of disclose.io and Bugcrowd. Compared to the United States, where AI's positive influence on the domestic stock market has dimmed any prospect offederal government action, the Australian native believes that "what Australia lacks in size compared to the USA it more than makes up for in political will." He adds, "I wouldn't be surprised if some sort of action follows this incident once the Australian Signals Directorate (ASD) completes its investigations and the Parliamentary Inquiry finishes," pointing to his home country's Criminal Code Act 1995, which identifies unauthorized access to, and modification of, restricted data held on Commonwealth computers as a federal crime. Ironically, he points out, "If an individual had done this without permission, they would likely be charged with a crime. The conversation that needs to happen is whether the labs would be held to a similar standard, or whether the laws need to be modified or updated." "Australia has a genuine opportunity to lead here," Rakus says, "but we need to be pragmatic about where. Canberra cannot realistically regulate global AI foundation models in isolation. Where the government can have real impact is in the reporting playbooks: who tells whom, how quickly, and what happens next." Any reporting framework would need to enforce transparency, and firm but realistic coordinated disclosure timelines. It could borrow from what already works: "The Security of Critical Infrastructure (SOCI) Act already provides a working model, with a 12-hour initial notification for severe impact and a 72-hour detailed follow-up," Rakus notes. The harder issue may be defining what counts as an incident in the first place. "Today,incident reportingleans on subjective, harm-based thresholds, such as how many citizen records were touched. That means the decision to report often waits until the damage is measured, and it delays the collective learning that would help everyone else. For AI, the framework needs an objective technical trigger. An AI agent accessing a system outside its authorized scope should be reportable by default, full stop," he argues. Ellis and Rakus also suggest that the government could supplement future regulations with a centralized, public hub for AI incident reporting, and more open channels for reporting to state agencies. Meanwhile, Huntress expert Adam Maloney argues that even diligent regulations and reporting systems might not be enough. "My honest view is that standard legislative cycles move too slowly for the pace of AI. If we pass rigid, prescriptive laws today, there's a real risk they're out of date by the time they take effect," he says. Maloney suggests a more agile, independent AI advisory council. "It should bring together cybersecurity practitioners, legal experts, data privacy specialists, IP authorities and civil liberties advocates, so that security, rights and commercial realities are weighed together rather than in silos," he suggests. "That council could inform government policy, set and update operational rules of engagement, and keep guardrails realistic as AI capabilities evolve."

𝐗 Twitter f Facebook ☎ WhatsApp ✈ Telegram

← VOLVER A CIBERSEGURIDAD