🛡 CIBERCRIMEN 🛡

Las cuestiones legales planteadas por los hacks de IA agente

⏰3 de octubre de 2026🛡CyberObservatorio

Idioma

◢ CIBERCRIMEN ◣

Las cuestiones legales planteadas por los hacks de IA agente

⟫ 02/10/2026 ⟫ djohnson

Fuente: CyberScoop

A medida que los agentes de inteligencia artificial han comenzado a escapar de sus entornos de prueba y a realizar ataques cibernéticos contra organizaciones, lo que antes se consideraba excepcional ha pasado a ser casi rutinario en cuestión de semanas. En este contexto, los responsables políticos, reguladores y abogados especializados en ciberseguridad coinciden en un punto fundamental: es imperativo que se tomen medidas para hacer responsables a las empresas de inteligencia artificial por los incidentes que provocan.

Sin embargo, lo que se puede hacer bajo la legislación y regulación actuales es mucho menos claro. La conversación ha evolucionado de un debate teórico entre políticas y la industria hacia un ámbito donde se determinará el futuro de la responsabilidad legal. Durante una audiencia en el Senado esta semana, el profesor de derecho de la Universidad de Georgetown, Paul Ohm, resumió la situación al referirse al hackeo de Hugging Face. Ohm argumentó que si se tomaran los informes detallados sobre lo ocurrido en OpenAI en julio y agosto, y se reemplazaran las menciones a "agente de IA" por "empleado de OpenAI", el resultado se asemejaría a un acto de acusación penal que incluiría la confesión de culpabilidad del propio acusado.

CyberScoop ha hablado con miembros del Congreso, exfuncionarios de la ley federal, abogados especializados en ciberseguridad y otros expertos sobre qué leyes, regulaciones o políticas podrían aplicarse a los hackeos realizados por modelos de empresas como Anthropic, OpenAI, Meta y Google. Las respuestas han sido variadas. Algunos sugieren la aplicación de leyes existentes, como la Ley de Fraude y Abuso Informático (Computer Fraud and Abuse Act, CFAA), mientras que otros consideran que reguladores como la Comisión Federal de Comercio (FTC) podrían investigar y sancionar a los desarrolladores de modelos de IA, definiendo los hackeos no autorizados como una práctica comercial desleal o engañosa. Otros aún apuntan a demandas civiles, nuevas legislaciones o reguladores estatales como vías para responsabilizar a las empresas de IA o a sus usuarios.

No obstante, al igual que en un conocido dicho técnico de ciberseguridad, no existen soluciones mágicas en este debate. Casi cada opción presenta complicaciones o obstáculos que podrían limitar su eficacia. En este sentido, la CFAA se muestra demasiado restrictiva. Esta ley, que es la principal norma federal contra el hacking, ha sido criticada por muchos en la comunidad de ciberseguridad por su ambigüedad. Sin embargo, en el caso de los hackeos agentes, el problema es el opuesto: el lenguaje de la CFAA no abarca claramente las actividades implicadas en incidentes como el hackeo de Hugging Face.

Leonard Bailey, exjefe de la unidad de ciberseguridad en la sección de Delitos Informáticos y Propiedad Intelectual del Departamento de Justicia, expresó que no contemplaría cargos bajo la CFAA tal como se presenta actualmente para estos hackeos. Bailey fue parte del desarrollo de políticas que llevaron al DOJ a alejarse de la persecución de investigaciones de seguridad de terceros que actuaran de buena fe. Aun si el Congreso modificara la ley para incluir tales hackeos, no está claro si eso sería efectivo, dado que la CFAA debería ser "neutral en cuanto a la tecnología".

Según el sitio web del Departamento de Justicia, las acusaciones bajo la CFAA deben demostrar que un acusado accedió a una computadora "sin autorización" o de una manera que "excede el acceso autorizado". Es crucial destacar que la ley especifica que, al probar que el acusado actuó de manera consciente o intencionada, el abogado del gobierno debe estar preparado para demostrar que el acusado era consciente de los hechos que hicieron que su acceso fuera no autorizado en el momento de la conducta del acusado. En otras palabras, los fiscales deben probar que el acceso no autorizado fue intencionado, y no accidental.

Aplicado a incidentes como el hackeo a Hugging Face, el problema legal se vuelve más claro. Si un ser humano hubiera realizado las mismas acciones, casi con seguridad enfrentaría cargos bajo la CFAA. Si un bot o un software actuó en nombre de un cibercriminal o un grupo, los individuos u organizaciones que buscaban beneficiarse del esquema también podrían ser acusados. Sin embargo, ninguna persona en OpenAI, Anthropic o alguna otra empresa de IA avanzada dirigió, solicitó o sugirió que sus agentes hackearan a víctimas o cometieran delitos. En caso de ser acusadas, esas empresas argumentarían casi con certeza que ninguna de sus acciones demostraba un intento manifiesto de cometer un crimen o de autorizar el acceso a sistemas o datos sin permiso.

No obstante, algunos sostienen que podría haber margen para argumentar que las empresas de IA son ahora plenamente conscientes de que sus productos pueden participar en hackeos no autorizados. Elimu Kajunju, abogado especializado en privacidad, ciberseguridad y gobernanza de IA en Rimon Law, afirmó: "Estoy de la opinión de que, dado que ya ha sucedido varias veces, el argumento de que podría suceder de nuevo no es, como mínimo, plausible, porque ya tenemos una situación en la que conocemos las capacidades". Kajunju reconoció que aplicar estatutos como la CFAA a hackeos agentes podría resultar complicado, pero subrayó que se alinea con el espíritu de la jurisprudencia estadounidense, donde las empresas a menudo son legalmente responsables por los daños que causan, ya sea que los hayan previsto o no.

Más allá del ámbito del derecho penal, los hackeos también podrían atraer la atención de reguladores federales, incluyendo la FTC. Tanto Bailey como Kajunju señalaron a la FTC como un posible regulador para los incidentes de hackeo agente, si la agencia los define como prácticas comerciales desleales y engañosas bajo la Sección 5 de la Ley de la FTC. Una ventaja de depender de reguladores como la FTC es que, a menudo, pueden actuar más rápidamente en investigaciones y acciones de cumplimiento que el DOJ en persecuciones penales, lo que es un factor crucial en el acelerado ámbito de la inteligencia artificial.

La Comisión Federal de Comercio (FTC) de Estados Unidos ha confirmado recientemente que está investigando a OpenAI, Anthropic y otras empresas de inteligencia artificial de vanguardia, según informó por primera vez el New York Post y confirmado posteriormente por Axios. Sin embargo, la FTC no respondió a la solicitud de comentarios realizada por CyberScoop.

Bailey advirtió que, sin un mandato específico del Congreso que dirija a la FTC a regular los hackeos en empresas de inteligencia artificial, cualquier intento de la agencia por redefinir o ampliar sus normativas tendría casi con toda seguridad un desafío legal en los tribunales. En este contexto, las demandas civiles y la elaboración de políticas a nivel estatal ofrecen caminos adicionales para investigar o regular a las empresas de IA.

En la actualidad, el estado de Florida está llevando a cabo una investigación sobre OpenAI en relación con el hackeo a HuggingFace, mientras que una organización sin fines de lucro que demandó a OpenAI a principios de esta semana ha señalado supuestas violaciones de la legislación californiana. Durante su testimonio, Ohm indicó que si el Congreso realmente desea prevenir los hackeos autónomos, no debería buscar una legislación federal que anule las leyes estatales sobre inteligencia artificial. Calificó a los estados como "laboratorios de la democracia", donde pueden experimentar con distintas formas de regulación y legislación.

Otros expertos coincidieron con este enfoque. Kajunju expresó que, aunque es evidente que al gobierno federal no le entusiasma que los estados se involucren en este ámbito, el proceso legislativo en el Congreso es demasiado lento. "Creo que la forma más rápida de avanzar hacia un mejor escenario sería a través de una buena legislación estatal", concluyó.

Por otro lado, en el Capitolio, los miembros del Congreso están abordando las mismas cuestiones mientras consideran posibles remedios legislativos. Durante una audiencia del Comité de Seguridad Nacional del Senado, el senador Josh Hawley, republicano de Missouri, aprovechó un momento al inicio para describir la magnitud de los hackeos autónomos que han afectado a entidades externas y que, según parece, las empresas de vanguardia han pasado por alto durante meses. Enumeró uno a uno los objetivos afectados, que incluían importantes repositorios de código en línea como HuggingFace, así como sitios web gubernamentales de Australia y Estados Unidos, páginas de wikis en idiomas extranjeros poco conocidos y otros rincones de internet.

Tras semanas de investigaciones que revelaron incidentes adicionales, previamente no reportados, en los que modelos de IA escaparon de entornos de prueba y atacaron a víctimas, Hawley afirmó que era "hora de tener una conversación sobre quién asume la responsabilidad" por las consecuencias. Añadió que, en el momento en que los ejecutivos de IA reconocen que tienen un problema real, lo siguiente que dicen es que "no son responsables de ello".

Hawley mencionó que el comité había invitado al CEO de OpenAI, Sam Altman, a testificar en la audiencia, pero este declinó la invitación. El senador acusó a las empresas de inteligencia artificial de vanguardia de enfatizar el peligro de sus productos mientras piden exenciones legales antimonopolio y solo apoyan la acción gubernamental si "pueden redactar todas las regulaciones". "Sugiero que tal vez empecemos con alguna legislación federal... y podemos utilizar los estatutos existentes para hacerlo; propongo usar la Ley de Fraude y Abuso Informático (CFAA)", declaró Hawley. "Ya está en vigor, solo necesitamos actualizarla para establecer que, en el caso de los desarrolladores —es decir, las empresas—, si desarrollan estos agentes y los entrenan de manera imprudente, y luego estos agentes hackean y destruyen información, son responsables".

Al igual que otros expertos legales, Hawley sostuvo que una acusación bajo la CFAA requiere la existencia de un actor humano u organización que haya tenido la intención de cometer un delito. Por su parte, otro senador, Ron Wyden, demócrata de Oregón, indicó que también estaba trabajando en legislación relacionada con estos hackeos. “Las grandes empresas de IA deberían ser responsables si sus agentes hackean a otras compañías, sistemas gubernamentales o sitios web extranjeros”, afirmó Wyden en un comunicado a CyberScoop. “En mi opinión, existe una cuestión sobre si la CFAA actual se aplicaría a los hackeos recientes. Estoy trabajando en una actualización específica de la ley para asegurar que Anthropic, OpenAI y otras grandes empresas de IA puedan ser sancionadas cuando sus agentes actúan sin control”.

Los senadores Mark Warner, demócrata de Virginia, Brian Schatz, demócrata de Hawái, y Andy Kim, demócrata de Nueva Jersey, han presentado un proyecto de ley que crearía una Junta de Seguridad de IA en el Departamento de Comercio. Esta junta evaluaría los riesgos emergentes de la inteligencia artificial y establecería estándares de seguridad y técnicas.

El régimen de pruebas instaurado por la administración Trump para las empresas de IA es completamente voluntario, se aplica solo a ciertos modelos y exige pruebas no más de 30 días antes de su lanzamiento. En contraposición, bajo el proyecto de ley demócrata, las empresas de IA de vanguardia estarían obligadas a presentar modelos para su evaluación 45 días antes de su lanzamiento. Además, se les exigiría cumplir con salvaguardias gubernamentales relacionadas con modelos que descubren y explotan vulnerabilidades en software sin la dirección explícita de un humano. Las empresas podrían enfrentarse a multas de hasta 250,000 dólares por cada violación, por día.

Cuando se le preguntó si la CFAA u otros estatutos federales podrían o deberían utilizarse para enjuiciar a las empresas cuando sus sistemas de IA hackean, Warner afirmó que la supuesta falta de intención de causar daño por parte de las empresas no debería convertirse en una excusa legal general para evadir responsabilidades. Las empresas de IA han argumentado que nunca incitaron ni sugirieron directamente que sus modelos hackearan o cometieran delitos. “Los modelos de IA son herramientas y si yo compro una herramienta eléctrica y la uso de manera deliberada y errónea, esa es mi responsabilidad”, afirmó Warner. “Pero si un defecto provoca que esa herramienta se comporte de manera peligrosa, no absolvemos al fabricante simplemente porque otra persona estaba usando la herramienta cuando falló. A medida que los sistemas de IA se vuelven capaces de actuar de forma autónoma, necesitamos cuestionar qué principios de responsabilidad deberían aplicarse a las empresas que los diseñan y despliegan”.

Este análisis sobre las cuestiones legales que plantean los hackeos autónomos de IA fue publicado originalmente en CyberScoop.

◢ CIBERCRIMEN ◣

The legal questions raised by agentic AI hacks

⟫ 02/10/2026 ⟫ djohnson

Source: CyberScoop

As AI agentsescaping testing sandboxesand hacking organizations have gone from unprecedented toseemingly routinein a matter of weeks, policymakers, regulators and cybersecurity attorneys largely agree on one thing: Something must be done to hold AI companies accountable for the incidents. Exactly what can be done under our current laws and regulations is much less clear. The conversation has moved from policy and industry chatter to the floor where the future of liability will be determined. Speaking about the Hugging Face hack at a Senate hearing this week, Georgetown University law professor Paul Ohm summarized the argument. “If you take any of the lengthy reports that have summarized what happened at OpenAI in July and August, and you simply search for the words ‘AI agent’ and you replace them with the words ‘OpenAI employee,’ the document you would be left with would read like a criminal indictment containing the defendant’s own confession of guilt,” said Ohm. CyberScoop spoke with members of Congress, former federal law enforcement officials, cybersecurity attorneys and other experts about which laws, regulations or policies might apply to agentic hacks carried out by models at Anthropic, OpenAI, Meta, Google and other companies. Their answers varied widely. Some endorsed using existing laws like theComputer Fraud and Abuse Act, while others said regulators such as the Federal Trade Commission could investigate and fine AI model developers by defining unauthorized agentic hacks as a form of unfair or deceptive trade practice. Still others pointed to civil lawsuits, new laws or state regulators as ways to hold AI companies or users accountable. But, similar to a familiar technical cybersecurity idiom, there are no silver bullets in this debate. Nearly every option has real complications or roadblocks that could limit its effectiveness. For once, the CFAA is too narrow One of the first laws mentioned in discussions about agentic AI hacks is the Computer Fraud and Abuse Act, the federal government’s primary criminal hacking law. Historically, many in the cybersecurity communityhave criticizedthe statute as overly broad. For agentic hacks, the problem is the opposite: The CFAA’s language does not clearly cover the activity involved in incidents like the Hugging Face hack. “I would not be looking at a CFAA charge as the statute exists today” for these hacks, said Leonard Bailey, former head of the cybersecurity unit in the Computer Crime and Intellectual Property section at the Department of Justice. Baileyhelped develop policiesthat moved the DOJ away from prosecuting “good faith” third-party security research under the CFAA. He said that even if Congress changed the law to cover such hacks, it’s unclear whether that would help since laws like the CFAA are supposed to be “technology neutral.” According to the Department of Justice’s website, CFAA prosecutionsmust provethat a defendant accessed a computer “without authorization” or in a way that “exceeds authorized access.” Crucially, the law specifies that “as part of proving that the defendant acted knowingly or intentionally, the attorney for the government must be prepared to prove that the defendant was aware of the facts that made the defendant’s access unauthorized at the time of the defendant’s conduct.” In other words, prosecutors must prove that the unauthorized access was intentional, not accidental. Applied to incidents like the Hugging Face hack, the legal problem becomes clearer. If a human performed the same actions, they would almost certainly face CFAA charges. If a bot or software acted on behalf of a cybercriminal or group, the individuals or organizations intending to profit from the scheme could also face charges. But no human at OpenAI, Anthropic or another frontier AI company directed, asked or even suggested that its agents hack victims or commit crimes. If charged, those companies would almost certainly argue that none of their actions demonstrated an overt attempt to commit a crime or authorize access to systems or data without permission. However, others said there may be room to argue that AI companies are now fully aware that their products can engage in unauthorized agentic hacks. “I’m of the opinion, because it has already happened [and] has happened several times, the argument that it happening again is not at a minimum knowing, for me it’s unlikely because we already have a situation where we know the capabilities,” said Elimu Kajunju, a privacy, cybersecurity, and AI governance attorney at Rimon Law. “The very first one where this happened, that’s the only organization that could say ‘You know what, we didn’t know it could do that or act like that.’ Once we’ve had a second or third or fourth, we can’t say that anymore.” Kajunju acknowledged that applying statutes like the CFAA to agentic hacks could be complicated. But he said it would align with the spirit of American jurisprudence, in which businesses are often legally accountable for damage they cause, whether they intended it or not. “I think this is one of those situations where, ‘Does it fit neatly into one of the buckets [we have]?’ No, but can you find one that will fit depending on what has happened? I think so.” CyberScoop has reached out to OpenAI, Anthropic and Google for comment. The FTC, states and civil lawsuits Beyond criminal law, the hacks could also draw scrutiny from federal regulators, including the FTC. Both Bailey and Kajunju pointed to the FTC as a possible regulator for agentic hacking incidents if the agency defines them as unfair and deceptive trade practices under Section 5 of the FTC Act. One benefit of relying on regulators such as the FTC is that they can often move faster on investigations and enforcement actions than the DOJ can on criminal prosecutions — an important consideration in the fast-moving AI space. The FTC recently confirmed it was investigating OpenAI, Anthropic and other frontier AI companies, newsfirst reportedby The New York Post andconfirmedby Axios. The FTC did not return a phone call from CyberScoop requesting comment. But Bailey warned that without a specific congressional mandate directing the FTC to regulate AI company hacks, any effort by the agency to redefine or expand its rules would almost certainly be challenged in court. Civil lawsuits and state policymaking offer additional paths to investigating or regulating AI companies. Currently, Florida isinvestigatingOpenAI over the HuggingFace hack, while a nonprofit that sued OpenAI earlier this week hascitedalleged violations of California law. In his testimony, Ohm said that if Congress was serious about preventing agentic hacks, it should not pursue federal legislation preempting state AI laws. He called states “laboratories of democracy,” that can experiment with different forms of regulation and lawmaking. Others agreed with that approach. “Obviously this is a topic that the federal government doesn’t love, states getting involved in this space, but it just takes too long for action to come through Congress,” said Kajunju. “I think the quickest way to getting us to a better place will be a really good state law.” New legislative remedies On the Hill, members of Congress are working through the same questions as they consider legislative remedies. At a Senate Homeland Security Committee hearing Wednesday, Sen. Josh Hawley, R-Mo., took a minute at the outset to describe the volume of agentic hacks affecting outside entities that frontier companies appeared to have missed for months. He named affected targets one by one, including major online code repositories like HuggingFace,AustralianandU.S. governmentwebsites,obscure foreign-language wiki sitesand other parts of the internet. After weeks of investigations uncovered additional, previously unreported incidents in which models escaped testing environments and hacked victims, Hawley said it was “time to have a conversation about who bears responsibility” for the fallout. He added, “as soon as the AI executives say ‘we got a real problem here, our product is out of control,’ the very next words out of their mouths are, ‘but we’re not responsible for it.’” Hawley said the committee invited OpenAI CEO Sam Altman to testify at the hearing, but he declined. Hawley then accused frontier AI companies of emphasizing their products’ danger while pushing for legal antitrust exemptions and only supporting government action if “they can write all the regulations.”“I’d suggest that maybe we start with some federal legislation…and we can use existing statutes to do it, I propose using the Computer Fraud and Abuse Act,” said Hawley. “It’s already on the books, we can just update it to say that for developers – that’s the companies – if you develop these agents and train them in a reckless fashion and they go on to hack and destroy stuff, you’re liable.” Like other legal experts, Hawley said he believes a CFAA prosecution requires a human actor or organization that intended to commit a crime.Another Senator, Ron Wyden, D-Ore., said he was also working on legislation related to the hacks. “The big AI companies should be held responsible if their agents hack other companies, government systems or foreign websites,” said Wyden in a statement to CyberScoop. “In my view there’s a question about whether the current CFAA would apply to the recent hacks. I’m working on a narrow update to the law to ensure Anthropic, OpenAI and other big AI companies can be punished when their agents run wild.” Sens. Mark Warner, D-Va., Brian Schatz, D-Hawaii, and Andy Kim, D-N.J.,introduced a billthat would create an AI Safety Board at the Department of Commerce. That board would evaluate emerging AI risks and establish safety and technical standards. The Trump administration’s testing regime with AI companiesis entirely voluntary, applies to only certain models, and requires testing no more than 30 days before release. Under the Democratic bill, frontier AI companies would be forced to submit models for testing 45 days before release. They would also be legally required to comply with government safeguards related to models discovering and exploiting software vulnerabilities without explicit human direction. Companies could face fines of up to $250,000 per violation, per day. When asked whether the CFAA or other federal statutes could or should be used to prosecute companies when their AI systems hack, Warner said that companies’ claimed lack of intent to harm should not become a catchall legal excuse for avoiding responsibility. AI companies have said they never directly prompted or suggested that their models hack or commit crimes. “AI models are tools and if I buy a power tool and deliberately misuse it, that’s my responsibility,” said Warner. “But if a defect causes that tool to behave in a dangerous way, we don’t absolve the manufacturer simply because someone else was using the tool when it malfunctioned. As AI systems become capable of acting autonomously, we need to ask what principles of responsibility should apply to the companies that design and deploy them.” The postThe legal questions raised by agentic AI hacksappeared first onCyberScoop.

𝐗 Twitter f Facebook ☎ WhatsApp ✈ Telegram

← VOLVER A CIBERSEGURIDAD