En septiembre de 2023, un atacante de habla china llevó a cabo una campaña de hacking que puso en jaque a 105 sitios de comercio electrónico en un periodo de cinco días. Utilizando tres diferentes marcos de inteligencia artificial (IA) y modelos de IA de acceso público, el sistema autónomo de hacking comprometió al menos a 27 empresas. Este ataque no solo resultó en el robo de, al menos, 600,000 registros de tarjetas de pago de dos de las víctimas, sino que también se instalaron skimmers de tarjetas en los sitios de cinco compañías y se obtuvo algún grado de acceso ilícito a las demás, lo que incluye al menos a una empresa de la lista Fortune 500, según el informe de Gambit Security, que fue la que descubrió la campaña.
El costo promedio para los atacantes fue sorprendentemente bajo, con un gasto de solo 25.46 dólares por cada objetivo comprometido. Sa'ar Elias, cofundador y director de investigación de Gambit Security, subrayó que "la escala y el éxito de esta campaña son notables para solo una semana, especialmente considerando el tamaño de algunas de las víctimas". Esta observación resalta cómo el trabajo que antes requería un equipo coordinado de atacantes altamente capacitados ahora puede ser realizado por una sola persona sin mucho conocimiento previo.
La campaña de robo de datos y tarjetas de crédito no es un caso aislado. La IA autónoma ha acelerado la investigación de vulnerabilidades, lo que ha llevado a un aumento masivo en la asignación de CVEs (Common Vulnerabilities and Exposures). Cada vez más, los atacantes están utilizando IA para automatizar ataques, explotar sistemas más rápidamente e incluso actuar como hackers totalmente autónomos. En un experimento realizado por la firma de ciberdefensa Silverfort, se probó cómo un agente orquestador y versiones públicas de Claude Opus podían convertir el acceso inicial en un compromiso completo en un tiempo récord. Según Colin Ferris, líder de caza de amenazas y respuesta a incidentes en Silverfort, el “atacante” logró el control total del dominio en solo ocho minutos.
El descenso en las barreras de entrada es evidente, como lo señala Ferris: "Lo único que se necesita es un punto de apoyo básico, no habilidades exóticas, y por eso esto no se limitará a actores sofisticados". Este fenómeno se refleja también en los precios que se manejan en los mercados oscuros. De acuerdo con cifras de la firma de inteligencia de amenazas Flashpoint, el precio promedio del acceso inicial vendido ha caído de más de 1,400 dólares a 429 dólares, lo que indica un aumento en la oferta en los mercados subterráneos. A pesar de que menos empresas están pagando rescates (28% en la primera mitad de 2023), la actividad de ransomware ha crecido un 45%.
El contexto actual de la ciberseguridad es comparable con los campos de batalla modernos, donde ataques autónomos o dirigidos por drones están haciendo que las defensas costosas sean poco viables. Esto obliga a los defensores a encontrar formas más económicas de proteger y endurecer sus sistemas. En la última campaña, los ciberatacantes utilizaron el sistema de IA agente Hermes y dos marcos de pruebas de penetración de IA: Strix y Cairn. Elias de Gambit Security comenta que "los atacantes ahora pueden lanzar ataques cada vez más sofisticados a costes marginales muy bajos, mientras que los defensores deben mantener un alto nivel de fiabilidad en entornos complejos". Esto implica que defenderse de cada intento individual puede convertirse rápidamente en una propuesta económica insostenible.
La integración de la IA en los procesos de seguridad existentes será necesaria, pero no suficiente. Las empresas deben examinar sus procesos de negocio, determinar cuáles son los más críticos y encontrar maneras de protegerlos para prevenir interrupciones. Durante las últimas dos décadas, los expertos en ciberseguridad han advertido que las empresas no pueden esperar evitar ataques simplemente porque operan en un sector poco conocido o tienen una superficie de ataque relativamente pequeña. Albert Ziegler, director de seguridad de la información en la empresa de ciberseguridad ofensiva XBOW, enfatiza que "cada parte de una empresa conectada a Internet o a un socio que esté conectado a la red será atacada".
Ziegler también señala que "no son ataques increíblemente caros, pero son ataques que funcionan porque los sitios no han sido suficientemente endurecidos". Esto resalta la importancia de no limitar la protección a solo unos pocos sitios críticos, sino de considerar todos los puntos de acceso. Una forma de fortalecer las defensas es centrarse en las rutas básicas que los agentes de IA tienden a explotar, como cuentas con privilegios excesivos, credenciales reutilizadas y cuentas de servicio no gestionadas, y automatizar las decisiones de acceso para que los humanos no ralenticen las respuestas. Ferris menciona que cuando los investigadores de Silverfort mejoraron los controles, especialmente en autenticación y acceso, el mismo agente que tomó el dominio en minutos se encontró con 21 callejones sin salida y desistió.
"La IA no creó estas debilidades; simplemente las encuentra más rápido", explica Ferris. Es más económico implementar controles que detengan el ataque en el punto de acceso que realizar una limpieza posterior. Elias, de Gambit Security, sugiere que las empresas deben concentrarse en la economía de la recuperación tras un ataque y en cómo proteger sus procesos de negocio mínimos viables. Los líderes empresariales deben centrarse en qué inversiones tendrán el mayor impacto en el negocio.
Desafortunadamente, esto puede significar que los presupuestos necesiten crecer para adaptarse a la economía de la IA. Sin embargo, Elias advierte que "el gasto debería medirse cada vez más por la efectividad de la protección de las operaciones empresariales", en lugar de simplemente contar cuántas amenazas o herramientas puede gestionar un programa de seguridad.