🛡 VULNERABILIDADES 🛡

Anthropic lanza un programa de 'compromiso a largo plazo' para asegurar infraestructuras críticas y software de código abierto.

🛡CyberObservatorio
Anthropic lanza un programa de 'compromiso a largo plazo' para asegurar infraestructuras críticas y software de código abierto.
Idioma

Anthropic lanza un programa de 'compromiso a largo plazo' para asegurar infraestructuras críticas y software de código abierto.

Fuente: CyberScoop

En un contexto donde la ciberseguridad se ha convertido en una prioridad crítica a nivel mundial, Anthropic ha anunciado un programa innovador que busca fusionar sus herramientas de inteligencia artificial con la experiencia de empresas de ciberseguridad para identificar y corregir vulnerabilidades en infraestructuras críticas y software de código abierto. Este anuncio es parte de un compromiso a largo plazo que la empresa establece hacia la defensa de la ciberseguridad, un área que ha estado bajo presión constante debido a la creciente sofisticación de los ataques cibernéticos.

La iniciativa, denominada programa de defensa de infraestructuras críticas, tiene como objetivo unir los modelos de inteligencia artificial Claude de Anthropic, la experiencia de sus ingenieros y la investigación sobre amenazas con la pericia de reconocidas empresas de ciberseguridad como Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC y Rockwell Automation. Este enfoque colaborativo busca abordar la escasez de recursos que han enfrentado los defensores de la infraestructura crítica, quienes, a pesar de contar con décadas de experiencia en seguridad, se encuentran en una situación precaria agravada por la creciente complejidad del panorama de amenazas.

Anthropic ha destacado que ha proporcionado modelos avanzados y soporte técnico a más de la mitad de los estados en Estados Unidos, así como a importantes operadores de infraestructuras críticas, con el fin de escanear y corregir código o asistir en actividades de respuesta a incidentes y pruebas de penetración. La empresa subraya que, aunque la defensa de infraestructuras críticas presenta desafíos que la inteligencia artificial no puede solucionar completamente, considera que sus modelos pueden ayudar a identificar y reparar debilidades antes de que sean explotadas para interrumpir el suministro eléctrico o comprometer la potabilidad del agua.

Imagen del articulo

El primer paso de este programa consiste en colaborar con un grupo selecto de proveedores para determinar qué estrategias resultan más efectivas y prácticas. Anthropic también ha llevado a cabo trabajos similares con mantenedores de grandes proyectos de software de código abierto, donde algunas organizaciones han solicitado un informe detallado de todos los hallazgos que el modelo ha identificado en su software, incluso aquellos que no han sido revisados.

Este interés ha llevado a Anthropic a desarrollar un nuevo servicio de escaneo optativo para software de código abierto, que permitirá a las organizaciones recibir escaneos periódicos gratuitos de sus proyectos, acompañados de un informe que incluya pruebas de concepto, explicaciones y opciones sugeridas para aplicar parches. La empresa ha señalado que, bajo este programa, los informes serán entregados con mayor rapidez, aunque podrían contener inexactitudes.

El objetivo a largo plazo de Anthropic es automatizar la mayor parte del proceso de triage y parches, así como desarrollar nuevas arquitecturas de seguridad y estándares de codificación que sean más robustos. Este enfoque es especialmente relevante en un momento en que los modelos de inteligencia artificial han adquirido capacidades de ciberseguridad cada vez más poderosas, como la detección y explotación de vulnerabilidades conocidas. Sin embargo, las empresas de inteligencia artificial, incluidas Anthropic y OpenAI, han expresado su preocupación de que actores maliciosos puedan acceder a estas herramientas más rápido que las organizaciones legítimas. Por ello, ambas han iniciado programas que canalizan sus tecnologías hacia empresas y gobiernos, sin costo alguno, con el propósito de fortalecer la ciberseguridad defensiva.

En conclusión, el programa de Anthropic representa un avance significativo en la colaboración entre la inteligencia artificial y la ciberseguridad, ofreciendo soluciones innovadoras para proteger infraestructuras críticas y software de código abierto frente a las amenazas cibernéticas. Este esfuerzo no solo refuerza la capacidad de respuesta ante incidentes, sino que también establece un camino hacia la creación de un entorno más seguro en un panorama digital en constante evolución.

Anthropic rolls out program for ‘long-term commitment’ to secure critical infrastructure, open source software

Source: CyberScoop

Anthropicannounceda new program Thursday that will combine its AI tools with outside cybersecurity companies to find and fix cybersecurity vulnerabilities in critical infrastructure and open-source software. Advertised as part of a new, “long-term commitment” to cybersecurity, the critical infrastructure defense program will pair Claude models, Anthropic engineers and threat research with the expertise of cybersecurity companies, including Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC, and Rockwell Automation. “Defenders of critical infrastructure and the [open-source software] community have decades of security experience but have faced severe resource shortages that are exacerbated by this moment,” Anthropic wrote in a blog post. “We are recognizing their expertise in these domains and offering our support.” Anthropic said it has offered frontier models and technical support to more than half the states in the U.S., as well as large operators of critical infrastructure to scan and patch code or assist in incident response and red teaming activities. “Critical infrastructure is hard to defend in many ways that AI cannot fix, but we believe that frontier models can help find and repair weaknesses before those weaknesses are used to cut off power or make water unsafe, the company wrote. “Our first step is to work with a small cohort of providers to learn which strategies are most effective and practical.” The company said it has engaged in similar work with maintainers of large open-source software projects, and some organizations asked for everything the model had found in their software, even unreviewed findings. That spurred Anthropic to create a newopt-in scanning servicefor open source software, where organizations can get free, periodic scans of their projects with a proof of concept, explanation and suggested patching options. Anthropic noted that under this program, organizations will receive their reports faster but they may contain inaccuracies. The long-term goal is to automate most triage and patching and develop new security architectures and coding standards. As AI models have developed increasingly powerful cybersecurity capabilities, such as finding and exploiting known vulnerabilities, frontier AI companies have worried that bad actors could gain access to the tools faster than legitimate organizations.AnthropicandOpenAIhave since both started programs funneling their tech to businesses and governments, free of charge, for defensive cybersecurity. The postAnthropic rolls out program for ‘long-term commitment’ to secure critical infrastructure, open source softwareappeared first onCyberScoop.

Anthropic lanza un programa de 'compromiso a largo plazo' para asegurar infraestructuras críticas y software de código abierto. | Ciberseguridad - NarcoObservatorio