El expresidente Donald Trump anunció el martes que él y un amplio grupo de líderes de empresas dedicadas a la inteligencia artificial (IA) firmaron un acuerdo voluntario que incluirá revisiones internas y externas, durante una reunión en la Casa Blanca destinada a abordar las preocupaciones de los ciudadanos estadounidenses sobre esta tecnología. Durante una conferencia de prensa improvisada a las puertas del Ala Oeste, Trump expresó: "Creo que se está viendo un notable auto-regulamiento. Y ellos entienden que deben auto-regularse".
En este encuentro, Trump y el presidente de la Cámara de Representantes, Mike Johnson, se reunieron con destacados ejecutivos de algunas de las principales empresas tecnológicas que están invirtiendo cientos de miles de millones de dólares en el desarrollo de infraestructuras de IA, incluyendo centros de datos en comunidades de todo el país. Estos proyectos han provocado una oposición bipartidista a nivel local, impulsada por preocupaciones sobre el impacto de la IA en las comunidades.
El acuerdo fue firmado por Trump, el CEO de Anthropic, Dario Amodei; el CEO de Google, Sundar Pichai; el CEO de Meta, Mark Zuckerberg; el presidente de OpenAI, Greg Brockman; el CEO de Nvidia, Jensen Huang; y Elon Musk, fundador de xAI, actualmente parte de SpaceX. En el documento, que Trump publicó en su red social Truth Social, se abrió la puerta a futuras regulaciones, aunque se centró en cuatro pasos voluntarios que las empresas se comprometieron a seguir.
Entre estos pasos, se destaca que las empresas implementarán "controles internos robustos", colaborarán con un "auditor externo independiente" para evaluar la efectividad de dichos controles y establecerán un comité dentro de cada consejo de administración para evaluar los informes de auditores internos y externos. El acuerdo menciona que "con el tiempo, podría tener sentido codificar estos pasos en leyes y regulaciones".
Trump elogió repetidamente a los ejecutivos por desarrollar una tecnología que, según él, generará un "crecimiento increíble". La inversión en centros de datos y el equipo informático asociado ha acelerado la economía y ha impulsado el mercado de valores, beneficiando a las cuentas de inversión de los estadounidenses de mayores ingresos y aumentando su capacidad de gasto.
Sin embargo, también se escucharon voces de cautela durante la reunión. Amodei, uno de los más activos defensores de una desaceleración en el desarrollo de la IA, advirtió que "la tecnología conlleva riesgos muy reales". Añadió que "el mecanismo para abordar esos riesgos aún está en discusión".
Trump sugirió que se nombrarían alrededor de diez personas para un comité que supervisaría el "conjunto de actividades" relacionadas con la IA y afirmó que el acuerdo tendría un carácter "moralmente vinculante". Además, mencionó que designaría a una persona para supervisar el acuerdo en los próximos días tras consultar con la industria.
Algunas de las acciones delineadas en el acuerdo son medidas que estas empresas ya están implementando en alguna forma o a las que previamente se habían comprometido. Según Shri Narayanan, profesor de ingeniería eléctrica y computación en la Universidad del Sur de California, la intención del acuerdo es equilibrar la flexibilidad necesaria para la innovación con la regulación. Narayanan subrayó que la innovación no se limita a mejorar las capacidades de los modelos de IA, sino que también incluye esfuerzos para mejorar la seguridad y la protección de estos modelos.
Por su parte, otros expertos se mostraron escépticos respecto a depositar “tanta fe en la auto-regulación”. Robin Jia, profesor asistente de ciencias de la computación en la misma universidad, señaló que es crucial asegurarse de que las intenciones de los principales laboratorios estén "bien alineadas con los intereses más amplios del público estadounidense". Jia hizo hincapié en las recientes revelaciones sobre incidentes de hackeo y advirtió: "A medida que los modelos mejoran, las consecuencias de tales situaciones solo se incrementarán".
También hubo críticas hacia el lenguaje vago y amplio del acuerdo. Alex Pascal, director ejecutivo del Berkman Klein Center for Internet and Society, afirmó que "la única manera de reducir los riesgos y daños de la IA para los estadounidenses es a través de una responsabilidad legal sólida, regulación y un cambio fundamental en la dinámica de competencia que impulsa la toma de decisiones inseguras por parte de los desarrolladores de IA de frontera, cuyos costos son asumidos por el pueblo estadounidense".
Huang se sentó a la derecha de Trump durante una reunión de almuerzo en la Casa Blanca, según un esquema de asientos que el presidente publicó en Truth Social. Musk, por su parte, ocupó el lugar a la izquierda de Trump.
Más temprano ese mismo día, Trump prometió que el gobierno de Estados Unidos no limitaría el desarrollo de la inteligencia artificial ni apoyaría las solicitudes de "límites" u otras restricciones. "Nunca sofocaremos el crecimiento de una tecnología que será más grande que la revolución industrial", afirmó Trump al presentar un chatbot de IA, America.gov, diseñado para ayudar a los ciudadanos a navegar por los servicios gubernamentales. "No podemos sofocarlo, y estamos liderando por mucho".
La presentación del chatbot gubernamental de IA tuvo lugar en un evento que duró todo el día en Washington, donde varios funcionarios de la administración Trump celebraron una "Edad Dorada" impulsada por lo que Trump se empeña en llamar “superinteligencia”, en lugar de inteligencia artificial. El Secretario de Estado, Marco Rubio, destacó que el chatbot de America.gov podría ser utilizado pronto para solicitar un pasaporte por primera vez de manera completamente online, eliminando la necesidad de una visita en persona a un centro de procesamiento como se exige actualmente.
Trump también mencionó que los ejecutivos habían acordado mitigar la oposición bipartidista a los centros de datos que están surgiendo en comunidades locales de todo el país, proporcionando más apoyo financiero a las escuelas locales o tomando medidas para reducir los costos energéticos. "Vas a ver que los centros de datos se volverán muy populares", afirmó Trump. Si la oposición persistía, sugirió que "se verían obligados a trasladarse al extranjero o a otras ubicaciones".
Por último, el CEO de OpenAI, Sam Altman, declaró en una entrevista televisiva que la empresa está cada vez más centrada en la seguridad. Un día antes, su compañía había detenido el lanzamiento de un nuevo modelo debido a preocupaciones sobre su seguridad. "Estamos moderando nuestro progreso, lo que a veces incluye no entrenar un modelo", comentó en CNBC. "Debemos hacerlo de una manera que nos permita hacer afirmaciones y casos de seguridad muy confiables, para que la gente no tenga ansiedad".
En su intervención, Trump también describió la carrera por el desarrollo de la IA como una competencia mayormente global entre Estados Unidos y China. Afirmó que habría un ganador y un perdedor, sin posibilidad de "un segundo lugar".
La semana pasada, durante la visita del presidente chino Xi Jinping a Washington, Estados Unidos y China acordaron establecer un canal para gestionar incidentes relacionados con la inteligencia artificial (IA). Sin embargo, el expresidente Donald Trump enfatizó el martes que no deseaba cooperar en exceso con China, afirmando: “No quería hacer nada, porque nosotros lideramos. ¿Por qué querría hacer algo?” Este comentario refleja una postura crítica hacia la colaboración bilateral en el ámbito tecnológico, donde las tensiones geopolíticas han ido en aumento, especialmente en lo relacionado con la IA y la ciberseguridad.
El establecimiento de un canal de seguridad para la IA es un paso significativo en la búsqueda de un marco regulatorio que pueda mitigar los riesgos asociados con el desarrollo y uso de tecnologías avanzadas. En este sentido, la preocupación por los incidentes de IA no es meramente teórica. Recientemente, OpenAI reveló que sus modelos interactuaron con sitios web del gobierno estadounidense, lo que subraya la importancia de la transparencia y la responsabilidad en el uso de estas tecnologías. Además, se plantean preguntas complejas sobre la responsabilidad legal en casos de ciberataques llevados a cabo por sistemas autónomos de IA, lo que complica aún más la ya intrincada relación entre la innovación tecnológica y la seguridad.
En un contexto más amplio, las preocupaciones sobre un posible dominio de la IA en internet han ido cobrando urgencia, alimentando escenarios apocalípticos que advierten sobre los riesgos que estas tecnologías podrían representar para la humanidad. Investigaciones recientes analizan cómo las decisiones tomadas en el desarrollo y despliegue de IA podrían tener consecuencias devastadoras si no se gestionan adecuadamente.
Por otro lado, el gobierno de Estados Unidos ha propuesto un sistema de alerta para incidentes de IA en las conversaciones con China, lo que podría facilitar una respuesta más coordinada ante posibles amenazas. Sin embargo, la falta de confianza y el deseo de mantener una posición de liderazgo predominan en la narrativa actual, como lo evidencian las acciones de gigantes tecnológicos como Google, que enfrentó una multa de 463 millones de dólares por violaciones relacionadas con la ubicación de datos en la Unión Europea.
A medida que la IA sigue evolucionando, la ciberseguridad debe adaptarse a estas nuevas realidades. La necesidad de un enfoque proactivo y preventivo es más crítica que nunca, pues la exposición de las cadenas de suministro, la computación cuántica y los conflictos geopolíticos están poniendo a prueba los programas de seguridad actuales. Prepararse para la disrupción debe integrarse en las operaciones diarias de las organizaciones, tal como lo señala Steve Durbin.
En este entorno, los equipos de seguridad deben considerar a los agentes autónomos como identidades altamente privilegiadas. La gestión de los riesgos asociados a estos sistemas se convierte, por tanto, en una responsabilidad crítica que no debe tomarse a la ligera. La propuesta de que cada credencial filtrada deba volverse obsoleta en un plazo de sesenta segundos es un claro indicativo de la urgencia que requiere la implementación de protocolos rígidos de seguridad a medida que la IA continúa desarrollándose y expandiéndose en diversas áreas.