**Un grave fallo de seguridad en ChatGPT expone conversaciones privadas a ataques maliciosos**
En un mundo donde la inteligencia artificial se ha integrado en nuestra vida cotidiana, los riesgos asociados a su uso no solo son teóricos, sino que pueden tener implicaciones muy reales. Un reciente descubrimiento por parte de investigadores de la firma de seguridad Parameter ha revelado una vulnerabilidad crítica en ChatGPT de OpenAI que podría permitir a un atacante ejecutar código malicioso en la sesión de un usuario que abra un enlace compartido. Este tipo de fallo no solo afecta la privacidad de las conversaciones, sino que también plantea serias preocupaciones sobre la seguridad de las plataformas de IA utilizadas por millones de personas.
La vulnerabilidad fue reportada a través del programa de recompensas por errores de OpenAI el 18 de octubre y fue corregida en un plazo de ocho días. OpenAI clasificó este fallo como P1, su categoría más grave, lo que subraya la seriedad de la situación. Este incidente no es aislado; refleja una tendencia creciente en la que las plataformas digitales, especialmente aquellas que manejan datos sensibles, se convierten en objetivos atractivos para los atacantes.
El mecanismo de ataque era sorprendentemente sencillo y se basaba en un enlace público de ChatGPT. Cualquier usuario podría recibir este enlace a través de un correo electrónico, un mensaje de chat, un ticket de soporte o incluso una publicación en redes sociales. Lo más alarmante es que la víctima no necesitaba instalar nada, ni unirse a un espacio de trabajo, ni iniciar sesión a través del atacante. En la versión más efectiva del ataque, el usuario simplemente tenía que abrir el enlace y hacer clic en el botón de Vista previa de ChatGPT. En una iteración posterior, se configuró la página para abrir la Vista previa automáticamente, lo que significaba que abrir el enlace era el único paso necesario.
Una vez abierto el enlace, el código del atacante se ejecutaba dentro de la sesión iniciada de la víctima, teniendo el mismo acceso que el propio sitio web de ChatGPT. Esto permitió al atacante listar las conversaciones recientes de la víctima, abrir un chat privado que nunca había sido compartido y enviar un pequeño fragmento de dicha conversación a un servidor controlado por los investigadores. Lo inquietante de esta vulnerabilidad es que el código se comunicaba directamente con las APIs de ChatGPT, lo que le otorgaba un acceso completo a la cuenta de ChatGPT de la víctima, en lugar de limitarse a lo que se mostraba en la pantalla. "Esencialmente, podíamos realizar cualquier acción en nombre de la cuenta de ChatGPT de la víctima", afirmaron los investigadores.
Es importante señalar que esta investigación fue un test controlado; Parameter no reporta ninguna utilización real de la vulnerabilidad y llevó a cabo su prueba de chat privado entre cuentas separadas, en lugar de atacantes reales. El funcionamiento de la vulnerabilidad se basa en cómo ChatGPT convierte un bloque de HTML en una pequeña página web mediante una característica llamada Vista previa. A pesar de que esta página se ejecuta en un marco restringido y en una dirección web separada, se descubrió que podía aceptar mensajes de cualquier remitente.
El problema se origina en tres decisiones de diseño interrelacionadas. Primero, MathLive, una biblioteca matemática utilizada en el chat, actuaba sobre un mensaje que cambiaba sus configuraciones sin verificar qué marco había enviado dicho mensaje. Segundo, este mensaje estaba permitido para llevar HTML sin procesar como datos del diseño del teclado. Finalmente, el HTML podía crear un marco que no estaba aislado y que heredaba la identidad de chatgpt.com. Aunque la inclusión de scripts desde YouTube fue el último recurso que permitió la ejecución del código, no fue la causa raíz del problema. Bloquear únicamente esta etapa dejaría aún una Vista previa no confiable capaz de inyectar HTML en el sitio principal.
Para tranquilidad de los usuarios de ChatGPT, no es necesario que realicen ninguna acción. La solución ha sido implementada del lado de OpenAI, lo que significa que no hay necesidad de instalar o reiniciar nada. Parameter publicó su informe el 28 de octubre, justo después de la corrección del fallo, y OpenAI pagó un total de 5,000 dólares por el informe. Este incidente no solo resalta la importancia de la ciberseguridad en las plataformas de inteligencia artificial, sino que también subraya la necesidad de una vigilancia constante en la protección de los datos personales en un entorno digital cada vez más complejo.
