🛡 CIBERCRIMEN 🛡

Karina Portugal defiende la importancia de Conocer a tu Agente

🛡CyberObservatorio
Karina Portugal defiende la importancia de Conocer a tu Agente
Idioma

Karina Portugal defiende la importancia de Conocer a tu Agente

Fuente: HackRead

**La Evolución de la Verificación de Identidad en la Era de los Agentes Autónomos**

En un mundo cada vez más digitalizado, la verificación de identidad y la prevención del fraude se han convertido en pilares fundamentales para la seguridad de las transacciones en línea. Karina Portugal, con más de diez años de experiencia en la gestión de identidad digital, prevención de fraude y controles de "Conoce a Tu Cliente" (KYC) en diversas entidades, incluidas bancos, fintechs y marketplaces en Estados Unidos, Brasil y América Latina, se encuentra en la vanguardia de estas discusiones. Actualmente, ocupa el cargo de Directora de Banca, Marketplaces, Alianzas Estratégicas y Confianza Agente en Prove Identity, donde aboga por la necesidad de un enfoque diferenciado para verificar a los agentes de software que actúan en nombre de los usuarios.

Mientras que los controles de identidad tradicionales se centran en establecer quién es una persona, la llegada de los agentes autónomos plantea una nueva interrogante: ¿está el software actuando aún dentro de los parámetros que el usuario aprobó? Esta pregunta cobra vital importancia a medida que la cantidad de agentes operando dentro de aplicaciones empresariales se espera que crezca de manera acelerada. Según proyecciones de Gartner, se estima que para finales de 2026, el 40% de las aplicaciones empresariales integrarán agentes de inteligencia artificial (IA) específicos para tareas, un aumento significativo respecto a menos del 5% en 2025.

Imagen del articulo

Un agente comprometido mantiene sus credenciales legítimas y tokens de sesión. Como señala Portugal, "todo lo que está por debajo ve una acción autorizada, porque en papel eso es lo que es". Este fenómeno evidencia una laguna en los procesos KYC, que son capaces de establecer la identidad de una persona, pero no determinan si un agente autónomo sigue actuando dentro de la tarea y los permisos que su usuario aprobó. Por lo tanto, Portugal argumenta que la autorización de agentes debe ser verificada durante su ejecución, y no solo al momento de permitir el acceso.

La diferencia entre la autenticación humana, que se limita a cuestionar si esta es la persona correcta, y la autenticación de agentes, que debe preguntar si el agente sigue realizando su función prevista en un momento específico, es crítica. Para ilustrar esta distinción, Portugal utiliza el ejemplo de la compra de entradas para conciertos. Un vendedor puede saber que un agente tiene permiso para adquirir un boleto, pero carece de un medio confiable para determinar si el agente sigue dentro de los parámetros establecidos por el cliente o si ha sido redirigido para malutilizar el método de pago asociado.

Portugal hace referencia a datos internos de Pindrop, los cuales registraron un aumento del 1,210% en fraudes impulsados por IA o "no vivos" durante 2025. Además, menciona un artículo del Foro Económico Mundial que alerta sobre la posibilidad de que los agentes de fraude basados en IA, capaces de crear identidades sintéticas, interactuar con sistemas de verificación y adaptar su comportamiento, se conviertan en algo común en un plazo de 18 meses.

La guía del Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) aborda algunas de estas preocupaciones. El marco de gestión de riesgos de IA de NIST, aunque voluntario, describe cómo los sistemas de IA operan con distintos niveles de autonomía y anima a las organizaciones a considerar los riesgos a lo largo del diseño, implementación, uso y evaluación de estos sistemas.

Portugal describe cuatro controles que las empresas pueden implementar de manera conjunta al autorizar agentes de IA. El primero consiste en emitir credenciales de corta duración y alcance limitado para tareas individuales, en lugar de proporcionar claves API estáticas. Ella menciona el sistema de pago de agentes de Stripe, que puede emitir una tarjeta de un solo uso o un token de pago compartido después de que un cliente aprueba una compra específica, sin exponer las credenciales de pago subyacentes.

El segundo control se centra en el contexto y el acceso a herramientas. El Modelo de Protocolo de Contexto proporciona una forma estándar para que los agentes se conecten con herramientas y datos, pero la mera autenticación no asegura que cada acción solicitada coincida con las instrucciones del usuario. Portugal sostiene que la autorización debe ser verificada antes de que una herramienta ejecute la acción solicitada.

La verificación del comportamiento forma la tercera capa de seguridad. Los señales de riesgo pueden ser reevaluadas cuando un agente realiza una acción significativa, lo que implica verificar si la solicitud coincide con el comportamiento esperado, se mantiene consistente con la tarea original y sigue una lógica derivada de acciones previas. Asimismo, los archivos, URLs y cargas útiles que se encuentren durante la ejecución pueden ser examinados antes de ser procesados.

La cuarta capa consiste en un registro de auditoría que vincula cada acción a su autorización. Estos registros deben identificar la credencial utilizada, la tarea aprobada, el solicitante y el momento de la acción, de modo que los investigadores puedan reconstruir lo sucedido tras un incidente de seguridad.

Portugal sostiene que las empresas que adquieren productos de agentes y los inversores que los financian deberían cuestionar si la tecnología en cuestión verifica a un agente a lo largo de su operación. "Las empresas que adoptan estos productos, y los inversores que los financian, deberían preguntarse si existe una verificación real", afirma. "De lo contrario, un producto hereda una confianza que nunca ganó".

Esta propuesta, que Portugal denomina "Conoce a Tu Agente", se sitúa al lado del concepto de "Conoce a Tu Cliente", añadiendo una capa adicional de verificación que asegura que la identidad, permisos y acciones del agente continúan coincidiendo con lo que el usuario autorizó. En un entorno digital en constante evolución, esta es una cuestión crítica que las empresas deben abordar para protegerse contra el fraude y mantener la confianza de sus usuarios.

Karina Portugal Makes the Case for Know Your Agent

Source: HackRead

Karina Portugal has spent more than ten years working in digital identity, fraud prevention, anti-money laundering and Know Your Customer controls with banks, fintechs and marketplaces in the United States, Brazil and Latin America. Now Director of Banking, Marketplaces, Strategic Partnerships and Agentic Trust at Prove Identity, she argues that companies need a separate approach for verifying software agents acting on behalf of users. Traditional identity controls establish who a person is, but autonomous agents create another question: whether the software is still performing the task its user approved. The number of agents operating inside business applications is expected to grow quickly.Gartner projectsthat 40 percent of enterprise applications will integrate task-specific AI agents by the end of 2026, up from less than 5 percent in 2025. “A compromised agent keeps its legitimate credentials and session tokens,” Portugal said. “Everything downstream sees an authorized action, because on paper that is what it is.” KYC can establish who a person is, but it does not determine whether an autonomous agent is still acting within the task and permissions its user approved. Portugal argues that agent authorization must therefore be checked during execution, not only when access is first granted. “Human authentication asks whether this is the right person,” she said. “Agent authentication has to ask a second question: is this agent still performing its intended function at this specific moment? Trust granted once, at deployment, does not answer that.” She uses concert-ticket purchases as an example. A seller may know that an agent has permission to buy a ticket, but it may have no reliable way to determine whether the agent remains within the parameters set by the customer or has been redirected to misuse the payment method connected to it. Portugal citesPindrop’s internal data, which recorded a 1,210 percent increase in AI-driven or “non-live” fraud during 2025. She also references aWorld Economic Forum articlestating that AI fraud agents capable of creating synthetic identities, interacting with verification systems and adapting their behaviour could become mainstream within 18 months. Guidance from the US National Institute of Standards and Technology addresses some of the same concerns. The voluntaryNIST AI Risk Management Frameworkdescribes AI systems as operating with varying levels of autonomy and encourages organizations to consider risk throughout design, deployment, use and evaluation. Portugal describes four controls that companies can use together when authorizing AI agents. The first involves issuing narrowly scoped, short-lived credentials for individual tasks instead of giving agents static API keys. She points toStripe’s agent-payment system, which can issue a one-time-use card or Shared Payment Token after a customer approves a specific purchase, without exposing the underlying payment credentials. The second covers context and tool access. Model Context Protocol provides a standard way for agents to connect with tools and data, but authentication alone does not establish whether each requested action matches the user’s instructions. Portugal argues that authorization should be checked before a tool executes. Behavioural verification forms the third layer. Risk signals can be reassessed when an agent performs a significant action, checking whether the request matches expected behaviour, remains consistent with the original task and follows logically from earlier actions. Files, URLs and payloads encountered during execution can also be examined before they are processed. The fourth layer is an audit trail connecting each action to its authorization. Records should identify the credential used, the approved task, the requester and the time of the action so investigators can reconstruct what happened after a security incident. Portugal believes companies buying agentic products, and investors funding them, should ask whether the technology verifies an agent throughout its operation. “Enterprises adopting these products, and the investors funding them, should be asking whether real verification is there,” she said. “Otherwise a product inherits trust it never earned.” Portugal calls this approach Know Your Agent. It would sit alongside Know Your Customer by checking whether an agent’s identity, permissions and actions still match what the user authorized.