Para investigar un incidente en un agente de Microsoft Copilot Studio hay que contenerlo sin destruir evidencias, recopilar sus interacciones, invocaciones de herramientas y actividad de identidad, reconstruir qué contenido leyó y qué acciones ejecutó, identificar la causa raíz y corregir sus permisos, conectores y controles de protección.
Imagine este escenario, de carácter ilustrativo. Una empresa despliega un agente de atención a proveedores que lee facturas recibidas por correo, consulta el ERP y responde a las dudas sobre pagos. Un día, el agente procesa una factura con instrucciones ocultas en el texto. Las sigue y envía a una dirección externa los datos bancarios de varios proveedores.
Ningún servidor ha sido comprometido. Ninguna contraseña ha sido robada. El agente hizo exactamente lo que sus permisos le permitían hacer, siguiendo las instrucciones de un actor externo.
¿Por dónde empieza la investigación?
Los procesos tradicionales de respuesta a incidentes están pensados para atacantes humanos que usan identidades humanas. Los agentes de IA rompen varias de esas premisas:
Por eso, la respuesta a incidentes en agentes de IA debe adaptar el ciclo DFIR a un actor no humano: qué leyó, qué instrucción siguió, qué herramienta invocó y qué datos movió.
El OWASP Top 10 para aplicaciones LLM 2026, publicado en agosto de 2026, ofrece un marco útil para clasificarlos.
Un usuario introduce instrucciones diseñadas para que el agente ignore sus reglas, revele información o ejecute acciones no previstas. Corresponde a LLM01: inyección de prompts.
Las instrucciones maliciosas no las escribe el usuario. Llegan ocultas en el contenido que el agente procesa: un documento de SharePoint, un correo, una página web o un archivo de las fuentes de conocimiento del agente. Es el escenario del ejemplo inicial y el más difícil de detectar, porque el usuario que interactúa con el agente puede ser completamente legítimo. También corresponde a LLM01.
El agente tiene más permisos, conectores o capacidad de acción de los necesarios, y ejecuta acciones que nadie había previsto: enviar correos externos, modificar registros o mover archivos. Corresponde a LLM03: autonomía excesiva, que en la edición de 2026 ha subido del sexto al tercer puesto.
Un atacante obtiene acceso a la identidad del agente, a sus secretos o a las credenciales de sus conectores, y los usa fuera del agente. Este caso se parece más a un incidente de identidad tradicional, pero con una identidad no humana. También puede implicar LLM08: exposición de contexto oculto, cuando el agente revela instrucciones del sistema, configuraciones o datos de contexto que facilitan el ataque.
Agentes creados sin aprobación, sin responsable asignado o cuyo creador ya no está en la organización, con permisos amplios y sin supervisión. No siempre son el origen del ataque, pero amplían la superficie y complican la investigación.
Las evidencias de un agente están repartidas entre varias herramientas, y algunas solo existen si se configuraron antes del incidente.
| Fuente | Qué muestra | Dónde se consulta | Retención | ¿Requiere configuración previa? |
|---|---|---|---|---|
| Registro de auditoría unificado (CopilotInteraction) | Interacciones con agentes de Copilot y Copilot Studio, aplicación de origen y recursos consultados | Portal de Microsoft Purview | 180 días (Audit Standard); ampliable con directivas de Audit Premium | No (activo por defecto); sí para ampliar la retención |
| Alertas de protección en tiempo de ejecución | Invocaciones de herramientas bloqueadas o señaladas como sospechosas | Portal de Microsoft Defender | Según la retención de alertas e incidentes de Defender | Sí: conectar Copilot Studio y activar la protección |
| Búsqueda avanzada | Inventario de agentes (AgentsInfo, versión preliminar) y actividad en aplicaciones en la nube | Portal de Microsoft Defender (KQL) | 30 días | Sí, para conservarla más tiempo en Microsoft Sentinel |
| Registros de inicio de sesión del Agent ID | Autenticaciones de la identidad del agente y acceso a recursos | Centro de administración de Microsoft Entra | 7 días (Free) o 30 días (P1/P2) | Sí, para exportarlos más allá de 30 días |
| Telemetría de Copilot Studio | Transcripciones de conversaciones y, si está integrada, telemetría detallada en Application Insights | Dataverse / Azure Monitor | Transcripciones: retención limitada por defecto | Sí, para Application Insights y retenciones mayores |
| Actividad en Microsoft Purview | Contenido de prompts y respuestas, etiquetas y datos sensibles implicados | eDiscovery, Explorador de actividades, DSPM | Según las directivas de retención | Parcialmente (directivas de recopilación) |
Esta tabla resume las capacidades a octubre de 2026. Verifique las retenciones en su tenant, porque dependen del licenciamiento y de la configuración.
Una consulta KQL sencilla en la búsqueda avanzada permite identificar rápidamente los agentes de una plataforma concreta y su estado más reciente:
AgentsInfo
| summarize arg_max(Timestamp, *) by AgentId
| where Platform == "Copilot Studio"
Las señales pueden llegar de varias fuentes:
La evaluación de prioridades de incidentes debe tratar cualquier acción no autorizada de un agente como un incidente de seguridad, no como un fallo de software. Declárelo formalmente y active el equipo de respuesta.
El centro de operaciones de seguridad debe disponer de criterios específicos para la evaluación de prioridades de incidentes con agentes: qué datos maneja el agente, qué acciones puede ejecutar y a cuántos usuarios atiende.
El error más común es borrar el agente. Eso elimina su configuración y dificulta la investigación. La contención debe ser reversible:
Si el agente usa todavía un registro de aplicación heredado en lugar de un Agent ID, la contención es más lenta y menos precisa. Es uno de los motivos para migrar todos los agentes a Agent ID antes de que ocurra un incidente.
Priorice las fuentes de menor retención:
Aplique retenciones de eDiscovery a los buzones y sitios implicados. Exporte, calcule hashes y documente la cadena de custodia.
Es el núcleo de la investigación. La cadena de un incidente en un agente sigue este patrón:
Entrada → Instrucción → Invocación de herramienta → Acción → Datos afectados
En el escenario ilustrativo:
Para reconstruirla:
Distinga entre tres causas, porque la corrección es diferente en cada caso:
A menudo concurren varias. En el ejemplo, la manipulación fue el desencadenante, pero la causa de fondo fue que el agente podía enviar correos externos sin aprobación humana.
Determine:
Si hay datos personales afectados, la evaluación debe hacerse con rapidez, porque el RGPD puede exigir la notificación en 72 horas. Lo tratamos más abajo.
Antes de volver a publicar:
Pruebe el agente corregido frente al escenario del incidente. Revise además si otros agentes comparten la misma configuración vulnerable.
Microsoft Defender ofrece protección en tiempo de ejecución para agentes de Copilot Studio. Antes de ejecutar una herramienta, un tema o una acción de conocimiento, el orquestador de Copilot Studio consulta a Defender, que evalúa si la invocación debe permitirse o bloquearse. Según la documentación de Microsoft, esta capacidad para agentes de Copilot Studio está en versión preliminar, y desde el 1 de julio de 2026 requiere una licencia apta para Microsoft Agent 365.
Aun así, un incidente puede producirse con la protección activada por varias razones:
La protección en tiempo de ejecución es una red de seguridad valiosa, pero no sustituye a los permisos mínimos ni a la aprobación humana.
| Riesgo OWASP | Escenario | Evidencia clave | Acción de contención | Control preventivo en Microsoft |
|---|---|---|---|---|
| LLM01: inyección de prompts (directa) | Un usuario manipula el agente para revelar datos o saltarse sus reglas | Transcripción de la conversación, CopilotInteraction | Retirar la publicación y revisar las conversaciones del usuario | Protección en tiempo de ejecución en bloqueo, instrucciones robustas |
| LLM01: inyección de prompts (indirecta, XPIA) | Un documento o correo con instrucciones ocultas desencadena una acción | Contenido de origen, recursos consultados, invocación de herramienta | Retirar la publicación, aislar el contenido de origen y revocar conectores | Orígenes de conocimiento de confianza, aprobación humana, Defender |
| LLM03: autonomía excesiva | El agente ejecuta acciones no previstas a través de conectores | Registros del conector, alertas de Defender | Deshabilitar el Agent ID y suspender los conectores | Mínimo privilegio, aprobación para acciones de alto impacto |
| LLM08: exposición de contexto oculto | El agente revela instrucciones del sistema o configuraciones | Transcripciones y respuestas | Retirar la publicación y rotar los secretos expuestos | No incluir secretos en las instrucciones, revisión de configuración |
| Abuso de credenciales | La identidad o los secretos del agente se usan fuera de él | Registros de inicio de sesión del Agent ID | Deshabilitar el Agent ID y revocar credenciales | Acceso condicional para agentes, ID Protection |
| Agentes huérfanos / shadow AI | Un agente sin responsable con permisos amplios | Inventario de agentes, AgentsInfo | Deshabilitar el agente y asignar un responsable | Inventario en Agent 365, sponsors y revisiones de acceso |
¿Quién responde por las acciones de un agente? El agente no es responsable de nada. Responde la organización, y dentro de ella deben estar claros tres roles:
Definir estos roles antes de un incidente evita que la investigación se convierta en una búsqueda de responsables.
¿Cuándo es una brecha de datos notificable? Según el RGPD, una brecha de datos personales que suponga un riesgo para las personas debe notificarse a la autoridad de control (en España, la AEPD) sin dilación indebida y, si es posible, en 72 horas desde que se tiene conocimiento. Que el responsable técnico sea un agente y no una persona no cambia la obligación. Una exposición de datos causada por un agente manipulado puede ser una brecha notificable.
Relación con el Reglamento Europeo de IA y la ISO/IEC 42001. El Reglamento Europeo de IA establece obligaciones de supervisión humana y de registro para determinados sistemas, en particular los de alto riesgo, cuyas obligaciones se aplicarán a partir de diciembre de 2027 tras el Ómnibus Digital. La ISO/IEC 42001 exige gestionar los incidentes dentro del sistema de gestión de IA. En ambos casos, disponer de un proceso documentado de respuesta a incidentes en agentes es una evidencia de gobernanza.
Implique siempre a su DPO y a su asesoría jurídica en la evaluación.
La mayoría de las dificultades de una investigación se resuelven antes de que ocurra el incidente:
Microsoft Security Copilot puede ayudar a los analistas a resumir incidentes y a acelerar la investigación, pero no sustituye a un playbook definido.
Profundizamos en los riesgos de OWASP aplicados a Microsoft Copilot en nuestro artículo ¿Es vulnerable su implementación de Copilot?. Para el proceso general de respuesta, consulte nuestro checklist de respuesta a incidentes de ciberseguridad.
Los agentes de IA son actores con identidad, permisos y capacidad de acción. Cuando algo sale mal, necesitan un proceso de respuesta adaptado a sus riesgos: contener sin destruir, reconstruir qué leyeron y qué hicieron, distinguir entre manipulación, mala configuración y abuso de credenciales, y corregir la causa de fondo.
La preparación es lo que marca la diferencia. Las organizaciones que ya tienen inventario de agentes, Agent ID, protección en tiempo de ejecución, retención de evidencias y un playbook definido pueden investigar en horas lo que a otras les llevaría semanas. Es la extensión natural de la respuesta a incidentes y de la ciberseguridad en la era de la IA agéntica, y forma parte de la seguridad de Copilot y de cualquier estrategia de gobernanza de la inteligencia artificial.
ne Digital ayuda a las organizaciones a:
Conozca nuestro servicio de preparación para incidentes en agentes de IA o empiece con una evaluación de gobierno de IA.