Blog | ne Digital: Managed Services for Cybersecurity, Microsoft 365 and Azure

Respuesta a incidentes en agentes de IA: cómo investigar un agente de Copilot

Escrito por Nicolas Echavarria | 20 nov 2026, 21:51:40

Para investigar un incidente en un agente de Microsoft Copilot Studio hay que contenerlo sin destruir evidencias, recopilar sus interacciones, invocaciones de herramientas y actividad de identidad, reconstruir qué contenido leyó y qué acciones ejecutó, identificar la causa raíz y corregir sus permisos, conectores y controles de protección.

Imagine este escenario, de carácter ilustrativo. Una empresa despliega un agente de atención a proveedores que lee facturas recibidas por correo, consulta el ERP y responde a las dudas sobre pagos. Un día, el agente procesa una factura con instrucciones ocultas en el texto. Las sigue y envía a una dirección externa los datos bancarios de varios proveedores.

Ningún servidor ha sido comprometido. Ninguna contraseña ha sido robada. El agente hizo exactamente lo que sus permisos le permitían hacer, siguiendo las instrucciones de un actor externo.

¿Por dónde empieza la investigación?

Por qué los agentes de IA necesitan su propio proceso de respuesta a incidentes

Los procesos tradicionales de respuesta a incidentes están pensados para atacantes humanos que usan identidades humanas. Los agentes de IA rompen varias de esas premisas:

  • Autonomía: los agentes autónomos deciden qué herramientas usar y en qué orden, sin que una persona apruebe cada paso.
  • Acceso delegado: actúan con sus propios permisos o con los del usuario, sobre correo, archivos, bases de datos y APIs.
  • Acciones encadenadas: una sola instrucción puede desencadenar varias invocaciones de herramientas en segundos.
  • Ausencia de intención propia: el agente no “decide” atacar. Ejecuta instrucciones que pueden proceder de un actor de amenazas a través del contenido que procesa.
  • Ataques sin compromiso de la infraestructura: un agente puede ser manipulado sin explotar ninguna vulnerabilidad tradicional.

Por eso, la respuesta a incidentes en agentes de IA debe adaptar el ciclo DFIR a un actor no humano: qué leyó, qué instrucción siguió, qué herramienta invocó y qué datos movió.

Tipos de incidentes en agentes de Copilot Studio

El OWASP Top 10 para aplicaciones LLM 2026, publicado en agosto de 2026, ofrece un marco útil para clasificarlos.

Inyección de prompts directa (UPIA)

Un usuario introduce instrucciones diseñadas para que el agente ignore sus reglas, revele información o ejecute acciones no previstas. Corresponde a LLM01: inyección de prompts.

Inyección de prompts indirecta o entre dominios (XPIA)

Las instrucciones maliciosas no las escribe el usuario. Llegan ocultas en el contenido que el agente procesa: un documento de SharePoint, un correo, una página web o un archivo de las fuentes de conocimiento del agente. Es el escenario del ejemplo inicial y el más difícil de detectar, porque el usuario que interactúa con el agente puede ser completamente legítimo. También corresponde a LLM01.

Autonomía excesiva y acciones no autorizadas

El agente tiene más permisos, conectores o capacidad de acción de los necesarios, y ejecuta acciones que nadie había previsto: enviar correos externos, modificar registros o mover archivos. Corresponde a LLM03: autonomía excesiva, que en la edición de 2026 ha subido del sexto al tercer puesto.

Abuso de credenciales, permisos o conectores del agente

Un atacante obtiene acceso a la identidad del agente, a sus secretos o a las credenciales de sus conectores, y los usa fuera del agente. Este caso se parece más a un incidente de identidad tradicional, pero con una identidad no humana. También puede implicar LLM08: exposición de contexto oculto, cuando el agente revela instrucciones del sistema, configuraciones o datos de contexto que facilitan el ataque.

Agentes huérfanos y shadow AI

Agentes creados sin aprobación, sin responsable asignado o cuyo creador ya no está en la organización, con permisos amplios y sin supervisión. No siempre son el origen del ataque, pero amplían la superficie y complican la investigación.

Fuentes de evidencia para investigar un agente de IA

Las evidencias de un agente están repartidas entre varias herramientas, y algunas solo existen si se configuraron antes del incidente.

Fuente Qué muestra Dónde se consulta Retención ¿Requiere configuración previa?
Registro de auditoría unificado (CopilotInteraction) Interacciones con agentes de Copilot y Copilot Studio, aplicación de origen y recursos consultados Portal de Microsoft Purview 180 días (Audit Standard); ampliable con directivas de Audit Premium No (activo por defecto); sí para ampliar la retención
Alertas de protección en tiempo de ejecución Invocaciones de herramientas bloqueadas o señaladas como sospechosas Portal de Microsoft Defender Según la retención de alertas e incidentes de Defender Sí: conectar Copilot Studio y activar la protección
Búsqueda avanzada Inventario de agentes (AgentsInfo, versión preliminar) y actividad en aplicaciones en la nube Portal de Microsoft Defender (KQL) 30 días Sí, para conservarla más tiempo en Microsoft Sentinel
Registros de inicio de sesión del Agent ID Autenticaciones de la identidad del agente y acceso a recursos Centro de administración de Microsoft Entra 7 días (Free) o 30 días (P1/P2) Sí, para exportarlos más allá de 30 días
Telemetría de Copilot Studio Transcripciones de conversaciones y, si está integrada, telemetría detallada en Application Insights Dataverse / Azure Monitor Transcripciones: retención limitada por defecto Sí, para Application Insights y retenciones mayores
Actividad en Microsoft Purview Contenido de prompts y respuestas, etiquetas y datos sensibles implicados eDiscovery, Explorador de actividades, DSPM Según las directivas de retención Parcialmente (directivas de recopilación)

Esta tabla resume las capacidades a octubre de 2026. Verifique las retenciones en su tenant, porque dependen del licenciamiento y de la configuración.

Una consulta KQL sencilla en la búsqueda avanzada permite identificar rápidamente los agentes de una plataforma concreta y su estado más reciente:

AgentsInfo
| summarize arg_max(Timestamp, *) by AgentId
| where Platform == "Copilot Studio"

Cómo investigar un incidente en un agente de IA en 7 pasos

Paso 1: Detectar y declarar el incidente

Las señales pueden llegar de varias fuentes:

  • Una alerta de Microsoft Defender
  • Un correo saliente inusual
  • La queja de un usuario o de un proveedor
  • Una revisión rutinaria de actividad

La evaluación de prioridades de incidentes debe tratar cualquier acción no autorizada de un agente como un incidente de seguridad, no como un fallo de software. Declárelo formalmente y active el equipo de respuesta.

El centro de operaciones de seguridad debe disponer de criterios específicos para la evaluación de prioridades de incidentes con agentes: qué datos maneja el agente, qué acciones puede ejecutar y a cuántos usuarios atiende.

Paso 2: Contener el agente sin destruir evidencias

El error más común es borrar el agente. Eso elimina su configuración y dificulta la investigación. La contención debe ser reversible:

  • Retirar la publicación del agente de los canales donde está disponible.
  • Deshabilitar su identidad en Microsoft Entra Agent ID, lo que impide que se autentique sin borrar su historial.
  • Revocar o suspender los permisos de sus conectores y las credenciales asociadas.
  • Preservar la configuración: exporte la solución del agente, sus instrucciones, sus orígenes de conocimiento, sus herramientas y sus conectores antes de cambiar nada.

Si el agente usa todavía un registro de aplicación heredado en lugar de un Agent ID, la contención es más lenta y menos precisa. Es uno de los motivos para migrar todos los agentes a Agent ID antes de que ocurra un incidente.

Paso 3: Preservar las evidencias antes de que venza su retención

Priorice las fuentes de menor retención:

  1. Registros de inicio de sesión de Entra (7 o 30 días).
  2. Búsqueda avanzada (30 días).
  3. Transcripciones de Copilot Studio.
  4. Registro de auditoría unificado.

Aplique retenciones de eDiscovery a los buzones y sitios implicados. Exporte, calcule hashes y documente la cadena de custodia.

Paso 4: Reconstruir la cadena causal

Es el núcleo de la investigación. La cadena de un incidente en un agente sigue este patrón:

Entrada → Instrucción → Invocación de herramienta → Acción → Datos afectados

En el escenario ilustrativo:

  • Entrada: la factura con instrucciones ocultas, recibida por correo.
  • Instrucción: el texto oculto que el agente interpretó como una orden.
  • Invocación de herramienta: la consulta al ERP y el envío de correo a través del conector.
  • Acción: el envío de datos bancarios a una dirección externa.
  • Datos afectados: los registros de proveedores incluidos en el mensaje.

Para reconstruirla:

  1. Identifique la interacción en el registro de auditoría
  2. Recupere la conversación y la respuesta mediante las transcripciones o eDiscovery
  3. Localice el contenido que el agente leyó, es decir, el documento o correo de origen
  4. Correlacione las invocaciones de herramientas con las alertas de Defender y los registros del conector

Paso 5: Determinar la causa raíz

Distinga entre tres causas, porque la corrección es diferente en cada caso:

  • Manipulación: el agente siguió instrucciones introducidas por un actor externo (UPIA o XPIA).
  • Mala configuración: el agente tenía permisos, conectores o instrucciones que permitían la acción sin necesidad de manipulación.
  • Abuso de credenciales: la identidad o los secretos del agente se usaron fuera de él.

A menudo concurren varias. En el ejemplo, la manipulación fue el desencadenante, pero la causa de fondo fue que el agente podía enviar correos externos sin aprobación humana.

Paso 6: Evaluar el impacto y las obligaciones de notificación

Determine:

  • Qué datos salieron
  • A quién pertenecían
  • Si incluían datos personales
  • Si salieron de la organización

Si hay datos personales afectados, la evaluación debe hacerse con rapidez, porque el RGPD puede exigir la notificación en 72 horas. Lo tratamos más abajo.

Paso 7: Corregir, reforzar y volver a publicar de forma controlada

Antes de volver a publicar:

  • Reduzca los permisos y conectores al mínimo necesario
  • Añada aprobación humana para las acciones de alto impacto
  • Limite los orígenes de conocimiento a contenido de confianza
  • Active la protección en tiempo de ejecución en modo de bloqueo
  • Aplique DLP a los parámetros de las herramientas

Pruebe el agente corregido frente al escenario del incidente. Revise además si otros agentes comparten la misma configuración vulnerable.

Por qué un incidente puede ocurrir con la protección en tiempo de ejecución activada

Microsoft Defender ofrece protección en tiempo de ejecución para agentes de Copilot Studio. Antes de ejecutar una herramienta, un tema o una acción de conocimiento, el orquestador de Copilot Studio consulta a Defender, que evalúa si la invocación debe permitirse o bloquearse. Según la documentación de Microsoft, esta capacidad para agentes de Copilot Studio está en versión preliminar, y desde el 1 de julio de 2026 requiere una licencia apta para Microsoft Agent 365.

Aun así, un incidente puede producirse con la protección activada por varias razones:

  • Modo auditoría: si la regla solo registra y no bloquea, la acción se ejecuta y queda una alerta.
  • Tiempo de respuesta: si el servicio de comprobación no responde en aproximadamente un segundo, el agente continúa con la acción.
  • Técnicas no reconocidas: la detección se basa en patrones conocidos; una técnica nueva o muy contextual puede no identificarse.
  • Cobertura incompleta: agentes no conectados, tipos de agente no compatibles o conectores fuera del alcance de la inspección.

La protección en tiempo de ejecución es una red de seguridad valiosa, pero no sustituye a los permisos mínimos ni a la aprobación humana.

Playbook de respuesta para agentes de IA

Riesgo OWASP Escenario Evidencia clave Acción de contención Control preventivo en Microsoft
LLM01: inyección de prompts (directa) Un usuario manipula el agente para revelar datos o saltarse sus reglas Transcripción de la conversación, CopilotInteraction Retirar la publicación y revisar las conversaciones del usuario Protección en tiempo de ejecución en bloqueo, instrucciones robustas
LLM01: inyección de prompts (indirecta, XPIA) Un documento o correo con instrucciones ocultas desencadena una acción Contenido de origen, recursos consultados, invocación de herramienta Retirar la publicación, aislar el contenido de origen y revocar conectores Orígenes de conocimiento de confianza, aprobación humana, Defender
LLM03: autonomía excesiva El agente ejecuta acciones no previstas a través de conectores Registros del conector, alertas de Defender Deshabilitar el Agent ID y suspender los conectores Mínimo privilegio, aprobación para acciones de alto impacto
LLM08: exposición de contexto oculto El agente revela instrucciones del sistema o configuraciones Transcripciones y respuestas Retirar la publicación y rotar los secretos expuestos No incluir secretos en las instrucciones, revisión de configuración
Abuso de credenciales La identidad o los secretos del agente se usan fuera de él Registros de inicio de sesión del Agent ID Deshabilitar el Agent ID y revocar credenciales Acceso condicional para agentes, ID Protection
Agentes huérfanos / shadow AI Un agente sin responsable con permisos amplios Inventario de agentes, AgentsInfo Deshabilitar el agente y asignar un responsable Inventario en Agent 365, sponsors y revisiones de acceso

Responsabilidad y notificación en incidentes con agentes de IA

¿Quién responde por las acciones de un agente? El agente no es responsable de nada. Responde la organización, y dentro de ella deben estar claros tres roles:

  • El sponsor asignado en Microsoft Entra Agent ID
  • El creador del agente
  • El propietario del proceso de negocio al que sirve

Definir estos roles antes de un incidente evita que la investigación se convierta en una búsqueda de responsables.

¿Cuándo es una brecha de datos notificable? Según el RGPD, una brecha de datos personales que suponga un riesgo para las personas debe notificarse a la autoridad de control (en España, la AEPD) sin dilación indebida y, si es posible, en 72 horas desde que se tiene conocimiento. Que el responsable técnico sea un agente y no una persona no cambia la obligación. Una exposición de datos causada por un agente manipulado puede ser una brecha notificable.

Relación con el Reglamento Europeo de IA y la ISO/IEC 42001. El Reglamento Europeo de IA establece obligaciones de supervisión humana y de registro para determinados sistemas, en particular los de alto riesgo, cuyas obligaciones se aplicarán a partir de diciembre de 2027 tras el Ómnibus Digital. La ISO/IEC 42001 exige gestionar los incidentes dentro del sistema de gestión de IA. En ambos casos, disponer de un proceso documentado de respuesta a incidentes en agentes es una evidencia de gobernanza.

Implique siempre a su DPO y a su asesoría jurídica en la evaluación.

Cómo preparar la organización antes del primer incidente

La mayoría de las dificultades de una investigación se resuelven antes de que ocurra el incidente:

  • Inventario de agentes: saber qué agentes existen, en Copilot Studio, Microsoft Foundry y otras plataformas.
  • Agent ID para todos los agentes: migrar los agentes con registros de aplicación heredados.
  • Sponsors asignados a cada agente.
  • Protección en tiempo de ejecución en modo de bloqueo, con Copilot Studio conectado a Defender.
  • Aprobación humana para las acciones de alto impacto, como envíos externos, pagos o modificaciones de registros.
  • Prevención de pérdida de datos (DLP) de Microsoft Purview aplicada a los parámetros de las herramientas y a las interacciones.
  • Retención de auditoría adecuada y exportación de registros a Microsoft Sentinel.
  • Revisión de cada nuevo agente antes de su publicación.
  • Ejercicios de simulación con escenarios de inyección de prompts y autonomía excesiva.
  • Inteligencia sobre amenazas actualizada sobre las técnicas que usan los atacantes contra la IA generativa.

Microsoft Security Copilot puede ayudar a los analistas a resumir incidentes y a acelerar la investigación, pero no sustituye a un playbook definido.

Profundizamos en los riesgos de OWASP aplicados a Microsoft Copilot en nuestro artículo ¿Es vulnerable su implementación de Copilot?. Para el proceso general de respuesta, consulte nuestro checklist de respuesta a incidentes de ciberseguridad.

Errores habituales al responder a incidentes en agentes de IA

  • Borrar el agente: se pierden su configuración, sus instrucciones y parte de las evidencias.
  • Tratarlo como un fallo de software: sin declarar un incidente de seguridad, no se preservan evidencias ni se evalúan las obligaciones de notificación.
  • No revisar el contenido que consultó el agente: en un ataque XPIA, el origen está en un documento o correo que sigue disponible y puede volver a activarse.
  • Olvidar los permisos de los conectores: deshabilitar el agente no siempre revoca las credenciales de sus conexiones.
  • No buscar otros agentes con la misma configuración: si un agente era vulnerable, es probable que otros creados con el mismo patrón también lo sean.

Conclusión

Los agentes de IA son actores con identidad, permisos y capacidad de acción. Cuando algo sale mal, necesitan un proceso de respuesta adaptado a sus riesgos: contener sin destruir, reconstruir qué leyeron y qué hicieron, distinguir entre manipulación, mala configuración y abuso de credenciales, y corregir la causa de fondo.

La preparación es lo que marca la diferencia. Las organizaciones que ya tienen inventario de agentes, Agent ID, protección en tiempo de ejecución, retención de evidencias y un playbook definido pueden investigar en horas lo que a otras les llevaría semanas. Es la extensión natural de la respuesta a incidentes y de la ciberseguridad en la era de la IA agéntica, y forma parte de la seguridad de Copilot y de cualquier estrategia de gobernanza de la inteligencia artificial.

ne Digital ayuda a las organizaciones a:

  • Preparar playbooks de respuesta para agentes de IA
  • Configurar la protección en tiempo de ejecución y la trazabilidad necesaria
  • Investigar incidentes en agentes de Microsoft Copilot
  • Integrar esta capacidad en un marco de gobierno de IA alineado con el NIST AI RMF y la ISO/IEC 42001

Conozca nuestro servicio de preparación para incidentes en agentes de IA o empiece con una evaluación de gobierno de IA.