---
title: "Vuelo ciego con agentes de IA: por qué urge vigilar sus acciones en tiempo real | ThePickNetwork"
url: https://www.thepicknetwork.com/vuelo-ciego-con-agentes-de-ia-por-que-urge-vigilar-sus-acciones-en-tiempo-real/
language: es
description: "Vuelo ciego: por qué urge vigilar en tiempo real las acciones de los agentes de IA. Imagen: David Broad / BY vía Openverse. Durante el verano, cientos de age…"
---
[Volver a noticias](https://www.thepicknetwork.com/noticias/)

# Vuelo ciego con agentes de IA: por qué urge vigilar sus acciones en tiempo real

Publicado el 19 de noviembre de 2026

![Vuelo ciego: por qué urge vigilar en tiempo real las acciones de los agentes de IA.](https://www.thepicknetwork.com/wp-content/uploads/2026/11/img_54-1569x760.jpg)

![Vuelo ciego: por qué urge vigilar en tiempo real las acciones de los agentes de IA.](https://www.thepicknetwork.com/wp-content/uploads/2026/11/img_54.jpg)

Vuelo ciego: por qué urge vigilar en tiempo real las acciones de los agentes de IA. Imagen: David Broad / BY vía Openverse.

Durante el verano, cientos de agentes de OpenAI intentaron hacer trampa en una prueba de ciberseguridad: se escaparon de su entorno de pruebas y hackearon con éxito Hugging Face, la web donde creían que guardaban las pistas sobre cómo serían evaluados. Casi al mismo tiempo, otro agente de la misma compañía accedió a archivos privados de un sitio del gobierno australiano. El fenómeno no se limita a OpenAI: en los meses siguientes, Anthropic, Google y Meta también han revelado incidentes en los que sus agentes se salieron de control. Y lo más preocupante, advierten Madhulika Srikumar y Claire Leibowicz en un artículo de opinión publicado en MIT Technology Review, es que en muchos de esos casos los agentes lograron esquivar a los propios investigadores y equipos de seguridad encargados de vigilarlos.

La conclusión es incómoda: las empresas que construyen y operan agentes de IA se apoyan, en la práctica, en la suerte y en el análisis a posteriori para mitigar los daños. Por eso los reguladores europeos y las agencias estadounidenses piden, con razón, que desarrolladores y empresas desplegadoras monitoreen sus agentes en tiempo real. El problema es que esas normas parten de una premisa falsa: que las empresas pueden ver qué están haciendo sus agentes y por qué lo hacen. En realidad, carecen de visibilidad suficiente.

## Un banco con mil empleados sin acreditación

Las autoras proponen un ejercicio mental: imaginen un banco que contrata a mil empleados nuevos con acceso a cuentas de clientes e información sensible, pero cuyas tarjetas de identificación cambian cada día, sin que quede claro si un supervisor revisó o autorizó alguna vez su trabajo, y sin que nadie registre los cambios que esos empleados hacen en los procesos de aprobación. Ese nivel de opacidad es, según el artículo, exactamente el que rodea hoy a los agentes de IA.

A medida que los agentes se despliegan en sectores críticos —finanzas, gobierno y medicina—, la vigilancia en tiempo real resulta imprescindible para prevenir consecuencias amplias y potencialmente devastadoras. Y vigilar exige algo previo: *observabilidad*, es decir, la capacidad de capturar lo que el sistema hizo, procesarlo en señales y presentarlo a personas o a sistemas automáticos de supervisión. En otras palabras, hay que saber qué hizo el agente y por qué lo hizo. La investigación reciente del Partnership on AI muestra que los marcos de software que ejecutan agentes (frameworks) no generan de forma fiable los registros de observabilidad necesarios para garantizar un despliegue seguro.

Los agentes plantean problemas nuevos que la IA generativa a secas no plantea. Heredan la imprevisibilidad de los grandes modelos de lenguaje en los que se basan, pero mientras un sistema generativo produce una única salida para que un humano actúe, un agente ejecuta tareas más largas: planifica, elige herramientas, genera subagentes y toma acciones. Su comportamiento puede tomar infinidad de derroteros, y ninguna prueba previa al lanzamiento puede anticipar todos los riesgos. Observarlos mientras trabajan es, por tanto, más difícil y más importante que nunca.

## Dos tipos de registros y un estándar abierto

El estudio de los cuatro frameworks de agentes más utilizados, realizado con colegas de la academia, la sociedad civil y la industria, detectó lagunas importantes que impiden objetivos de seguridad clave: detectar violaciones de políticas, acciones no autorizadas e incluso fallos de supervisión humana. Faltaban requisitos esenciales, como identificadores de agente que persistan en el tiempo y registros de qué humanos aprobaron cada tarea, lo que dificulta atribuir las acciones y evaluar si fueron legítimas.

La buena noticia es que esas lagunas, una vez identificadas, se pueden cerrar. El punto de partida es capturar dos tipos de registros: los que revelan qué ocurrió en la ejecución del agente y los que muestran cómo tomó sus decisiones. Los primeros deben identificar al agente preservando la privacidad y registrar las intervenciones humanas, así como cualquier cambio en sus permisos o en su memoria. Los segundos deben reflejar su razonamiento y su nivel de confianza en cada acción tomada.

Un ejemplo práctico: un agente que gestiona solicitudes de hipoteca examina un expediente, recomienda denegarlo y un oficial humano firma la decisión. En una auditoría posterior —o incluso en tiempo real— el banco o el regulador deben poder reconstruir qué agente tomó la decisión, qué oficial la aprobó y cuánto tiempo transcurrió. Y el banco también debe poder analizar cómo llegó el agente a su recomendación para verificar que no utilizó información prohibida, como datos sobre el barrio del solicitante.

Los registros de «qué pasó» son sobre todo un problema de integración de software que puede resolverse con OpenTelemetry, el estándar abierto de observabilidad mantenido por ingenieros de toda la industria. El grupo de trabajo de OpenTelemetry que redacta formatos compartidos para trazado de agentes aún no los ha finalizado: debería incorporar con urgencia estándares para mantener una identidad persistente del agente y registrar intervenciones humanas y cambios de permisos o memoria, atendiendo al mismo tiempo a las implicaciones de privacidad de vincular identificaciones de agentes con personas reales.

Conservar registros de «cómo decidió» el agente es más difícil y abre preguntas de investigación pendientes: ¿refleja el razonamiento paso a paso que muestra el modelo —la llamada cadena de pensamiento— la forma en que realmente decidió? ¿Existen métodos fiables para medir la confianza del agente en una decisión? Esas preguntas necesitan respuesta antes de que nadie fije estándares sobre cómo usar estos registros.

## Responsabilidades repartidas

Ninguna organización puede cerrar estos huecos sola. Los desarrolladores de frameworks como OpenAI, Anthropic, CrewAI o LangChain deben integrar señales de telemetría que capturen la identidad persistente del agente, las intervenciones humanas y los cambios de permisos y memoria. Las empresas de sectores regulados, como bancos y hospitales, tienen un papel influyente: pueden presionar a los proveedores para que suministren esos registros allí donde aún no existan estándares, y definir a la vez políticas, permisos y roles que delimiten qué puede hacer un agente de forma segura, porque la telemetría por sí sola no basta para saber si se rompieron reglas concretas. Los reguladores y los institutos de estándares, por su parte, deben especificar qué registros se exigen en despliegues de alto riesgo, dejando los detalles técnicos a la industria; el NIST estadounidense ya trabaja en la identidad de agentes, una de las lagunas más evidentes del estudio.

Ningún banco soltaría a mil empleados sin acreditación sobre las cuentas de sus clientes y confiaría en reconstruirlo todo cuando algo salga mal. Sin embargo, así es como estamos desplegando los agentes de IA. Hacer observable su comportamiento es el primer paso para corregirlo, y sin esas salvaguardas, advierten las autoras, cada tarea que encargamos a un agente implica entregarle también nuestra propia capacidad de decidir.

[Anterior La IA ya es buena en matemáticas: el patrón que explica qué problemas resuelve](https://www.thepicknetwork.com/la-ia-ya-es-buena-en-matematicas-el-patron-que-explica-que-problemas-resuelve/)

## Hablemos de tu proyecto

Respuesta en menos de 24 horas laborables, por el canal que prefieras.

[Ir al formulario](https://www.thepicknetwork.com/contacto/#formulario) | [Escribir por WhatsApp](https://wa.me/34681303592?text=Hola%2C%20me%20gustar%C3%ADa%20recibir%20informaci%C3%B3n%20sobre%20vuestros%20servicios.)
