Agent Kill Switch: el botón para detener agentes de IA fuera de control

Salesforce habilitó de forma general Agent Kill Switch, una función de seguridad diseñada para detener agentes de inteligencia artificial que presentan fallas sin desconectar las demás instancias que operan correctamente dentro de una organización.

La herramienta está disponible como parte de Agent Fabric a través de Omni Gateway y busca resolver uno de los riesgos asociados con la adopción empresarial de IA agéntica: contener rápidamente un agente que entra en un ciclo de ejecución, agota recursos, ignora instrucciones o actúa después de recibir una inyección maliciosa de comandos.

Hasta ahora, una de las respuestas frente a estos incidentes consistía en desmontar el entorno donde se ejecutaban los agentes. Esta medida podía detener el proceso afectado, pero también interrumpía otros agentes que no presentaban problemas.

Agent Kill Switch introduce una intervención más específica. La compañía sostiene que permite actuar sobre una solicitud, una sesión, una instancia determinada o la operación completa de un cliente, dependiendo de la gravedad del incidente.

Agent Kill Switch puede aislar una sola instancia

La herramienta está diseñada para ajustar la respuesta al alcance del problema. Los administradores pueden limitar la intervención a cuatro niveles:

• Solicitud: detiene una acción específica cuando una llamada falla.
• Sesión: interrumpe una conversación o proceso que se ha desviado.
• Instancia: pone en cuarentena un agente cuyo comportamiento presenta fallas sistémicas.
• Entorno completo: bloquea la operación ante un incidente de mayor alcance.

La segmentación reduce el impacto de la respuesta. En lugar de apagar todos los agentes conectados a un entorno, el equipo de tecnología puede aislar únicamente la instancia que representa un riesgo.

Esta capacidad resulta relevante para organizaciones que utilizan múltiples agentes en ventas, servicio al cliente, finanzas, operaciones o gestión documental. Una falla individual no tendría que detener automáticamente todos los procesos asistidos por inteligencia artificial.

Un bloqueo inmediato para incidentes críticos

Agent Kill Switch incorpora una opción denominada Hard Stop, destinada a situaciones en las que esperar aumenta el riesgo.

Al activarse, la función detiene el tráfico de manera inmediata y bloquea la comunicación del agente afectado con Model Proxy y los demás agentes de la red. El aislamiento se ejecuta sobre la flota de proxies y no únicamente sobre una conexión local.

Según la información suministrada por Salesforce, una instancia puesta en cuarentena deja de enviar tráfico por cualquier proxy del sistema. Los agentes vecinos tampoco aceptan sus solicitudes y quedan inactivas las rutas alternativas, las instrucciones almacenadas en caché y los reintentos automáticos.

El objetivo es evitar que un agente encuentre otra ruta para continuar ejecutando acciones después de recibir la orden de detención.

El sistema permite restaurar los agentes

Las intervenciones realizadas con Agent Kill Switch son reversibles. La opción Restore permite devolver un agente al estado en el que se encontraba antes de ser congelado, sin reconstruir manualmente toda su información.

Esta reversibilidad busca reducir la resistencia de los operadores a activar un protocolo de emergencia cuando todavía no existe certeza sobre la gravedad del incidente.

Si la alerta resulta ser un falso positivo, la organización puede restaurar el agente y reanudar la operación. Si la amenaza es real, la detención temprana puede limitar el consumo de recursos, la exposición de información o la ejecución de acciones incorrectas.

No obstante, la recuperación del estado operativo no elimina la necesidad de revisar las decisiones tomadas por el agente antes del bloqueo. Las empresas deberán determinar si se generaron transacciones, mensajes, modificaciones o solicitudes que requieran corrección.

Cada intervención queda registrada

La herramienta genera un registro de cada detención. Este historial identifica quién realizó la intervención, cuándo ocurrió, cuál fue su alcance y qué agentes o procesos resultaron afectados.

Salesforce señala que los registros están encadenados mediante funciones hash y protegidos contra modificaciones. Esta trazabilidad puede respaldar auditorías, investigaciones internas y procesos de cumplimiento.

El registro también permite reconstruir un incidente a partir de evidencias operativas, en lugar de depender únicamente de explicaciones posteriores sobre las decisiones de un agente.

Para los responsables de seguridad, esta capacidad es clave porque la autonomía de la IA no elimina la responsabilidad de la empresa. Las organizaciones necesitan demostrar qué ocurrió, quién respondió y qué medidas se tomaron para contener el riesgo.

El apagado requiere políticas previas

La existencia de un interruptor no resuelve por sí sola la gobernanza de los agentes. Las empresas deberán definir anticipadamente qué significan una detención gradual y un bloqueo inmediato para cada proceso crítico.

También será necesario establecer quién puede activar el sistema, bajo qué condiciones, cómo se validará la restauración y qué equipos deben participar en la revisión del incidente.

Salesforce recomienda probar la desactivación y recuperación en agentes que no estén en producción. La simulación permite que los equipos conozcan el procedimiento antes de enfrentarse a una falla real.

Agent Kill Switch añade una capa de control necesaria para llevar agentes autónomos a procesos empresariales sensibles. Su valor, sin embargo, dependerá menos de la existencia del botón que de la capacidad de cada organización para detectar una anomalía, intervenir a tiempo y asumir la responsabilidad por las acciones ejecutadas por su IA.