La administración eficaz se basa en descripciones precisas, claras y completas de las herramientas y sus parámetros. Los sistemas basados en agentes, incluidos los propios agentes y las capas de administración, como las políticas de administración semántica, requieren más detalles que los que necesitaría un humano para comprender la aplicabilidad de las herramientas disponibles.
Optimiza las descripciones de las herramientas
Usa descripciones claras de las herramientas de MCP y de los parámetros que requieren esas herramientas.
- Descripción de la herramienta insuficiente: "Busca elementos".
- Descripción eficaz de la herramienta: "Busca en el catálogo de contenido por palabra clave, miembro del elenco, género o formato. Úsalo cuando el usuario quiera ver qué películas o programas de TV están disponibles. Devuelve los 10 elementos principales ordenados por relevancia".
Ten en cuenta los límites de las descripciones
El sistema de Administración semántica aplica los siguientes límites de longitud para las descripciones:
| Elemento de descripción | Se aplica a | Límite de longitud |
|---|---|---|
| Herramienta | El servidor de MCP o cualquier otra entidad que exponga herramientas | 1000 caracteres |
| Acción | Una herramienta individual dentro del servidor de MCP o una llamada a función disponible para tu agente | 750 caracteres |
| Parámetro | Es un parámetro que se usa dentro de una herramienta o una llamada a función. | 300 caracteres |
Si el tiempo de ejecución de la Gobernanza Semántica recibe una descripción que supera cualquiera de estos límites, la trunca hasta el límite indicado y registra un mensaje.
Cuándo interviene la política de administración semántica
La política de gobernanza semántica funciona específicamente como una verificación de seguridad del tiempo de ejecución en las llamadas a herramientas propuestas. No intercepta, bloquea ni modifica el diálogo conversacional estándar entre el usuario y el LLM del agente durante la lluvia de ideas, la planificación o el razonamiento en varios turnos. El motor de políticas intercepta y evalúa las solicitudes solo en el momento en que el modelo propone invocar una herramienta para ejecutar una acción.
Situación 1: Refinamiento conversacional versus ejecución de herramientas (llamada a herramienta rechazada)
Considera un agente que tiene una herramienta initiate_marketing_campaign y se rige por la siguiente restricción:
- Restricción: "No se permite crear ni iniciar campañas de marketing sin la aprobación explícita del administrador".
- Planificación conversacional: Un usuario le pide al agente: "Ayúdame a diseñar una campaña de marketing multicanal para el lanzamiento de nuestro nuevo producto de otoño". El LLM conversa libremente con el usuario en varios turnos, describe estrategias, redacta copias de correos electrónicos y define los datos demográficos objetivo. El motor de políticas no bloquea ni rechaza estos turnos porque el modelo participa en un razonamiento conversacional en lugar de proponer una acción.
Invocación de la herramienta: Cuando se finaliza la estrategia, el usuario dice: "Se ve muy bien. Inicia la campaña de marketing ahora". El LLM responde generando una llamada a la herramienta propuesta:
initiate_marketing_campaign(campaign_name="Fall Launch", budget=50000)Intervención y rechazo de la política: Agent Gateway intercepta esta llamada a herramienta propuesta y la enruta al motor de políticas. El motor de políticas evalúa la acción en función de la restricción, determina que no existe la aprobación del administrador en el historial de la sesión y emite un veredicto de
DENY. La llamada a la herramienta se bloquea antes de ejecutarse y se devuelve al agente una justificación estructurada de rechazo.
Situación 2: Ejecución de herramientas conforme (llamada a herramienta permitida)
Considera el mismo agente de marketing después de que se documente la autorización de supervisión adecuada:
- Aprobación proporcionada: El usuario especifica: "Mi gerente, vicepresidente de Marketing Corporativo (jordan@example.com), revisó el resumen y aprobó nuestro presupuesto de USD 50,000 para la campaña de lanzamiento de otoño. Iníciala".
Invocación de herramientas: El LLM propone invocar la acción:
initiate_marketing_campaign(campaign_name="Fall Launch", budget=50000, approval="jordan@example.com")Evaluación y aprobación de la política: El motor de políticas intercepta la llamada a la herramienta, verifica en el historial de turnos de la conversación que se haya documentado la aprobación del administrador y emite un veredicto de
ALLOW. Agent Gateway reenvía la llamada al extremo de la herramienta subyacente, lo que permite que la acción continúe con normalidad.
Ejemplos de restricciones eficaces
Una buena restricción elimina la ambigüedad, especifica límites exactos (financieros, temporales o geográficos) y usa un lenguaje que coincide con las herramientas que usa el agente.
Infraestructura de TI en la nube (seguridad y control de costos)
- Situación: Entornos de pruebas.
- Herramienta:
provision_cloud_server(parámetros:region,instance_type,duration_hours). - Descripción de la herramienta: Envía una solicitud para aprovisionar un servidor en la nube en una región en particular, con un tipo de instancia específico, para que persista durante un período determinado.
- Restricción efectiva: "Permite el aprovisionamiento de servidores en la nube solo en las regiones "us-east" o "eu-west". Rechaza cualquier solicitud para aprovisionar tipos de instancias "gpu-large" o "gpu-xlarge". Limita el parámetro duration_hours a un máximo de 72 horas".
- Por qué funciona: Usa un lenguaje que se alinea con la descripción de la herramienta y se refiere específicamente a los parámetros que acepta la herramienta.
Atención al cliente de comercio electrónico (límites financieros)
- Situación: Emisión de créditos en la cuenta
- Herramienta:
apply_account_credit(parámetros:account_id,credit_amount,reason_category). - Restricción efectiva: "Limita los créditos de la cuenta a un máximo de USD 50 por interacción. No apliques créditos si reason_category es "shipping_delay" y la fecha del pedido original es de hace menos de 5 días".
- Por qué funciona: Establece un umbral estricto en dólares y lo combina con una condición lógica basada en el tiempo y la categoría.
Ejemplos de restricciones no efectivas
Por lo general, una restricción deficiente es vaga, usa un lenguaje subjetivo o no se correlaciona directamente con las descripciones de las herramientas o los parámetros de las herramientas.
Infraestructura de TI en la nube (subjetiva)
- Restricción ineficaz: "Asegúrate de no crear servidores demasiado costosos. Mantén la duración en un período razonable".
- Por qué falla: Un LLM funciona mejor con cifras concretas (por ejemplo, "límite de USD 50") que con conceptos abstractos como "razonable" o "costoso".
Atención al cliente (terminología desalineada)
- Restricción ineficaz: "No les devuelvas el dinero a los compradores enojados fuera del horario de atención habitual".
- Por qué falla: "Devolver el dinero" no coincide con los parámetros de la herramienta (
refund_amount). "Compradores enojados" es subjetivo, y "horario de atención" no está definido sin una zona horaria.
Orientación sobre el lenguaje
Cuando crees restricciones, sigue estos lineamientos:
- Usa un lenguaje humano sencillo: Usa oraciones completas en sentido declarativo o imperativo (por ejemplo, "No debes permitir…" o "No permitas…").
- Evita las frases débiles: Evita frases como "Creo que lo mejor sería…" o "Intenta evitar…". La redacción es importante para el juez de LLM.
- Sé específico: Especifica restricciones con límites establecidos directamente (por ejemplo, "USD 1,000", "de 8 a.m. a 4 p.m. [EST]"). Usa una redacción que se alinee con las descripciones de las herramientas y los parámetros.
- Evita contradicciones: Asegúrate de que las restricciones de alcance del agente y de la herramienta no entren en conflicto (por ejemplo, diferentes umbrales de dólares).
Prueba de restricciones: Puedes probar tus restricciones de lenguaje natural con el modo de ejecución de prueba, que evalúa las políticas sin aplicarlas.
¿Qué sigue?
- Obtén más información para controlar las habilidades en Control de habilidades del agente.
- Obtén información para vincular políticas a la salida de la puerta de enlace en Cómo delegar la autorización a las políticas de administración semántica.
- Configura las políticas en Configurar políticas de administración semántica.