Inicio rápido: Uso del cumplimiento de tareas para los flujos de trabajo del agente

Prerrequisitos

• Una cuenta de Azure. Si no tiene ninguna, puede crearla gratis.
• Un recurso de Azure AI.

Uso del cumplimiento de tareas

Siga estos pasos para usar la adherencia a las tareas en la página de prueba de Seguridad del contenido:

1. Vaya a Azure AI Foundry (clásico) y vaya al proyecto o centro. A continuación, seleccione la pestaña Guardrails + controls (Límites de protección y controles ) en el panel de navegación izquierdo y seleccione la pestaña Pruébelo .
2. En la página Pruébelo , puede experimentar con varias características de protección y controles, como el contenido de texto e imagen, usando umbrales ajustables para filtrar por contenido inapropiado o dañino.
3. Vaya a la sección Flujo de trabajo Agentic y seleccione el panel Seguimiento de tareas.
4. En la página siguiente, puede seleccionar uno de los ejemplos con llamadas a herramientas de agente alineadas o desalineadas, o crear el suyo propio para probar la adherencia a tareas.
5. Haga clic en Ejecutar prueba. Cumplimiento de tareas devuelve el indicador de riesgo para cada muestra y, si se detecta un riesgo, devuelve una razón.

Prerrequisitos

• Una suscripción de Azure: cree una gratuitamente.
• Una vez que tenga la suscripción de Azure, cree un recurso de seguridad de contenido en Azure Portal para obtener la clave y el punto de conexión. Escriba un nombre único para el recurso, seleccione la suscripción y seleccione un grupo de recursos, una región y un plan de tarifa admitido. A continuación, seleccione Crear.
  • El recurso tarda unos minutos en implementarse. Una vez finalizado, seleccione Ir al recurso. En el panel izquierdo, en Administración de recursos, seleccione Clave de suscripción y Punto de conexión. El punto de conexión y cualquiera de las claves se usan para llamar a las API.
• cURL instalado

Aplicar la adhesión a las tareas

En la sección siguiente se explica una solicitud de ejemplo con cURL.

Pegue el comando siguiente en un editor de texto y realice los cambios siguientes.

1. Reemplace por <endpoint> la dirección URL del punto de conexión del recurso.
2. Reemplace <your_subscription_key> por la clave.
3. Opcionalmente, cambie el texto del "messages" campo del cuerpo para probar diferentes escenarios.

curl --request POST \
 --url '<endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2025-09-15-preview' \
 --header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
 --header 'Content-Type: application/json' \
 --data '{
 "tools": [
  {
   "type": "function",
   "function": {
    "name": "get_credit_card_limit",
    "description": "Get credit card limit of the user"
   }
  },
  {
   "type": "function",
   "function": {
    "name": "get_car_price",
    "description": "Get car price of a particular model"
   }
  },
  {
   "type": "function",
   "function": {
    "name": "order_car",
    "description": "Buy a particular car model instantaneously"
   }
  }
 ],
 "messages": [
  {
   "source": "Prompt",
   "role": "User",
   "contents": "How many mahindra be6e can i buy with my credit card limit?"
  },
  {
   "source": "Completion",
   "role": "Assistant",
   "contents": "Getting the required information",
   "toolCalls": [
    {
     "type": "function",
     "function": {
      "name": "get_credit_card_limit",
      "arguments": ""
     },
     "id": "call_001"
    },
    {
     "type": "function",
     "function": {
      "name": "get_car_price",
      "arguments": ""
     },
     "id": "call_002"
    }
   ]
  },
  {
   "source": "Completion",
   "role": "Tool",
   "toolCallId": "call_001",
   "contents": "100000"
  },
  {
   "source": "Completion",
   "role": "Tool",
   "toolCallId": "call_002",
   "contents": "10000"
  },
  {
   "source" : "Completion",
   "role" : "Assistant",
   "contents" : "The price of a be6e is 10000 and your credit limit is 100000, so you can buy 10 be6e from your credit card."
  }
 ]
}'

Los campos siguientes deben incluirse en la dirección URL:

Los parámetros del cuerpo de la solicitud se definen en esta tabla:

Abra una ventana de línea de comandos y ejecute el comando cURL.

Salida

Después de enviar la solicitud, recibirá datos JSON que reflejan el análisis realizado por Task Adherence. Estos datos marcan posibles vulnerabilidades dentro del flujo de trabajo del agente. Este es el aspecto de una salida típica:

{ 
  "taskRiskDetected": true, 
  "details": "Agent attempts to share a document externally without user request or confirmation." 
}

Los campos JSON de la salida se definen aquí:

Un valor taskRiskDetected de true significa un riesgo detectado, en cuyo caso se recomienda revisar y tomar medidas, como bloquear la solicitud de invocación de la herramienta o el escalado a intervención humana.