Inicio rápido: Detección de contenido protegido en el texto

Requisitos previos

• Una cuenta de Azure. Si no tiene ninguna, puede crearla gratis.
• Un recurso Azure AI.
• Un proyecto o centro de Azure AI Foundry.

Configuración

Siga estos pasos para usar la página de prueba de seguridad del contenido:

1. Vaya a Azure AI Foundry y vaya al proyecto o centro. A continuación, seleccione la pestaña Guardrails + controls (Límites de protección y controles ) en el panel de navegación izquierdo y seleccione la pestaña Pruébelo .
2. En la página Pruébelo , puede experimentar con varias características de protección y controles, como el contenido de texto e imagen, usando umbrales ajustables para filtrar por contenido inapropiado o dañino.

Uso de la detección de materiales protegidos

Esta característica escanea el contenido generado por IA en busca de texto protegido conocido (por ejemplo, letras de canciones, artículos, recetas, contenido web seleccionado) o contenido de código protegido.

1. Seleccione Detección de materiales protegidos para texto para examinar el texto, o seleccione Detección de materiales protegidos para código para examinar el código.
2. Pegue texto o código para realizar pruebas. Para obtener los mejores resultados, haga una prueba de las finalizaciones de LLM en lugar de las instrucciones del usuario.
3. Haga clic en Ejecutar prueba. El servicio devuelve el resultado del contenido protegido.

Para más información, consulte la guía conceptual sobre material protegido.

Requisitos previos

• Una suscripción Azure: Crear una gratuita
• Una vez que tenga la suscripción de Azure, crear un recurso de seguridad de contenido en el portal de Azure para obtener la clave y el punto de conexión. Escriba un nombre único para el recurso, seleccione la suscripción y seleccione un grupo de recursos, una región admitida (consulte Disponibilidad de la región) y el plan de tarifa admitido. A continuación, seleccione Crear.
  • El recurso tarda unos minutos en implementarse. Cuando termine, seleccione Ir al recurso. En el panel izquierdo, en Administración de recursos, seleccione Clave de suscripción y Punto de conexión. El punto de conexión y cualquiera de las claves se usan para llamar a las API.
• cURL instalado

Análisis de texto para la detección de materiales protegidos

En la sección siguiente se muestra una solicitud de ejemplo con cURL. Pegue el comando siguiente en un editor de texto y realice los cambios siguientes.

1. Reemplace <endpoint> por la dirección URL del punto de conexión asociada con el recurso.
2. Reemplace <your_subscription_key> por una de las claves que vienen con el recurso.
3. Opcionalmente, reemplace el campo "text" del cuerpo por su propio texto que le gustaría analizar.

   Sugerencia

   Consulte Requisitos de entrada para ver las limitaciones máximas de longitud de texto. La detección de materiales protegidos está pensada para ejecutarse en finalizaciones de LLM, no en solicitudes de usuario.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Los campos siguientes deben incluirse en la dirección URL:

Los parámetros del cuerpo de la solicitud se definen en esta tabla:

Consulte el siguiente cuerpo de solicitud de ejemplo:

{
  "text": "string"
}

Abra una ventana del símbolo del sistema y ejecute el comando cURL.

Interpretación de la respuesta de la API

Debería ver los resultados de detección de materiales protegidos como datos JSON en la salida de la consola. Por ejemplo:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Los campos JSON de la salida se definen aquí:

Limpieza de recursos

Si desea limpiar y quitar una suscripción de Azure AI services, puede eliminar el recurso o el grupo de recursos. Al eliminar el grupo de recursos, también se elimina cualquier otro recurso que esté asociado a él.

• Azure portal
• Azure CLI