Sessiegroepen gebruiken in Azure Container Apps

Sessie pools bieden subseconde sessietoewijzingstijden en beheren de levenscyclus van elke sessie.

Algemene concepten voor beide pools

Het proces voor het maken van een pool verschilt enigszins, afhankelijk van of u een code-interpretersessiegroep of een aangepaste containergroep maakt. De volgende concepten zijn van toepassing op beide.

Als u sessiegroepen wilt maken met behulp van de Azure CLI, moet u ervoor zorgen dat u de nieuwste versies van de Azure CLI en de Azure Container Apps-extensie hebt:

# Upgrade the Azure CLI
az upgrade

# Install or upgrade the Azure Container Apps extension
az extension add --name containerapp --upgrade --allow-preview true -y

Algemene opdrachten voor sessiepools zijn onder andere:

• az containerapp sessionpool create
• az containerapp sessionpool show
• az containerapp sessionpool list
• az containerapp sessionpool update
• az containerapp sessionpool delete

Gebruik --help met elke opdracht om beschikbare argumenten en ondersteunde waarden te bekijken.

Gebruik de az containerapp sessionpool show opdracht om de status van een sessiegroep te controleren:

az containerapp sessionpool show \
    --name <SESSION_POOL_NAME> \
    --resource-group <RESOURCE_GROUP> \
    --query "properties.poolManagementEndpoint" \
    --output tsv

Wanneer u een pool maakt of bijwerkt, kunt u een maximum aantal gelijktijdige sessies, een niet-actieve cooldownperiode instellen en of uitgaand netwerkverkeer is toegestaan voor sessies.

Een pool configureren

Gebruik az containerapp sessionpool create --help deze functie om de meest recente CLI-argumenten voor de configuratie van sessiegroepen weer te geven. Deze sectie is gericht op geavanceerde configuratieopties die van toepassing zijn op API-versies.

Configuratie van de levenscyclus van sessies

Wanneer u een sessiegroep maakt of bijwerkt, kunt u configureren hoe sessies worden beëindigd door de instelling in te stellen properties.dynamicPoolConfiguration.lifecycleConfiguration. Kies een van de twee levenscyclustypen die beginnen met de API-versie 2025-01-01.

Zie de specificatie van de SessionPools-API voor de volledige API.

Getimed (standaard)

Met de Timed levenscyclus wordt een sessie verwijderd na een periode van inactiviteit. Elke aanvraag die naar een sessie wordt verzonden, stelt de afkoeltimer opnieuw in, waardoor de time-to-live van de sessie wordt uitgebreid.cooldownPeriodInSeconds

{
  "dynamicPoolConfiguration": {
    "lifecycleConfiguration": {
      "cooldownPeriodInSeconds": 600,
      "lifecycleType": "Timed"
    }
  }
}

Beheereindpunt

Alle aanvragen voor het eindpunt voor poolbeheer moeten een Authorization header met een Bearer-token bevatten. Zie Verificatie voor meer informatie over verificatie met de poolbeheer-API.

Elke API-aanvraag moet ook de queryreeksparameter identifier met de sessie-id bevatten. Met deze unieke sessie-id kan uw toepassing communiceren met specifieke sessies. Zie Sessie-id's voor meer informatie over sessie-id's.

Afbeeldingscache

Wanneer een sessiepool wordt gemaakt of bijgewerkt, cachet Azure Container Apps de containerafbeeldingen in de pool. Deze caching helpt het proces van het maken van nieuwe sessies te versnellen.

Eventuele wijzigingen in de afbeelding worden niet automatisch doorgevoerd in de sessies. Werk de afbeelding bij door de sessiegroep bij te werken met een nieuwe afbeeldingstag. Gebruik een unieke tag voor elke afbeeldingupdate om ervoor te zorgen dat de nieuwe afbeelding wordt geüpload.

Code-interpreter sessiepool

az containerapp sessionpool create \
    --name my-session-pool \
    --resource-group <RESOURCE_GROUP> \
    --location westus2 \
    --container-type PythonLTS \
    --max-sessions 100 \
    --cooldown-period 300 \
    --network-status EgressDisabled

Beheereindpunt van code-interpreter

Als u code-interpretersessies wilt gebruiken met LLM-frameworkintegraties of door de beheer-API-eindpunten rechtstreeks aan te roepen, hebt u het beheer-API-eindpunt van de pool nodig.

Het eindpunt heeft de indeling https://<REGION>.dynamicsessions.io/subscriptions/<SUBSCRIPTION_ID>/resourceGroups/<RESOURCE_GROUP>/sessionPools/<SESSION_POOL_NAME>.

Als u het beheer-API-eindpunt voor een sessiegroep wilt ophalen, raadpleegt u de algemene sectie hierboven voor een voorbeeldopdracht.

De volgende eindpunten zijn beschikbaar voor het beheren van sessies in een pool:

U bouwt de volledige URL voor elk eindpunt door het beheer-API-eindpunt van de pool samen te voegen met het eindpuntpad. De queryreeks moet een identifier parameter bevatten die de sessie-id bevat en een api-version parameter met de waarde 2024-02-02-preview. API-versies kunnen worden gewijzigd, dus bevestig altijd de nieuwste versie in de REST API-documenten voordat u deze in productie gebruikt.

Bijvoorbeeld: {sessionManagementEndpoint}/code/execute?api-version=2024-02-02-preview&identifier=<IDENTIFIER>

Zie Voor REST API-verwijzingen Container Apps-gegevensvlak-API's en het overzicht van bewerkingen op het gegevensvlak van Container Apps.

Aangepaste containersessiegroep

Om een aangepaste containersessiepool te maken, moet u een containerimage en de poolconfiguratie-instellingen opgeven.

U roept elke sessie aan of communiceert met behulp van HTTP-aanvragen. De aangepaste container moet een HTTP-server beschikbaar maken op een poort die u opgeeft om op deze aanvragen te reageren.

De volgende mogelijkheden zijn alleen van toepassing op aangepaste containersessiegroepen.

Eindpunt voor aangepast containerbeheer

Voor aangepaste containersessiegroepen haalt u het beheereindpunt op uit de Azure-portal of de Azure CLI-uitvoer. Het eindpunt wordt geretourneerd als poolManagementEndpoint.

Het eindpunt heeft de indeling https://<SESSION_POOL_NAME>.<ENVIRONMENT_ID>.<REGION>.azurecontainerapps.io.

OnContainerExit

Met de OnContainerExit levenscyclus blijft een sessie actief totdat de container zelfstandig wordt afgesloten of de maximale levensduur is bereikt.

{
  "dynamicPoolConfiguration": {
    "lifecycleConfiguration": {
      "maxAlivePeriodInSeconds": 6000,
      "lifecycleType": "OnContainerExit"
    }
  }
}

Containerprobes

Met containerprobes kunt u gezondheidscontroles definiëren voor sessiecontainers, zodat de pool beschadigde sessies kan detecteren en deze kan vervangen om het readySessionInstances doel gezond te houden.

Sessiegroepen ondersteunen Livenesstests en opstarttests. Zie Gezondheidspolls in Azure Container Apps voor meer informatie over probegedrag.

Wanneer u een sessiepool maakt of bijwerkt, specificeer u probes in properties.customContainerTemplate.containers. Zie voor het volledige schema voor de requestbody de API-referentie SessionPools maken of bijwerken. In het volgende voorbeeld ziet u een gedeeltelijke configuratie met testdefinities:

{
  "properties": {
    "customContainerTemplate": {
      "containers": [
        {
          "name": "my-session-container",
          "image": "myregistry.azurecr.io/my-session-image:latest",
          "probes": [
            {
              "type": "Liveness",
              "httpGet": {
                "path": "/health",
                "port": 8080
              },
              "periodSeconds": 10,
              "failureThreshold": 3
            },
            {
              "type": "Startup",
              "httpGet": {
                "path": "/ready",
                "port": 8080
              },
              "periodSeconds": 5,
              "failureThreshold": 30
            }
          ]
        }
      ]
    },
    "dynamicPoolConfiguration": {
      "readySessionInstances": 5
    }
  }
}

az containerapp sessionpool create \
    --name my-session-pool \
    --resource-group <RESOURCE_GROUP> \
    --environment <ENVIRONMENT> \
    --registry-server myregistry.azurecr.io \
    --registry-username <USER_NAME> \
    --registry-password <PASSWORD> \
    --container-type CustomContainer \
    --image myregistry.azurecr.io/my-container-image:1.0 \
    --cpu 0.25 --memory 0.5Gi \
    --target-port 80 \
    --cooldown-period 300 \
    --network-status EgressDisabled \
    --max-sessions 10 \
    --ready-sessions 5 \
    --env-vars "key1=value1" "key2=value2" \
    --location <LOCATION>