Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Questa esercitazione illustra come connettere le applicazioni Azure Kubernetes Service (AKS) a Azure OpenAI usando Service Connector con l'autenticazione dell'identità del carico di lavoro. È quindi possibile stabilire e testare le connessioni senza credenziali distribuendo un'applicazione di esempio Python che comunica con l'Azure OpenAI.
In questa esercitazione, farai:
- Creare un cluster del servizio Kubernetes di Azure e una risorsa Azure OpenAI con il modello GPT-4.
- Configurare Service Connector per stabilire la connessione con l'identità del carico di lavoro.
- Clonare un'applicazione di esempio.
- Creare e pubblicare immagini di container nel Registro Azure Container.
- Distribuire l'applicazione nel servizio Azure Kubernetes e verificare la connessione.
- Pulire le risorse.
Prerequisiti
- Un account Azure con una sottoscrizione attiva. Creare un account gratuito.
-
Usare l'ambiente Bash in Azure Cloud Shell. Per altre informazioni, vedere Introduzione a Azure Cloud Shell.
Se si preferisce eseguire i comandi di riferimento dell'interfaccia della riga di comando in locale, install il Azure CLI. Se si esegue in Windows o macOS, è consigliabile eseguire Azure CLI in un contenitore Docker. Per altre informazioni, vedere Come eseguire il Azure CLI in un contenitore Docker.
Se si usa un'installazione locale, accedere al Azure CLI usando il comando az login. Per completare il processo di autenticazione, seguire la procedura visualizzata nel terminale. Per altre opzioni di accesso, vedere Authenticate to Azure using Azure CLI.For other sign-in options, see Authenticate to Azure using Azure CLI.
Quando richiesto, installare l'estensione Azure CLI al primo uso. Per altre informazioni sulle estensioni, vedere Usare e gestire le estensioni con Azure CLI.
Esegui az version per trovare la versione e le librerie dipendenti installate. Per eseguire l'aggiornamento alla versione più recente, avviare az upgrade.
- Docker e kubectl per gestire le immagini del contenitore e le risorse kubernetes.
- Conoscenza di base delle conteiner e di AKS. Partire dalla preparazione di un'applicazione per AKS.
- Autorizzazioni di accesso per creare Azure risorse OpenAI e distribuire modelli.
Creare risorse Azure OpenAI e AKS
Per iniziare questa esercitazione, creare diverse risorse Azure.
Creare un gruppo di risorse per questa esercitazione.
az group create \ --name MyResourceGroup \ --location eastusCreare un cluster del servizio Azure Kubernetes con il comando seguente oppure facendo riferimento alla guida introduttiva Avvio rapido servizio Azure Kubernetes. In questa esercitazione viene creata la connessione al servizio e la definizione del pod e viene distribuita l'applicazione di esempio in questo cluster.
az aks create \ --resource-group MyResourceGroup \ --name MyAKSCluster \ --enable-managed-identity \ --node-count 1 \ --generate-ssh-keysConnettersi al cluster usando il comando
az aks get-credentials.az aks get-credentials \ --resource-group MyResourceGroup \ --name MyAKSClusterCreare una risorsa Azure OpenAI usando il comando
az cognitiveservices account create. Facoltativamente, fare riferimento a questa esercitazione per altre istruzioni. Azure OpenAI è il servizio di destinazione a cui si connette il cluster AKS.az cognitiveservices account create \ --resource-group MyResourceGroup \ --name MyOpenAI \ --location eastus \ --kind OpenAI \ --sku s0 \ --custom-domain myopenai \ --subscription <SubscriptionID>Distribuire un modello con il
az cognitiveservices deployment createcomando . Il modello viene usato nell'applicazione di esempio per testare la connessione.az cognitiveservices account deployment create \ --resource-group MyResourceGroup \ --name MyOpenAI \ --deployment-name MyModel \ --model-name gpt-4 \ --model-version 0613 \ --model-format OpenAI \ --sku-name "Standard" \ --capacity 1Per archiviare l'applicazione di esempio in contenitori, creare un Azure Container Registry (ACR). Usare il
az acr createcomando o fare riferimento a questa esercitazione.az acr create \ --resource-group MyResourceGroup \ --name myregistry \ --sku StandardAbilitare il pull anonimo usando il comando
az acr updatein modo che il cluster AKS possa usare le immagini nel registro.az acr update \ --resource-group MyResourceGroup \ --name myregistry \ --anonymous-pull-enabledCreare un'identità gestita assegnata dall'utente con il
az identity createcomando o facendo riferimento a questa esercitazione. Quando viene creata la connessione, l'identità gestita assegnata dall'utente viene usata per abilitare l'identità del carico di lavoro per i carichi di lavoro di Azure Kubernetes Service.az identity create \ --resource-group MyResourceGroup \ --name MyIdentity
Creare una connessione di servizio da AKS ad Azure OpenAI
Creare una connessione di servizio tra un cluster AKS e Azure OpenAI nel portale di Azure o nella CLI di Azure.
Per istruzioni su come creare una nuova connessione e compilare le impostazioni facendo riferimento agli esempi nella tabella seguente, consultare l'avvio rapido della connessione al servizio AKS. Per tutte le altre impostazioni lasciare i valori predefiniti.
Scheda Basic:
Impostazione Valore di esempio Descrizione Spazio dei nomi Kubernetes default Il namespace di Kubernetes. Tipo di servizio Servizio OpenAI Tipo di servizio di destinazione. Nome connessione openai_conn Usare il nome della connessione fornito dal connettore di servizi o selezionare il proprio nome di connessione. Abbonamento Sottoscrizione personale La sottoscrizione Azure contenente la risorsa Azure OpenAI. OpenAI MyOpenAI La risorsa Azure OpenAI a cui connettersi. Tipo client Python Linguaggio di programmazione o framework per la configurazione della connessione. Scheda Autenticazione
impostazione di autenticazione Valore di esempio Descrizione Tipo di autenticazione Identità del carico di lavoro Metodo di autenticazione per connettere l'app a Azure OpenAI. L'identità del carico di lavoro è consigliata per una maggiore sicurezza. I metodi alternativi includono la stringa di connessione e il principale del servizio e richiedono considerazioni sulla gestione delle credenziali. Abbonamento Sottoscrizione personale Sottoscrizione che contiene l'identità gestita assegnata dall'utente. Identità gestita assegnata dall'utente MyIdentity L'identità gestita assegnata dall'utente che abilita l'autenticazione con identità del carico di lavoro per il cluster del servizio Azure Kubernetes.
Dopo aver creato la connessione, è possibile visualizzarne i dettagli nel riquadro Connettore di servizi .
Clonare esempio di applicazione Python
Clonare il repository di esempio:
git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.gitPassare alla cartella di esempio del repository per Azure OpenAI:
cd serviceconnector-aks-samples/azure-openai-workload-identitySostituire il
<MyModel>segnaposto nelapp.pyfile con il nome del modello distribuito.
Compilare ed eseguire il push di immagini del contenitore in Azure Container Registry
Compilare ed eseguire il push delle immagini nel registro contenitori usando il comando Azure CLI
az acr build.az acr build --registry myregistry --image sc-demo-openai-identity:latest ./Visualizzare le immagini nel registro contenitori usando il comando
az acr repository list.az acr repository list --name myregistry --output table
Distribuire e testare la connessione tra AKS e Azure OpenAI
Sostituire i segnaposto nel file
pod.yamlnella cartellaazure-openai-workload-identity.- Sostituire
<YourContainerImage>con il nome dell'immagine creata in precedenza. Ad esempio:<myregistry>.azurecr.io/<sc-demo-openai-identity>:<latest>. - Sostituire
<ServiceAccountCreatedByServiceConnector>con il nome dell'account del servizio. È disponibile nel portale di Azure nel riquadro Service Connector. - Sostituire
<SecretCreatedByServiceConnector>con il nome del segreto. È disponibile nel portale di Azure nel riquadro Service Connector.
- Sostituire
Distribuire il pod nel tuo cluster con il comando
kubectl apply, che crea un pod denominatosc-demo-openai-identitynello spazio dei nomi predefinito del cluster AKS. Installarekubectllocalmente usando ilaz aks install-clicomando se non è installato.kubectl apply -f pod.yamlControllare se la distribuzione è riuscita visualizzando il pod con
kubectl.kubectl get pod/sc-demo-openai-identityVerificare che la connessione venga stabilita visualizzando i log con
kubectl.kubectl logs pod/sc-demo-openai-identity
Pulire le risorse
Se le risorse create in questa esercitazione non sono più necessarie, eliminarle eliminando il gruppo di risorse.
az group delete \
--resource-group MyResourceGroup