Lernprogramm: Bereitstellen einer Web-App für Unternehmenschats (klassisch)

In diesem Artikel stellen Sie eine Web-App für Unternehmenschats bereit, die Ihre Daten mit einem großen Sprachmodell im Microsoft Foundry-Portal verwendet.

Ihre Datenquelle ermöglicht das Grounding des Modells mit bestimmten Daten. Das Grounding bedeutet, dass das Modell Ihre Daten verwendet, um den Kontext Ihrer Frage zu verstehen. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten bleiben in Ihrer ursprünglichen Datenquelle getrennt und sicher.

Die folgenden Schritte werden in diesem Tutorial beschrieben:

Voraussetzungen

• Ein Azure Konto mit einem aktiven Abonnement. Wenn Sie kein Konto haben, erstellen Sie ein free Azure Konto, das ein kostenloses Testabonnement enthält.
• Wenn Sie keinen haben, erstellen Sie ein hubbasiertes Projekt.

• Ein deployed Azure OpenAI-Chatmodell. Schließen Sie den Foundry-Playground-Schnellstart ab, um diese Ressource zu erstellen, wenn Sie über keine verfügen.

• Eine Verbindung zum Suchdienst zum Indizieren der Beispielproduktdaten. Wenn Sie noch keinen haben, führen Sie die Schritte aus, um einen Suchdienst zu erstellen und zu verbinden.

• Eine lokale Kopie von Produktdaten. Das Azure-Samples/rag-data-openai-python-promptflow-Repository auf GitHub enthält Beispiel-Daten zu Einzelhandelsprodukten für dieses Lernprogrammszenario. Die Datei product_info_11.md enthält Produktinformationen zu den TrailWalker-Wanderschuhen für dieses Tutorialbeispiel. Laden Sie die Beispieldaten der Contoso Trek Einzelhandelsprodukte in einer ZIP-Datei auf Ihren lokalen Computer herunter.

• Ein im ausgewählten Abonnement registrierter Microsoft.Web-Ressourcenanbieter, damit Sie sie in einer Web-App bereitstellen können. Weitere Informationen zum Registrieren eines Ressourcenanbieters finden Sie unter Register-Ressourcenanbieter.

• Erforderliche Berechtigungen zum Hinzufügen von Rollenzuweisungen in Ihrem Azure-Abonnement. Nur der Besitzer der spezifischen Azure Ressourcen kann Berechtigungen nach Rollenzuweisung erteilen.

Gießereiportal und Azure portal

In diesem Lernprogramm führen Sie einige Aufgaben im Foundry-Portal und einige Aufgaben im Azure portal aus.

Das Foundry-Portal ist eine webbasierte Umgebung zum Erstellen, Trainieren und Bereitstellen von KI-Modellen. Als Entwickler können Sie hier Ihre Chatwebanwendung erstellen und bereitstellen.

Mit dem Azure portal können Administratoren Azure Ressourcen verwalten und überwachen. Als Administrator verwenden Sie das Portal, um Einstellungen für unterschiedliche Azure Dienste einzurichten, die für access aus der Web-App erforderlich sind.

Konfigurieren von Ressourcen

Damit die Ressourcen in einer Web-App ordnungsgemäß funktionieren, richten Sie die richtigen Berechtigungen im Azure portal ein.

Identifizieren Sie zunächst die Ressourcen, die Sie im Foundry-Portal einrichten müssen.

1. Öffnen Sie das Foundry-Portal und wählen Sie dann das hubbasierte Projekt aus, das Sie zum Bereitstellen des Azure OpenAI-Chatmodells verwendet haben.

2. Wählen Sie im linken Bereich Verwaltungscenter aus.

3. Wählen Sie Connected resources unter Ihrem project aus.

4. Identifizieren Sie die drei Zu konfigurierenden Ressourcen: die Azure OpenAI, die Azure AI Search und die Azure Blob storage die Ihrem workspaceblobstore entspricht.

   

   Tipp

   Wenn " Typ " in der Tabelle nicht angezeigt wird, wählen Sie "Spalten " in der oberen rechten Ecke aus, und fügen Sie die ausgewählten Spalten hinzu oder ordnen Sie sie neu an. Wenn Sie über mehrere Azure OpenAI-Ressourcen verfügen, verwenden Sie die Ressource, die Ihr bereitgestelltes Chatmodell enthält.

5. Suchen Sie nach jedem dieser Namen im Azure portal. Öffnen Sie jeden in einer neuen Browserregisterkarte, damit Sie zwischen ihnen wechseln können.

6. Wenn Sie fertig sind, haben Sie drei neue Browserregisterkarten geöffnet: Suchdienst, Foundry und Blobstore-Container. Lassen Sie alle drei Registerkarten geöffnet, da Sie zwischen ihnen wechseln, um die Ressourcen einzurichten.

Aktivieren einer verwalteten Identität

Aktivieren Sie auf der Registerkarte "Browser" für die Ressource Search service im Azure portal die verwaltete Identität:

1. Wählen Sie im linken Bereich unter "Einstellungen" die Option "Identität" aus.
2. Ändern Sie den Status in Ein.
3. Wählen Sie Speichern aus.

Aktivieren Sie auf der Registerkarte "Browser" für die Ressource Foundry in der Azure portal die verwaltete Identität:

1. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option Identität aus.
2. Ändern Sie den Status in Ein.
3. Wählen Sie Speichern aus.

Festlegen der Zugangskontrolle für die Suche

Legen Sie auf der Registerkarte "Browser" für die Ressource Search service im Azure portal die API-access-Richtlinie fest:

1. Wählen Sie im linken Bereich unter Einstellungen die Option Schlüssel aus.
2. Wählen Sie unter API-Access controlBoth aus.
3. Wenn Sie dazu aufgefordert werden, wählen Sie Ja aus, um dies zu bestätigen.

Zuweisen von Rollen

Wiederholen Sie dieses Muster für jede Ressource in den folgenden Schritten.

Das allgemeine Muster zur Zuweisung der rollenbasierten Zugriffskontrolle (RBAC) für jede Ressource lautet:

1. Navigieren Sie zum Azure-Portal für die vorgegebene Ressource.
2. Wählen Sie auf der linken Seite im Azure portal Access control (IAM) aus.
3. Wählen Sie +Hinzufügen>Rollenzuweisung hinzufügen aus.
4. Suchen Sie nach der Rolle, die Sie zuweisen müssen, und wählen Sie sie aus. Wählen Sie dann Weiter aus.
5. Beim Zuweisen einer Rolle zu sich selbst:
   1. Wählen Sie User, group, or service principal (Benutzer, Gruppe oder Dienstprinzipal) aus.
   2. Wählen Sie "Mitglieder auswählen" aus.
   3. Suchen Sie nach Ihrem Namen, und wählen Sie ihn aus.
6. Beim Zuweisen einer Rolle zu einer anderen Ressource:
   1. Wählen Sie Verwaltete Identität aus.
   2. Wählen Sie "Mitglieder auswählen" aus.
   3. Verwenden Sie die Dropdownliste, um den Typ der Ressource zu finden, die Sie zuweisen möchten. Beispielsweise Foundry Tools oder Search service.
   4. Wählen Sie die Ressource in der angezeigten Liste aus. Möglicherweise gibt es nur eine, aber Sie müssen sie trotzdem auswählen.
7. Fahren Sie mit dem Assistenten fort, und wählen Sie Überprüfen + zuweisen aus, um die Rollenzuweisung hinzuzufügen.

Gehen Sie folgendermaßen vor, um Rollen für die Ressourcen zuzuweisen, die Sie in diesem Tutorial eingerichtet haben:

• Weisen Sie diese Rollen auf der Registerkarte "Browser" für Search service im Azure portal zu:

  • Suchindexdatenleser für die Foundry-verwaltete Identität
  • Search Service Mitwirkender für die verwaltete Identität Foundry
  • Mitwirkende für Sie selbst (Sie finden Mitwirkende auf der Registerkarte Privilegierte Administrationsrollen oben. Alle anderen Rollen befinden sich auf der Registerkarte Rollen der Stellenfunktion.)

• Weisen Sie diese Rollen auf der Registerkarte "Browser" für Foundry im Azure portal zu:

  • Cognitive Services OpenAI Contributor zur verwalteten Identität des Search service
  • Mitwirkung sich selbst

• Weisen Sie diese Rollen auf der Registerkarte "Browser" für Azure Blob storage im Azure portal zu:

  • Storage Blob Data Contributor für die verwaltete Identität Foundry
  • Storage Blob Data Reader mit der verwalteten Identität des Search-Dienstes
  • Mitwirkung sich selbst

Sie haben die Einrichtung von Ressourcen abgeschlossen. Sie können die Azure-Portal-Browser-Tabs jetzt schließen, wenn Sie möchten.

Hinzufügen der Daten und erneutes Testen des Chatmodells

Im Schnellstart des Foundry-Playgrounds (das ist eine Voraussetzung für dieses Lernprogramm) sehen Sie, wie Ihr Modell ohne Ihre Daten reagiert. Fügen Sie dem Modell Ihre Daten hinzu, damit es Fragen zu Ihren Produkten beantworten kann.

Um diesen Abschnitt abzuschließen, benötigen Sie eine lokale Kopie der Produktdaten. Das Repository Azure-Samples/rag-data-openai-python-promptflow auf GitHub enthält Beispiel-Produktinformationen, die für dieses Szenario des Tutorials relevant sind. Insbesondere enthält die Datei product_info_11.md Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind. Laden Sie die Beispieldaten des Einzelhandelsprodukts Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

Führen Sie die folgenden Schritte aus, um Ihre Daten zum Chat-Playground hinzuzufügen, damit der Assistent Fragen zu Ihren Produkten beantworten kann. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrem Azure-Abonnement gespeichert.

1. Gehen Sie zu Ihrem Projekt in Microsoft Foundry.

2. Wählen Sie im linken Bereich "Playgrounds" aus.

3. Wählen Sie Chatplayground ausprobieren aus.

4. Wählen Sie ihr bereitgestelltes Chatmodell aus der Dropdownliste Bereitstellung aus.

   

5. Wählen Sie auf der linken Seite des Chat-Playgrounds Daten hinzufügen>+ Neue Datenquelle hinzufügen aus.

   

6. Wählen Sie im Dropdownfeld Datenquelle die Option Dateien hochladen aus.

   

7. Wählen Sie Hochladen>Dateien hochladen aus, um Ihre lokalen Dateien zu durchsuchen.

8. Wählen Sie die Dateien aus, die Sie hochladen möchten. Wählen Sie die Produktinformationsdateien aus, die Sie heruntergeladen oder zuvor erstellt haben. Fügen Sie jetzt alle Dateien hinzu. Sie können später in derselben Playground-Sitzung keine weiteren Dateien hinzufügen.

9. Wählen Sie Upload aus, um die Datei in Ihr Azure Blob storage Konto hochzuladen. Wählen Sie dann Weiter aus.

   

10. Wählen Sie Ihren Azure AI Search-Dienst aus.

11. Geben Sie für den VektorindexnamenProduktinformationen ein, und wählen Sie Weiter aus.

12. Deaktivieren Sie auf der Seite Sucheinstellungen unter Vektoreinstellungen das Kontrollkästchen Vektorsuche zu dieser Suchressource hinzufügen. Diese Einstellung bestimmt, wie das Modell auf Anforderungen reagiert. Wählen Sie dann Weiter aus.

    Hinweis

    Wenn Sie die Vektorsuche hinzufügen, stehen hier weitere Optionen mit zusätzlichen Kosten zur Verfügung.

13. Überprüfen Sie Ihre Einstellungen, und wählen Sie Vektorindex erstellen aus.

14. Im Playground können Sie sehen, dass die Erfassung Ihrer Daten ausgeführt wird. Dieser Prozess kann einige Minuten dauern. Warten Sie, bevor Sie fortfahren, bis die Datenquelle und der Indexname anstelle des Status angezeigt werden.

    

15. Sie können jetzt mit dem Modell chatten, ihm dieselbe Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe“), und dieses Mal verwendet es Informationen aus Ihren Daten, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

Bereitstellen Ihrer Web-App

Wenn Sie mit der Erfahrung im Foundry-Portal zufrieden sind, stellen Sie das Modell als eigenständige Webanwendung bereit.

Finden Sie Ihre Ressourcengruppe im Azure-Portal

In diesem Tutorial stellen Sie Ihre Web-App in derselben Ressourcengruppe wie Ihr Foundry-Hub bereit. Sie richten die Authentifizierung für die Web-App im Azure portal ein.

Führen Sie die folgenden Schritte aus, um zur Ressourcengruppe im Azure portal zu wechseln:

1. Wechseln Sie zu Ihrem Projekt in Foundry. Wählen Sie im linken Bereich Verwaltungscenter aus.

2. Wählen Sie unter der Überschrift ProjectOverview aus.

3. Wählen Sie den Ressourcengruppennamen aus, um die Ressourcengruppe in der Azure portal zu öffnen. In diesem Beispiel trägt die Ressourcengruppe den Namen rg-sdg-ai.

   

4. Sie befinden sich jetzt im Azure portal und sehen den Inhalt der Ressourcengruppe an, in der Sie den Hub bereitgestellt haben. Notieren Sie sich den Namen und den Speicherort der Ressourcengruppe. Sie verwenden diese Informationen im nächsten Abschnitt.

5. Lassen Sie diese Seite auf einer Browserregisterkarte geöffnet. Sie kehren später zu dieser Seite zurück.

Bereitstellen der Web-App

Die Veröffentlichung führt zu einem Azure App Service in Ihrem Abonnement. Je nach Preisplan, den Sie auswählen, können Kosten anfallen. Wenn Sie mit Ihrer App fertig sind, löschen Sie sie aus dem Azure portal.

So stellen Sie die Web-App bereit:

1. Führen Sie die Schritte im vorherigen Abschnitt aus, um dem Playground Ihre Daten hinzuzufügen. Sie können eine Web-App mit oder ohne eigene Daten bereitstellen, aber Sie benötigen ein bereitgestelltes Modell, wie im Schnellstart des Foundry-Playgrounds beschrieben.

2. Wählen Sie Bereitstellen > ... als Web-App aus.

   

3. Geben Sie auf der Seite In einer Web App bereitstellen die folgenden Details ein:

   • Geben Sie unter Name einen eindeutigen Namen für Ihre Web-App ein.
   • Subscription: Ihr Azure-Abonnement. Wenn keine verfügbaren Abonnements angezeigt werden, registrieren Sie zuerst register Microsoft.Web als Ressourcenanbieter.
   • Ressourcengruppe: Wählen Sie eine Ressourcengruppe aus, in der die Web-App bereitgestellt werden soll. Verwenden Sie dieselbe Ressourcengruppe wie der Hub.
   • Speicherort: Wählen Sie einen Speicherort aus, an dem die Web-App bereitgestellt werden soll. Verwenden Sie denselben Speicherort wie der Hub.
   • Tarif: Wählen Sie einen Tarif für die Web-App aus.
   • Aktivieren des Chatverlaufs in der Web-App: Für das Tutorial ist das Feld Chatverlauf nicht ausgewählt. Wenn Sie das Feature aktivieren, haben Ihre Benutzer access zu ihren einzelnen vorherigen Abfragen und Antworten. Weitere Informationen finden Sie in Chatverlaufshinweisen.

4. Klicken Sie auf Bereitstellen.

5. Warten Sie, bis die App bereitgestellt wird. Dieser Prozess kann einige Minuten dauern.

6. Wenn sie bereit ist, ist die Schaltfläche Start auf der Symbolleiste aktiviert. Starten Sie die App noch nicht, und schließen Sie die Chat-Playground-Seite nicht. Sie kehren später wieder dorthin zurück.

Konfigurieren der Web-App-Authentifizierung

Standardmäßig haben nur Sie Zugriff auf die Web-App. Fügen Sie in diesem Lernprogramm die Authentifizierung hinzu, um den Zugriff auf Mitglieder Ihres Azure-Mandanten einzuschränken. Benutzer melden sich mit ihrem Microsoft Entra-Konto an, um auf Ihre App zuzugreifen. Sie können einen ähnlichen Prozess ausführen, um bei Bedarf einen anderen Identitätsanbieter hinzuzufügen. Die App verwendet nur die Anmeldeinformationen des Benutzers, um zu überprüfen, ob sie Mitglied Ihres Mandanten sind.

1. Kehren Sie mit dem Azure portal zur Browserregisterkarte zurück, oder öffnen Sie die Azure portal in einer neuen Browserregisterkarte. Zeigen Sie den Inhalt der Ressourcengruppe an, in der Sie die Web-App bereitgestellt haben. Möglicherweise müssen Sie die Ansicht aktualisieren, um die Web-App anzuzeigen.

2. Wählen Sie die Ressource App Service aus der Liste der Ressourcen in der Ressourcengruppe aus.

3. Wählen Sie im reduzierbaren linken Menü unter Einstellungen die Option Authentifizierung aus.

   

4. Wenn Microsoft auf dieser Seite als Identitätsanbieter aufgelistet wird, ist nichts weiter erforderlich. Sie können den nächsten Schritt überspringen.

5. Fügen Sie einen Identitätsanbieter mit den folgenden Einstellungen hinzu:

   • Identitätsanbieter: Wählen Sie Microsoft als Identitätsanbieter aus. Die Standardeinstellungen auf dieser Seite beschränken die App nur auf Ihren Mandanten, sodass Sie hier nichts ändern müssen.
   • Mandantentyp: Mitarbeiter
   • App-Registrierung: Erstellen einer neuen App-Registrierung
   • Name: Der Name Ihres Web-App-Dienstes
   • Unterstützte Kontotypen: Aktueller Mandant – Einzelner Mandant
   • Restrict access: Erfordert Authentifizierung
   • Nicht authentifizierte Anforderungen: HTTP 302 Gefundene Umleitung – empfohlen für Websites

Verwenden der Web-App

Sie haben es fast geschafft. Jetzt können Sie die Web-App testen.

1. Wenn Sie Einstellungen geändert haben, warten Sie etwa 10 Minuten, bis die Authentifizierungseinstellungen wirksam werden.

2. Kehren Sie zur Browserregisterkarte mit der Chat-Playground-Seite im Foundry-Portal zurück.

3. Wählen Sie Starten aus, um die bereitgestellte Web-App zu öffnen. Wenn Sie dazu aufgefordert werden, akzeptieren Sie die Berechtigungsanforderung.

4. Wenn Launch im Playground nicht angezeigt wird, wählen Sie Web apps im linken Bereich aus, und wählen Sie dann Ihre App aus der Liste aus, um sie zu öffnen.

   Wenn die Authentifizierungseinstellungen noch nicht aktiv sind, schließen Sie die Browserregisterkarte für Ihre Web-App, und kehren Sie zum Chat-Playground im Foundry-Portal zurück. Warten Sie etwas länger, und versuchen Sie es dann erneut.

5. Stellen Sie in Ihrer Web-App die gleiche Frage wie zuvor („Wie viel kosten die TrailWalker Wanderschuhe“). Dieses Mal verwendet die App Informationen aus Ihren Daten, um die Antwort zu erstellen. Erweitern Sie die Schaltfläche Referenz aus, um die verwendeten Daten anzuzeigen.

   

Grundlegendes zum Chatverlauf

Mit dem Feature „Chatverlauf“ können Ihre Benutzer ihre vorherigen Abfragen und Antworten sehen.

Aktivieren Sie den Chatverlauf, wenn Sie die Web-App bereitstellen. Aktivieren Sie das Kontrollkästchen Chatverlauf in der Web-App aktivieren.

Nachdem Sie den Chatverlauf aktiviert haben, können Ihre Benutzer ihn oben rechts in der App ein- oder ausblenden. Wenn der Verlauf angezeigt wird, können sie Unterhaltungen umbenennen oder löschen. Während sie bei der App angemeldet sind, sind Unterhaltungen von der neuesten zur ältesten sortiert und basierend auf der ersten Abfrage in der Unterhaltung benannt.

Wenn Sie die Cosmos DB-Ressource löschen, aber die Option „Chatverlauf“ im Studio aktiviert lassen, sehen Ihre Benutzer einen Verbindungsfehler, können die Web-App jedoch ohne Chatverlauf weiterhin verwenden.

Aktualisieren der Web-App

Verwenden Sie den Playground, um weitere Daten hinzuzufügen oder das Modell mit verschiedenen Szenarien zu testen. Wenn Sie bereit sind, die Web-App mit dem neuen Modell zu aktualisieren, wählen Sie Bereitstellen > ...als Web-App erneut aus. Wählen Sie Vorhandene Web-App aktualisieren und dann in der Liste die vorhandene Web-App aus. Das neue Modell wird für die Web-App bereitgestellt.

Bereinigen von Ressourcen

Um unnötige Azure Kosten zu vermeiden, löschen Sie die in dieser Schnellstartanleitung erstellten Ressourcen, wenn Sie sie nicht benötigen. Verwalten Sie Ressourcen im Azure portal.

Verwandte Inhalte

• Beginnen Sie mit dem Erstellen einer Chat-App
• Erstellen Sie eine benutzerdefinierte Chat-App mit dem Azure AI SDK