Upgrade von GitHub-Modellen auf Microsoft Foundry-Modelle

In diesem Artikel erfahren Sie, wie Sie eine generative KI-Anwendung entwickeln, indem Sie von GitHub Models aus beginnen und dann Ihre Erfahrung aktualisieren, indem Sie eine Ressource "Foundry Tools" mit Microsoft Foundry Models bereitstellen.

GitHub Models sind nützlich, wenn Sie kostenlose KI-Modelle finden und mit ihnen experimentieren möchten, während Sie eine generative KI-Anwendung entwickeln. Wenn Sie bereit sind, Ihre Anwendung in die Produktion zu bringen, aktualisieren Sie Ihre Erfahrung, indem Sie eine Foundry Tools-Ressource in einem Azure-Abonnement bereitstellen und mit der Verwendung von Foundry Models beginnen. Sie brauchen in Ihrem Code nichts weiter zu ändern.

Der Playground und die kostenlose API-Nutzung für GitHub-Modelle sind ratenbeschränkt durch Anforderungen pro Minute, Anforderungen pro Tag, Token pro Anforderung und gleichzeitige Anforderungen. Wenn Sie eine Ratenbegrenzung erreichen, müssen Sie warten, bis die erreichte Ratenbegrenzung zurückgesetzt wird, bevor Sie weitere Anforderungen machen können.

Voraussetzungen

Sie benötigen:

• Ein GitHub Konto mit access zum GitHub Models.
• Ein Azure-Abonnement mit einer gültigen Zahlungsmethode. Wenn Sie nicht über ein Azure-Abonnement verfügen, erstellen Sie zunächst ein paid Azure Konto. Alternativ können Sie warten, bis Sie bereit sind, Ihr Modell in der Produktion bereitzustellen. An diesem Punkt werden Sie aufgefordert, Ihr Azure Konto auf ein Standardkonto zu erstellen oder zu aktualisieren.
• Foundry Models von Partnern und der Community benötigen Zugriff auf den Azure Marketplace. Stellen Sie sicher, dass Sie über die erforderlichen Berechtigungen zum Abonnieren von Modellangeboten verfügen. Foundry Models, die direkt von Azure haben diese Anforderung nicht.

Upgrade auf Foundry-Modelle

Die Ratenbeschränkungen für den Playground und die kostenlose API-Nutzung helfen Ihnen, mit Modellen zu experimentieren und Ihre KI-Anwendung zu entwickeln. Wenn Sie bereit sind, Ihre Anwendung in die Produktion zu bringen, verwenden Sie einen Schlüssel und endpunkt aus einem kostenpflichtigen Azure Konto. Sie brauchen in Ihrem Code nichts weiter zu ändern.

So rufen Sie den Schlüssel und den Endpunkt ab:

1. Wechseln Sie zu GitHub Models und wählen Sie ein Modell aus, um auf dem Spielplatz zu landen. In diesem Artikel wird Mistral Medium 3 (25.05) verwendet.

2. Geben Sie einige Eingabeaufforderungen ein, oder verwenden Sie einige der vorgeschlagenen Eingabeaufforderungen, um mit dem Modell im Playground zu interagieren.

3. Wählen Sie im Playground „Dieses Modell verwenden“ aus. Diese Aktion öffnet ein Fenster mit dem Titel "Erste Schritte mit Modellen in Ihrer Codebasis".

4. Wählen Sie im Schritt "Authentifizierung konfigurieren" Get Microsoft Foundry key aus dem Abschnitt "Azure AI" aus.

   

5. Wenn Sie bereits bei Ihrem Azure Konto angemeldet sind, überspringen Sie diesen Schritt. Wenn Sie jedoch nicht über ein Azure Konto verfügen oder nicht bei Ihrem Konto angemeldet sind, führen Sie die folgenden Schritte aus:

   1. Wenn Sie nicht über ein Azure Konto verfügen, wählen Sie Create my account aus, und führen Sie die Schritte zum Erstellen eines Kontos aus.

   2. Wenn Sie über ein Azure Konto verfügen, wählen Sie alternativ Sign back in aus. Wenn Ihr vorhandenes Konto ein kostenloses Konto ist, müssen Sie zuerst ein Upgrade auf einen Standardplan durchführen.

   3. Kehren Sie zum Spielplatz des Modells zurück, und wählen Sie erneut den Schlüssel "Microsoft Foundry abrufen " aus.

   4. Melden Sie sich bei Ihrem Azure Konto an.

6. Sie gelangen zu Foundry > GitHub und gelangen zur Startseite in einem Foundry-Projekt.

   Tipp

   Wenn Sie in der klassischen Foundry-Ansicht landen, schalten Sie den Neue Foundry-Schalter in der oberen rechten Navigationsleiste um, um zur neuen Foundry-Ansicht umzuschalten.

7. Führen Sie die Schritte in "Bereitstellen eines Modells " aus, um das Modell Ihrer Wahl bereitzustellen, sie im Playground zu testen und das bereitgestellte Modell mit Code abzuleiten.

8. Überprüfen Sie, ob die Bereitstellung funktioniert, indem Sie eine Testaufforderung im Playground senden. Wenn Sie eine Antwort erhalten, kann Ihr Modell über Code verwendet werden.

Erkunden Sie zusätzliche Funktionen

Foundry Models unterstützt Features, die in GitHub Modellen nicht verfügbar sind:

• Model catalog – Durchsuchen, Vergleichen und Auswerten von Modellen aus Azure, Partnern und der Open-Source-Community.
• Keyless authentication – Verwenden Sie Microsoft Entra ID für die tokenbasierte Authentifizierung, ohne API-Schlüssel zu verwalten.
• Inhaltsfilter – Konfigurieren Sie Inhaltssicherheitsfilter für Ihre Bereitstellungen.
• Satzbegrenzung – Legen Sie benutzerdefinierte Ratelimits für bestimmte Modelle in Ihrer Ressource fest.
• Bereitstellungstypen – Wählen Sie aus mehreren Bereitstellungs-SKUs wie Pay-per-Token, bereitgestellt und Batch.

Häufige Probleme beheben

Verwandte Inhalte

• Bereitstellen von Microsoft Foundry Models im Foundry-Portal
• Modellbereitstellungen erstellen
• Bereitstellungstypen für Foundry-Modelle