Einrichten von Tracing in Microsoft Foundry (Vorschau)

Verwenden Sie die Ablaufverfolgung (Vorschau), um Ihre KI-Agents zu debuggen und ihr Verhalten in der Produktion zu überwachen. Die Ablaufverfolgung erfasst detaillierte Telemetrie – einschließlich Latenz, Ausnahmen, Eingabeaufforderungsinhalte und Abrufvorgänge – sodass Sie Probleme schneller identifizieren und beheben können.

Voraussetzungen

• Ein Foundry-Projekt.
• Eine Azure Monitor Application Insights Ressource zum Speichern von Traces (erstelle eine neue oder verbinde eine bestehende).
• Zugriff auf die Application Insights-Ressource, die mit Ihrem Projekt verbunden ist.

Verbinden von Application Insights mit Ihrem Foundry-Projekt

Foundry speichert Ablaufverfolgungen in Azure Application Insights mithilfe von OpenTelemetry-Semantikkonventionen.

1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche "Neue Gießerei " aktiviert ist. Diese Schritte beziehen sich auf Foundry (neu).
2. Öffnen Sie Ihr Foundry-Projekt.
3. Wählen Sie im linken Navigationsbereich "Agents" aus.
4. Wählen Sie oben Traces aus.
5. Wählen Sie rechts "Verbinden" aus, um eine Application Insights-Ressource zu erstellen oder zu verbinden:
   • Um eine vorhandene Ressource zu verbinden, wählen Sie die Ressource und dann "Verbinden" aus.
   • Um eine neue Ressource zu erstellen, wählen Sie Neu erstellen aus und schließen Sie den Assistenten ab.

Eine Bestätigungsmeldung wird angezeigt, wenn die Verbindung erfolgreich ist.

Nachdem Sie die Ressource angeschlossen haben, kann Ihr Projekt das Tracing verwenden.

Instrumentieren von KI-Agents

Wählen Sie den Ansatz aus, der der Erstellung und Ausführung Ihres Agents entspricht.

Serverseitige Ablaufverfolgungen im Foundry-Portal

Beginnen Sie mit serverseitigen Ablaufverfolgungen. Foundry protokolliert Logs für allgemeine Agentszenarien und Workflowszenarien, ohne Ihren Code zu ändern.

• Foundry protokolliert automatisch serverseitige Ablaufverfolgungen für Prompt-Agents, Host-Agents und Workflows im Foundry-Portal. Sobald die Ablaufverfolgung in Ihrem Foundry-Projekt aktiviert ist, werden Sie Zugriff auf sofort einsatzbereite Ablaufverfolgungen für die letzten 90 Tage haben.
• Foundry ermöglicht auch die einfache Integration in top-Agent-Frameworks.

Clientseitige Ablaufverfolgungen mit dem Microsoft Foundry SDK (Python)

Installieren Sie OpenTelemetry und das Azure SDK Tracing-Plugin mit:

pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry

Nach der Ausführung Ihres Agents können Sie mit dem Anzeigen und Analysieren von Ablaufverfolgungen im Foundry-Portal beginnen.

Ausführliche Anweisungen und SDK-spezifische Codebeispiele finden Sie unter Tracing with azure-ai-projects (Python SDK) und Telemetriebeispiele für Agenten.

Lokales Tracing mit dem AI-Toolkit in Visual Studio Code

Mit dem KI-Toolkit können Sie Abläufe lokal in VS Code mithilfe eines lokalen OTLP-kompatiblen Collectors verfolgen, was sich ideal für die Entwicklung und das Debuggen eignet.

Das Toolkit unterstützt KI-Frameworks wie Foundry Agents Service, OpenAI, Anthropic und LangChain über OpenTelemetry. In VS Code können Sie Spuren sofort anzeigen, ohne Cloudzugriff zu benötigen.

Ausführliche Einrichtungsanweisungen und SDK-spezifische Codebeispiele finden Sie unter "Tracing in AI Toolkit".

Anzeigen und Analysieren von Ablaufverfolgungen

Anzeigen von Ablaufverfolgungen im Foundry-Portal

Wechseln Sie in Ihrem Foundry-Projekt zur Registerkarte Ablaufverfolgungen in Ihren Agents oder Workflows. Sie können ingestierte Traces aus den letzten 90 Tagen durchsuchen, filtern oder sortieren.

Wählen Sie eine Ablaufverfolgung aus, um die einzelnen Abschnitte zu durchlaufen, Probleme zu identifizieren und zu beobachten, wie Ihre Anwendung reagiert. Auf diese Weise können Sie Probleme in Ihrer Anwendung debuggen und anheften.

Anzeigen von Ablaufverfolgungen in Azure Monitor

Ihre Trace-Informationen werden an Azure Monitor Application Insights gesendet, damit Sie sie dort einsehen können.

Weitere Informationen zum Senden von Ablaufverfolgungen an Azure Monitor und zum Erstellen einer Azure Monitor-Ressource finden Sie in der Azure Monitor OpenTelemetry-Dokumentation.

Unterhaltungsergebnisse anzeigen

Eine Unterhaltung ist der persistente Kontext eines End-to-End-Dialogverlaufs zwischen einem Benutzer und einem Agent. Im Foundry-Portal können Sie die Ergebnisse der Unterhaltung für Ihre Agent-Ausführung sofort anzeigen, zusammen mit den Ablaufverfolgungen auf der Seite Ablaufverfolgungen.

Sie können nach einer bekannten Unterhaltungs-ID, nach einer Antwort-ID oder nach einer Ablaufverfolgungs-ID suchen, die dieser Unterhaltung zugeordnet ist. Wählen Sie dann die Konversations-ID aus, um die Unterhaltung zu überprüfen.

• Gesprächsverlaufsdetails
• Antwortinformationen und Token in einer Ausführung
• Sortierte Aktionen, Ausführen von Schritten und Toolaufrufen
• Eingaben und Ausgaben zwischen einem Benutzer und einem Agent

Überprüfen, ob das Tracing funktioniert

1. Vergewissern Sie sich, dass Ihr Projekt mit Application Insights verbunden ist. Führen Sie bei Bedarf die Schritte in Connect Application Insights mit Ihrem Foundry-Projekt aus.

2. Führen Sie Ihren Agent oder Workflow mindestens einmal aus (z. B. mithilfe des Portals oder Ihrer App).

3. Öffnen Sie in Ihrem Foundry-Projekt die Ansicht Traces und bestätigen Sie, dass ein neuer Trace angezeigt wird.

   Wenn die Ablaufverfolgung ordnungsgemäß funktioniert, wird eine Liste der letzten Ablaufverfolgungen mit Zeitstempeln, Dauer und Statusindikatoren angezeigt. Wählen Sie eine Leiterbahn aus, um deren Spannweite anzuzeigen.

Wenn Sie keine neuen Ablaufverfolgungen sehen, warten Sie ein paar Minuten, aktualisieren Sie, und beachten Sie dann die Informationen unter Problembehandlung.

Sicherheit und Datenschutz

Die Ablaufverfolgung kann vertrauliche Informationen erfassen (z. B. Benutzereingaben, Modellausgaben sowie Toolargumente und -ergebnisse). Verwenden Sie diese Methoden, um Risiken zu reduzieren:

• Speichern Sie geheime Schlüssel, Anmeldeinformationen oder Token nicht in Eingabeaufforderungen, Toolargumenten oder Span-Attributen.
• Reduzieren oder entfernen Sie persönliche Daten und andere sensible Inhalte, bevor sie in der Telemetrie erscheinen.
• Behandeln Sie Ablaufverfolgungsdaten als Produktionstelemetrie, und wenden Sie dieselben Zugriffssteuerungen und Aufbewahrungsrichtlinien an, die Sie für Protokolle und Metriken verwenden.

Weitere Anleitungen finden Sie unter "Sicherheit und Datenschutz".

Datenaufbewahrung und Kosten

Foundry speichert Protokolle in der mit Ihrem Projekt verbundenen Application Insights-Ressource. Die Datenspeicherung und Abrechnung folgen der Konfiguration Ihrer Application Insights und Log Analytics.

Problembehandlung

Verwandte Inhalte

Jetzt, da die Ablaufverfolgung eingerichtet ist, erkunden Sie diese Ressourcen, um Ihr Verständnis zu vertiefen und Ihre Observability-Funktionen zu erweitern:

• Übersicht über die Agent-Nachverfolgung
• Verfolgungsintegrationen
• Überwachen von KI-Agents mit dem Agent Monitoring Dashboard
• Beobachtbarkeit in generativer KI