FunctionInvokingChatClient Klasse

Definition

public ref class FunctionInvokingChatClient : Microsoft::Extensions::AI::DelegatingChatClient

public class FunctionInvokingChatClient : Microsoft.Extensions.AI.DelegatingChatClient

type FunctionInvokingChatClient = class
    inherit DelegatingChatClient

Public Class FunctionInvokingChatClient
Inherits DelegatingChatClient

Vererbung

Object

DelegatingChatClient

FunctionInvokingChatClient

Hinweise

Wenn dieser Client eine FunctionCallContent In-Chat-Antwort von seinem inneren IChatClienterhält, antwortet er, indem er den entsprechenden AIFunction definierten ( Tools oder in AdditionalTools) aufruft, um eine FunctionResultContent , die er an den inneren Client zurücksendet. Diese Schleife wird wiederholt, bis es keine weiteren Funktionsaufrufe gibt, die ausgeführt werden sollen, oder bis eine andere Stoppbedingung erfüllt ist, z. B. Durch Drücken MaximumIterationsPerRequest.

Wenn es sich bei einer angeforderten Funktion um eine aber nicht um eine AIFunctionDeclaration Funktion handelt, wird nicht FunctionInvokingChatClient versucht, sie aufzurufen, und dies FunctionCallContent stattdessen zulassen, dass sie an den Aufrufer zurückgesendet AIFunctionwird. Es liegt dann in der Verantwortung des Anrufers, den entsprechenden FunctionResultContent Anruf zu erstellen und ihn als Teil einer nachfolgenden Anforderung zurückzusenden.

Wenn es sich bei einer angeforderten Funktion um eine ApprovalRequiredAIFunctionFunktion handelt, wird nicht versucht, FunctionInvokingChatClient sie direkt aufzurufen. Stattdessen wird FunctionCallContent dies durch ein ToolApprovalRequestContent Umbruch FunctionCallContent ersetzt und angibt, dass die Funktion eine Genehmigung erfordert, bevor sie aufgerufen werden kann. Der Anrufer ist dann für die Beantwortung dieser Genehmigungsanforderung verantwortlich, indem er eine entsprechende ToolApprovalResponseContent in einer nachfolgenden Anforderung sendet. Anschließend FunctionInvokingChatClient wird diese Genehmigungsantwort verarbeitet und die Funktion entsprechend aufgerufen.

Aufgrund der Art der Interaktionen mit einer zugrunde liegenden IChatClientFunktion, wenn eine FunctionCallContent funktion empfangen wird, die eine Genehmigung erfordert, benötigen alle, die in derselben Antwort empfangen FunctionCallContent werden, auch dann eine Genehmigung, auch wenn sie keine ApprovalRequiredAIFunction Instanzen waren. Wenn dies ein Problem ist, sollten Sie in Erwägung ziehen, dass mehrere Toolanrufanforderungen nicht in einer einzigen Antwort erfolgen, indem Sie auf "false.AllowMultipleToolCalls

Eine FunctionInvokingChatClient Instanz ist threadsicher für die gleichzeitige Verwendung, solange die AIFunction im Rahmen der bereitgestellten ChatOptions Instanzen ebenfalls sicher sind. Die AllowConcurrentInvocation Eigenschaft kann verwendet werden, um zu steuern, ob mehrere Funktionsaufrufe als Teil derselben Anforderung gleichzeitig aufrufbar sind, aber auch mit dieser Einstellung false (Standardeinstellung) können mehrere gleichzeitige Anforderungen an diese Instanz und die Verwendung derselben Tools dazu führen, dass diese Tools gleichzeitig verwendet werden (eine pro Anforderung). Beispielsweise sollte eine Funktion, die auf den HttpContext einer bestimmten ASP.NET-Webanforderung zugreift, nur als Teil einer Einzelnen ChatOptions gleichzeitig verwendet werden, und nur für AllowConcurrentInvocationfalseden Fall, dass der innere Client beschlossen hat, mehrere Aufrufanforderungen an dieselbe Funktion auszustellen.