FunctionInvokingChatClient Classe

Définition

public ref class FunctionInvokingChatClient : Microsoft::Extensions::AI::DelegatingChatClient

public class FunctionInvokingChatClient : Microsoft.Extensions.AI.DelegatingChatClient

type FunctionInvokingChatClient = class
    inherit DelegatingChatClient

Public Class FunctionInvokingChatClient
Inherits DelegatingChatClient

Héritage

Object

DelegatingChatClient

FunctionInvokingChatClient

Remarques

Lorsque ce client reçoit une FunctionCallContent réponse de conversation à partir de son intérieur IChatClient, il répond en appelant le correspondant AIFunction défini dans Tools (ou dans AdditionalTools), en produisant un FunctionResultContent retour au client interne. Cette boucle est répétée jusqu’à ce qu’il n’y ait plus d’appels de fonction à effectuer, ou jusqu’à ce qu’une autre condition d’arrêt soit remplie, comme atteindre MaximumIterationsPerRequest.

Si une fonction demandée est une AIFunctionDeclaration fonction mais pas une AIFunction, elle FunctionInvokingChatClient n’essaie pas de l’appeler, et autorise à la place cela FunctionCallContent à passer à l’appelant. Il incombe ensuite à l’appelant de créer l’élément approprié FunctionResultContent pour cet appel et de le renvoyer dans le cadre d’une demande ultérieure.

En outre, si une fonction demandée est une ApprovalRequiredAIFunctionfonction, elle FunctionInvokingChatClient ne tente pas de l’appeler directement. Au lieu de cela, il remplace cela FunctionCallContent par un ToolApprovalRequestContent qui encapsule et FunctionCallContent indique que la fonction nécessite une approbation avant qu’elle puisse être appelée. L’appelant est ensuite chargé de répondre à cette demande d’approbation en envoyant un correspondant ToolApprovalResponseContent dans une demande ultérieure. Le FunctionInvokingChatClient processus traitera ensuite cette réponse d’approbation et appellera la fonction selon les besoins.

En raison de la nature des interactions avec un sous-jacent IChatClient, si un FunctionCallContent élément est reçu pour une fonction qui nécessite une approbation, tous reçus FunctionCallContent dans cette même réponse nécessitent également l’approbation, même s’ils n’étaient pas ApprovalRequiredAIFunction des instances. S’il s’agit d’une préoccupation, envisagez de demander que plusieurs demandes d’appel d’outil ne soient pas effectuées dans une seule réponse, en définissant AllowMultipleToolCalls sur false.

Une FunctionInvokingChatClient instance est thread-safe pour une utilisation simultanée tant que les AIFunction instances utilisées dans le cadre de l’offre sont ChatOptions également sécurisées. La AllowConcurrentInvocation propriété peut être utilisée pour contrôler si plusieurs demandes d’appel de fonction dans le cadre de la même requête sont invocables simultanément, mais même avec cette valeur définie false sur (valeur par défaut), plusieurs demandes simultanées à cette même instance et l’utilisation des mêmes outils peuvent entraîner l’utilisation simultanée de ces outils (un par demande). Par exemple, une fonction qui accède à HttpContext d’une requête web ASP.NET spécifique ne doit être utilisée que dans le cadre d’un seul ChatOptions à la fois, et uniquement avec AllowConcurrentInvocation défini sur false, dans le cas où le client interne a décidé d’émettre plusieurs demandes d’appel à cette même fonction.