FunctionInvokingChatClient Classe

Definição

public ref class FunctionInvokingChatClient : Microsoft::Extensions::AI::DelegatingChatClient

public class FunctionInvokingChatClient : Microsoft.Extensions.AI.DelegatingChatClient

type FunctionInvokingChatClient = class
    inherit DelegatingChatClient

Public Class FunctionInvokingChatClient
Inherits DelegatingChatClient

Herança

Object

DelegatingChatClient

FunctionInvokingChatClient

Comentários

Quando esse cliente recebe uma FunctionCallContent resposta de chat de seu interior IChatClient, ele responde invocando o correspondente AIFunction definido em Tools (ou em AdditionalTools), produzindo um FunctionResultContent que ele envia de volta para o cliente interno. Esse loop é repetido até que não haja mais chamadas de função a serem feitas ou até que outra condição de parada seja atendida, como bater MaximumIterationsPerRequest.

Se uma função solicitada for uma AIFunctionDeclaration , mas não uma AIFunction, não FunctionInvokingChatClient tentará invocá-la e, em vez disso, permitirá que ela FunctionCallContent passe de volta para o chamador. Em seguida, é responsabilidade do chamador criar o apropriado FunctionResultContent para essa chamada e enviá-la de volta como parte de uma solicitação subsequente.

Além disso, se uma função solicitada for uma ApprovalRequiredAIFunction, não FunctionInvokingChatClient tentará invocá-la diretamente. Em vez disso, ele substituirá por FunctionCallContent um ToolApprovalRequestContent que encapsula e FunctionCallContent indica que a função requer aprovação antes de ser invocada. Em seguida, o chamador é responsável por responder a essa solicitação de aprovação enviando um correspondente ToolApprovalResponseContent em uma solicitação subsequente. Em FunctionInvokingChatClient seguida, processará essa resposta de aprovação e invocará a função conforme apropriado.

Devido à natureza das interações com um subjacente IChatClient, se algum FunctionCallContent for recebido para uma função que exija aprovação, todos recebidos FunctionCallContent nessa mesma resposta também exigirão aprovação, mesmo que não ApprovalRequiredAIFunction fossem instâncias. Se isso for uma preocupação, considere solicitar que várias solicitações de chamada de ferramenta não sejam feitas em uma única resposta, definindo AllowMultipleToolCalls como false.

Uma FunctionInvokingChatClient instância é thread-safe para uso simultâneo, desde que as AIFunction instâncias empregadas como parte do fornecido ChatOptions também sejam seguras. A AllowConcurrentInvocation propriedade pode ser usada para controlar se várias solicitações de invocação de função como parte da mesma solicitação são invocadas simultaneamente, mas mesmo com esse conjunto false como (o padrão), várias solicitações simultâneas para essa mesma instância e usar as mesmas ferramentas podem resultar no uso simultâneo dessas ferramentas (uma por solicitação). Por exemplo, uma função que acessa o HttpContext de uma solicitação web ASP.NET específica só deve ser usada como parte de um único ChatOptions de cada vez e apenas com AllowConcurrentInvocation definido como false, caso o cliente interno decidiu emitir várias solicitações de invocação para essa mesma função.