Usare Tuning di Copilot per affinare i modelli da usare in Microsoft 365 Copilot (anteprima)

Questo articolo descrive come usare la messa a punto di Copilot per creare modelli finemente ottimizzati in Copilot Studio da utilizzare con agenti dichiarativi per Microsoft 365 Copilot. La sincronizzazione è un processo che consente di personalizzare un modello pre-addestrato per un'attività specifica sui dati del tuo tenant. È possibile usare questi modelli ottimizzati per creare agenti esperti nell'esecuzione di attività specifiche del dominio e di gestirli in Microsoft 365 Copilot.

L'ottimizzazione consente al modello di eseguire prestazioni migliori per le attività rilevanti per l'organizzazione. Un modello ottimizzato è particolarmente utile per le organizzazioni con dati univoci o requisiti specializzati.

Questo articolo offre una panoramica di base del processo di messa a punto di Copilot in Copilot Studio. Per indicazioni più dettagliate specifiche per l'attività per ottenere risultati ottimali dalla personalizzazione per la tua organizzazione e i tuoi compiti, vedi Panoramica di Copilot Tuning.

Vantaggi dell'ottimizzazione di Copilot

L'ottimizzazione del modello è una tecnica potente usata per personalizzare modelli linguistici di grandi dimensioni in base alle esigenze specifiche. Il fine-tuning completa altre tecniche di ottimizzazione dell'intelligenza artificiale generativa, come la Generazione Aumentata tramite Recupero (nota anche come RAG) e l'ottimizzazione dei prompt. La sincronizzazione è particolarmente adatta quando si vuole gestire con precisione il comportamento del modello.

L'ottimizzazione richiede in genere un team di esperti data scientist per curare i set di dati e creare pipeline di preparazione e training specifiche per attività.

Copilot Tuning in Copilot Studio semplifica notevolmente questo processo, trasformandolo in uno strumento che può essere usato da qualsiasi esperto in materia.

Copilot Studio astrae gran parte della complessità del processo. Il processo di Copilot Studio Copilot Tuning è a basso codice, trasformando l'ottimizzazione da un progetto complesso e con elevato carico di risorse in un'esperienza self-service semplificata.

La preparazione automatica dei dati basata sull'intelligenza artificiale trasforma contenuti aziendali rumorosi in set di training di alta qualità con un impegno minimo. Questa automazione riduce al minimo la necessità di etichettare manualmente richiedendo l'input umano solo in cui la confidenza del modello è bassa. L'automazione consente di ridurre le attività di etichettatura dei dati.

Infine, questa funzionalità consente di risparmiare il lavoro di creazione di pipeline di elaborazione e training di dati specializzate.

Sicurezza

Copilot Tuning offre una sicurezza avanzata rispetto alle tradizionali tecniche di ottimizzazione, garantendo che solo gli utenti con i controlli di accesso corretti, definiti dai gruppi di sicurezza esistenti Microsoft Entra, possano usare il modello durante la compilazione di agenti Microsoft 365 Copilot. Gli amministratori possono anche rimuovere rapidamente i modelli dall'ambiente di produzione, migliorando ulteriormente la sicurezza.

Nessuno vede i dati, nemmeno durante il training. Tutta la formazione e l'inferenza vengono eseguiti in ambienti isolati per singolo tenant.

Che tipo di attività può eseguire Copilot Tuning?

Attualmente, è possibile usare l'Ottimizzazione Copilot per i compiti seguenti:

1. Domande e risposte: domande e risposte di esperti possono rispondere con precisione a domande in domini di conoscenze complessi, ad esempio scenari di servizi hr e professionali, in cui solo RAG sarebbe insufficiente.
2. Generazione di documenti: la generazione di documenti si distingue per la creazione di documenti complessi e strutturati che devono seguire formati specifici, ad esempio contratti, contratti e documentazione tecnica.
3. Riepilogo dei documenti: distilla con precisione informazioni complesse, come analisi regolamentari o legislative, in sintesi personalizzate.

Idoneità

Copilot Tuning è un programma Early Access (EAP). Per altre informazioni sull'idoneità di EAP, vedere Introducing Microsoft 365 Copilot Tuning.

In un'organizzazione in cui è disponibile Copilot Tuning, un amministratore Microsoft 365 controlla l'accesso. L'amministratore può attivare Copilot Tuning per l'organizzazione o il livello del tenant. L'amministratore può anche limitare l'accesso a questa funzionalità per utenti specifici dell'organizzazione.

Accedere a Copilot Tuning in Copilot Studio

Una volta che l'amministratore di Microsoft 365 rende disponibile Copilot Tuning nel tuo tenant e ti concede le autorizzazioni di creazione di modelli, ricevi un'e-mail che ti invita a iniziare a costruire il tuo primo modello con Microsoft Copilot Studio.

Per accedere a Copilot Tuning, procedi come segue:

1. Accedere a Copilot Studio usando un account utente con il ruolo Model Maker.

2. Sulla barra laterale selezionare i tre puntini (... ) e quindi selezionare Copilot Tuning.

   Verrà visualizzata la pagina Copilot Tuning.

   Se non vedi questa opzione, Copilot Tuning non è disponibile per il tenant oppure non hai i permessi per creare modelli perfezionati.

Creare un modello ottimizzato

Messa a punto di Copilot è un processo di addestramento a più passaggi. Come per qualsiasi processo di training di Machine Learning, la qualità e la quantità dei dati di training sono fondamentali per il successo del modello.

Configurare i parametri del modello di base

Prima di tutto, configurare i parametri di alto livello per le operazioni che il modello deve eseguire, il comportamento e le origini dati appropriate da usare.

1. Vai alla pagina Ottimizzazione Copilot e selezionare Crea un nuovo modello. Viene visualizzata una pagina Personalizza il modello al tuo compito.

2. Immettere un nome significativo e una descrizione per il modello.

   Descrivere il modello in modo che gli utenti dell'organizzazione possano comprendere rapidamente come può aiutarli nel proprio lavoro.

3. In Scegli origini conoscenze selezionare Aggiungi informazioni.

   Verrà visualizzata la pagina Aggiungi informazioni al modello .

   1. Selezionare un tipo di conoscenza. Attualmente, SharePoint è disponibile.

   2. Selezionare un'origine delle informazioni. Cercare un file SharePoint nel computer o immettere un URL per l'origine e quindi selezionare Aggiungi.

   3. Ripetere il passaggio precedente in base alle esigenze per aggiungere altre origini delle informazioni.

   4. Al termine dell'aggiunta di fonti di conoscenza, selezionare Aggiungi per continuare.

4. In Permissions specificare i gruppi di sicurezza Microsoft Entra che devono avere accesso al modello quando viene distribuito.

   Copilot Tuning esclude automaticamente dal training tutti i file a cui i gruppi di sicurezza selezionati non possono accedere. Copilot Studio suggerisce automaticamente anche ad altri gruppi di sicurezza di ottimizzare l'ampiezza delle conoscenze che è possibile incorporare in modo sicuro nel modello.

5. In Tipo di attività selezionare il tipo di attività desiderato.

6. Nella sezione Istruzioni modello visualizzata rispondere alle domande come indicato. Inserisci le informazioni sull'istruzione come indicato. Per dettagli completi, consultare le istruzioni specifiche per le attività nella documentazione di Microsoft 365 Copilot Tuning.

   • Configurare la regolazione di Copilot per le domande e risposte esperte
   • Configurare Copilot Tuning per la generazione di documenti
   • Introduzione al riepilogo di Copilot Tuning

   Le istruzioni del modello aiutano Copilot Studio a identificare e preparare i dati più rilevanti dalle fonti di conoscenza. Le istruzioni del modello valide forniscono al modello indicazioni su come interpretare i dati durante il processo di training.

7. Selezionare Salva bozza per salvare lo stato di avanzamento oppure, se si è pronti per procedere con il processo di ottimizzazione, selezionare Prepara i dati di etichettatura.

   Copilot Studio inizia a preparare i dati per l'etichettatura.

   Copilot Studio informa se alcune delle fonti di conoscenza scelte non sono disponibili per i gruppi di sicurezza selezionati. Copilot Studio suggerisce automaticamente ad altri gruppi di sicurezza di ottimizzare l'ampiezza delle conoscenze che è possibile incorporare in modo sicuro nel modello.

8. Apportare modifiche ai gruppi di sicurezza per espandere la copertura in base alle esigenze e quindi selezionare Continua con la selezione.

   Copilot Studio prepara i dati per l'etichettatura.

   Importante

   A seconda delle dimensioni dei dati, il completamento della preparazione può richiedere fino a 24 ore. Durante la preparazione, è possibile continuare a lavorare in Copilot Studio o chiudere la scheda del browser e tornare in un secondo momento. Una volta completato questo passaggio, si riceve una notifica tramite posta elettronica. È possibile controllare lo stato in qualsiasi momento restituendo a Copilot Studio e aggiornando l'elenco dei modelli.

Etichettare i campioni di formazione

Dopo l'elaborazione dei dati, Copilot Studio invia una notifica tramite posta elettronica che indica che i dati sono pronti per l'etichettatura.

Copilot Studio presenta esempi generati di addestramento rilevanti per l'attività e i dati che hai fornito. È necessario esaminare gli esempi e fornire commenti e suggerimenti sulla qualità del campione.

L'etichettatura è un passaggio fondamentale perché essenzialmente insegnare al modello come identificare esempi di training ideali. Assicurarsi che gli utenti con esperienza di dominio eseguano questa attività. Se non si è esperti di dominio, è possibile delegare attività di etichettatura a esperti in materia tramite un flusso di lavoro predefinito di gestione delle etichette.

Il processo di etichettatura passa in genere attraverso più batch. L'addestramento di un modello può richiedere fino a quattro o cinque lotti di etichette.

Al termine dell'etichettatura, si è pronti per addestrare il modello. Selezionare Avvia training per continuare.

Addestrare il modello

Copilot Studio esegue il training del modello usando i dati etichettati. Il training è un processo completamente automatizzato che non richiede ulteriore input da parte dell'utente.

Una volta completato il training, si riceve una notifica tramite posta elettronica. È anche possibile controllare lo stato in qualsiasi momento restituendo a Copilot Studio e aggiornando l'elenco dei modelli.

Valutare il modello

Nella fase finale si ottiene un set di confronti side-by-side tra i risultati ottenuti dall'output del modello ottimizzato e i risultati del modello di base, non ottimizzati. Se si vuole continuare a migliorare la qualità delle risposte del modello, puoi iniziare una nuova sessione di addestramento del modello.

Per migliorare gli output dei modelli nell'esecuzione successiva del training, assicurarsi che il set di dati sia ben allineato all'attività specifica del modello e che i dati siano etichettati dagli esperti di dominio.

Pubblicare il modello in Microsoft 365 Copilot

Una volta soddisfatti dell'output del modello, pubblica il modello nel catalogo tenant di Microsoft 365.

Il modello è ora disponibile per l'uso da parte degli agenti del tenant per Copilot.

Per altre informazioni su come usare il modello negli agenti per Copilot, vedere la documentazione Microsoft 365 Copilot.

Limitazioni e restrizioni

Esistono alcune limitazioni e restrizioni da tenere presenti durante la creazione di modelli ottimizzati:

• Se si aggiungono fonti di conoscenza dopo l'addestramento del modello, è necessario riavviare il processo di messa a punto da zero.
• Copilot Studio non supporta ancora il versionamento del modello.
• Se un utente i cui dati sono stati usati nel training di un modello invia una richiesta di eliminazione valida in base al GDPR (o normative simili), è necessario ripetere il training del modello.
• Quando ottimizzi un modello, i pesi del modello vengono regolati in base ai dati di training. È possibile eliminare il modello ottimizzato in qualsiasi momento.
• L'utente è responsabile del modo in cui i dati vengono raccolti, archiviati e usati all'interno dell'ambiente tenant.
• Devi assicurarti che le procedure per i dati soddisfino i requisiti legali per la trasparenza, il consenso, l'accesso e l'eliminazione.
• L'utente è responsabile della verifica dell'accuratezza, dell'appropriatezza e della conformità degli output generati da questo sistema prima di usarli. La verifica potrebbe richiedere una revisione con gli esperti in materia.

Contenuti correlati

• Panoramica dell'ottimizzazione di Copilot
• Configurare la regolazione di Copilot per le domande e risposte esperte
• Configurare Copilot Tuning per la generazione di documenti
• Introduzione al riepilogo di Copilot Tuning