Foundry Local SDK-referens

JavaScript SDK-referens

Projektinställningar

Arkitekturen på hög nivå för Foundry Local SDK är följande:

SDK är en lätt omslutning runt ett Foundry Local Core C API (.dll/.so/.dylib) som tillhandahåller ett mer användarvänligt gränssnitt för JavaScript-utvecklare. SDK hanterar inläsning av det interna biblioteket, hantering av minne och konvertering av datatyper mellan JavaScript och C. Foundry Local Core C-API:et har två smaker men samma API-yta:

• WindowsML (WinML) – Specifikt för Windows som använder WindowsML för att hämta nödvändiga drivrutiner och körningstjänster för den tillgängliga maskinvaran. Detta är det rekommenderade alternativet för Windows-användare eftersom det ger bättre prestanda och kompatibilitet med ett brett utbud av maskinvara.
• Plattformsoberoende – kan användas i Windows, macOS och Linux. Det bör noteras att på macOS-enheter med Apple Silicon använder det plattformsoberoende SDK:t Apples Metal-ramverket för maskinvaruacceleration via ONNX-körningens WebGPU-exekveringsleverantör.

När du installerar Foundry Local SDK-paketet i projektet kan du välja att installera WinML- eller plattformsoberoende version.

Använd Foundry Local i ditt JavaScript-projekt genom att följa dessa Windows-specifika eller plattformsoberoende instruktioner (macOS/Linux/Windows):

Snabbstart

Använd det här kodfragmentet för att kontrollera att SDK:et kan initiera och komma åt den lokala modellkatalogen.

import { FoundryLocalManager } from 'foundry-local-sdk';

console.log('Initializing Foundry Local SDK...');

const manager = FoundryLocalManager.create({
    appName: 'foundry_local_samples',
    logLevel: 'info'
});
console.log('✓ SDK initialized successfully');

// Explore available models
console.log('\nFetching available models...');
const catalog = manager.catalog;
const models = await catalog.getModels();

console.log(`Found ${models.length} models:`);
for (const model of models) {
    console.log(`  - ${model.alias}`);
}

I det här exemplet visas en lista över tillgängliga modeller för maskinvaran.

Exempel

• Exempelprogram som visar hur du använder Foundry Local JavaScript SDK finns i GitHub-lagringsplatsen Foundry Local JavaScript SDK Samples.

API-referens

• Mer information om Foundry Local JavaScript SDK finns i Foundry Local JavaScript SDK API Reference.

Referenser

• Integrera med slutsatsdragnings-SDK:er
• Använda Foundry Local native chat completions API

C# SDK-referens

installationsguide för Project

Det finns två NuGet-paket för Foundry Local SDK – en WinML och ett plattformsoberoende paket – som har samma API-yta men är optimerade för olika plattformar:

• Windows: Använder paketet Microsoft.AI.Foundry.Local.WinML som är specifikt för Windows-program, som använder WinML-ramverket (Windows Machine Learning).
• Plattformsoberoende: Använder paketet Microsoft.AI.Foundry.Local som kan användas för plattformsoberoende program (Windows, Linux, macOS).

Beroende på målplattformen följer du de här anvisningarna för att skapa ett nytt C#-program och lägger till nödvändiga beroenden:

Använd Foundry Local i ditt C#-projekt genom att följa dessa Windows-specifika eller plattformsoberoende instruktioner (macOS/Linux/Windows):

Snabbstart

Använd det här kodfragmentet för att kontrollera att SDK:et kan initiera och komma åt den lokala modellkatalogen.

using Microsoft.AI.Foundry.Local;
using Microsoft.Extensions.Logging;
using System.Linq;

var config = new Configuration
{
  AppName = "app-name",
  LogLevel = Microsoft.AI.Foundry.Local.LogLevel.Information,
};

using var loggerFactory = LoggerFactory.Create(builder =>
{
  builder.SetMinimumLevel(Microsoft.Extensions.Logging.LogLevel.Information);
});
var logger = loggerFactory.CreateLogger<Program>();

await FoundryLocalManager.CreateAsync(config, logger);
var manager = FoundryLocalManager.Instance;

var catalog = await manager.GetCatalogAsync();
var models = await catalog.ListModelsAsync();

Console.WriteLine($"Models available: {models.Count()}");

I det här exemplet skrivs antalet tillgängliga modeller ut för maskinvaran.

Exempel

• Exempelprogram som visar hur du använder Foundry Local C# SDK finns i GitHub-lagringsplatsen Foundry Local C# SDK Samples.

API-referens

• Mer information om Foundry Local C# SDK finns i Foundry Local C# SDK API-referens.