Referentie voor Foundry Local SDK

JavaScript SDK Referentie

Projectopstelling

De architectuur op hoog niveau van de Foundry Local SDK is als volgt:

De SDK is een lichtgewicht wrapper rond een Foundry Local Core C API (.dll/.so/.dylib) die een gebruiksvriendelijkere interface biedt voor JavaScript-ontwikkelaars. De SDK verwerkt het laden van de systeemeigen bibliotheek, het beheren van geheugen en het converteren van gegevenstypen tussen JavaScript en C. De Foundry Local Core C-API heeft twee smaken, maar hetzelfde API-oppervlak:

• WindowsML (WinML) - Windows-specifiek dat Gebruikmaakt van WindowsML om de benodigde stuurprogramma's en uitvoeringsproviders voor de beschikbare hardware te verkrijgen. Dit is de aanbevolen optie voor Windows-gebruikers omdat het betere prestaties en compatibiliteit biedt met een breed scala aan hardware.
• Platformoverschrijdend : kan worden gebruikt in Windows, macOS en Linux. Er moet worden opgemerkt dat op macOS-apparaten met Apple Silicon de platformoverschrijdende SDK het Metal-framework van Apple gebruikt voor hardwareversnelling via de ONNX Runtime WebGPU-uitvoeringsprovider.

Wanneer u het Foundry Local SDK-pakket in uw project installeert, kunt u ervoor kiezen om de WinML- of platformoverschrijdende versie te installeren.

Gebruik Foundry Local in uw JavaScript-project door de volgende Windows-specifieke of platformoverschrijdende instructies (macOS/Linux/Windows) te volgen:

Snelstart

Gebruik dit codefragment om te controleren of de SDK de lokale modelcatalogus kan initialiseren en openen.

import { FoundryLocalManager } from 'foundry-local-sdk';

console.log('Initializing Foundry Local SDK...');

const manager = FoundryLocalManager.create({
    appName: 'foundry_local_samples',
    logLevel: 'info'
});
console.log('✓ SDK initialized successfully');

// Explore available models
console.log('\nFetching available models...');
const catalog = manager.catalog;
const models = await catalog.getModels();

console.log(`Found ${models.length} models:`);
for (const model of models) {
    console.log(`  - ${model.alias}`);
}

In dit voorbeeld wordt de lijst met beschikbare modellen voor uw hardware uitgevoerd.

Voorbeelden

• Voor voorbeeldtoepassingen die laten zien hoe u de Foundry Local JavaScript SDK gebruikt, raadpleegt u de GitHub-opslagplaats Met de Foundry Local JavaScript SDK Samples.

API-referentie

• Voor meer informatie over de Foundry Local JavaScript SDK lees Foundry Local JavaScript SDK API Reference.

Verwijzingen

• Integreren met deductie-SDK's
• Gebruik de Foundry Local-native API voor chat-voltooiingen

Naslaginformatie voor C# SDK

Installatiehandleiding voor project

Er zijn twee NuGet-pakketten voor de Foundry Local SDK - een WinML en een platformoverschrijdend pakket - die hetzelfde API-oppervlak hebben, maar zijn geoptimaliseerd voor verschillende platforms:

• Windows: maakt gebruik van het pakket Microsoft.AI.Foundry.Local.WinML dat specifiek is voor Windows-toepassingen, waarvoor het Windows Machine Learning-framework (WinML) wordt gebruikt.
• Platformoverschrijdend: maakt gebruik van het Microsoft.AI.Foundry.Local pakket dat kan worden gebruikt voor platformoverschrijdende toepassingen (Windows, Linux, macOS).

Afhankelijk van uw doelplatform volgt u deze instructies om een nieuwe C#-toepassing te maken en de benodigde afhankelijkheden toe te voegen:

Gebruik Foundry Local in uw C#-project door de volgende Windows-specifieke of platformoverschrijdende instructies (macOS/Linux/Windows) te volgen:

Snelstart

Gebruik dit codefragment om te controleren of de SDK de lokale modelcatalogus kan initialiseren en openen.

using Microsoft.AI.Foundry.Local;
using Microsoft.Extensions.Logging;
using System.Linq;

var config = new Configuration
{
  AppName = "app-name",
  LogLevel = Microsoft.AI.Foundry.Local.LogLevel.Information,
};

using var loggerFactory = LoggerFactory.Create(builder =>
{
  builder.SetMinimumLevel(Microsoft.Extensions.Logging.LogLevel.Information);
});
var logger = loggerFactory.CreateLogger<Program>();

await FoundryLocalManager.CreateAsync(config, logger);
var manager = FoundryLocalManager.Instance;

var catalog = await manager.GetCatalogAsync();
var models = await catalog.ListModelsAsync();

Console.WriteLine($"Models available: {models.Count()}");

In dit voorbeeld wordt het aantal modellen afgedrukt dat beschikbaar is voor uw hardware.

Voorbeelden

• Zie de Foundry Local C# SDK Samples GitHub repository voor voorbeeldtoepassingen die laten zien hoe u de Lokale C#-SDK van Foundry gebruikt.

API-referentie

• Voor meer informatie over de Foundry Local C# SDK lees Foundry Local C# SDK API Reference.