Serverloze GPU-omgeving versie 5 (bèta)

Op deze pagina vindt u informatie over de systeemomgeving voor serverloze GPU-omgeving versie 5.

Serverloze GPU-omgeving 5 is gebouwd op serverloze omgeving 5 (CPU). Bekijk wat er nieuw is in serverloze omgeving 5 (CPU). Het bevat twee verschillende omgevingen:

• Standaardbasisomgeving: een minimale omgeving met een stabiele client-API.
• Databricks AI-omgeving: een omgeving met algemene runtimepakketten en -pakketten die specifiek zijn voor machine learning op GPU's.

Om compatibiliteit voor de toepassing te garanderen, maken serverloze GPU-workloads gebruik van een versie-API, ook wel de omgevingsversie genoemd, die compatibel blijft met nieuwere serverversies.

U kunt de omgevingsversie selecteren met behulp van het Environment zijpaneel in uw serverloze notebooks. Zie Serverloze GPU-rekenkracht instellen.

Nieuwe functies en verbeteringen

In versie 5 biedt Databricks een minimale omgeving die alleen ondersteuning biedt voor serverloze GPU-API, de Databricks-afhankelijkheden en MLflow. Gebruikers kunnen de omgeving aanpassen aan hun behoeften. De standaardbasisomgeving in versie 5 bevat geen bepaalde pakketten die aanwezig zijn in de CPU-omgeving om een minimale functionele GPU-omgeving te bieden. Gebruikers die een volledige omgeving met uitgebreide AI-bibliotheken willen, moeten gebruikmaken van de Databricks AI-omgeving.

Pakketten die zijn toegevoegd aan de AI-omgeving van Databricks

De volgende nieuwe pakketten zijn toegevoegd aan de Databricks AI-omgeving in versie 5:

• catboost 1.2.8
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• omegaconf 2.3.0
• statsmodels 0.14.4
• networkx 3.4.2

Pakketten die zijn verwijderd uit de AI-omgeving van Databricks

De volgende pakketten zijn verwijderd uit de Databricks AI-omgeving in versie 5:

• spacy
• sentencepiece

Pakketten die niet zijn opgenomen in de basisomgeving

De volgende pakketten zijn niet opgenomen in de basisomgeving, maar blijven beschikbaar in de CPU-omgeving:

• scipy
• seaborn
• scikit-learn

De volgende pakketten zijn niet opgenomen in de basisomgeving, maar blijven beschikbaar in de Ai-omgeving van Databricks:

• flash-attention
• torch
• torchvision

Op basis van feedback van klanten die controle over PyTorch-versiebeheer aanvragen, torch is deze niet opgenomen in de basisomgeving voor versie 5. Hiermee kunt u de versie installeren die het beste bij uw workload past. Als u een door Databricks geteste versie wilt gebruiken, voert u deze uit %pip install torch==2.9.0 in een notebookcel of installeert u torch==2.9.0 deze met behulp van de sectie Afhankelijkheden van het deelvenster Omgeving .

Systeemomgeving

• Besturingssysteem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 18.0.0
• NVIDIA CUDA Toolkit: 12.9

Geïnstalleerde Python-bibliotheken

Standaardbasisomgeving

Als u serverloze GPU-omgeving 5 wilt reproduceren in uw lokale virtuele Python-omgeving, downloadt u het requirements-env-gpu-5.txt-bestand en voert u het uit pip install -r requirements-env-gpu-5.txt. Met deze opdracht worden alle opensource-bibliotheken van serverloze omgeving 5 geïnstalleerd.

AI-omgeving

De AI-omgeving bevat alle pakketten uit de standaardbasisomgeving, evenals de volgende pakketten. Deze omgeving omvat PyTorch en uitgebreide machine learning-bibliotheken:

• torch 2.9.0
• torchvision 0.24.0
• flash_attn 2.8.3
• catboost 1.2.8
• langchain 0.3.27
• lightgbm 4.6.0
• openai 2.7.0
• optuna 4.5.0
• pytorch-lightning 2.5.4
• ray 2.51.1
• scikit-learn 1.6.1
• scipy 1.15.3
• seaborn 0.13.2
• sentence-transformers 5.1.2
• transformers 4.57.1
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• xgboost 3.0.4

Als u AI-omgeving V5 wilt reproduceren in uw lokale virtuele Python-omgeving, downloadt u het requirements-ai-gpu-5.txt-bestand en voert u het uit pip install -r requirements-ai-gpu-5.txt. Met deze opdracht worden alle opensourcebibliotheken uit de AI-omgeving geïnstalleerd.