La gestion de l'allocation mémoire interne diffère considérablement selon l'architecture de calcul choisie. En temps normal sur processeur, le paramètre bufferSize contrôle finement le nombre d'observations chargées en mémoire avant le traitement complet du reste du mini-lot (ce paramètre agissant comme un alias strict de miniBatchSize). Toutefois, et c'est un comportement système essentiel à retenir : si vous déportez le calcul sur une carte graphique en activant les options gpu, les valeurs spécifiées pour la taille des mini-lots sont systématiquement et silencieusement ignorées par le moteur d'exécution distribué.
Quel est l'impact technique de l'accélération matérielle GPU sur la gestion de la mémoire tampon et des mini-lots ?
Optimisation de la VRAM en calcul GPU
Exemples pour l'action dlPrune
Élagage basique d'une couche convolutive
Exemple rudimentaire ciblant une seule couche pour l'alléger en s'appuyant sur des poids préalablement entraînés.
Élagage avancé avec suivi et accélération GPU
On élague plusieurs couches avec une tolérance d'erreur spécifique, en activant l'accélération matérielle et le retour détaillé des métriques d'ajustement.
Conseil de l'Expert
En mode GPU, ne réglez jamais bufferSize manuellement si vous n'avez pas une connaissance précise de la mémoire vidéo disponible. SAS Viya 4 sur-alloue par défaut l'espace pour éviter les goulots d'étranglement de transfert (latence PCIe). Laissez le moteur CAS optimiser le flux, sauf en cas d'erreur de type "Out of Memory".
Cette réponse vous a-t-elle aidé ?
À lire aussi...
Quels sont les leviers d'accélération GPU disponibles lors de la réduction des couches de réseaux de neurones ?
Comment garantir la qualité et la stabilité du modèle prédictif après la suppression d'une couche critique ?
Quelle est l'architecture exacte des tables en mémoire requise pour exécuter un élagage réseau ?
Comment l'action dlPrune optimise-t-elle l'inférence des modèles Deep Learning en production ?