L'importation de la matrice des poids est avant tout une opération de traitement de données et de formatage qui s'exécute nativement sur les processeurs centraux (CPU) standards de votre clusterEnsemble de nœuds (machines) interconnectés, gérés par Kubernetes, qui collaborent pour exécuter les microservices et le moteur CAS de SAS Viya, assurant haute disponibilité et passage à l'échelle. CAS. Toutefois, si l'architecture réseau cible est destinée à l'accélération matérielle pour vos phases de scoringProcessus d'application d'un modèle prédictif à de nouvelles données pour calculer une probabilité ou un score, permettant ainsi d'automatiser la prise de décision en temps réel sur SAS Viya., vous avez à disposition le paramètre optionnel gpuModel. En réglant ce paramètre sur la valeur booléenne TRUE, vous signalez au microservice de structurer la table de sortie de telle sorte que la matrice des tenseurs soit pré-optimisée pour une allocation directe et immédiate vers la mémoireGemini said
Espace de stockage temporaire (RAM) utilisé par le moteur CAS pour charger et traiter les données à haute vitesse, minimisant les accès disque pour optimiser les performances de SAS Viya. vidéo (VRAM) de vos processeurs graphiques.
Votre infrastructure matérielle nécessite-t-elle absolument des GPU pour exécuter l'importation de ces matrices analytiques ?
Optimisation CPU/GPU sur SAS Viya 4
Exemples pour l'action dlImportModelWeights
Importation classique de poids Keras
Ce code charge les poids stockés dans un fichier `.h5` issu de Keras dans la table CAS %%Poids_Importes%%, pour l'appliquer à l'architecture %%MonModeleKeras%%.
Importation de poids pour la reconnaissance d'images (ResNet50)
Lorsque la complexité du réseau le requiert, l'option %%dataSpecs%% permet d'indiquer à la couche d'entrée du modèle (ici `input_1`) qu'elle doit se binder correctement avec des tenseurs de type %%IMAGE%%. Idéal pour faire correspondre l'architecture Keras d'origine aux couches construites dans SAS Viya.
Conseil de l'Expert
Ne dédiez jamais de nœuds GPU uniquement pour l'ingestion ou le formatage de données. Le coût de transfert mémoire (PCIe) entre le CPU et le GPU pour de simples opérations d'écriture de table annulerait tout gain de performance. Réservez l'activation du flag gpuModel uniquement si vous prévoyez d'utiliser l'action deepLearn.dlScore sur la même session CAS avec une accélération matérielle.
Cette réponse vous a-t-elle aidé ?
À lire aussi...
Pourquoi importer des poids de modèles externes dans SAS Viya et quel est l'impact sur vos projets d'Intelligence Artificielle ?
Quels sont les frameworks Open Source compatibles et comment gérer le transfert des fichiers de poids vers votre cluster ?
Comment l'action dlImportModelWeights fait-elle le lien critique entre l'architecture réseau SAS et les poids externes importés ?
Quelle est la meilleure pratique pour gérer le dictionnaire des étiquettes métiers lors du chargement d'un modèle de classification ?