Afficher la pageAnciennes révisionsHaut de page Cette page est en lecture seule. Vous pouvez afficher le texte source, mais ne pourrez pas le modifier. Contactez votre administrateur si vous pensez qu'il s'agit d'une erreur. ====== Formation pour l'introduction à l'utilisation des moyens de calcul ====== <WRAP center round tip 60%> ** Supports de présentations :** * **{{:mesocentreLight.pdf|Présentation du mésocentre}}** * **{{:formation_meso.pdf|Supports de présentation}}** </WRAP> ===== Connexion aux clusters ===== Pour la formation nous utiliserons le compte commun suivant : **formationmeso** Et nous nous connecterons à la machine mesologin1.univ-fcomte.fr via SSH comme ceci : <code> $ ssh formationmeso@mesologin1.univ-fcomte.fr </code> <WRAP center round tip 60%> Le mot de passe vous sera communiqué pendant la séance :-) </WRAP> ===== Découverte de l'environnement ===== ==== Organisation du stockage ==== Chaque utilisateur peut utiliser deux répertoires pour stocker ses données sur le mésocentre : **$HOME** * Répertoire de connexion par défaut * Lecture/écriture sur les noeuds de connexion * **Lecture seule sur les noeuds de calcul** * **Limité à 10Go par utilisateur** * **Sauvegarde quotidienne** **$WORK** * **Lecture/écriture sur tout le cluster** * Limite de taille à 600Go par utilisateur * Pas de sauvegarde Ces deux répertoires sont uniques pour chaque utilisateur. La commande echo permet d'afficher leur localisation exacte : <code bash> $ echo $HOME $ echo $WORK </code> Il existe plusieurs raccourcis permettant de se placer dans ''$HOME'' : <code bash> $ cd $ cdh $ cd $HOME </code> De la même manière, pour se placer dans ''$WORK'' : <code bash> $ cdw $ cd $WORK </code> Enfin, la commande suivante permet de vérifier l'utilisation disque, dans ces deux répertoires : <code bash> $ meso-quota </code> ==== Les modules ==== **Vérifier la liste des logiciels disponibles :** <code bash> $ module avail </code> **Charger le logiciel Matlab :** <code bash> $ module load matlab </code> **Afficher la liste des modules chargés :** <code bash> $ module list </code> **Décharger le logiciel Matlab :** <code bash> $ module rm matlab </code> **Décharger tous les modules :** <code bash> $ module purge </code> ==== Files d'attentes et jobs ==== **Récupérer la liste de tous les jobs en cours d'exécution :** <code bash> $ qstatAll </code> **Récupérer la liste de mes jobs :** <code bash> $ qstat </code> **Récupérer la liste des files d'attente disponibles et leur utilisation :** <code bash> $ qstat -g c </code> ===== Soumission des calculs avec SGE ===== <note tip>L'objectif est d'utiliser SGE pour soumettre 4 type de calculs * Calcul séquentiel * Calcul parallèle : tableaux de tâche * Calcul parallèle mémoire partagée : OpenMP * Calcul parallèle mémoire distribué : MPI </note> Pour éviter tout problème d'édition des fichiers, créer votre propre répertoire de travail pour la suite des exercices : <code bash> $ cd $WORK $ mkdir <nom du participant> $ cd <nom du participant> </code> <note tip>Pour modifier les fichiers, utiliser les éditeurs de texte suivants : * nano * vim * emacs * gedit </note> ==== Copie des fichiers d'exemple (calcul de PI) ==== <code bash> $ cp -a $HOME/TP . </code> ==== Placement dans le répertoire TP ==== <code bash> $ cd TP </code> ===== Soumission d'un calcul séquentiel ===== Préparation du script de soumission : <code bash> $ cp script_base.sge pi_seq.sge </code> Compilation de la version séquentielle du calcul de PI : <code bash> $ make pi_ser </code> Ensuite, le job peut être soumis avec ''qsub'' : <code bash> $ qsub pi_seq.sge </code> ===== Soumission d'un tableau de tâche ===== En augmentant la valeur de n, il est possible d'augmenter la précision obtenue pour la valeur de pi. Un calcul séquentiel devient dans ce cas très long : il est intéressant de découper la plage de valeurs en tâches, qui vont chacune calculer une fraction de la surface. C'est possible avec SGE via l'utilisation de tableaux de tâches. Le fichier d'exemple correspondant est ''pi_task''. Préparation du script de soumission : <code bash> $ cp script_base.sge pi_task.sge </code> Modifiez le script pour intégrer l'exécution de pi_task, en rajoutant le paramètre SGE suivant dans le script pi_task.sge : <file> #$ -t 1-20 </file> L'exécutable attend deux paramètres dans le script SGE : * L'identifiant de la tâche (''$SGE_TASK_ID'') * Le nombre de tâches total (ici 20, puisqu'il y a 20 tâches) Ensuite, le job peut être soumis avec ''qsub'' : <code bash> $ qsub pi_task.sge </code> ===== Calcul avec Matlab (SGE) ===== Il est également possible de réaliser le calcul de PI avec Matlab (fichier ''pi_matlab.m''). <code bash> $ cp script_base.sge pi_matlab.sge </code> Il est nécessaire de charger matlab dans le script SGE, puis de lui indiquer le code à exécuter : <file bash pi_matlab.sge> module load matlab export HOME=$WORK matlab -nojvm -nodisplay -nosplash -r 'pi_matlab(1000000000);exit' </file> Pour la gestion des jetons Matlab, il est obligatoire de demander la ressource correspondante lors de la soumission en indiquant le paramètre SGE suivant dans le script pi_matlab.sge : <file> #$ -l matlab=1 </file> Soumission du job <code bash> $ qsub pi_matlab.sge </code> ===== Soumission d'un calcul parallèle en mémoire partagée (OpenMP) ===== <note tip>Le calcul se fait en parallèle sur plusieurs cœurs de la même machine.</note> Cette fois, un seul job SGE utilise plusieurs coeurs. Pour cela, il est nécessaire de demander un environnement parallèle (''-pe''), associé à un nombre de slots. Préparation du script de soumission: <code bash> $ cp script_base.sge pi_omp.sge </code> Compilation de la version parallèle OpenMP : <code bash> $ make pi_omp </code> L'exécutable est ''pi_omp''. Pour une exécution sur un environnement parallèle openmp, il est nécessaire d'ajouter le paramètre suivant dans le script sge pi_omp.sge: <file> #$ -pe openmp X </file> Ou X correspond au nombre de coeurs souhaités (maximum 16) On rajoute également : <code bash> $ export OMP_NUM_THREADS=$NSLOTS </code> Pour forcer l'application à utiliser le nombre de cœurs demandés. Soumission du job <code bash> $ qsub pi_omp.sge </code> ===== Soumission d'un calcul parallèle en mémoire distribué MPI ===== <note tip>Le calcul se fait en parallèle sur plusieurs machines. Nous avons besoin de la bibliothèque MPI pour les communications.</note> Préparation du script de soumission: <code bash> $ cp script_base.sge pi_mpi.sge </code> Pour compiler la version parallèle MPI, il est d'abord nécessaire de charger la librairie MPI: <code bash> $ module load mpi/openmpi $ make pi_mpi </code> L'exécutable est pi_mpi. Pour une exécution sur environnement parallèle MPI, il faut spécifier l'environnement suivant dans le script pi_mpi.sge: <file> #$ -pe mpi X </file> Ou X correspond au nombre de coeurs souhaités, le maximum étant de 32 pour la file formation.q Il faudra aussi charger le module MPI avant de lancer l'exécutable dans le script: <code bash> module load mpi/openmpi mpirun -np $NSLOTS ./pi_mpi </code> <note important>Si la bibliothèque MPI n'est pas chargé, l'exécution échouera</note> Soumission du job <code bash> $ qsub pi_mpi.sge </code> ===== Lancement de traitements interactifs ===== La machine prévue pour les traitements interactifs est mesoshared : <code bash> $ ssh -XC mesoshared.univ-fcomte.fr </code> Il est ensuite possible de lancer Matlab directement. <note important>Attention, aucune soumission SGE n'est possible depuis cette machine. Celle-ci est réservée aux tests, et à la préparation des données ou l'exploitation des résultats.</note> ===== Import et récupération des données sur le mésocentre ===== Jusqu'à présent, nous avons utilisé des données déjà présentes sur le cluster. Il est bien entendu possible de copier des données extérieures sur le stockage mésocentre et de récupérer des résultats sur vos machines. Pour cela, il est possible d'utiliser ''scp'' en ligne de commande, ou des outils graphiques comme FileZilla ou GFTP (de nombreux clients existent). <code bash> ma-machine $ scp donnees.txt formationmeso@mesologin1.univ-fcomte.fr:WORK </code> ===== Documentation ===== <WRAP center round box 60%> **Voici tous les liens nécessaires vers la documentation du mésocentre :** ==== 1. Présentation du mésocentre ==== Présentation : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/presentation_mesocentre]] Détails des clusters : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/moyens_de_calcul]] Logiciels installés : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/logiciels_installes]] ==== 2. Accès aux ressources ==== Connexion au cluster : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/connexion_au_cluster]] Accès VPN : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/acces_vpn]] ==== 3. Environnement de travail ==== Environnement de travail: [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/environnement_travail]] Utilisation du système de modules: [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/modules]] ==== 4. Soumissions de jobs ==== Tout ce qu'il faut savoir pour soumettre vos travaux sur le mésocentre : [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/sge#grid_engine]] FAQ complète: [[http://mesowiki.univ-fcomte.fr/dokuwiki/doku.php/faq]] </WRAP> formation_meso.txt Dernière modification : 2016/12/08 16:20de admin