Avez-vous besoin d'une machine capable de fournir des centaines de milliards de calculs à virgule flottante par seconde ? Ou avez-vous besoin d'une histoire de bar sur la façon dont le superordinateur de votre sous-sol a déclenché un disjoncteur ? Construire votre propre cluster de calcul haute performance, alias superordinateur, est un défi que tout geek expert avec un week-end de temps libre et de l'argent à dépenser peut relever. Techniquement parlant, un supercalculateur multiprocesseur moderne est un réseau d'ordinateurs travaillant ensemble en parallèle pour résoudre un problème. Cet article décrira brièvement chaque étape du processus, en se concentrant sur le matériel et les logiciels.
Pas
Étape 1. Déterminez d'abord les composants matériels et les ressources nécessaires
Vous aurez besoin d'un nœud principal, d'au moins une douzaine de nœuds de calcul identiques, d'un commutateur Ethernet, d'une unité de distribution d'alimentation et d'un rack. Déterminez la demande électrique, le refroidissement et l'espace requis. Décidez également de l'adresse IP que vous souhaitez pour vos réseaux privés, du nom des nœuds, des packages logiciels que vous souhaitez installer et de la technologie que vous souhaitez fournir aux capacités de calcul parallèle (nous en parlerons plus tard).
- Bien que le matériel soit cher, tous les logiciels répertoriés dans ce mode d'emploi sont gratuits et la plupart sont open source.
- Si vous souhaitez voir à quelle vitesse votre supercalculateur serait théoriquement, utilisez cet outil:
Étape 2. Créez les nœuds de calcul
Vous devrez assembler les nœuds de calcul ou acquérir des serveurs de pré-construction.
- Choisissez un châssis de serveur informatique qui maximise l'espace, le refroidissement et l'efficacité énergétique.
- Ou vous pouvez utiliser une douzaine de serveurs usagés et obsolètes - dont l'ensemble l'emportera sur la somme de leurs parties tout en vous faisant économiser une somme d'argent considérable. Tous les processeurs, adaptateurs réseau et cartes mères doivent être identiques pour que l'ensemble du système fonctionne correctement. Bien sûr, n'oubliez pas la RAM et le stockage pour chaque nœud et au moins un lecteur optique pour le nœud principal.
Étape 3. Installez les serveurs dans le rack
Commencez par le bas pour que le rack ne soit pas trop lourd. Vous aurez besoin d'un ami pour vous aider - les serveurs denses peuvent être très lourds et il est difficile de les guider dans les rails qui les maintiennent dans le rack.
Étape 4. Installez le commutateur Ethernet au-dessus du châssis du serveur
Prenez ce moment pour configurer le commutateur: autorisez des tailles de trame jumbo de 9 000 octets, définissez l'adresse IP sur l'adresse statique que vous avez choisie à l'étape 1 et désactivez les protocoles de routage inutiles tels que SMTP Snooping.
Étape 5. Installez le PDU (unité de distribution d'alimentation)
Selon la quantité de courant dont vos nœuds peuvent avoir besoin à charge maximale, vous aurez peut-être besoin de 220 volts pour le calcul haute performance.
Étape 6. Avec tout installé, vous pouvez commencer le processus de configuration
Linux est le système d'exploitation de facto pour les clusters HPC – non seulement c'est l'environnement idéal pour le calcul scientifique, mais cela ne coûte rien de l'installer sur des centaines voire des milliers de nœuds. Imaginez combien cela coûterait d'installer Windows sur tous ces nœuds !
- Commencez par installer la dernière version du BIOS et du micrologiciel de la carte mère, qui doit être la même sur tous les nœuds.
- Installez votre distribution Linux préférée sur chaque nœud, avec une interface utilisateur graphique pour le nœud principal. Les choix populaires incluent CentOS, OpenSuse, Scientific Linux, RedHat et SLES.
- Cet auteur recommande fortement d'utiliser la distribution Rocks Cluster. En plus d'installer tous les outils nécessaires au fonctionnement d'un cluster de calcul, Rocks utilise une excellente méthode pour « distribuer » de nombreuses instances de lui-même aux nœuds très rapidement à l'aide du démarrage PXE et de la procédure « Kick Start » de Red Hat.
Étape 7. Installez l'interface de transmission de messages, le gestionnaire de ressources et les autres bibliothèques nécessaires
Si vous n'avez pas installé Rocks à l'étape précédente, vous devrez configurer manuellement le logiciel nécessaire pour activer les mécanismes de calcul parallèle.
- Tout d'abord, vous aurez besoin d'un système de gestion de bash portable, tel que Torque Resource Manager, qui vous permet de diviser et de répartir les tâches sur plusieurs machines.
- Associez Torque au Maui Cluster Scheduler pour terminer la configuration.
- Ensuite, vous devrez installer l'interface de transmission de messages, nécessaire pour que les processus individuels sur les nœuds de calcul séparés partagent les mêmes données. OpenMP est une évidence.
- N'oubliez pas les bibliothèques mathématiques et les compilateurs multithreads pour créer vos programmes de calcul parallèle. Ai-je mentionné que vous devriez simplement installer Rocks ?
Étape 8. Mettez en réseau les nœuds de calcul ensemble
Le nœud principal envoie les tâches de calcul aux nœuds de calcul, qui à leur tour doivent renvoyer le résultat, ainsi que l'envoi de messages entre eux. Le plus vite sera le mieux.
- Utilisez un réseau Ethernet privé pour connecter tous les nœuds du cluster.
- Le nœud principal peut également servir de serveur NFS, PXE, DHCP, TFTP et NTP sur le réseau Ethernet.
- Vous devez séparer ce réseau des réseaux publics, ce qui garantit que les paquets de diffusion n'interfèrent pas avec les autres réseaux de votre réseau local.
Étape 9. Testez le cluster
La dernière chose que vous voudrez peut-être faire avant de libérer toute cette puissance de calcul pour vos utilisateurs est de tester ses performances. Le benchmark HPL (High Performance Lynpack) est un choix populaire pour mesurer la vitesse de calcul du cluster. Vous devrez le compiler à partir des sources avec toutes les optimisations possibles que votre compilateur propose pour l'architecture que vous avez choisie.
- Vous devez bien sûr compiler à partir des sources avec toutes les options d'optimisation possibles pour votre plateforme. Par exemple, si vous utilisez des processeurs AMD, compilez avec Open64 avec un niveau d'optimisation -0fast.
- Comparez vos résultats sur TOP500.org pour comparer votre cluster aux 500 supercalculateurs les plus rapides au monde !
Vidéo - En utilisant ce service, certaines informations peuvent être partagées avec YouTube
Des astuces
- Pour des vitesses de réseau très élevées, examinez les interfaces réseau InfiniBand. Soyez prêt à payer des prix plus élevés cependant.
- IPMI peut simplifier l'administration d'un grand cluster en fournissant KVM sur IP, un cycle d'alimentation à distance, etc.
- Utilisez Ganglia pour surveiller les charges de calcul sur les nœuds.
