Heeft u een machine nodig die honderden biljoenen drijvende-kommaberekeningen per seconde kan leveren? Of heb je behoefte aan een caféverhaal over hoe de supercomputer in je kelder een stroomonderbreker omdraaide? Het bouwen van uw eigen High Performance Compute-cluster, ook wel een supercomputer genoemd, is een uitdaging die elke deskundige nerd met een weekend vrije tijd en wat geld om te verbranden aan kan. Technisch gezien is een moderne supercomputer met meerdere processors een netwerk van computers die parallel samenwerken om een probleem op te lossen. In dit artikel wordt elke stap in het proces kort beschreven, met de nadruk op hardware en software.
Stappen
Stap 1. Bepaal eerst de benodigde hardwarecomponenten en resources
U hebt één hoofdknooppunt, ten minste een dozijn identieke rekenknooppunten, een Ethernet-switch, een stroomdistributie-eenheid en een rack nodig. Bepaal de elektrische vraag, koeling en benodigde ruimte. Bepaal ook welk IP-adres u wilt voor uw privénetwerken, hoe u de knooppunten een naam geeft, welke softwarepakketten u wilt installeren en welke technologie u de parallelle computermogelijkheden wilt bieden (hierover later meer).
- Hoewel de hardware duur is, is alle software die in deze handleiding wordt vermeld gratis, en de meeste zijn open source.
- Als je wilt zien hoe snel je supercomputer theoretisch zou zijn, gebruik dan deze tool:
Stap 2. Bouw de rekenknooppunten
U moet de rekenknooppunten samenstellen of vooraf gebouwde servers aanschaffen.
- Kies een computerserverchassis die ruimte, koeling en energie-efficiëntie maximaliseert.
- Of u kunt een tiental gebruikte, verouderde servers gebruiken - waarvan het geheel opweegt tegen de som van de delen, maar u toch een flinke som geld bespaart. Alle processors, netwerkadapters en moederborden moeten identiek zijn om het hele systeem goed samen te laten spelen. Vergeet natuurlijk niet RAM en opslag voor elk knooppunt en ten minste één optisch station voor het hoofdknooppunt.
Stap 3. Installeer de servers in het rack
Begin onderaan, zodat het rek niet topzwaar is. Je hebt een vriend nodig om je hierbij te helpen - de dichte servers kunnen erg zwaar zijn en het is moeilijk om ze in de rails te leiden die ze in het rack houden.
Stap 4. Installeer de Ethernet-switch boven het serverchassis
Gebruik dit moment om de switch te configureren: houd rekening met jumbo-framegroottes van 9000 bytes, stel het IP-adres in op het statische adres dat u in stap 1 hebt gekozen en schakel onnodige routeringsprotocollen zoals SMTP-snooping uit.
Stap 5. Installeer de PDU (Power Distribution Unit)
Afhankelijk van hoeveel stroom uw nodes nodig hebben bij maximale belasting, hebt u mogelijk 220 volt nodig voor high-performance computing.
Stap 6. Als alles is geïnstalleerd, kunt u beginnen met het configuratieproces
Linux is het de facto besturingssysteem voor HPC-clusters – het is niet alleen de ideale omgeving voor wetenschappelijke informatica, maar het kost ook niets om het op honderden of zelfs duizenden knooppunten te installeren. Stel je voor hoeveel het zou kosten om Windows op al die knooppunten te installeren!
- Begin met het installeren van de nieuwste versie van het BIOS en de firmware van het moederbord, die op alle knooppunten hetzelfde zou moeten zijn.
- Installeer uw favoriete Linux-distro op elk knooppunt, met een grafische gebruikersinterface voor het hoofdknooppunt. Populaire keuzes zijn CentOS, OpenSuse, Scientific Linux, RedHat en SLES.
- Deze auteur beveelt het gebruik van de Rocks Cluster Distribution ten zeerste aan. Naast het installeren van alle tools die nodig zijn om een rekencluster te laten functioneren, gebruikt Rocks een geweldige methode om veel instanties van zichzelf zeer snel naar de knooppunten te 'distribueren' met behulp van PXE-boot en de Red Hat 'Kick Start'-procedure.
Stap 7. Installeer de interface voor het doorgeven van berichten, resourcemanager en andere noodzakelijke bibliotheken
Als je Rocks niet in de vorige stap hebt geïnstalleerd, moet je de benodigde software handmatig instellen om de parallelle computermechanismen in te schakelen.
- Eerst heb je een draagbaar bash-beheersysteem nodig, zoals de Torque Resource Manager, waarmee je taken kunt opsplitsen en verdelen over meerdere machines.
- Koppel Torque met de Maui Cluster Scheduler om de installatie te voltooien.
- Vervolgens moet u de interface voor het doorgeven van berichten installeren, die nodig is om de afzonderlijke processen op de afzonderlijke rekenknooppunten dezelfde gegevens te laten delen. OpenMP is een no-brainer.
- Vergeet de multi-threading wiskundebibliotheken en compilers niet om uw parallelle computerprogramma's te bouwen. Had ik al gezegd dat je Rocks gewoon moet installeren?
Stap 8. Verbind de rekenknooppunten met elkaar
Het hoofdknooppunt stuurt de rekentaken naar de rekenknooppunten, die op hun beurt het resultaat moeten terugsturen en berichten naar elkaar moeten sturen. Hoe sneller hoe beter.
- Gebruik een particulier ethernetnetwerk om alle knoop punten in het cluster te verbinden.
- Het hoofdknooppunt kan ook fungeren als een NFS-, PXE-, DHCP-, TFTP- en NTP-server via het Ethernet-netwerk.
- U moet dit netwerk scheiden van openbare netwerken, wat ervoor zorgt dat broadcastpakketten geen interferentie veroorzaken met andere netwerken in uw LAN.
Stap 9. Test het cluster
Het laatste dat u misschien wilt doen voordat u al deze rekenkracht aan uw gebruikers vrijgeeft, is de prestaties ervan testen. De HPL-benchmark (High Performance Lynpack) is een populaire keuze voor het meten van de rekensnelheid van het cluster. U moet het vanaf de bron compileren met alle mogelijke optimalisaties die uw compiler biedt voor de architectuur die u hebt gekozen.
- Je moet natuurlijk wel vanuit de bron compileren met alle mogelijke optimalisatiemogelijkheden voor jouw platform. Als u bijvoorbeeld AMD-CPU's gebruikt, compileert u met Open64 met -0fast optimalisatieniveau.
- Vergelijk uw resultaten op TOP500.org om uw cluster te vergelijken met de snelste 500 supercomputers ter wereld!
Video - Door deze service te gebruiken, kan bepaalde informatie worden gedeeld met YouTube
Tips
- Kijk voor echt hoge netwerksnelheden in de InfiniBand-netwerkinterfaces. Wees echter bereid om premium prijzen te betalen.
- IPMI kan het beheer van een groot cluster een fluitje van een cent maken door KVM-over-IP, remote power cycling en meer te bieden.
- Gebruik Ganglia om de rekenbelasting op de knooppunten te bewaken.
