Mon nouveau Home Lab – 2ème partie

Ca y est, mon nouveau home lab est en service. En réalité, il l’est depuis quelques semaines, mais je n’ai pas pris le temps de rédiger cet article plus tôt. D’autant que j’ai continué à ajouter des composants, et le dernier vient d’être installé.

Voilà donc une description de la configuration finale.


Un serveur

Bon, le Dell T430 n’est pas aussi silencieux que le marketing veut le faire croire, mais je m’y attendais et ça reste supportable sous un bureau.

dell-t430_facadedell_poweredge_t430dell-t430_interieur

Voilà les caractéristiques principale du serveur :
– 2 processeurs Intel Xeon E5-2630 v4 (2,2GHz, 10C/20T, cache 25Mo, 8GT/s QPI, 85W, Turbo, HT)
– 4 barrettes de 32 Go de mémoire RDIMM, 2400MT/s, Dual Rank,
– 8 emplacement disque 3,5″ hot plug
– 2 SSD 400Go SATA à utilisation mixte MLC, 6Gbit/s, 2,5″
– contrôleur raid PERC H330
– module double carte SD
– carte SD avec ESXi 6.0 U1 installé
– carte iDRAC8 Enterprise de controle à distance avec remote console
– lecteur DVD

Et ça pour la modique somme de 4 400 € TTC.

En termes de consommation, le serveur oscille entre 150 et 200 W selon que les 2 processeurs sont utilisés à 5% ou à 100 %, avec 3 HDD, 2 SSD, et 1 NVMe.


Du stockage

De base, j’ai commandé le serveur avec 2 SSD Sata de 400 Go.
Mais dès le départ ça ne suffisait pas.

Le problème est que Dell vend ses options de stockage un poil cher, qu’il ne s’agit que de stockage Sata, et que je voulais aussi réutiliser des disques durs que j’avais en stock mais pour lesquels il me manquait les tiroirs pour mettre dans le T430.
Il semblerait qu’il y a quelques temps Dell vendait des tiroirs vides pour une trentaine d’euros, mais ils ne sont plus disponibles.

Finalement, j’ai trouvé mon bonheur sur aliexpress.com un tiroir pour disque 3,5″ et un adaptateur pour disque 2,5″ pour les SSD.
A 9,23 € pour le tiroir et 7,73 € pour l’adaptateur, franco de port, je ne prenais pas grand risque à en commander un de chaque. Le tiroir est arrivé en 10 jours et l’adaptateur en 5 semaines (pas le même vendeur, l’un envoyant par avion l’autre par cargo).

tiroir_disque-dur_3-5 adaptateur_2-5 tiroir_avec_disque tiroir_avec_ssd

Tant le tiroir que l’adaptateur sont parfaitement compatibles. J’ai donc racheté 5 tiroirs pour pouvoir remplir le serveur de disques.
Les 3 disques durs de 2 To sont servent au stockage « froid » : sauvegardes, images ISO, VMs éteintes voire VMs très peu utilisées ou ne nécessitant pas beaucoup de perf disque.
Les 2 SSD de 400 Go servent à l’hébergement des VMs actives. Cependant je me suis vite aperçu que vu le nombre de VMs, même les SSD sont vites saturés tant en volumétrie qu’en performances (c’est le sata 6 Gbps qui bride).

J’ai donc décidé d’ajouter un SSD en PCI-Express.
Je n’ai pas trouvé de SSD grand public officiellement supporté par VMware, et je n’avais pas envie de partir sur un SSD pro comme l’Intel DCP3700 à 1500 € les 800 Go.
Au fil de mes lectures, mon choix s’est rapidement restreint au Intel 750 Series PCIe 800Go (560 €) et au Samsung 960 Pro 1To M.2 (610 €). Merci notamment à TinkerTry pour ses articles, et en particulier :
https://tinkertry.com/intel-nvme-esxi-6-driver-install
– https://tinkertry.com/how-to-install-a-2nd-samsung-950-pro-m2-nvme-on-superserver

Au final je me suis orienté sur le Samsung, plus performant et moins cher au Go.
Bien sûr il me fallait une carte fille PCI-Express avec connecteur M.2. Le problème a été d’en trouver une en PCI Gen 3.0. En effet, on en trouve pléthore en Gen 2.0, mais 4 lignes PCI-E 2.0 plafonnent à 2 Go/sec max alors que le 960 Pro a un débit théorique en lecture de 3,6 Go/sec, donc seules 4 lignes PCI-E 3.0 permettent d’espérer approcher les 4 Go/sec.
J’en ai trouvé 3 :
– DeLOCK 89370 : http://www.delock.com/produkte/G_89370/merkmale.html
– StarTech.com PEX4M2E1 : https://www.startech.com/fr/Lecteur-de-disque-dur/Adaptateurs/adaptateur-pci-express-ssd-m2-pcie~PEX4M2E1
– Lycom DT-120 : http://www.lycom.com.tw/DT-120.htm
Je suis parti sur la Lucom DT-120, bien qu’elle soit la plus chère, car c’est celle pour laquelle j’ai trouvé le plus d’articles en lien avec ESXi (le plus, ça ne veut pas dire énormément…).

samsung-960-pro-1to-m-2

lycom_dt-120_avec_samsung-960-pro-1to-m-2lycom_dt-120

Aucun besoin de driver, le SSD est détecté immédiatement par l’ESXi au démarrage en tant que disque NVMe.

detection_ssd_nvme

Et, même si ce test est basique, la différence de performances est flagrante :

cristaldiskmark_ssd_sata cristaldiskmark_ssd_pci-nvme


Un hyperviseur

J’ai commandé le T430 avec un module double carte SD ainsi qu’avec une carte SD préchargée avec ESXi 6.0.

Pour l’instant je n’ai pas pris la peine de faire l’upgrade à 6.5, mais ça ne saurait tarder.
Je pense qu’à cette occasion je clonerai la SD sur une seconde carte pour avoir un secours soit en cas de problème de la carte SD soit en cas de corruption du système.

Initialement je pensais avoir un SSD dédié à Hyper-V (soit en 2012 R2 soit en 2016), mais après avoir testé Hyper-V en virtuel dans ESXi 6.0 j’y ai renoncé car il fonctionne très bien en virtuel.


Du lab, du lab du lab

Donc là c’est parti. Entre les 20 cores physiques, les 128 Go de mémoire, les 1,5 To de SSD et les 6 To de disque physique, j’ai de quoi monter des VMs.
Quoi que je suis déjà monté à plus de 90 Go de mémoire utilisée…

Quelques labs en cours :
– Une infra de base pour tester AD, WSUS, SEPM, Veeam. La plupart des VMs du Lab sont rattachées à ces serveurs.
– Un cluster de 3 ESXi plus un autre de 5 ESXi, le tout géré par un vCenter, pour tester vSan.
– Deux serveurs Exchange 2016 pour tester la messagerie plus un troisième pour tester les fonctions Edge.
– Deux serveurs Hyper-V qui seront bientôt complétés par un System Center.

Du boulot en perspective, donc…

1 Comment

  1. sebastien dit :

    hello

    t’as pas essayé depuis de le passer en RAID 1 / 10 / 6 en NVMe ?

    je cherche une carte RAID NVMe dont les pilotes existent pour ESXi

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *