Đánh giá máy chủ Supermicro GPU Server 2029GP-TR

Trong danh mục máy chủ của Supermicro hiện có rất nhiều sản phẩm chuyên dùng cho hệ thống Deep Learning, Trí tuệ nhân tạo (AI) hay phân tích dữ liệu và các nhu cầu tính toán hiệu năng cao (HPC)… dựa trên GPU. Tất cả các sản phẩm này được thiết kế với mục tiêu rất rõ ràng là đáp ứng việc vận hành và kết hợp nhiều GPU chạy cùng lúc một cách ổn định, đảm bảo vấn đề về tản nhiệt, trao đổi dữ liệu tốc độ cao bên trong lẫn với bên ngoài, mang lại hiệu quả cao cho các nhu cầu xử lý phân tích dữ liệu khác nhau của doanh nghiệp.

Model máy chủ GPU Supermicro SYS-2029GP-TR được thiết kế với khả năng hỗ trợ lên đến 6 card GPU NVidia Tesla chuẩn double-wide, nằm gọn trong khung máy chỉ 2U. Hệ thống này chạy trên nền tảng Intel Xeon Scalable Gen 1 hoặc 2.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

Tổng quan về phần cứng của Supermicro SYS-2029GP-TR:

1. Dual Socket P (LGA 3647) support 2nd Gen. Intel® Xeon® Scalable processors (Cascade Lake/Skylake)^‡2. 16 DIMMs; up to 4TB 3DS ECC DDR4-2933MHz^† RDIMM/LRDIMM, Supports Intel® Optane™ DCPMM^††3. 6 PCI-E 3.0 x16 slots (FHFL); 1 PCI-E 3.0 x8 (in x16) slot (LP)
4. 8 Hot-swap 2.5″ SAS/SATA drive bays, 2 Hot-swap 2.5″ SATA/NVMe drive bays
5. 1 SIOM for flexible Networking
6. 5x 8cm heavy duty fans with optimal fan speed control
7. 2000W (1+1) Redundant Power Supplies Platinum Level (94%)

Hiệu năng

Đây là dòng máy chủ dạng nằm với kích thước tiêu chuẩn 2U Rackmount, với thiết kế riêng biệt của Supermicro, giúp cho các doanh nghiệp có thể dễ dàng lắp đặt máy vào tủ Rack hay DataCenter, tối ưu hóa cho việc quản lý và vận hành hệ thống. Server này là một trong những hệ thống GPU Server có hiệu năng tốt nhất ở thời điểm hiện nay. Hỗ trợ tối đa 2 CPU Intel Xeon Scalable với 28 nhân 56 luồng trên mỗi 1 CPU, TDP từ 70 – 205W. Hỗ trợ cả Intel Xeon Scalable Gen 1 và Gen 2, và với Gen 2 thì hệ thống sẽ được hỗ trợ nhiều dung lượng bộ nhớ hơn, tốc độ truy xuất nhanh hơn. Với số lượng làn PCIe lớn của thế hệ Xeon Scalable mới, hệ thống máy chủ này có thể kết nối đa dạng nhiều loại GPUs khác nhau phục vụ cho nhiều mục đích sử dụng khác nhau.

Bộ nhớ RAM

Ở máy chủ này, chúng ta có 8 khe cắm RAM được quản lý bởi 1 CPU và với hệ thống chạy 2 CPU thì có thể gắn tối đa 16 thanh RAM DDR4. Có thể tùy chọn sử dụng loại RAM RDIMM; LRDIMM hay bộ nhớ liên tục Intel Optane (DCCPM), cung cấp dung lượng cho bộ nhớ lên đến 4TB ở xung nhịp 2933 Mhz, tối ưu cho các ứng dụng đa nhiệm, phân tích dữ liệu hoặc Deep Learning.

Lưu trữ

Là một thiết kế phù hợp với các hệ thống đòi hỏi cao về tốc độ truy xuất dữ liệu nhanh chóng, máy chủ 2029GP-TR có 10 khe cắm ổ cứng dạng 2.5 inch, có thể sử dụng ổ cứng chuẩn SATA, SAS hoặc NVMe để đạt hiệu năng cao với tốc độ đọc ghi nhanh và độ trễ thấp. Với sự kết hợp tuyệt vời giữa SSD NVMe tốc độ cao cho Hệ điều hành và HDD SAS 12Gbps hỗ trợ lưu trữ hiệu năng cao, đây được xem là một lựa chọn lý tưởng cho các hệ thống triển khai phân tích dữ liệu và tính toán hiệu suất cao. Bên cạnh đó, với khả năng rút nóng các ổ cứng, nó còn giúp cho người dùng thuận tiện và dễ dàng hơn trong việc bảo hành; bảo trì hệ thống, tránh làm gián đoạn hoạt động của cả hệ thống.

Khả năng mở rộng

Máy chủ 2029GP-TR này cung cấp khả năng kết nối và mở rộng tối đa khi hỗ trợ đến 6 khe cắm mở rộng PCIe 3.0 x16 và 1 khe cắm PCIe 3.0 x8. Với các khe x16 này, hệ thống có thể lắp đến 6 card GPU Tesla hay Quadro của NVIDIA chuẩn double-wide. Tiêu biểu là model dòng Tesla như T4; P4; P40; P100 và đặc biệt là dòng Tesla V100 (PCIe). Với hỗ trợ đến 6 GPUs Tesla hiệu năng cao này, doanh nghiệp có thể khai thác năng lực xử lý song song mạnh mẽ từ các GPU và các phép toán được NVidia đưa vào các GPU Tesla. Tiêu biểu nhất là dòng V100 với số nhân CUDA cao nhất thì đây là dòng GPU tốt nhất dành cho AI ở thời điểm hiện tại, đang được các cơ quan ứng dụng AI lớn khai thác ở cấp data center. Bên cạnh đó, hãng Supermicro cũng đã thiết kế 5 quạt làm mát tốc độ cao, được gắn ở các vị trí thuận lợi ở bên trong máy chủ để làm mát cho CPU, RAM và đặc biệt là các GPU với mức sinh nhiệt rất cao. Với sự hỗ trợ của hệ thống tản nhiệt công suất cao này, máy chủ 2029GP-TR cho phép hệ thống vận hành ổn định ở trạng thái tối ưu và hiệu suất cao nhất trong thời gian liên tục.

Để đảm bảo hiệu quả hoạt động của cả hệ thống máy chủ, ở đây chúng ta có 2 bộ cấp nguồn (PSU), có thể rút nóng và hoạt động theo chế độ redundant (hỏng 1 nguồn máy vẫn vận hành) với công suất 2000W, hoạt động mạnh mẽ và ổn định cho hệ thống, đảm bảo khả năng cung cấp nguồn điện hoạt động cho các card GPUs có hiệu năng và công suất tiêu thụ lớn. Bên cạnh nguồn điện cung cấp thì máy còn hỗ trợ 2 cổng USB 3.0 để kết nối đến các thiết bị ngoại vi( bàn phím, chuột, USB…); 1 cổng VGA để xuất và hiển thị hình ảnh. Đặc biệt với máy chủ 2029 này, hãng Supermicro họ thiết kế giao diện kết nối mạng Network thông qua SIOM card Network. Với dạng Card SIOM, chúng ta có thể tùy chọn kết nối mạng tốc độ cao lên đến 100Gb ở cả hai chuẩn quang và đồng. Bên cạnh đó, với việc gắn trực tiếp vào Mainboard, SIOM card còn giúp tiết kiệm khe cắm mở rộng PCIe, giúp người dùng có thêm khe cắm mở rộng để tùy chọn mở rộng cho hệ thống khi có nhu cầu( gắn thêm card RAID, Card HBA…)

Giao diện quản lý

Việc quản lý hệ thống thông qua giao diện IPMI (Intelligent Platform Management Interface) tận dụng bộ điều khiển ASPEED AST 2500 cung cấp khả năng quản lý từ xa của máy chủ, giúp người dùng có thể dễ dàng quản lý, thiết lập cấu hình hệ thống từ xa dễ dàng và thuận tiện hơn. Bên cạnh đó, với phần mềm Super Doctor 5 cung cấp giao diện người dùng trực quan và dễ dàng cho việc giám sát, hiển thị trạng thái sức khỏe hoạt động của tài nguyên phần cứng, từ đó giúp cho hệ thống được quản lý, theo dõi chặt chẽ, tránh các rủi ro đáng tiếc.

Tóm lược

Với hiệu năng hoạt động mạnh mẽ: CPU 56 nhân 112 luồng, bộ nhớ RAM 4TB tốc độ 2933 Mhz; ổ cứng 2.5 inch HDD/SSD tốc độ truy xuất nhanh chóng, khả năng kết nối lên đến 6 GPUs NVIDIA Tesla cao cấp. Server GPU System 2029GP-TR là một lựa chọn lý tưởng, phục vụ cho các mô hình Trí tuệ Nhân tạo, Deep Learning, Machine Learning; Tính toán hiệu năng cao (HPC) hay VDI… Bên cạnh đó, với thiết kế dạng nằm kích thước tiêu chuẩn 2U Rackmount, các doanh nghiệp có thể dễ dàng lắp đặt máy ở trên Data Center giúp tối ưu về chi phí cho cơ sở hạ tầng mà vẫn đảm bảo hệ thống máy chủ của mình hoạt động ổn định và hiệu quả.