Hiệu suất nâng cao áp sử dụng NVIDIA vComputeServer trên server Dell EMC

Kiến trúc Tham chiếu mới cho NVIDIA vComputeServer trên cơ sở cơ sở vật chất Dell EMC cung cấp biện pháp cho phép ảo hóa GPU máy chủ.

một nghiên cứu gần đây đã phân tích các chỉ số sử dụng GPU trên những trang web khách hàng khác nhau đang chạy khối lượng công tác người nào cho thấy rằng tài nguyên GPU đã được dùng ko hầu hết trong hầu hết những trường hợp. Ở đây chúng tôi thể hiện hai phát hiện chính của nghiên cứu, cộng có các khuyến nghị để giải quyết chúng.

1. sắp một phần ba số các bạn đang sử dụng nhàng nhàng dưới 15%. Mức sử dụng bộ nhớ GPU trung bình khá giống nhau. Do quý khách là những người thực hành học sâu có kinh nghiệm, điều này rất đáng sửng sốt. GPU càng ngày càng mau lẹ hơn, nhưng ko mang vấn đề gì nếu những vận dụng không hoàn toàn dùng chúng.

Đề xuất: Cải thiện việc dùng bằng phương pháp san sẻ GPU cho nhiều quý khách bằng bí quyết sử dụng ảo hóa. Những người sử dụng kích thước lô tối ưu, tốc độ học tập và siêu thông số để tiêu dùng hồ hết bộ nhớ GPU và tính toán các khả năng của lõi với thể được phân bổ 1 phiên bản GPU ảo hóa chuyên dụng hoặc đa dạng GPU bên trong 1 máy ảo (VM).

1. có 1 sự hoang phí tài nguyên khác, có nhẽ to hơn - GPU ko được tiêu dùng. Thật khó để xếp hàng công tác hiệu quả cho GPU. Trong một quy trình khiến việc điển hình, 1 nhà khoa học dữ liệu sẽ thiết lập rộng rãi thí điểm, đợi chúng kết thúc và sau ấy dành tương đối phổ quát thời kì để phân tích kết quả khi mà GPU ko hoạt động.

Đề xuất: Việc gộp và phân tổ GPU có thể giải quyết vấn đề này bằng bí quyết cung ứng khả năng tự động phân bổ lại và xoay vòng tài nguyên, cho phép các áp dụng khoa học dữ liệu khác sử dụng những tài nguyên nhàn rỗi. Sử dụng VMware® vSphere® vMotion ™ để chuyển di các máy ảo được nâng cao tốc GPU và khối lượng công tác sẽ làm giảm tài nguyên GPU.

>>> Xem thêm: giá dell t5820

NVIDIA A100 mới sản xuất phân vùng GPU

NVIDIA® gần đây đã ban bố phân vùng phần cứng với GPU NVIDIA A100 Tensor Core như một giải pháp bổ sung cho ảo hóa. A100 ở chế độ GPU đa phiên bản (MIG) sở hữu thể chạy bất kỳ phối hợp nào của tối đa bảy khối lượng công tác ai hoặc HPC sở hữu kích thước khác nhau cùng 1 lúc. Phân vùng GPU đặc biệt hữu ích cho những công tác hội nghị ai cũng như công việc phát triển ai ở công đoạn đầu thường không tiêu tốn đông đảo hiệu suất mà một GPU hiện đại đem đến. Có phần mềm ảo hóa GPU, 1 máy ảo (VM) với thể được chạy trên mỗi phiên bản MIG này để những doanh nghiệp có thể tận dụng ích lợi điều hành, giám sát và hoạt động của ảo hóa máy chủ dựa trên siêu giám sát.

Trong đa dạng năm, những trọng điểm dữ liệu đã sử dụng ảo hóa CPU máy chủ để nâng cao tính cởi mở của CNTT và cải thiện việc sử dụng phần cứng máy tính của họ. Hiện nay, sự tập hợp vào ảo hóa này đang được mở rộng để bao gồm các GPU giúp tăng tốc phổ thông khối lượng công tác máy tính chuyên sâu, chẳng hạn như tập huấn và truyền thông người nào cũng như phân tách dữ liệu . Sở hữu ảo hóa, trọng điểm dữ liệu với thể cung ứng GPU cho phổ biến người mua hơn, đồng thời tăng hiệu suất sử dụng đại quát của những tài sản quý giá này.

Ảo hóa GPU bên trong máy chủ Dell EMC

Tại Dell Technologies, chúng tôi đã hiệp tác chặt chẽ sở hữu các bên kỹ thuật của mình để phân phối ảo hóa GPU trong chiếc máy chủ Dell EMC PowerEdge được nâng cao tốc GPU của chúng tôi. Chúng tôi đã thực hành một bước tiến to theo hướng này vào tháng 8 năm 2019 lúc triển khai tương trợ phần mềm NVIDIA vComputeServer để cho phép ảo hóa dựa trên siêu giám sát trên các máy chủ tăng tốc GPU được thiết bị NVIDIA Mellanox® ConnectX-5 hoặc thẻ giao diện mạng mới hơn (NIC). NVIDIA vComputeServer cho phép các trung tâm dữ liệu nâng cao tốc ảo hóa máy chủ mang GPU mới nhất để mang thể chạy những khối lượng công việc đòi hỏi phổ thông tính toán nhất trong các máy ảo.

bữa nay, chúng tôi đang thực hành một bước tiến to khác có kiến trúc tham chiếu Dell EMC mới cho NVIDIA vComputeServer. Có giải pháp này, quản trị viên CNTT của bạn sở hữu thể phân bổ những phân vùng tài nguyên GPU trong VMware vSphere, cũng như tương trợ đi lại trực tiếp những máy ảo chạy khối lượng công tác NVIDIA CUDA ™.

>>> Xem thêm: mua dell 7820



với đa dạng ích lợi mang giá trị trong việc chuyển sang ảo hóa GPU bằng vComputeServer mang máy chủ Dell EMC PowerEdge. Ví dụ: ảo hóa giúp quản trị viên CNTT của bạn:

• Dân chủ hóa quyền truy vấn cập GPU bằng cách cung ứng những phân vùng GPU theo bắt buộc
• Quy mô phân bổ tài nguyên GPU lên và xuống, ví như cần và
• hỗ trợ đi lại trực tiếp bộ nhớ GPU

giả dụ đơn vị CNTT của bạn đang xem xét ảo hóa GPU trong trọng tâm dữ liệu của bạn, thì kiến trúc tham chiếu Dell EMC cho NVIDIA vComputeServer là một nơi tuyệt vời để khởi đầu. Nó hướng dẫn bạn các trường hợp dùng cho vComputeServer và những tùy chọn của bạn cho GPU NVIDIA trong máy chủ Dell EMC PowerEdge.

Đưa vComputeServer vào thí nghiệm

những kỹ sư của Dell Technologies đã nghiên cứu cách thức ảo hóa GPU với vComputeServer ảnh hưởng tới hiệu suất tổng thể. Các thí điểm này ban sơ so sánh GPU NVIDIA chạy trên Linux è mang một GPU ảo hóa. Sau khi thiết lập tuyến phố cơ sở vật chất về hiệu suất đó, lực lượng đã tiến hành thí điểm bổ sung sở hữu phổ quát GPU ảo và phân vùng GPU ảo.

Kết quả thí điểm cho thấy trong gần như những trường hợp, các bạn có thể mong chờ sự khác biệt nhỏ về hiệu suất, từ từ hai tới năm %, so với kim loại è khi dùng cấu hình GPU ảo cho khối lượng công việc học máy và học sâu. Và trong 1 bước ngoặt thú vị, với những tình huống mà sự dị biệt về hiệu suất là dễ dàng. Ví dụ: khi các máy ảo chạy hỗn hợp khối lượng công tác, bạn với thể thấy thời kì nhanh hơn để kết quả bằng cách thức tiêu dùng phổ quát GPU phân đoạn đồng thời so với lúc bạn tiêu dùng 1 GPU toàn bộ và lên lịch các tác vụ để chạy tiếp nối. Điều này mang thể xảy ra khi khối lượng công tác trên những máy ảo ko được thực thi cộng một khi hoặc không hề lúc nào cũng bị ràng buộc bởi GPU. Việc chọn chính sách lập lịch GPU thích hợp có thể tác động đến hiệu suất và nhóm đã so sánh hiệu suất của những chính sách lập lịch khác nhau.

Để biết chi tiết đông đảo về các bài rà soát hiệu suất được thực hành trong phòng thể nghiệm Dell EMC Server CTO, cộng sở hữu thông tin cấu hình chi tiết, hãy xem Ảo hóa GPU trong VMware vSphere bằng phương pháp sử dụng NVIDIA vComputeServer trên cơ sở vật chất cơ sở Dell EMC .

>>> Xem thêm: máy trạm dell 3430