Tìm hiểu về GPU cho Deep Learning – RTX 3090, RTX 3080 và RTX 3070

Nếu bạn đang nghĩ đến việc xây dựng máy trạm trang bị dòng GPU RTX 30XX cho riêng mình, hãy đọc tiếp. Trong bài đăng này, chúng tôi bàn về kích tấc, sức mạnh, khả năng làm mát và hiệu năng của những GPU mới này. Nhưng trước nhất, chúng tôi sẽ trả lời câu hỏi phổ quát nhất:

Tôi có thể lắp được bao nhiêu card GPU RTX 30XX vào máy trạm của mình?

Máy trạm của bạn không được vượt quá:

• 2x RTX 3090 – có thể đến 3x với bộ làm mát bằng chất lỏng / bộ mở rộng PCIe*; 4x không được khuyến khích vì nó sẽ đề nghị hai PSU được cắm vào các board biệt lập hoặc trang bị thêm thiết kế nguồn riêng của bạn.
  
  
• 2x RTX 3080 – 3x có thể sẽ đề nghị làm mát bằng chất lỏng / bộ mở rộng PCIe * để tránh điều tiết; 4x không được khuyến khích vì nó sẽ đề nghị hai PSU được cắm vào các mạch riêng biệt hoặc trang bị thêm thiết lập điện của bạn.
  
  
• 4x RTX 3070 – điều này có thể đề nghị card phiên bản blower.
  

* Bộ mở rộng PCIe gây ra các vấn đề về cấu trúc và không nên sử dụng nếu bạn định di chuyển (đặc biệt là vận chuyển đi xa) máy trạm.

Các GPU này lớn đến mức nào?

• RTX 3090 – 3 khe PCIe, dài 313mm
  
  
• RTX 3080 – 2x khe PCIe *, dài 266mm
  
  
• RTX 3070 – 2x khe PCIe *, dài 242mm
  

kích thước của RTX 3090 có vẻ không chính thống: nó chiếm 3 khe cắm PCIe và chiều dài của nó sẽ khiến nó không ăn nhập với nhiều case PC. RTX 3070 và RTX 3080 có kích tấc tiêu chuẩn, hao hao như RTX 2080 Ti.

* Các OEM như PNY, ASUS, GIGABYTE và EVGA sẽ phát hành các mẫu GPU dòng 30XX của riêng họ. Một số mẫu RTX 3080 và RTX 3070 sắp ra mắt sẽ chiếm 2,7 khe PCIe.

Các GPU này sử dụng bao nhiêu điện năng?

Các GPU dòng 3000 tiêu thụ nhiều điện năng hơn các thế hệ trước:

• RTX 3090 – 350W (nhiều hơn 40% so với RTX 2080 Ti)
  
  
• RTX 3080 – 320W (nhiều hơn 28% so với RTX 2080 Ti)
  
  
• RTX 3070 – 220W (88% của RTX 2080 Ti)
  

Để tham khảo, RTX 2080 Ti tiêu thụ 250W.

Các GPU này có thể làm quá tải mạch của bạn (hoặc làm cháy luôn PSU!)

Mức tiêu thụ điện của máy trạm của bạn không được vượt quá công suất của PSU hoặc các board mà nó được cắm vào.

Các giới hạn của mạch

1. Các chuẩn ổ cắm thông dụng có thể cung cấp đến 8 ampe ở điện thế 220V.
   
   
2. Bộ luật điện quốc gia quy định rằng tải mạch của thiết bị điện không được vượt quá 80%.
   
   
3. (1), (2), tương đương với mức tải thiết bị tại nhà / văn phòng của ở Việt Nam không được vượt quá 1408W = 8A * 220v * 0,8 hệ số định mức.
   

phân tích trên gợi ý ra các giới hạn sau:

• 3x RTX 3090 / mỗi ổ cắm
  
  
• 3x RTX 3080 / mỗi ổ cắm
  
  
• 5x RTX 3070 / mỗi ổ cắm (mặc dù không có case PC nào có PCIe 4.0 có thể lắp hơn 4x)
  

ví dụ, chúng ta hãy xem vì sao một máy trạm với bốn RTX 3090 và một bộ xử lý cao cấp là không thực tế:

• 4x RTX 3090 = 4 * 350W = 1400W
  
  
• 1x Threadripper 3960X = 280W
  
  
• 1x bo mạch chủ = 80W
  

GPU + CPU + bo mạch chủ tiêu thụ 1760W, vượt xa giới hạn mạch 1408W.

>>> Xem thêm: giá bán máy chủ dell r450



Hạn chế của PSU

Máy trạm được đánh giá cao nhất trên thị trường cung cấp tối đa 1600W ở điện áp tiêu chuẩn gia đình / văn phòng. Các PSU máy trạm vượt quá khả năng này là không thực tế vì chúng sẽ làm quá chuyên chở nhiều bo mạch. Ngay cả khi tại nhà / văn phòng của bạn có mạch điện có cường độ dòng điện cao hơn, chúng tôi khuyên bạn không nên sử dụng các máy trạm vượt quá 1408W. PSU có thể có định mức 1600W, nhưng chúng tôi nhận thấy tỷ lệ PSU bị lỗi cao hơn khi mức tiêu thụ điện của máy trạm đạt đến 1500W.

Có cách giải quyết nào cho những hạn chế về nguồn điện tại nhà / văn phòng không?

Có, dù rằng chúng tôi khuyên bạn không nên:

• Xây dựng một PC với hai PSU được cắm vào hai ổ cắm trên các mạch riêng biệt.
  
  
• Trang bị thêm thiết lập điện của bạn để cung cấp nguồn điện 240V, 3 pha hoặc mạch có amp cao hơn.
  
  
• vận chuyển máy trạm của bạn đến trung tâm dữ liệu với nguồn điện 3 pha (điện áp cao).
  

Cảnh báo: Tham khảo ý kiến của thợ điện trước khi sửa đổi thiết lập điện trong nhà hoặc văn phòng của bạn.

Tôi nên làm mát máy trạm của mình như thế nào?

Các đề nghị làm mát của chúng tôi cho các máy trạm GPU 1x, 2x, 3x và 4x:

RTX 3090

• 1x – Không cần quan hoài.
  
  
• 2x – Sử dụng GPU tiêu chuẩn, không có quạt gió, quạt hòm lớn, tấm chắn khí và có một kênh trống rộng ít nhất 2x khe PCIe giữa các GPU.
  
  
• 3x – Chưa được khuyến khích. Làm mát bằng chất lỏng có thể hoạt động, nhưng điều này cần thí nghiệm.
  
  
• 4x – Không thực tại do các hạn chế về nguồn điện đã đề cập ở trên.
  

RTX 3080

• 1x – Không cần quan hoài.
  
  
• 2x – Sử dụng GPU tiêu chuẩn, không có quạt gió, quạt thùng lớn, tấm chắn khí và có một kênh trống rộng ít ra 2x khe PCIe giữa các GPU.
  
  
• 3x – Chưa được khuyến khích. Làm mát bằng chất lỏng có thể hoạt động, nhưng điều này cần thử nghiệm.
  
  
• 4x – Không thực tế do các hạn chế về nguồn điện đã đề cập ở trên.
  

RTX 3070

• 1x – Không cần quan tâm.
  
  
• 2x / 3x – Nếu không sử dụng card phiên bản blower, hãy chừa một kênh trống rộng ít nhất 1x khe PCIe giữa các GPU. Sử dụng loại quạt lớn.
  
  
• 4x – Có thể yêu cầu card phiên bản blower, nhưng điều này cần thí nghiệm.
  

GPU dạng blower và non-blower (tiêu chuẩn)

Card blower hút không khí từ bên trong và thải ra phía sau quan tài máy; điều này trái ngược với các card tiêu chuẩn giúp thoát khí nóng vào vỏ máy. Dưới đây là hình ảnh của hai loại:

Card blower hiện đang phải đối mặt với những thách thức về nhiệt do mức tiêu thụ điện năng cao của dòng 3000. Chúng tôi hoàn toàn trong đợi vào card blower RTX 3070, nhưng không kiên cố đối với 2 mẫu RTX 3080 và RTX 3090.

Làm mát bằng chất lỏng thì sao?

Làm mát bằng chất lỏng sẽ giảm tiếng ồn và mức nhiệt. Hiện vẫn chưa rõ liệu làm mát bằng chất lỏng có xứng đáng với chi phí, độ phức tạp và tỷ lệ hỏng hóc gia tăng hay không. Chúng tôi sẽ thí điểm làm mát bằng chất lỏng trong thời kì tới và cập nhật phần này cho phù hợp.

GPU sẽ thật sự tăng tốc?

Khi nhiệt độ của GPU vượt quá ngưỡng được xác định trước, nó sẽ tự động giảm xung nhịp (điều tiết) để tránh thiệt hại do nhiệt. Downclocking biểu thị bằng sự chậm lại của thông lượng training. Với các thiết lập đa GPU, nếu việc làm mát không được kiểm soát đúng cách, thì khả năng điều tiết hiệu suất là có thật. Các hãng máy chủ như Supermicro đã thiết kế các mẫu máy trạm, máy chủ GPU chuyên dụng có thể tránh được việc điều tiết, nhưng nếu bạn đang xây dựng cho riêng mình, có thể mất khá nhiều thời kì thể nghiệm trước khi bạn đạt được hiệu suất như mong muốn.

>>> Xem thêm: review dell R550