So sánh CPU vs GPU cho các hệ thống xử lý AI

GPU thường được coi là công cụ được chọn lọc để chạy các workload xử lý AI, nhưng đang có một sự thôi thúc mở rộng các loại thuật toán có thể chạy hiệu quả trên cả CPU.

GPU đã thu hút rất nhiều sự chú ý như một dụng cụ tối ưu để chạy khối lượng công việc AI. Hầu hết các nghiên cứu tiên tiến tuồng như dựa vào khả năng của GPU và chip AI mới hơn để chạy đồng thời nhiều khối lượng công tác học sâu. Bên cạnh đó, CPU cũ đáng tin cậy vẫn có một vai trò quan yếu trong AI của tổ chức.

Anshumali Shrivastava, phó giáo sư, khoa khoa học máy tính tại Đại học Rice cho biết: “CPU là phần cứng hàng hóa rẻ tiền và có mặt ở khắp mọi nơi. Định giá theo đề xuất của CPU trên đám mây rẻ hơn đáng kể so với GPU và các cửa hàng CNTT quen thuộc hơn với việc thiết lập và tối ưu hóa các máy chủ dựa trên CPU.

CPU từ lâu đã giữ lợi thế cho một số loại thuật toán AI ảnh hưởng đến logic hoặc yêu cầu bộ nhớ chuyên sâu. Nhóm của Shrivastava đã và đang phát triển một loại thuật toán mới, được gọi là SLIDE ( S ub- LI near D eep learning E ngine), hứa hẹn sẽ làm cho CPU trở nên thực tiễn cho nhiều loại thuật toán hơn.

Ông nói: “Nếu chúng ta có thể thiết kế các thuật toán như SLIDE có thể chạy AI trực tiếp trên CPU một cách hiệu quả, thì đó có thể là người thay đổi cuộc chơi.

Các kết quả ban sơ cho thấy ngay cả khối lượng công tác thích hợp hoàn hảo với GPU vẫn có thể được đào tạo nhanh hơn đáng kể – nhanh hơn tới 3,5 lần – trên CPU.

Shrivastava tin rằng chúng ta có thể đang ở một điểm uốn trong quá trình phát triển AI. Công việc ban sơ trong AI bắt đầu với các mô hình nhỏ và tập dữ liệu tương đối nhỏ. Khi các nhà nghiên cứu phát triển các mô hình lớn hơn và bộ dữ liệu lớn hơn, họ có đủ khối lượng công việc để sử dụng hiệu quả tính song song khổng lồ trong GPU. Nhưng giờ đây, kích thước của các mô hình và khối lượng của bộ dữ liệu đã phát triển vượt ra ngoài giới hạn của GPU để chạy hiệu quả.

“Tại thời khắc này, việc huấn luyện bản thân thuật toán AI truyền thống là điều cấm kỵ [về thời kì và tài nguyên]”, Shrivastava nói. &Ldquo;Tôi nghĩ rằng trong ngày mai, sẽ có nhiều nỗ lực để thiết kế các giải pháp thay thế rẻ hơn cho AI hiệu quả trên quy mô lớn.”

>>> Xem thêm: Dell T150



GPU tốt nhất để xử lý song song

Shrivastava cho biết GPU đã trở thành công cụ được ưu tiên để huấn luyện các mô hình AI vì quy trình này vốn dĩ yêu cầu thực hành một hoạt động gần như y sì nhau trên tất cả các mẫu dữ liệu song song. Với sự phát triển về kích tấc của tập dữ liệu, tính song song đồ sộ có sẵn trong GPU được chứng minh là chẳng thể thiếu: GPU cung cấp tốc độ ấn tượng so với CPU, khi khối lượng công việc đủ lớn và dễ dàng chạy đồng thời.

Mặt khác, GPU có bộ nhớ nhỏ hơn và chuyên biệt hơn. Hiện tại, GPU tốt nhất trên thị trường, Nvidia Tesla V100, có dung lượng bộ nhớ là 32 GB. Nếu tính toán không ăn nhập với bộ nhớ chính của GPU, quá trình tính toán sẽ chậm lại đáng kể. Cùng một bộ nhớ chuyên dụng giúp giảm độ trễ cho nhiều luồng trên GPU trở thành một hạn chế.

CPU cho các thuật toán lần lượt

Bijan Tadayon, tổng giám đốc của Z Advanced Computing, đơn vị phát triển AI cho các áp dụng IoT, cho biết tìm ra cách chạy các thuật toán AI hiệu quả hơn trên CPU thay vì GPU “sẽ mở rộng đáng kể thị trường ứng dụng AI”. Việc có một thuật toán hiệu quả hơn cũng làm giảm đề nghị về điện năng, khiến nó trở thành thiết thực hơn cho các áp dụng như máy bay không người lái , thiết bị từ xa hoặc thiết bị di động.

Karen Panetta, một IEEE Fellow và là trưởng khoa kỹ thuật tại Đại học Tufts cho biết, CPU cũng thường là chọn lọc tốt hơn cho các thuật toán thực hành các phép tính thống kê phức tạp, chẳng hạn như xử lý tiếng nói tự nhiên (NLP) và một số thuật toán học sâu. Ví dụ, rô bốt và thiết bị gia đình sử dụng NLP đơn giản hoạt động tốt khi sử dụng CPU. Các tác vụ khác, như nhận hình dáng ảnh hoặc vị trí và lập bản đồ đồng thời (SLAMM) cho máy bay không người lái hoặc dụng cụ tự hành, cũng hoạt động trên CPU.

ngoài ra, các thuật toán như mô hình Markov và máy vector hỗ trợ sử dụng CPU. Panetta nói: “Việc chuyển những thứ này sang GPU đòi hỏi sự đồng thời của dữ liệu tuần tự và điều này là một thách thức.

nghĩ suy lại về các mô hình AI

Các phương pháp AI truyền thống chính yếu dựa vào thống kê và toán học. Do đó, chúng có khuynh hướng hoạt động hiệu quả nhất trên các GPU được thiết kế để xử lý nhiều phép tính song song.

Rix Ryskamp, Giám đốc điều hành của UseAIble cho biết: “Các mô hình thống kê không chỉ nặng về bộ vi xử lý mà còn cứng nhắc và không xử lý tốt các động lực học.

Nhiều tổ chức đang tìm cách sử dụng CPU để hợp lý hóa công tác này. Tỉ dụ, UseAIble đã phát triển một hệ thống mà nó gọi là Máy học Ryskamp – theo tên tổng giám đốc của nó – cắt giảm các đề xuất tính toán bằng cách dựa trên logic để loại bỏ nhu cầu thống kê. Thuật toán không sử dụng trọng số trong mạng thần kinh của nó , loại bỏ lý do chính mà mạng thần kinh cần tính toán GPU nặng cũng như giảm các vấn đề hộp đen .

Ryskamp tin rằng các kiến trúc sư học máy cần trau dồi kỹ năng của họ để họ ít phụ thuộc hơn vào các mô hình thống kê đề nghị khối lượng công tác GPU nặng.

Ông nói: “Để có được kết quả mới và sử dụng các loại phần cứng khác nhau, bao gồm IoT và các phần cứng tiền tiến khác, chúng ta cần phải suy nghĩ lại các mô hình của mình, chứ không chỉ đóng gói lại. &Ldquo;Chúng tôi cần thêm các mô hình sử dụng bộ xử lý đã được phổ biến rộng rãi, cho dù đó là CPU, bo mạch IoT hay bất kỳ phần cứng nào khác đã có sẵn với khách hàng.”

CPU phấn đấu trở thành cỗ máy AI

Eric Gardner, giám đốc tiếp thị AI của tổ chức cho biết Intel đang nhận thấy sự quan hoài từ các tổ chức trong việc chạy nhiều loại khối lượng công tác AI trên CPU Xeon của mình . Các doanh nghiệp trong ngành bán buôn, viễn thông, công nghiệp và chăm sóc sức khỏe đã và đang vận dụng AI trong hệ thống CPU của họ để khai triển quy mô lớn.

Các trường hợp sử dụng bao gồm sử dụng AI để đo từ xa và định tuyến mạng, nhận dạng đối tượng trong camera CCTV, phát hiện lỗi trong đường ống công nghiệp, phát hiện đối tượng trong quét CT và MRI. CPU hoạt động tốt hơn cho các thuật toán khó chạy đồng thời hoặc cho các vận dụng yêu cầu nhiều dữ liệu hơn mức có thể ăn nhập với bộ tăng tốc GPU điển hình. Một trong số các loại thuật toán có thể hoạt động tốt hơn trên CPU đó là:

• yêu cầu hệ thống tập huấn và suy luận đề xuất bộ nhớ lớn hơn để nhúng các lớp;
  
  
• Các thuật toán học máy cổ điển khó song song cho GPU;
  
  
• Mạng nơ-ron tái phát sử dụng dữ liệu tuần tự;
  
  
• Mô hình sử dụng các mẫu dữ liệu kích tấc lớn, chả hạn như dữ liệu 3D để huấn luyện và suy luận; và
  
  
• Suy luận thời kì thực cho các thuật toán khó song song hóa.
  

>>> Xem thêm: Máy chủ T350