Có những bộ vi xử lý sinh ra để thay đổi hoàn toàn cuộc chơi và AMD Ryzen Threadripper Pro chắc chắn nằm trong số đó. Qua quá trình làm việc và trao đổi với các đối tác OEM, Hoàng Hà PC nhận thấy Threadripper Pro gần như đã chiếm trọn phân khúc workstation cao cấp, đặc biệt là những hệ thống cần hiệu năng đa nhân lớn, độ ổn định cao và khả năng mở rộng đúng chuẩn doanh nghiệp.
Về bản chất, AMD không làm gì quá phức tạp: lấy kiến trúc và nền tảng EPYC vốn đã rất mạnh, bổ sung thêm chipset dành cho máy trạm, rồi đưa ra thị trường dưới tên gọi Threadripper Pro. Cách tiếp cận này hiệu quả đến mức chúng tôi thường gọi vui đây là dòng “WEPYC” – EPYC cho workstation. Trong bài viết này, Hoàng Hà PC sẽ tập trung đánh giá AMD Ryzen Threadripper Pro 5995WX, phiên bản cao cấp nhất của dòng WEPYC, để xem con chip này thực sự mạnh đến đâu và phù hợp với những nhu cầu nào trong thực tế triển khai.
Tổng quan AMD Ryzen Threadripper Pro 5995WX “WEPYC”
Nếu bạn đã quen thuộc với quá trình chuyển đổi từ AMD EPYC 7002 “Rome” sang EPYC 7003 “Milan”, cũng như những thay đổi từ kiến trúc Zen 2 lên Zen 3, thì phần nội dung này có thể sẽ hơi trùng lặp. Tuy vậy, với những ai chưa nắm rõ, Hoàng Hà PC vẫn muốn điểm lại những điểm nâng cấp quan trọng nhất.
Mặt trước của AMD Ryzen Threadripper Pro 5995WX
Mặt sau của AMD Ryzen Threadripper Pro 5995WX
Lý do chúng tôi sử dụng các slide giới thiệu của AMD EPYC trong bài đánh giá Threadripper Pro này là bởi về bản chất, hai dòng sản phẩm này gần như là một. Threadripper Pro thực chất là CPU EPYC, nhưng được cấu hình giới hạn 1 DIMM trên mỗi kênh nhớ và đi kèm chipset WRX80 dành cho workstation. Cách diễn giải này có thể hơi đơn giản hóa, nhưng trên thực tế thì nó phản ánh khá sát bản chất của dòng Threadripper Pro.
Tổng quan về AMD EPYC 7003 Zen 3
Bước thay đổi lớn nhất ở thế hệ này là việc chuyển từ nền tảng Zen 2 “Rome” – tương tự như EPYC 7002 – sang Zen 3 “Milan”, vốn gần với EPYC 7003 hơn. Với Zen 3, AMD mang đến hàng loạt cải tiến ở cấp độ vi kiến trúc, giúp hiệu năng tổng thể được nâng lên rõ rệt trong nhiều tác vụ.
Không chỉ dừng lại ở vi kiến trúc, quá trình chuyển sang Zen 3 còn đi kèm với các nâng cấp về tập lệnh (ISA). Ở một số chỉ thị, Zen 3 cho thấy tốc độ vượt trội so với Zen 2 nhờ thiết kế vi kiến trúc mới, trong khi ở những trường hợp khác, chính các tính năng ISA mới lại là yếu tố tạo ra lợi thế hiệu năng.
AMD EPYC 7003 Zen 3 Những thay đổi lớn so với Zen 2 EPYC 7002 ISA
Có lẽ bước nhảy vọt lớn nhất về hiệu năng đến từ việc hợp nhất bộ nhớ đệm L3 trên mỗi CCD. Trên các bộ xử lý EPYC 7002 và EPYC 7003 64 nhân, kiến trúc bao gồm một I/O die trung tâm và 8 CCD, mỗi CCD có 8 nhân. Ở thế hệ Rome (Zen 2), mỗi CCD bị chia thành hai nửa: 4 nhân đi kèm một nửa dung lượng cache L3, tạo thành các “bán cầu” riêng biệt trên cùng một CCD.
Sang Milan / Zen 3, cấu trúc CCD được thiết kế thống nhất hơn, với 8 nhân dùng chung toàn bộ 32MB L3 cache, giúp giảm độ trễ truy cập bộ nhớ đệm và cải thiện hiệu năng đáng kể, đặc biệt trong các workload nặng về đa nhân và độ trễ thấp.
Sơ lược về AMD EPYC 7003 Zen 3 SoC
Dù chúng tôi đang sử dụng các slide minh họa của AMD EPYC Milan, bạn sẽ thấy vẫn tồn tại một số khác biệt. Dòng EPYC 7003 không sử dụng chipset, trong khi Threadripper Pro lại đi kèm chipset cụ thể là WRX80. Ngoài ra, nền tảng Threadripper Pro chỉ hỗ trợ 1 DIMM trên mỗi kênh nhớ, thay vì 2 DIMM như EPYC. Tuy vậy, điểm cốt lõi của kiến trúc CCD với L3 cache hợp nhất vẫn được giữ nguyên và chính là yếu tố then chốt tạo nên lợi thế hiệu năng của Zen 3.
Kiến trúc SoC AMD EPYC 7003 với bộ nhớ đệm hợp nhất
Ở giai đoạn sau của vòng đời Milan, AMD tiếp tục đẩy mạnh trọng tâm vào bộ nhớ đệm với dòng Milan-X. Trên nền tảng EPYC, ký tự “X” trong tên sản phẩm được dùng để chỉ các phiên bản dung lượng cache lớn, với việc bổ sung thêm các die cache, giúp tăng gấp 3 lần L3 cache so với Milan tiêu chuẩn.
Tuy nhiên, với Threadripper Pro, ký hiệu “X” lại không mang ý nghĩa này. Nói cách khác, Threadripper Pro không được hưởng lợi từ cấu trúc cache mở rộng như EPYC Milan-X. Nếu bạn muốn tìm hiểu sâu hơn về những lợi ích mà 3D V-Cache mang lại trên Milan-X, …
Bảng thông số kỹ thuật dòng AMD Ryzen Threadripper Pro 3000 V 5000
Trong khi chúng ta đang tập trung vào AMD Threadripper Pro 5995WX, cần lưu ý rằng dòng sản phẩm này còn có bốn phiên bản khác, trong đó bao gồm cả một mẫu 24 nhân hoàn toàn mới ở thế hệ này. So với thế hệ trước, AMD đã tăng xung nhịp hoạt động tổng thể, nhưng vẫn giữ nguyên mức TDP 280W. Mức công suất này sẽ ảnh hưởng trực tiếp tới thiết kế hệ thống và chúng tôi sẽ phân tích kỹ hơn ở phần sau của bài đánh giá.
Tiếp theo, cần nói qua về hành trình không mấy suôn sẻ của bài review này. Nếu bạn không quan tâm tới những câu chuyện hậu trường – chẳng hạn như việc một chiếc workstation trị giá hơn 30.000 USD đã “bốc hơi” trên đường thử nghiệm – thì hoàn toàn có thể bỏ qua trang tiếp theo.
Hiệu năng AMD Ryzen Threadripper Pro 5995WX “WEPYC”
Vì rất nhiều người dùng luôn thích bàn luận về Cinebench khi nói tới CPU AMD – đơn giản vì AMD thể hiện cực kỳ tốt ở bài test này – nên trước hết, đây là hình ảnh bài Cinebench R23 khi toàn bộ 128 luồng của Threadripper Pro 5995WX được tải hết công suất.
Supermicro AS-5014A-TT: Cinebench Render không sử dụng toàn bộ số nhân
Khi lựa chọn bộ benchmark để so sánh, chúng tôi nhận ra rằng trong phân khúc workstation, gần như chỉ có một đối thủ thực sự xứng tầm, đó chính là Threadripper Pro 3995WX. Vì vậy, chúng tôi đã chạy lại toàn bộ các bài test, lần này trên nền tảng Supermicro thay vì hệ thống Lenovo như trong bài đánh giá trước, đồng thời bổ sung thêm một số workload mới mà chúng tôi đã áp dụng trong thời gian gần đây.
Mục tiêu là để thể hiện rõ sự khác biệt giữa hai thế hệ CPU, bởi trên thực tế, chúng gần như thống lĩnh hoàn toàn thị trường workstation. Tại thời điểm hiện tại, không có bất kỳ CPU workstation socket đơn nào khác sở hữu hơn 41 nhân, khiến Threadripper Pro gần như không có đối thủ trực tiếp.
Hiệu năng AMD Ryzen Threadripper Pro 5995WX
Điểm mấu chốt ở đây là hiệu năng hệ thống trong hầu hết các workload đều tăng khoảng 20 – 30%. Tuy nhiên, ở một số bài test, mức cải thiện lại thấp hơn đáng kể, chẳng hạn như khi chạy huấn luyện ResNet-50 với GPU A4500. Nguyên nhân là phần lớn khối lượng công việc đã được tăng tốc bằng GPU, nên lợi ích từ CPU thể hiện không quá rõ rệt.
Tương tự, ở bài test ảo hóa mức trung bình, mức hiệu năng tăng thêm cũng chưa đủ để chạy thêm một máy ảo, khác với các bài test KVM ở quy mô lớn hơn, dẫn tới kết quả không cho thấy sự cải thiện. Đây đơn thuần là vấn đề phân bổ cấu hình (sizing), chứ không phản ánh hạn chế thực sự của CPU. Tổng thể mà nói, 5995WX vẫn vượt trội hơn rõ rệt so với thế hệ tiền nhiệm, ngay cả khi số lượng nhân không hề thay đổi.
Về mức tiêu thụ điện năng, chúng tôi ghi nhận công suất cao hơn khoảng 10% so với hệ thống 3995WX có cấu hình tương đương trên Lenovo P620. Ngay cả khi không gắn GPU cao cấp, card mạng tốc độ cao hay hệ thống lưu trữ nặng, bạn vẫn có thể thấy mức tiêu thụ điện tại ổ cắm lên tới khoảng 500W, miễn là hệ thống có giải pháp tản nhiệt đủ tốt. Do sự cố chiếc ThinkStation P620 bị thất lạc tại FedEx Memphis, chúng tôi không thể so sánh hai hệ thống 3995WX và 5995WX hoàn toàn giống nhau. Dù vậy, hiệu năng thu về vẫn tăng nhiều hơn so với mức điện năng tiêu thụ tăng thêm, nên đây được xem là một sự đánh đổi hợp lý.
Tiếp theo, chúng ta sẽ chuyển sang nền tảng hệ thống (platform).
Nền tảng AMD Ryzen Threadripper Pro 5995WX “WEPYC”
Chúng tôi sẽ điểm qua nhanh hai nền tảng đã được sử dụng trong đợt ra mắt Threadripper Pro lần này, bao gồm một bo mạch chủ đến từ Gigabyte và một hệ thống hoàn chỉnh của Supermicro.
Bo mạch chủ Gigabyte MC62-G40 cho Threadripper Pro
Gigabyte MC62-G40 là bo mạch chủ được xây dựng dựa trên nền tảng Threadripper Pro. Khác với cách tiếp cận của Lenovo với dòng ThinkStation P620, Gigabyte không chỉ bán workstation hoàn chỉnh mà còn cung cấp giải pháp máy chủ cũng như bo mạch chủ rời cho Threadripper Pro, mang lại sự linh hoạt cao hơn cho các đơn vị tích hợp hệ thống và người dùng chuyên nghiệp.
Bo mạch chủ Gigabyte MC62-G40
Gigabyte MC62-G40 hỗ trợ đầy đủ Threadripper Pro 5995WX, 3995WX cũng như các SKU thấp hơn trong cùng dòng. Bo mạch chủ này cung cấp 8 kênh DIMM, hoạt động theo cấu hình 1 DIMM mỗi kênh (1DPC) – tương tự những nền tảng Threadripper Pro khác trên thị trường hiện nay.
Gigabyte MC62-G40: Socket CPU với AMD Ryzen Threadripper Pro 5995WX được lắp đặt
Có lẽ một trong những yếu tố tạo nên sự khác biệt giữa nền tảng Threadripper Pro của từng hãng chính là cách bố trí khe PCIe và cấu hình chipset WRX80. Với Threadripper Pro, mỗi nhà sản xuất đều có trong tay rất nhiều lane PCIe để khai thác, và chipset WRX80 bổ sung thêm một lớp kết nối nữa cho toàn bộ hệ thống.
Góc dưới bo mạch chủ Gigabyte MC62-G40
Dưới đây là sơ đồ khối (block diagram) của bo mạch chủ này. Có thể thấy 6 trong tổng số 7 khe là PCIe Gen 4 x16, khe còn lại là x8. Dựa trên nền tảng Milan, hệ thống có khoảng 128 lane PCIe để sử dụng, trong đó 104 lane đã được phân bổ riêng cho các khe PCIe.
Ngoài ra còn có 8 lane PCIe dành cho hai khe M.2, nâng tổng số lên 112 lane. Từ đây, 8 lane tiếp tục được sử dụng làm đường uplink cho chipset WRX80, nâng tổng lên 120 lane.
Sơ đồ khối Gigabyte MC62-G40
Chipset WRX80 đảm nhiệm các kết nối như SATA, LAN 1GbE, khe M.2 cho Wi-Fi, âm thanh và các cổng USB. Phần lane còn lại trên nền tảng được dùng cho các kết nối phụ trợ khác. Có thể thấy, Gigabyte đã khai thác gần như tối đa tiềm năng của nền tảng Threadripper Pro.
Workstation Supermicro AS-5014A-TT cho Threadripper Pro
Supermicro AS-5015A-TT là một hệ thống workstation được cấu hình hoàn chỉnh. Về mặt định vị, nó tương đương với ThinkStation P620 mà Lenovo đang bán và chúng tôi đã đánh giá ở thế hệ trước. Tuy nhiên, nền tảng này lại có cách tiếp cận khá khác so với cả hệ thống của Lenovo lẫn bo mạch chủ Gigabyte đã đề cập ở trên.
Supermicro AS-5014A-TT – Góc nhìn 3/4 từ phía trên
Một trong những điểm đáng chú ý nhất của hệ thống này là việc sử dụng tản nhiệt nước, hẳn sẽ thấy rõ rằng máy chủ thế hệ mới gần như bắt buộc phải dùng tản nhiệt chất lỏng. Supermicro đang đi đúng xu hướng đó khi áp dụng giải pháp này cho các CPU Threadripper Pro TDP 280W. Nhiều khả năng, xu hướng tản nhiệt nước sẽ còn tiếp tục được duy trì và mở rộng trong các thế hệ workstation và server sắp tới.
Supermicro AS-5014A-TT: AMD Ryzen Threadripper Pro 5995WX và block tản nhiệt nước với 8 thanh RDIMM
Ngoài 8 khe DIMM, Supermicro sử dụng bo mạch chủ kích thước lớn hơn, vì vậy cách bố trí và thiết kế cũng khá khác so với Gigabyte. Hệ thống vẫn cung cấp 6 khe PCIe Gen 4 x16, nhưng thay vì bổ sung khe thứ bảy – vốn thường sẽ bị che bởi card đồ họa hoặc tản nhiệt chiếm hai khe – Supermicro lại lựa chọn một hướng đi khác.
Supermicro AS-5014A-TT: Tổng quan phần dưới bo mạch M12SWA-TF
Cụ thể, Supermicro trang bị tới 4 khe M.2 cho lưu trữ nội bộ. Ngoài ra, còn có 4 cổng SATA dùng để kết nối với các khay ổ 2.5 inch dạng hot-swap ở mặt trước, cùng với 2 cổng U.2 trực tiếp trên bo mạch chủ, trong bài test này được kết nối với hai SSD NVMe Kioxia CD6.
Supermicro AS-5014A-TT: SSD Kioxia CD6 được tháo khỏi khay lưu trữ bên trong
Việc thiếu một khe PCIe ở đây thực ra lại khá quan trọng, bởi nhiều GPU chuyên nghiệp của NVIDIA – chẳng hạn như dòng trước đây được gọi là Quadro – đều là card chiếm hai khe (double-width). PNY đã gửi cho chúng tôi chiếc NVIDIA RTX A4500 20GB để phục vụ quá trình test Threadripper Pro, và đây chính là ví dụ điển hình cho một GPU double-width mà cách bố trí khe PCIe của Supermicro được thiết kế để tối ưu hóa.
Mặt trước PNY NVIDIA RTX A4500
Trước khi đi vào sơ đồ khối (block diagram), chúng tôi muốn điểm qua nhanh phiên bản BIOS được cài sẵn trên hệ thống thử nghiệm. Đây là BIOS phiên bản 2.0, phát hành ngày 25/02/2022. Điều đáng chú ý là dù thị trường DIY cho các CPU này chỉ mới bắt đầu từ cuối tháng 6, nhưng bản BIOS này thực chất đã được cập nhật từ thế hệ trước. Điều đó cho thấy AMD đã cấp quyền tiếp cận sớm các CPU Threadripper Pro cho một số OEM nhất định, và rõ ràng là những nền tảng này đã sẵn sàng từ khá lâu trước khi chính thức ra mắt.
Supermicro AS-5014A-TT: BIOS phiên bản 2.0 (25/02/2022)
Một tính năng nhỏ khác mà bình thường chúng tôi ít khi đề cập tới, nhưng lại nhận được khá nhiều câu hỏi, đó là khả năng cài Windows thông qua AMD chipset RAID. Trong quá trình kiểm tra BIOS, chúng tôi thấy rõ mục UEFI boot tương ứng với AMD RAID, cho thấy hoàn toàn có thể boot Windows trực tiếp từ RAID do chipset AMD quản lý.
Supermicro AS-5014A-TT: Khởi động Windows qua AMD RAID
Nhìn vào sơ đồ khối của bo mạch chủ, có thể thấy Supermicro ưu tiên các khe M.2 thay vì bổ sung khe PCIe thứ bảy. Đồng thời, một lượng lớn I/O được lấy trực tiếp từ CPU, tương tự các nền tảng Threadripper Pro khác, với mức khai thác lane PCIe rất cao.
Sơ đồ khối Supermicro M12SWA-TF cho AS-5014A-TT
Chúng tôi cũng thấy sự xuất hiện của BMC ASPEED AST2600. Đây là một điểm cộng lớn của các nền tảng Threadripper Pro, bởi chúng được thiết kế theo triết lý của những workstation dual Xeon “ngày xưa”. Nhờ có BMC, một hệ thống workstation hiện tại hoàn toàn có thể chuyển đổi linh hoạt thành máy chủ workgroup trong tương lai.
Tiếp theo, chúng ta sẽ bàn tới tác động thị trường cũng như những bài học quan trọng rút ra từ nền tảng Threadripper Pro này.
Tác động thị trường và những bài học rút ra
Nhìn vào bức tranh toàn cảnh của thị trường hiện tại, AMD Ryzen Threadripper Pro 5995WX gần như không có đối thủ cạnh tranh trực tiếp. Đây là bộ vi xử lý workstation sở hữu số lượng nhân cao nhất, bỏ xa phần còn lại của thị trường. Đối thủ gần nhất của nó, trên thực tế, lại chính là Threadripper Pro 3995WX thuộc thế hệ trước.
Mặt trước AMD Ryzen Threadripper PRO 3995WX
Chúng tôi ước rằng AMD mở nền tảng này một cách chính thức như một nền tảng EPYC, thay vì tách riêng thành Threadripper Pro. Việc có một EPYC dành cho workstation hay WEPYC và cho phép sử dụng trực tiếp CPU EPYC sẽ là một hướng đi rất đáng quan tâm.
Ở thời điểm hiện tại, chúng ta đã đi khá sâu vào vòng đời sản phẩm Milan, và các phiên bản Milan-X với dung lượng cache khổng lồ cũng đã xuất hiện. Với nhiều ứng dụng kỹ thuật và kỹ sư, dung lượng cache lớn mang lại lợi ích rõ rệt hơn so với việc tăng thêm xung nhịp như trên các CPU Threadripper Pro. Điều này khiến nền tảng trở nên giống như nên được hợp nhất, tương tự các workstation Xeon E5 ngày trước.
Việc sử dụng một nền tảng workstation “đúng nghĩa” vẫn rất đáng giá nhờ những tính năng như nhiều cổng USB hơn hay âm thanh tích hợp trên bo mạch. Rõ ràng, đây là những giá trị mà AMD hoàn toàn có thể khai thác thêm một cách tương đối dễ dàng.
AMD EPYC 7773X
Có lẽ tác động thị trường lớn nhất lại nằm ở chỗ chúng tôi đang thực hiện bài đánh giá này khá muộn trong vòng đời của Milan. AMD đã xác nhận sẽ ra mắt Genoa trong năm 2022, và khi đó, chỉ còn chưa đến 5 tháng nữa là hết năm. Khi Genoa xuất hiện, nền tảng này sẽ mang tới tối đa 96 nhân, vượt trội hoàn toàn so với các hệ thống 64 nhân hiện tại, đồng thời cung cấp băng thông bộ nhớ và khả năng I/O PCIe cao hơn đáng kể.
Thách thức lớn nhất của Threadripper Pro 5995WX không nằm ở việc cạnh tranh với Intel ở thời điểm hiện tại, hay thậm chí là cho tới năm 2023. Thay vào đó, vấn đề nằm ở chính tốc độ tiến bộ quá nhanh của AMD ở mảng máy chủ. Nếu khoảng cách này tiếp tục được duy trì, việc đưa CPU EPYC vào các hệ thống workstation sẽ ngày càng trở nên hấp dẫn hơn, ngay cả với những người dùng vốn trước đây chỉ quan tâm tới Threadripper Pro.
Bên cạnh đó, AMD đang trao quyền phân phối độc quyền Threadripper Pro cho các OEM. Ở góc độ thương mại, điều này là dễ hiểu. Ví dụ, Lenovo đã sớm nắm bắt cơ hội và đổi lại là quyền độc quyền nhất định có thể xem đây là cách AMD ghi nhận và “thưởng” cho niềm tin của đối tác.
Tuy nhiên, nếu hợp nhất Threadripper Pro vào dòng EPYC, đồng thời cung cấp một tùy chọn workstation EPYC có chipset, AMD sẽ mở ra nhiều không gian hơn cho các OEM sáng tạo và khác biệt hóa sản phẩm, trong khi vẫn giúp nền tảng trở nên hoàn chỉnh và bền vững hơn về lâu dài.
Tổng Kết - Góc nhìn từ Hoàng Hà PC
AMD Threadripper Pro 5995WX thực sự là một bộ vi xử lý rất “đã”. Nó mang lại cảm giác thân thuộc, đặc biệt với những ai đã theo dõi và trải nghiệm quá trình chuyển đổi từ Rome sang Milan ở mảng máy chủ. Tuy nhiên, cũng có chút nghịch lý khi một CPU thế hệ mới lại tạo cảm giác như một “người bạn cũ”. Dẫu vậy, cần khẳng định rõ: đây là một trong những bộ vi xử lý workstation cao cấp nhất của thời điểm hiện tại.
Những nền tảng phần cứng mà chúng tôi được tiếp cận cũng thực sự ấn tượng. Trong bài này, chúng tôi tập trung vào các giải pháp từ Gigabyte và Supermicro, qua đó cho thấy mỗi hãng có triết lý thiết kế rất khác nhau. Trong thời gian tới, chúng tôi sẽ tiếp tục với các bài đánh giá chi tiết riêng cho từng nền tảng, bởi trải nghiệm thực tế với cả hai đều rất tích cực.
Về hiệu năng, AMD Ryzen Threadripper Pro 5995WX thể hiện sức mạnh hàng đầu trong phân khúc workstation đa nhân. Với mức giá Hoàng Hà PC ghi nhận vào khoảng dưới 6.500 USD, con chip này buộc phải mạnh và nó đã làm được điều đó. Đối với những lĩnh vực có thể khai thác hiệu quả một CPU cỡ lớn như thế này, mức giá trên là hoàn toàn hợp lý khi đặt trong tổng thể một hệ thống workstation cao cấp, đặc biệt khi đi kèm GPU mạnh, mạng tốc độ cao, lưu trữ và bộ nhớ lớn.
Với nhiều người dùng, 64 nhân có thể là quá dư thừa. Nhưng nếu công việc của bạn thực sự tận dụng được số nhân đó, thì Threadripper Pro 5995WX đơn giản là quá tuyệt vời.
