Trong bối cảnh công nghệ thế kỷ 21, sức mạnh tính toán đã trở thành cơ sở hạ tầng thứ ba, theo sau điện và internet. Với sự phát triển bùng nổ của các mô hình ngôn ngữ lớn (LLM), AI tạo sinh, mô hình hóa khí hậu, giải trình tự bộ gen và mô phỏng vật lý năng lượng cao, nhu cầu của con người về hiệu suất tính toán đã bước vào quỹ đạo theo cấp số nhân. Tuy nhiên, khi hàng chục nghìn cụm GPU được triển khai trong các trung tâm dữ liệu, các kiến trúc sư phải đối mặt với một thực tế khắc nghiệt: các kiến trúc Ethernet truyền thống thường bị mắc kẹt trong "tường giao tiếp" khi xử lý tính toán song song quy mô lớn.
Nút thắt trong kiến trúc mạng trung tâm dữ liệu về cơ bản bắt nguồn từ sự mất cân bằng giữa độ trễ và băng thông trong quá trình trao đổi dữ liệu quy mô lớn. Khi tốc độ đồng bộ hóa dữ liệu giữa các nút tính toán không theo kịp tần số xử lý của GPU, các tài nguyên tính toán đắt tiền sẽ rơi vào trạng thái "thiếu hụt". Bộ chuyển mạch dòng QM8700 của NVIDIA Mellanox, một tiêu chuẩn công nghiệp dựa trên kiến trúc InfiniBand, ra đời để phá vỡ hoàn toàn những hạn chế này. Nó không chỉ là phần cứng để kết nối mạng mà còn là "trung tâm thần kinh" không thể thiếu trong các cụm tính toán hiệu năng cao (HPC) và trí tuệ nhân tạo (AI) hiện đại.
Năng lực cạnh tranh cốt lõi của dòng QM8700 bắt nguồn từ sự tích hợp sâu với giao thức InfiniBand HDR (Tốc độ Dữ liệu Cao). InfiniBand, với vai trò là một liên kết truyền thông được thiết kế đặc biệt cho tính toán hiệu năng cao, hoạt động dựa trên các nguyên tắc cơ bản là "truyền tải không mất mát" và "giảm tải dựa trên phần cứng".
Trong không gian quý giá của các giá đỡ trung tâm dữ liệu, QM8700 thể hiện sự tinh tế kỹ thuật vượt trội.
Sự đổi mới đáng chú ý nhất của QM8700 nằm ở việc hỗ trợ công nghệ SHARP (Giao thức Tổng hợp và Giảm thiểu Phân cấp Khả mở rộng) của NVIDIA Mellanox. Trong tính toán phân tán truyền thống, các giao tiếp tập thể (như All-Reduce hoặc All-Gather) thường được xử lý bởi CPU của các nút tính toán, yêu cầu nhiều lượt truyền dữ liệu khứ hồi tiêu tốn tài nguyên CPU quý giá và tạo ra tắc nghẽn mạng đáng kể.
Công nghệ SHARP cách mạng hóa mô hình này bằng cách giảm tải các hoạt động giao tiếp tập thể trực tiếp vào phần cứng của bộ chuyển mạch. Khi các gói dữ liệu đi qua QM8700, logic phần cứng chuyên dụng sẽ tự động thực hiện các hoạt động tổng hợp và giảm thiểu dữ liệu. Cách tiếp cận "tính toán trong mạng" này hoàn thành các phép tính trong quá trình truyền dữ liệu, giảm đáng kể tải giao tiếp giữa các nút và cải thiện hiệu quả đào tạo học máy theo cấp số nhân. Đối với các siêu cụm có hàng nghìn GPU, SHARP mang lại lợi ích hiệu suất theo cấp số nhân.
Trong các cụm quy mô siêu lớn, lỗi phần cứng là điều không thể tránh khỏi về mặt thống kê. QM8700 nâng cao độ tin cậy của mạng lên tiêu chuẩn doanh nghiệp thông qua kiến trúc tự phục hồi.
Khả năng tương thích là trọng tâm trong triết lý thiết kế của QM8700. Nó tích hợp liền mạch vào hệ sinh thái InfiniBand hiện có, đồng thời hỗ trợ ánh xạ làn ảo (VL) linh hoạt, thích ứng với nhiều ứng dụng khác nhau, từ các cụm nghiên cứu nhỏ đến các nền tảng đám mây AI quy mô siêu lớn.
Cho dù được triển khai làm bộ chuyển mạch lá ở đỉnh giá đỡ hay bộ chuyển mạch xương sống trong các cấu trúc liên kết Clos quy mô lớn, QM8700 đều thể hiện khả năng thích ứng vượt trội. Thiết kế tiết kiệm năng lượng của nó phù hợp với xu hướng trung tâm dữ liệu xanh hiện đại, trong khi các tiêu chuẩn công nghệ được đảm bảo cho tương lai mang lại lợi tức đầu tư mạnh mẽ trong nhiều năm tới.
Dòng QM8700 không chỉ đại diện cho sự kết hợp chuyên môn kỹ thuật của NVIDIA Mellanox mà còn là sự tiến hóa của kiến trúc mạng trong kỷ nguyên sức mạnh tính toán. Thông qua bộ tứ băng thông, độ trễ, tính toán thông minh và kiến trúc tự phục hồi, nó cung cấp một giải pháp kết nối hoàn chỉnh cho các cụm tính toán hiệu năng cao và AI.
Khi nhu cầu tính toán tiến tới các mô hình có nghìn tỷ tham số và các mô phỏng khoa học phức tạp, mạng sẽ chuyển đổi từ các đường ống dữ liệu đơn thuần thành các thành phần tích hợp của hệ thống tính toán. Dòng QM8700 của NVIDIA Mellanox tiên phong cho tầm nhìn này. Với độ trễ gần bằng không, nó kết nối vô số nút tính toán thành các siêu bộ não thống nhất, giúp con người vượt qua các nút thắt tính toán trong nghiên cứu khoa học và trí tuệ nhân tạo để đạt được những biên giới đổi mới mới.
english
français
Deutsch
Italiano
Русский
Español
português
Nederlandse
ελληνικά
日本語
한국
العربية
हिन्दी
Türkçe
indonesia
tiếng Việt
ไทย
বাংলা
فارسی
polski