Mọi cuộc thảo luận về việc lập kế hoạch xây dựng cơ sở hạ tầng AI đều dẫn đến một lựa chọn tương tự: tấm làm mát trực tiếp trên chip hoặc làm mát ngâm hoàn toàn. Cả hai đều truyền nhiệt bằng chất lỏng và cả hai đều hoạt động hiệu quả hơn không khí một bậc, tuy nhiên, chúng khác nhau ở hầu hết mọi khía cạnh quyết định sự thành công của dự án: mức độ làm mát máy chủ, những gì tòa nhà phải cung cấp, cách kỹ thuật viên bảo trì phần cứng và yêu cầu của vòng lặp chất lỏng đối với máy bơm. Những so sánh từ các nhà cung cấp có xu hướng thiên về kiến trúc mà họ đang bán. Hướng dẫn này so sánh cả hai theo các tiêu chí kỹ thuật, dựa trên những con số thực tế quyết định dự án cùng những tác động đối với máy bơm và vòng lặp chất lỏng mà hầu hết các bảng so sánh khác thường bỏ qua.
Cách Từng Kiến Trúc Truyền Nhiệt
Trực tiếp trên chip: thu hồi nhiệt nhắm mục tiêu
Hệ thống làm mát trực tiếp trên chip lắp đặt các tấm lạnh (cold plates) kín lên các thành phần tỏa nhiệt cao nhất là CPU và GPU, đồng thời bơm dung dịch làm mát nước-glycol qua các kênh vi mô bên trong các tấm lạnh này với lưu lượng khoảng 0.5 đến 2 LPM cho mỗi tấm. Nhiệt trở giữa khuôn chip và dung dịch làm mát giảm xuống còn 0.02 đến 0.10°C/W, tốt hơn từ 10 đến 20 lần so với tản nhiệt bằng không khí. Vòng tuần hoàn này chạy qua một bộ phân phối dung dịch làm mát (CDU), giúp cách ly dung dịch làm mát phía thiết bị với nguồn nước của cơ sở và duy trì lưu lượng, nhiệt độ, cũng như áp suất ở mức cài đặt. Khả năng hấp thụ nhiệt bao phủ từ 60 đến 80 phần trăm tải nhiệt của tủ mạng (rack); phần nhiệt từ bộ nhớ, bộ chuyển đổi nguồn và thiết bị lưu trữ vẫn tỏa ra không khí, do đó phòng máy vẫn cần duy trì một hệ thống làm mát bằng không khí với công suất giảm đi song song với vòng tuần hoàn chất lỏng.
Làm mát ngâm: thu hồi nhiệt trên toàn bộ máy chủ
Hệ thống làm mát ngâm loại bỏ hoàn toàn ranh giới này bằng cách ngâm chìm hoàn toàn các bo mạch máy chủ vào chất lỏng điện môi. Hệ thống một pha bơm chất lỏng qua bộ trao đổi nhiệt rồi đưa trở lại bể chứa. Hệ thống hai pha cho phép chất lỏng sôi khi tiếp xúc với các linh kiện nóng và ngưng tụ trên cuộn dây phía trên, truyền nhiệt thông qua sự chuyển pha với nhu cầu bơm tối thiểu. Khả năng hấp thụ nhiệt đạt gần 98% tải của hệ thống CNTT, không cần đến quạt máy chủ, và mật độ tương đương trên mỗi tủ rack đạt từ 100 đến 250 kW mỗi bể. Đổi lại là những thay đổi trong quá trình vận hành: máy chủ cần phải là loại chuyên dụng cho môi trường ngâm, việc bảo trì liên quan đến thao tác nhấc phần cứng ướt ra khỏi chất lỏng, và cơ sở phải áp dụng một quy trình quản lý chất lỏng mà trước đây chưa từng có.
So Sánh Trực Tiếp: Những Con Số Quyết Định Dự Án
| Tiêu chí | Trực tiếp trên chip (Direct-to-chip) | Làm mát ngâm một pha (Single-phase immersion) | Làm mát ngâm hai pha (Two-phase immersion) |
|---|---|---|---|
| Mật độ rack thực tế | 60 đến 120 kW | 50 đến 150 kW | 100 đến 250+ kW |
| Tỷ lệ thu hồi nhiệt | 60 đến 80% | ~98% | ~98% |
| PUE tiêu biểu | 1.05 đến 1.15 | 1.02 đến 1.10 | 1.01 đến 1.08 |
| Sửa đổi máy chủ | Tấm lạnh trên khung tiêu chuẩn | Phần cứng được thiết kế cho làm mát ngâm | Được thiết kế cho làm mát ngâm, đủ điều kiện dùng trong bể kín |
| Quy trình bảo dưỡng | Tháo lắp nóng rack tiêu chuẩn với các khớp nối ngắt kết nối nhanh | Tiếp cận bể chứa, xử lý chất lỏng, quy trình sấy khô | Bể kín, kiểm soát thất thoát chất lỏng, quy trình chuyên biệt |
| Chất làm mát | Nước-glycol, 20 đến 35% | Hydrocarbon điện môi | Chất lỏng sôi chuyên dụng |
| Khả năng nâng cấp cải tạo (Retrofit) | Mạnh mẽ, triển khai trên từng rack | Yếu, cần các pod chuyên dụng hoặc xây mới (greenfield) | Yếu nhất, cần các cơ sở được xây dựng chuyên biệt |
Bốn Tiêu Chí Quyết Định
Lộ trình phát triển mật độ
Các tủ rack GPU thế hệ hiện tại tiêu thụ từ 40 đến 120 kW, hoàn toàn nằm trong phạm vi của công nghệ làm mát trực tiếp trên chip (direct-to-chip). Đây là một lý do quan trọng khiến các cấu hình do OEM khuyên dùng cho các hệ thống AI hàng đầu thường đi kèm với tấm làm mát. Tuy nhiên, các lộ trình phát triển hướng tới mức trên 150 kW mỗi tủ rack lại củng cố thêm lợi thế cho công nghệ làm mát ngâm (immersion). Việc lựa chọn kiến trúc cần phải phù hợp với mật độ dự kiến trong 5 năm tới của bạn, đồng thời cần lưu ý rằng phương pháp tiếp cận kết hợp (hybrid) có thể giúp bạn trì hoãn việc phải áp dụng giải pháp làm mát tối đa ngay lập tức.
Nâng cấp cải tạo (Retrofit) hay Xây dựng mới (Greenfield)
Hệ thống làm mát trực tiếp trên chip (Direct-to-chip) có thể được triển khai từng dãy trong một phòng máy hiện có, sử dụng các tủ rack và khung máy chủ tiêu chuẩn, cùng với một thiết bị phân phối dung dịch làm mát (CDU) cho mỗi dãy hoặc mỗi tủ rack. Ngược lại, bể làm mát ngâm đòi hỏi các yêu cầu khắt khe về tải trọng sàn, biện pháp chống tràn, chiến lược phòng cháy chữa cháy, và việc làm lại hệ thống điện, khiến chúng trở thành một lựa chọn không phù hợp để nâng cấp các cơ sở cũ, nhưng lại là lựa chọn ưu việt cho các dự án xây dựng mới. Phần lớn công suất AI được công bố cho đến năm 2026 đều nằm trong các tòa nhà hiện có hoặc có kết cấu thông thường, điều này giải thích lý do tại sao các hệ thống sử dụng tấm lạnh lại chiếm ưu thế trong các dự án lắp đặt hiện nay.
Mô hình Vận hành
Bảo trì hệ thống tấm làm mát tương tự như những công việc mà các đội bảo trì đang thực hiện: thao tác ngắt kết nối nhanh, thay thế nóng, và các quy trình xử lý tủ rack quen thuộc. Trong khi đó, làm mát ngâm lại thay đổi hoàn toàn văn hóa vận hành liên quan đến độ sạch của chất lỏng, thử nghiệm tính tương thích, và các quy trình nâng hạ thiết bị. Một cấu trúc phù hợp với đội ngũ hiện có của bạn sẽ hoạt động hiệu quả hơn so với một cấu trúc ưu việt trên lý thuyết nhưng lại không phù hợp với bất kỳ ai tại cơ sở.
Tiêu chuẩn và bảo hành
Công nghệ làm mát trực tiếp trên chip (Direct-to-chip) tuân theo các tiêu chuẩn đã được công nhận rộng rãi, bao gồm các đặc tả kỹ thuật về giao diện OCP ACS và các tùy chọn tấm lạnh từ nhiều OEM với các điều khoản bảo hành được giữ nguyên. Chứng nhận phần cứng cho hệ thống làm mát ngâm đang được cải thiện nhưng vẫn mang tính đặc thù của từng nhà cung cấp, và các điều khoản bảo hành cho việc vận hành trong môi trường ngâm đòi hỏi sự xác nhận cho từng trường hợp cụ thể.
Yêu cầu của Mỗi Kiến trúc đối với Máy bơm và Vòng tuần hoàn Chất lỏng
Đây là khía cạnh so sánh mà hầu hết các bài viết đều bỏ qua, nhưng lại chính là nơi thường xuyên xảy ra các sự cố thực tế.
Làm mát trực tiếp trên chip: vòng tuần hoàn nước-glycol chính xác
Vòng tuần hoàn làm mát thiết bị là một hệ thống có lực cản cao: các vi kênh trên tấm làm mát, khớp nối nhanh, và mạng lưới ống dẫn làm tăng áp suất giảm ở mức lưu lượng trung bình. Máy bơm hoạt động liên tục với tốc độ biến thiên bên trong thiết bị phân phối dung dịch làm mát (CDU) theo cấu hình dự phòng N+1, phải duy trì áp suất ổn định khi bộ lọc bị bám bẩn, và tuyệt đối không được phép rò rỉ vào phòng máy chủ. Độ nhớt của glycol ở nhiệt độ thấp đòi hỏi phải giảm tải hiệu suất bơm. Máy bơm tuần hoàn dẫn động từ không phớt (seal-less magnetic drive circulation pumps) với bộ phận tiếp xúc chất lỏng bằng thép không gỉ là lựa chọn hoàn toàn phù hợp cho yêu cầu này, như đã được trình bày chi tiết trong hướng dẫn chọn máy bơm làm mát bằng chất lỏng cho trung tâm dữ liệu AI. Bơm từ xoáy MDW đáp ứng tốt yêu cầu về lưu lượng thấp, ổn định và không rò rỉ, đồng thời khả năng bơm hai chiều (tiến/lùi) của nó giúp đơn giản hóa việc nạp và xả vòng tuần hoàn.
Làm mát ngâm một pha: tuần hoàn điện môi
Máy bơm tuần hoàn bể chứa xử lý các chất lỏng điện môi được thiết kế đặc biệt có độ bôi trơn thấp và yêu cầu tính tương thích vật liệu cụ thể. Việc ngăn chặn rò rỉ ít quan trọng hơn đối với nguy cơ về điện tử, vì bản thân chất lỏng không dẫn điện, mà quan trọng hơn ở góc độ chi phí chất lỏng và việc giữ gìn vệ sinh. Vật liệu làm phớt và cấu trúc ổ trục phải được xác nhận phù hợp với chính xác tính chất hóa học của chất lỏng.
Làm mát ngâm hai pha: bơm tối thiểu
Sự sôi và ngưng tụ giúp di chuyển nhiệt lượng, do đó nhiệm vụ của máy bơm được thu hẹp lại thành cấp nước bổ sung, lọc và xử lý nước ngưng tụ. Gánh nặng kỹ thuật chuyển sang đảm bảo tính toàn vẹn của bể kín và kiểm soát sự thất thoát chất lỏng, đặc biệt là khi ngành công nghiệp đang chuyển hướng rời khỏi các chất lỏng thuộc nhóm PFAS.
Các Tuyên bố Về Hiệu suất Cần Được Xem Xét Kỹ Hơn
Các chỉ số PUE được công bố thường ưu ái hệ thống làm mát ngâm, và một phần của lợi thế đó là có thật: việc loại bỏ quạt máy chủ giúp loại bỏ một nguồn tiêu thụ năng lượng thực tế. Tuy nhiên, một phần khác nằm ở cách hạch toán. Năng lượng tiêu thụ của quạt được loại khỏi phần thiết bị CNTT trong phép tính PUE, làm thay đổi ranh giới, từ đó làm cho kiến trúc này trông hấp dẫn hơn trong một phép so sánh trực tiếp. Một đánh giá ở cấp độ mua sắm cần kết hợp PUE với hiệu quả sử dụng nước (WUE) và mức nhiệt độ của lượng nhiệt thải ra. Vòng lặp làm mát trực tiếp trên chip (direct-to-chip) sử dụng nước ấm mở ra cơ hội tận dụng các mùa làm mát tự nhiên kéo dài và tái sử dụng nhiệt thực tế ở các mức nhiệt độ hữu ích. Trong khi đó, các vòng lặp làm mát ngâm thải nhiệt ở các mức nhiệt độ tương tự hoặc cao hơn nhưng với năng lượng vận chuyển thấp hơn. Kiến trúc có PUE thấp nhất trên bảng thông số kỹ thuật không mặc nhiên là hệ thống mang lại hóa đơn năng lượng hàng năm thấp nhất tại cơ sở, khí hậu và hồ sơ phụ tải của bạn.
Khả năng thải nhiệt cần được xem xét kỹ lưỡng như nhau bất kể kiến trúc nào. Hệ thống làm mát bằng chất lỏng chỉ vận chuyển nhiệt; nó không tiêu hủy nhiệt. Thiết bị làm mát khô, tháp giải nhiệt hoặc hệ thống tái sử dụng nhiệt vẫn phải hấp thụ mọi kilowatt nhiệt mà vòng lặp thu thập được. Một cơ sở nếu chỉ tập trung lên kế hoạch cẩn thận cho công nghệ làm mát bên trong các hàng máy chủ mà lại coi việc thải nhiệt là vấn đề phụ, sẽ kết thúc bằng một vòng lặp hiệu quả cao nhưng lại được kết nối với một hệ thống xả nhiệt không đủ công suất.
Thực Tế Triển Khai Kết Hợp (Hybrid)
Các nhà khai thác lớn hiếm khi chỉ chọn một kiến trúc duy nhất cho toàn bộ hệ thống. Một sơ đồ bố trí phổ biến thường là: sử dụng làm mát bằng không khí cho các máy chủ tính toán thông thường, chuyển các tủ rack AI sang các dãy làm mát trực tiếp trên chip (direct-to-chip), và dành riêng các pod làm mát ngâm cho các cụm huấn luyện có mật độ cao nhất. Lộ trình theo từng giai đoạn này giúp xây dựng năng lực làm mát bằng chất lỏng một cách lũy tiến, duy trì sự linh hoạt trong mua sắm qua các thế hệ phần cứng khác nhau, và phân bổ vốn đầu tư theo thời gian. Môi trường kết hợp này cũng đặt ra yêu cầu riêng cho hệ thống bơm: mỗi khu vực sẽ chạy với đặc tính hóa học của chất lỏng và cấu hình thủy lực riêng, do đó thiết bị tuần hoàn phải được chỉ định cho từng khu vực dựa trên sự sụt áp cục bộ và dữ liệu chất lỏng, thay vì dùng một loại máy bơm duy nhất cho toàn bộ trung tâm dữ liệu. Việc lên kế hoạch cho hạ tầng chia sẻ, nhiệt độ nước của cơ sở, công suất tản nhiệt và công suất dự phòng của CDU quan trọng hơn nhiều so với việc chỉ chọn ra một kiến trúc chiến thắng giữa hai giải pháp này.
Danh sách Kiểm tra Quyết định
- Mật độ tủ rack tối đa hiện tại và lộ trình 5 năm đáng tin cậy, tính trên mỗi tủ rack chứ không phải mức trung bình của toàn phòng.
- Ràng buộc về tòa nhà: tải trọng sàn nhà, giải pháp chống tràn, lộ trình đường ống và nhiệt độ nước hiện có của cơ sở.
- Năng lực vận hành: đội ngũ bảo trì và quy trình làm việc sẽ trực tiếp bảo dưỡng phần cứng.
- Kế hoạch phần cứng: sự sẵn có của tấm làm mát lạnh từ OEM và các điều khoản bảo hành so với các biến thể chuyên dụng cho làm mát ngâm.
- Chương trình quản lý chất lỏng: kiểm soát hóa chất trong vòng tuần hoàn glycol hoặc quản lý vòng đời của dung dịch điện môi, bao gồm cả cách xử lý khi chất lỏng hết hạn sử dụng.
- Kỹ thuật thiết kế máy bơm và vòng tuần hoàn: định mức giảm áp suất, mô hình dự phòng, và biện pháp chống rò rỉ phù hợp với kiến trúc đã chọn.
Aulank Pump chuyên sản xuất các loại máy bơm tuần hoàn truyền động từ kiểu xoáy không dùng phớt, phục vụ cho các vòng lặp công nghệ làm mát trực tiếp trên chip và hệ thống CDU. Sản phẩm có khả năng ngăn rò rỉ tuyệt đối và chịu được dung môi ở nhiệt độ từ −196°C đến +400°C. Xin vui lòng gửi cho chúng tôi dữ liệu về lưu lượng vòng lặp và sụt áp của bạn, đội ngũ kỹ sư của chúng tôi sẽ tư vấn một máy bơm phù hợp cùng với bảng tính toán kích cỡ. Hãy liên hệ với chúng tôi để được hỗ trợ cho dự án làm mát bằng chất lỏng của bạn.