Rebellions RebelServer – máy chủ suy luận AI dùng chip chiplet Rebel100

Rebellions là công ty bán dẫn AI của Hàn Quốc, địa chỉ tại Seongnam-si, tỉnh Gyeonggi, và có hiện diện tại Seoul. Công ty phát triển bộ tăng tốc suy luận và hệ thống trọn gói để doanh nghiệp, nhà mạng và chính phủ chạy mô hình AI lớn tại chỗ với mức tiêu thụ năng lượng thấp hơn hạ tầng GPU. Chip thế hệ đầu ATOM và ATOM-Max đã sản xuất hàng loạt và được triển khai tại Nhật Bản, Ả Rập Xê Út và Hoa Kỳ.

RebelServer là máy chủ suy luận 5U làm mát bằng không khí với tám RebelCard, mỗi card dùng chip Rebel100 có kiến trúc chiplet, kết nối UCIe-Advanced và bộ nhớ HBM3E. Mỗi máy chủ đạt tới 2 PFLOPS FP8, chạy trên hai CPU AMD EPYC với 1,5TB DDR5 và mạng 400G, tích hợp vLLM và PyTorch để suy luận phân tán cho LLM, mô hình mixture-of-experts và mô hình đa phương thức. Hệ thống mở rộng thành RebelRack và RebelPOD cho triển khai quy mô lớn hơn.

• Chip Rebel100: bộ tăng tốc dạng chiplet với kết nối UCIe-Advanced và bộ nhớ HBM3E.
• Hiệu năng máy chủ: tám RebelCard đạt tới 2 PFLOPS FP8 trong khung 5U.
• Nền tảng máy chủ: hai CPU AMD EPYC 9355, 1,5TB DDR5 và lưu trữ NVMe cho KV cache.
• Mạng tốc độ cao: 4 cổng 400G QSFP112-DD cho suy luận phân tán.
• Phần mềm mở: tích hợp vLLM và PyTorch, kèm tài liệu SDK và Model Zoo.
• Hệ thống mở rộng: nâng cấp thành hạ tầng suy luận trọn gói RebelRack và RebelPOD.

Nhà mạng viễn thông Việt Nam có thể vận hành LLM tiếng Việt riêng trên cụm RebelServer cho chăm sóc khách hàng và API doanh nghiệp. Trung tâm dữ liệu của cơ quan nhà nước có thể triển khai dịch vụ AI chủ quyền tại chỗ. Nhà cung cấp đám mây có thể cung cấp máy chủ suy luận dựa trên vLLM với mức điện năng trên mỗi rack thấp hơn.

Tác vụ AI chủ quyền có thể chạy tại chỗ với toàn quyền kiểm soát dữ liệu và vận hành. Thiết kế làm mát bằng không khí, công suất thực tế thường 4-6kW, cho phép trung tâm dữ liệu bổ sung năng lực suy luận mà không cần làm mát bằng chất lỏng. Hỗ trợ vLLM và PyTorch giúp chuyển đổi mô hình sẵn có dễ hơn. Gói hỗ trợ phần cứng và phần mềm ba năm đi kèm.

Chính phủ và nhà mạng đang xây dựng năng lực AI chủ quyền và tìm giải pháp thay thế chuỗi cung ứng GPU. Thiết kế chiplet với HBM3E đang trở thành hướng chính để mở rộng bộ tăng tốc suy luận. Việc Việt Nam thúc đẩy hạ tầng AI quốc gia và LLM nội địa tạo nhu cầu với hệ thống suy luận tại chỗ tiết kiệm năng lượng.

Địa chỉ tại Seongnam-si, tỉnh Gyeonggi, Hàn Quốc. Gọi vốn Series C 250 triệu USD vào tháng 9/2025 với định giá 1,4 tỷ USD, có Arm là đối tác chiến lược cùng Samsung Ventures, Pegatron VC, Ngân hàng Phát triển Hàn Quốc, Korelya Capital và Lion X Ventures. Các sản phẩm trước gồm ATOM, ATOM-Max và REBEL-Quad. Đối tác gồm SK Telecom và ai& tại Nhật Bản.