Giải pháp aiDAPTIV+ và SSD doanh nghiệp MaiStorage

MaiStorage (Maistorage Technology Sdn Bhd) được thành lập tháng 6/2024 tại Puchong, Selangor, là công ty con tại Malaysia của Phison Electronics (Đài Loan), nhà cung cấp bộ điều khiển NAND thành lập năm 2000. Công ty hướng tới xây dựng năng lực công nghệ lưu trữ NAND tại Malaysia, thiết kế, sản xuất và cung cấp bộ điều khiển NAND, IC và module lưu trữ cho trung tâm dữ liệu, AI và ô tô, trước mắt với SSD doanh nghiệp Pascari, aiDAPTIV+ và sản phẩm ô tô của Phison.

aiDAPTIV+ là giải pháp trọn gói tinh chỉnh mô hình ngôn ngữ lớn bằng cách mở rộng bộ nhớ GPU bằng flash. SSD aiDAPTIVCache dùng NAND SLC, độ bền 100 DWPD, lưu các phần của mô hình, còn middleware chia nhỏ mô hình, phân cho từng GPU và hoán đổi khi xử lý xong. Bộ giao diện aiDAPTIVPro Suite và dòng lệnh hỗ trợ nạp mô hình, tinh chỉnh, kiểm định và suy luận; giải pháp chạy trực tiếp với PyTorch trên PC, máy trạm, máy chủ và thiết bị NVIDIA Jetson.

• SSD aiDAPTIVCache: ổ NAND SLC độ bền 100 DWPD mở rộng bộ nhớ GPU.
• Middleware: chia nhỏ mô hình và hoán đổi giữa GPU và flash khi huấn luyện.
• aiDAPTIVPro Suite: giao diện đồ họa và dòng lệnh để nạp mô hình, tinh chỉnh, kiểm định và suy luận.
• Tương thích PyTorch: chạy ứng dụng sẵn có mà không cần sửa mã.
• Hỗ trợ phần cứng rộng: PC, laptop, máy chủ và thiết bị biên NVIDIA Jetson của nhiều hãng.
• SSD doanh nghiệp: dòng X, D, B và S cho trung tâm dữ liệu.

Ngân hàng hoặc bệnh viện Việt Nam có thể tinh chỉnh mô hình ngôn ngữ tiếng Việt trên tài liệu nội bộ bằng máy trạm thay vì cụm GPU lớn. Trường đại học có thể trang bị PC huấn luyện AI cho các khóa học về mô hình ngôn ngữ lớn. Công ty robot hoặc AI biên có thể huấn luyện trực tiếp trên thiết bị NVIDIA Jetson.

Tổ chức có thể tinh chỉnh mô hình ngôn ngữ lớn hơn trên phần cứng tại chỗ, với bộ nhớ GPU mở rộng thêm tới 320GB trên PC và tới 8TB trên máy trạm, máy chủ. Hai ổ aiDAPTIVCache 2TB hỗ trợ mô hình 70 tỷ tham số. Chuyển bộ nhớ sang flash giúp giảm số GPU đắt tiền cần mua. Dữ liệu huấn luyện nằm sau tường lửa, hỗ trợ chủ quyền dữ liệu.

Doanh nghiệp và cơ quan công muốn tinh chỉnh mô hình ngôn ngữ lớn trên dữ liệu riêng mà không gửi lên đám mây, nhưng bộ nhớ GPU khan hiếm và đắt đỏ. Malaysia và Việt Nam đều thúc đẩy AI chủ quyền và mô hình ngôn ngữ bản địa, làm tăng nhu cầu phần cứng huấn luyện AI tại chỗ với chi phí hợp lý.

Thành lập tháng 6/2024 tại Puchong, Selangor, Malaysia, là công ty con của Phison Electronics (Đài Loan, thành lập năm 2000); tháng 7/2024 Phison công bố đầu tư 1 tỷ RM vào lưu trữ AI tại Malaysia. aiDAPTIV+ là công nghệ của Phison do MaiStorage phân phối và hỗ trợ tại Malaysia.