Bộ tăng tốc AI EdgeCortix SAKURA-II và nền tảng MERA

EdgeCortix là công ty thiết kế chip AI biên không sở hữu nhà máy, thành lập tháng 7/2019 tại Nhật Bản, trụ sở và phòng thí nghiệm đặt tại Kawasaki, tỉnh Kanagawa, có văn phòng ở Hyderabad, Singapore và Virginia. Công ty thiết kế bộ xử lý AI tiết kiệm điện cùng phần mềm để robot, drone, thiết bị viễn thông, hệ thống quốc phòng và hạ tầng thông minh chạy mô hình AI lớn ngay tại chỗ.

Bộ tăng tốc SAKURA-II dựa trên kiến trúc Dynamic Neural Accelerator có thể tái cấu hình khi chạy, đạt 60 TOPS INT8 và 30 TFLOPS BF16 ở mức khoảng 8 W, bộ nhớ tới 32 GB LPDDR4x và 20 MB SRAM trên chip. Sản phẩm có dạng module M.2 2280 hoặc card PCIe cấu hình thấp tới 120 TOPS, xử lý các mô hình như Llama 2, Stable Diffusion, DETR và ViT với kích thước lô 1. Trình biên dịch và framework MERA cùng công cụ MERA Studio cho phép biên dịch, chạy và đo hiệu năng mô hình trên hệ thống dị thể; Renesas đã đưa MERA vào dòng MPU RZ/V. Khách hàng gồm Kawasaki Heavy Industries và các chương trình quốc phòng Mỹ.

• Bộ tăng tốc SAKURA-II: 60 TOPS INT8 và 30 TFLOPS BF16 ở công suất điển hình khoảng 8 W.
• Bộ nhớ lớn: hai kênh LPDDR4x dung lượng 8, 16 hoặc 32 GB, băng thông 68 GB/s.
• Dạng sản phẩm: module M.2 2280 và card PCIe cấu hình thấp đơn hoặc kép tới 120 TOPS.
• Hỗ trợ AI tạo sinh: chạy mô hình Llama 2, Stable Diffusion, DETR và ViT tại biên.
• Nền tảng MERA: trình biên dịch và framework suy luận trên nhiều loại bộ xử lý.
• MERA Studio: giao diện máy tính để biên dịch, chạy, đo hiệu năng và trình diễn mô hình.

Nhà mạng viễn thông Việt Nam có thể gắn card PCIe SAKURA-II vào máy chủ biên để cung cấp dịch vụ AI gần người dùng. Hãng sản xuất robot hoặc thiết bị kiểm tra có thể chạy mô hình thị giác và ngôn ngữ trên module M.2 đặt trong máy. Đơn vị tích hợp đô thị thông minh có thể triển khai thiết bị ven đường phân tích video giao thông tại chỗ.

Chạy mô hình tạo sinh hàng tỷ tham số ở mức khoảng 8 W, giúp triển khai mô hình ngôn ngữ và thị giác trên robot, drone và thiết bị ven đường bị giới hạn điện năng. Mức sử dụng tính toán tới 90% theo công bố của công ty giúp khai thác hiệu năng thực tế cao hơn từ mỗi chip. Dạng M.2 và PCIe lắp được vào máy tính công nghiệp và máy chủ sẵn có. MERA Studio cho phép kỹ sư biên dịch và đo hiệu năng mô hình mà không cần dòng lệnh.

AI tạo sinh đang đi vào robot, drone, trạm gốc viễn thông và hạ tầng không thể phụ thuộc kết nối đám mây. Nhật Bản đang tài trợ chip AI công suất thấp trong nước qua các chương trình như NEDO, khách hàng công nghiệp và quốc phòng châu Á tìm phương án thay thế GPU, còn dự án viễn thông và đô thị thông minh tại ĐNÁ cần bộ tăng tốc nhỏ gọn để suy luận tại chỗ.

Thành lập tháng 7/2019, trụ sở tại Kawasaki, Nhật Bản, có văn phòng tại Ấn Độ, Singapore và Mỹ. Hoàn tất vòng Series B vượt mức đăng ký vào tháng 11/2025, nâng tổng vốn lên hơn 110 triệu USD với các nhà đầu tư gồm TDK Ventures, CDIB, Jane Street, Yanmar Ventures, NTT Finance và SBI Investment. Có thêm dự án do NEDO tài trợ và hạn mức tín dụng từ Mizuho. NASA đã kiểm chứng SAKURA-II cho các sứ mệnh quỹ đạo và Mặt Trăng.