EnCharge AI – bộ tăng tốc AI tính toán trong bộ nhớ analog

EnCharge AI cung cấp phần cứng và phần mềm tính toán trong bộ nhớ analog cho AI từ biên đến đám mây. Công ty ra đời năm 2022 từ nghiên cứu tại Princeton, do CEO kiêm đồng sáng lập Naveen Verma dẫn dắt. Văn phòng tại Santa Clara, California và Bengaluru, Ấn Độ.

Phép tính miền điện tích của hãng dùng tụ kim loại chính xác nội tại để tránh giới hạn tỷ lệ tín hiệu trên nhiễu của xử lý analog, được cho là đã kiểm chứng qua 5 thế hệ thiết kế. Sản phẩm gồm chiplet, ASIC và card PCIe tiêu chuẩn, nhằm chạy mô hình AI tiên tiến trong giới hạn chặt về điện năng, không gian và chi phí.

• Tính toán analog trong bộ nhớ: phép tính miền điện tích giúp giảm di chuyển dữ liệu.
• Tụ chính xác: tụ kim loại chính xác nội tại giải quyết giới hạn tỷ lệ tín hiệu trên nhiễu của analog.
• Dạng sản phẩm: chiplet, ASIC và card PCIe tiêu chuẩn.
• Hiệu quả: nêu cao hơn 20 lần TOPS trên watt và 9 lần TOPS trên mm2.
• Khả năng lập trình: hỗ trợ nhiều loại mô hình và toán tử AI trong quy trình của người dùng.
• Độ trưởng thành silicon: hơn 350 triệu chip đã giao, hơn 150 bằng sáng chế và hơn 300 công bố kỹ thuật.

Nhà sản xuất điện tử có thể lắp card PCIe EnCharge vào máy trạm hoặc máy chủ biên cho AI tại chỗ. Nhà cung cấp thiết bị công nghiệp có thể nhúng chiplet hoặc ASIC để suy luận cục bộ với điện năng thấp. Thương hiệu thiết bị có thể đánh giá tính năng AI trên thiết bị mà không phụ thuộc đám mây.

Bên mua có thể chạy mô hình AI trên thiết bị và máy chủ với năng lượng thấp hơn nhiều so với bộ tăng tốc số thông thường. Hãng nêu hiệu quả cao hơn 20 lần (TOPS trên watt), mật độ tính toán cao hơn 9 lần và tổng chi phí sở hữu thấp hơn 10 lần, dựa trên MAC đo trên silicon. Các dạng chiplet, ASIC và card PCIe mang lại nhiều lựa chọn tích hợp cho nhà sản xuất thiết bị.

Tác vụ AI đang chuyển sang laptop, máy trạm, thiết bị công nghiệp và máy chủ biên, nơi ngân sách điện năng và chi phí chặt, nên năng lượng trên mỗi suy luận là tiêu chí mua quan trọng. Nhà sản xuất PC, hệ thống nhúng và thiết bị công nghiệp ở Việt Nam, Đông Nam Á có thể tìm bộ tăng tốc hiệu quả để thêm AI trên thiết bị.

Thành lập năm 2022; Series B hơn 100 triệu USD công bố ngày 13/2/2025 do Tiger Global dẫn đầu, nâng tổng vốn lên hơn 144 triệu USD. Nhà đầu tư gồm Samsung Ventures, In-Q-Tel, RTX Ventures và HH-CTBC. Văn phòng tại Santa Clara, California và Bengaluru, Ấn Độ.