Chip NPU AI biên Kneron và nền tảng KNEO

Kneron được Albert Liu thành lập tháng 10/2015 tại San Diego, California, phát triển bộ xử lý mạng nơ-ron có thể tái cấu hình cho AI trên thiết bị. Mục tiêu là giúp ô tô, camera, thiết bị IoT và máy chủ nhỏ chạy AI tại chỗ, giữ dữ liệu tại cơ sở và giảm chi phí, điện năng so với suy luận bằng GPU.

Công ty cung cấp trọn bộ giải pháp: hệ thống trên chip NPU và bộ xử lý ảnh, mô hình AI dựng sẵn, phần mềm và runtime KNEO, bo mạch phát triển KNEO Pi và máy chủ biên. NPU hỗ trợ mạng CNN và transformer, thị giác 2D và 3D cùng xử lý âm thanh. Chip KL1140 ra mắt tháng 11/2025 được giới thiệu là NPU đầu tiên chạy được mạng Mamba đầy đủ tại biên, và bốn chip ghép nối có thể phục vụ mô hình tới 120 tỷ tham số với điện năng bằng một phần ba tới một nửa GPU. Kneron nêu Toyota, Quanta, Hanwha và Dessmann là khách hàng, nhắm tới ô tô, AIoT, camera IP, máy chủ biên và giáo dục.

• NPU tái cấu hình: hỗ trợ mạng CNN và transformer cho thị giác 2D, 3D và âm thanh.
• Chip KL1140: chạy mạng Mamba đầy đủ, đưa mô hình ngôn ngữ xuống thiết bị biên.
• Suy luận ghép chip: bốn chip cùng phục vụ mô hình tới 120 tỷ tham số.
• Phần mềm KNEO: runtime và công cụ triển khai mô hình trên chip Kneron.
• KNEO Pi: nền tảng phát triển được hơn 28.000 nhà phát triển trên thế giới sử dụng.
• Máy chủ biên: máy chủ AI riêng đặt tại chỗ, sản xuất cùng đối tác như Taiwan Spark Technology.

Doanh nghiệp Việt Nam có thể chạy trợ lý tra cứu tài liệu riêng trên máy chủ biên dùng chip Kneron trong mạng nội bộ văn phòng. Hãng sản xuất khóa thông minh, camera hoặc thiết bị gia dụng có thể tích hợp NPU Kneron để nhận diện khuôn mặt và điều khiển bằng giọng nói. Nhà máy có thể phân tích video và lệnh giọng nói ngay tại xưởng mà không phụ thuộc kết nối đám mây.

Kneron công bố NPU của mình hiệu quả điện năng gấp 6 tới 10 lần, còn KL1140 tiết kiệm năng lượng gấp tới 3 lần và giảm chi phí tới 10 lần so với các giải pháp hiện có cho mô hình ngôn ngữ tại biên. Trợ lý AI riêng và phân tích video có thể chạy trên máy chủ biên đặt tại văn phòng hay nhà máy, giữ dữ liệu nhạy cảm tại chỗ. Thiết bị vẫn hoạt động khi không có Wi-Fi hay mạng di động. Cộng đồng hơn 28.000 nhà phát triển dùng KNEO Pi giúp làm mẫu thử dễ hơn.

Doanh nghiệp muốn dùng trợ lý AI tạo sinh và phân tích video mà không đưa dữ liệu lên đám mây công cộng, tạo nhu cầu về máy chủ suy luận nhỏ đặt tại chỗ và thiết bị tích hợp AI. Tại châu Á, các hãng camera, ô tô và điện tử đang bổ sung AI cục bộ vào sản phẩm, còn doanh nghiệp ĐNÁ quan tâm tới lưu trữ dữ liệu trong nước là thị trường phù hợp cho AI biên riêng tư.

Được Albert Liu thành lập ngày 20/10/2015 tại San Diego, California. Đã gọi hơn 200 triệu USD từ các nhà đầu tư gồm Horizons Ventures, Qualcomm, Sequoia Capital, Alibaba Entrepreneurs Fund, Foxconn, CDIB và Himax. Có hơn 210 nhân sự, trên 80% làm nghiên cứu phát triển. Giải thưởng gồm IEEE Corporate Innovation Award và COMPUTEX Best Choice Award.