APMIC PrivStation – nền tảng AI và tác tử triển khai tại chỗ

APMIC là công ty AI doanh nghiệp của Đài Loan, thành lập năm 2017, chuyên về AI tạo sinh riêng tư triển khai tại chỗ cho các tổ chức không thể đưa dữ liệu lên đám mây công cộng. Công ty công bố hơn 1.100 tổ chức sử dụng trong y tế, sản xuất, tài chính, bán lẻ và cơ quan nhà nước.

PrivStation gộp phần cứng và phần mềm thành trạm AI tại chỗ, dựa trên công cụ không mã CaiGunn và bộ máy RAG PrivAI. Doanh nghiệp xây trợ lý đa phòng ban, đa tác tử trả lời từ tài liệu nội bộ kèm trích nguồn đến từng đoạn, dùng RAG đa phương thức cho bảng, hình ảnh và PDF phức tạp. Mô hình có thể là ACE-1 (tối ưu tiếng Trung phồn thể), Llama 3.3 70B, mô hình tinh chỉnh bằng PrivModel hoặc mô hình riêng của khách hàng. Toàn bộ huấn luyện, suy luận và tinh chỉnh diễn ra trên máy chủ của khách hàng hoặc GPU NVIDIA Blackwell.

• Công cụ không mã CaiGunn: tạo và vận hành trợ lý, tác tử AI không cần lập trình.
• Bộ máy RAG PrivAI: truy xuất qua API, kèm trích nguồn và ánh xạ tới từng đoạn văn.
• Tài liệu đa phương thức: xử lý văn bản, bảng, hình ảnh và PDF phức tạp bằng mô hình thị giác – ngôn ngữ tích hợp.
• Quản lý phiên bản tri thức: theo dõi, so sánh, kiểm toán thay đổi và tự sinh bộ câu hỏi thường gặp.
• Lựa chọn mô hình: ACE-1, Llama 3.3 70B, mô hình tinh chỉnh bằng PrivModel hoặc mô hình riêng.
• Tích hợp doanh nghiệp: kết nối ERP, CRM, BI qua API và giao diện không mã, có phân quyền theo vai trò.

Nhà máy điện tử tại Việt Nam có thể trang bị cho kỹ sư trợ lý tại chỗ tra cứu SOP, chẩn đoán lỗi và tài liệu bảo trì. Ngân hàng hoặc công ty bảo hiểm có thể rà soát hợp đồng và hỗ trợ tư vấn mà dữ liệu không rời trung tâm dữ liệu. Sở ngành có thể cung cấp trợ lý hỏi đáp cho người dân về thủ tục nhà ở, đất đai, tương tự Hi Landy của Đài Bắc.

Toàn bộ dữ liệu và xử lý AI nằm trong hạ tầng của khách hàng, có chứng nhận ISO/IEC 27001:2022 và cách ly dữ liệu theo từng dự án. Lắp đặt và cấu hình phần cứng có thể hoàn tất trong 30 ngày. Câu trả lời kèm trích nguồn và tri thức được quản lý phiên bản, thuận lợi cho kiểm toán trong ngành chịu quản lý. Nhà cung cấp công bố máy chủ suy luận B200 phục vụ tới 1.300 người dùng đồng thời.

Ngân hàng, nhà sản xuất và cơ quan công quyền châu Á muốn dùng tác tử AI tạo sinh nhưng vướng quy định lưu trú và bảo mật dữ liệu, khiến khó dùng mô hình trên đám mây công cộng. Mô hình AI riêng dạng thiết bị, tinh chỉnh tại chỗ đang được quan tâm, và quy định bảo vệ dữ liệu cá nhân tại Việt Nam tạo nhu cầu tương tự ở doanh nghiệp trong nước.

APMIC thành lập tại Đài Loan năm 2017 và phát hành thông cáo từ Đài Bắc. Sản phẩm gồm mô hình ACE, CaiGunn, PrivAI, PrivModel và PrivStation. Năm 2025, công ty cùng CyCraft ra mắt XecGuard, mô-đun bảo mật cho mô hình ngôn ngữ lớn. Một dự án nêu tên là trợ lý Hi Landy của Sở Quản lý Đất đai thành phố Đài Bắc.