Advai Platform – Kiểm thử đối kháng và giám sát AI

Advai Ltd là công ty bảo đảm AI tại London, đồng sáng lập bởi CEO David Sully, CTO Chris Jefferson và nhà khoa học nghiên cứu trưởng Damian Ruck. Được tài trợ từ năm 2020 qua các dự án của Cơ quan Tăng tốc Quốc phòng và An ninh Anh (DASA) và hợp tác với Dstl về tấn công đối kháng vào thị giác máy tính, công ty xây dựng một trong những năng lực bảo đảm AI chuyên biệt đầu tiên của Anh.

Advai Platform có hai mô-đun. Mô-đun Kiểm thử gồm Model Arena so sánh mô hình, nhà cung cấp và cấu hình theo chính sách, độ trễ và chi phí của bên mua; Insights với kế hoạch kiểm thử gắn yêu cầu quản trị, tuân thủ và ngưỡng có phiên bản; cùng red teaming lặp lại được, kết thúc bằng ngưỡng cho phép vận hành và hồ sơ bằng chứng. Mô-đun Giám sát theo dõi nhật ký của nhiều hệ thống AI để phát hiện trôi dạt, suy giảm, vi phạm chính sách, mối đe doạ bảo mật, rò rỉ dữ liệu, chi phí và việc dùng công cụ. Nền tảng bao phủ tác tử, LLM, thị giác máy tính, chuỗi thời gian và hệ đa phương thức.

• Model Arena: so sánh mô hình, nhà cung cấp và cấu hình theo chính sách, độ trễ và chi phí.
• Insights: kế hoạch kiểm thử gắn với quản trị, kết quả truy vết được và ngưỡng có phiên bản.
• Red teaming: kiểm thử đối kháng lặp lại được cho tác tử, LLM và thị giác máy tính.
• Hồ sơ bằng chứng: ngưỡng cho phép vận hành và hồ sơ sẵn sàng kiểm toán để phê duyệt triển khai.
• Monitor: phân tích nhật ký nhiều hệ thống AI, cảnh báo trôi dạt, suy giảm, bảo mật và rò rỉ dữ liệu.
• Hỗ trợ khởi tạo: đánh giá rủi ro tình huống sử dụng, đặt ngưỡng và cấu hình kiểm thử ban đầu.

Công ty bảo hiểm và ngân hàng Việt Nam có thể so sánh các nhà cung cấp LLM về chi phí, độ trễ và an toàn trước khi mua sắm và lưu hồ sơ bằng chứng cho cơ quan quản lý. Cơ quan công quyền có thể red team hệ thống thị giác máy tính dùng trong giám sát hoặc điều tiết giao thông. Doanh nghiệp vận hành nhiều trợ lý AI có thể giám sát tập trung để phát hiện rò rỉ dữ liệu.

Bộ phận mua sắm và rủi ro chọn mô hình dựa trên bằng chứng đo lường thay vì tài liệu tiếp thị của nhà cung cấp. Mỗi hệ thống triển khai có ngưỡng cho phép vận hành rõ ràng và hồ sơ bằng chứng để phê duyệt. Giám sát liên tục cảnh báo sớm về trôi dạt, rò rỉ dữ liệu và vi phạm chính sách sau khi ra mắt. Advai cho biết đạt chứng nhận ISO 27001 và Cyber Essentials Plus, giúp việc thẩm định nhà cung cấp thuận lợi hơn.

Chính phủ và các ngành chịu quản lý chặt đang chuyển từ nguyên tắc AI sang kiểm thử độc lập trước khi triển khai, và cơ quan quốc phòng, công quyền ngày càng yêu cầu bảo đảm AI mang tính chủ quyền cho hệ thống họ mua. Doanh nghiệp tài chính và bảo hiểm tại Đông Nam Á cũng chịu kỳ vọng giám sát tương tự khi triển khai AI tạo sinh và tác tử.

Advai Ltd có địa chỉ đăng ký tại 20-22 Wenlock Road, London. DASA tài trợ Advai từ năm 2020 và công ty đã hợp tác với Dstl về miếng dán đối kháng vật lý; Advai đóng góp vào khung bảo mật AI của Viện Turing và trình diễn công nghệ cho Bộ trưởng Quốc phòng và Bộ trưởng Tài chính Anh vào tháng 3/2025. Công ty cho biết đạt chứng nhận ISO 27001 và Cyber Essentials Plus.