Openlayer – Nền tảng đánh giá, giám sát và quản trị AI

Openlayer, tên thương mại của Unbox Inc. (Delaware), được thành lập năm 2021 bởi các cựu kỹ sư Apple từng xây dựng mô hình cho Siri và Vision Pro: CEO Gabriel Bayomi, CPO Vikas Nair và CTO Rishab Ramanathan. Được Y Combinator và Race Capital hậu thuẫn, công ty cung cấp cho các đội AI một hệ thống chung để kiểm thử, giám sát và quản trị mô hình thay vì tự xây hạ tầng.

Nền tảng gồm bảy lớp. Discovery lập danh mục AI toàn tổ chức và phát hiện AI tự phát; Registration lưu sổ đăng ký tập trung với biểu mẫu tiếp nhận, quản lý phiên bản và phân tầng rủi ro; Testing có hơn 175 phép đánh giá dựng sẵn, kiểm thử hồi quy và CI/CD cùng phân tích nguyên nhân gốc; Observability truy vết prompt, phản hồi và lệnh gọi công cụ với đánh giá trực tuyến liên tục; Security and Guardrails che dữ liệu cá nhân và chống chèn prompt, bẻ khoá; Compliance ánh xạ kiểm soát theo Đạo luật AI của EU, NIST AI RMF và ISO 42001; Cost Controls giới hạn chi phí token. Cổng gateway thực thi chính sách tức thời. Khách hàng gồm eBay, Sun Life, Telefonica, KPN và Amdocs.

• Phát hiện và đăng ký AI: danh mục toàn tổ chức, phát hiện AI tự phát, biểu mẫu tiếp nhận và phân tầng rủi ro.
• Kiểm thử: hơn 175 phép đánh giá dựng sẵn, chỉ số tuỳ biến và kiểm thử hồi quy CI/CD.
• Giám sát: truy vết prompt, phản hồi và lệnh gọi công cụ với đánh giá liên tục.
• Rào chắn: che dữ liệu cá nhân, chống chèn prompt và bẻ khoá qua cổng chính sách.
• Tuân thủ: ánh xạ theo Đạo luật AI của EU, NIST AI RMF và ISO 42001 kèm bằng chứng kiểm toán.
• Kiểm soát chi phí: theo dõi chi phí token và giới hạn ngân sách theo khoá API hoặc nhóm.

Nhà mạng tại Việt Nam có thể truy vết và đánh giá tác tử chăm sóc khách hàng, phát hiện suy giảm sau mỗi lần cập nhật mô hình. Công ty bảo hiểm và ngân hàng có thể đăng ký mô hình AI, phân tầng rủi ro và lưu bằng chứng tuân thủ. Công ty phần mềm có thể bổ sung kiểm thử chất lượng AI vào quy trình CI/CD cho sản phẩm bán ra nước ngoài.

Đội kỹ thuật chặn bản phát hành AI không an toàn ngay trong CI giống như chặn unit test lỗi. Một nền tảng thay thế nhiều công cụ rời cho đánh giá, truy vết, rào chắn và bằng chứng tuân thủ. Bộ phận tuân thủ có ánh xạ kiểm soát và bằng chứng sẵn sàng cho kiểm toán, theo công ty giúp giảm 90% công sức chuẩn bị kiểm toán. Gói Basic miễn phí cho phép nhóm nhỏ bắt đầu mà không cần thủ tục mua sắm.

Doanh nghiệp đang gom việc đánh giá, giám sát và quản trị AI vào một nền tảng khi AI tạo sinh và tác tử đi vào vận hành thực tế. Nhà mạng, ngân hàng và công ty bảo hiểm tại Việt Nam khi mở rộng các tình huống sử dụng AI cũng cần cổng kiểm soát chất lượng kiểu CI và nhật ký kiểm toán như doanh nghiệp quốc tế đang áp dụng.

Thành lập năm 2021 bởi các cựu kỹ sư học máy của Siri và Vision Pro tại Apple; tên ban đầu là Unbox. Pháp nhân là Unbox Inc., công ty đăng ký tại Delaware, điều khoản áp dụng luật bang California. Được Y Combinator, Race Capital và các nhà đầu tư thiên thần từ Vercel, Instacart, Instagram hậu thuẫn. Tuân thủ SOC 2 Type II và GDPR. Có bộ phận bán hàng riêng cho khu vực Mỹ Latinh.