Orq.ai – cổng AI và quan sát hệ thống AI

Orq.ai là nền tảng AI doanh nghiệp của châu Âu do Orq.AI Holding B.V. vận hành, chính sách quyền riêng tư nêu trụ sở đặt tại Hà Lan. Công ty giải quyết việc thiếu kiểm soát tập trung về cách các đội dùng LLM, công cụ và máy chủ MCP trong tổ chức.

AI Gateway quản trị lưu lượng LLM và MCP bằng thực thi chính sách, bảo vệ dữ liệu, định tuyến qua hơn 30 nhà cung cấp và theo dõi hiệu năng. Cùng một control plane gồm AI Observability, AI Evaluation, Prompt Management, Knowledge Base, Managed Agents và Software Factory (truy cập sớm) nơi tác tử lập kế hoạch, xây dựng và kiểm thử phần mềm. Trang chủ nêu bunq, Brand New Day và Caro Health.

• AI Gateway: quản trị lưu lượng LLM và MCP bằng thực thi chính sách và bảo vệ dữ liệu.
• Định tuyến mô hình: hơn 30 nhà cung cấp và 500 mô hình, không phụ thuộc cứng một nhà cung cấp.
• AI Observability: theo dõi hiệu năng và chi phí trên các ứng dụng.
• AI Evaluation và Experiments: kiểm thử prompt và mô hình trước khi phát hành.
• MCP Gateway: bảo mật truy cập vào các công cụ MCP.
• Software Factory: tác tử lập kế hoạch, xây dựng và kiểm thử phần mềm, con người phê duyệt quyết định quan trọng.

Ngân hàng Việt Nam có thể định tuyến mọi yêu cầu LLM của nhân viên qua một gateway có che PII và nhật ký kiểm toán. Fintech có thể so sánh các mô hình trên bộ đánh giá trước khi chọn nhà cung cấp. Đội CNTT có thể theo dõi chi phí theo từng ứng dụng.

Một control plane áp dụng chính sách, kiểm soát truy cập, định tuyến, đánh giá, quan sát, kiểm soát chi phí và nhật ký kiểm toán trên các mô hình và công cụ. Định tuyến tránh phụ thuộc một nhà cung cấp mô hình. Có chứng thực SOC 2 Type 2, hỗ trợ GDPR và HIPAA, ISO 27001 đang triển khai. Bảo vệ PII được tích hợp trong gateway.

Doanh nghiệp bổ sung AI gateway để kiểm soát sự tràn lan mô hình, chi phí và rủi ro lộ dữ liệu khi các đội dùng nhiều LLM và công cụ MCP. Kỳ vọng bảo vệ dữ liệu của châu Âu tương tự nhu cầu tuân thủ của ngân hàng và fintech Việt Nam đang áp dụng AI tạo sinh.

Pháp nhân Orq.AI Holding B.V. (số đăng ký thương mại 88882179, Herengracht 420, Hà Lan). Có chứng thực SOC 2 Type 2, ISO 27001 đang triển khai. Trust center tại trust.orq.ai.