Giskard Hub – Kiểm thử và red teaming tác tử AI

Giskard là công ty Pháp về chất lượng và an ninh AI, do hai đồng CEO Alex Combessie và Jean-Marie John-Mathews sáng lập, được các nhà đầu tư như Elaia hậu thuẫn và nhận hỗ trợ từ chương trình EIC Accelerator của Uỷ ban châu Âu và Bpifrance. Công ty giúp tổ chức phát hiện lỗi bảo mật và chất lượng trong chatbot LLM và tác tử AI trước và sau khi đưa tới khách hàng.

Giskard Hub kiểm thử liên tục mọi tác tử xử lý văn bản, từ chatbot RAG tới quy trình dạng tác tử, theo phương thức hộp đen qua điểm cuối API. Hệ thống sinh kịch bản kiểm thử theo rủi ro từ kho tri thức của khách hàng và nguồn bảo mật bên ngoài, phát hiện tấn công chèn prompt, lộ dữ liệu, xu nịnh, ảo giác, mâu thuẫn và từ chối sai, có sân red teaming cộng tác và công cụ gán nhãn cho người không lập trình. Agentic Red Teamer tự động kiểm định tác tử, rào chắn thời gian chạy bổ sung lớp bảo vệ, và mỗi đợt kiểm định kết thúc bằng báo cáo triển khai hay sửa lỗi. Ngoài ra có thư viện mã nguồn mở. Người dùng gồm BNP Paribas, BPCE, Michelin và Decathlon.

• Kiểm thử liên tục: kiểm thử tác tử AI trước và sau triển khai qua điểm cuối API.
• Quét bảo mật: phát hiện chèn prompt, lộ dữ liệu, xu nịnh và nội dung độc hại.
• Kiểm tra chất lượng: tìm ảo giác, mâu thuẫn, thiếu sót và từ chối sai.
• Sinh kịch bản kiểm thử: tạo tình huống theo rủi ro từ kho tri thức của khách hàng.
• Agentic Red Teamer: tác tử tự động kiểm định các tác tử AI khác.
• Cộng tác và rào chắn: sân red teaming, công cụ gán nhãn và bảo vệ thời gian chạy.

Ngân hàng tại Việt Nam có thể red teaming chatbot khách hàng để tìm lỗ hổng chèn prompt và rò rỉ dữ liệu trước khi ra mắt. Công ty bảo hiểm và nhà mạng có thể chạy kiểm thử hồi quy liên tục cho tác tử AI sau mỗi lần cập nhật mô hình. Cơ quan công quyền có thể kiểm định trợ lý phục vụ người dân ngay tại chỗ.

Đội ngũ phát hiện được tấn công chèn prompt, rò rỉ dữ liệu và ảo giác trước khi khách hàng hoặc kẻ tấn công tìm ra. Kiểm thử hộp đen chỉ cần một điểm cuối API nên áp dụng được với mọi mô hình và nhà cung cấp. Chuyên gia nghiệp vụ có thể tham gia red teaming và gán nhãn mà không cần lập trình. Báo cáo kiểm định có kết luận triển khai hay không cùng dịch vụ hỗ trợ khắc phục cung cấp bằng chứng cho bộ phận rủi ro và tuân thủ khi quyết định phát hành.

Các quy định về AI như Đạo luật AI của EU và số sự cố ngày càng tăng với chatbot phục vụ khách hàng đang buộc doanh nghiệp kiểm thử hệ thống LLM về độ an toàn và chính xác. Ngân hàng và công ty bảo hiểm tại Đông Nam Á triển khai trợ lý AI tạo sinh cũng chịu sự giám sát tương tự từ cơ quan quản lý và cần kiểm thử độc lập trước khi ra mắt.

Công ty châu Âu, được ghi là của Pháp trên website, do Alex Combessie và Jean-Marie John-Mathews đồng điều hành. Nhận hỗ trợ từ EIC Accelerator của EU và Bpifrance; nhà đầu tư gồm Elaia và CTO Hugging Face Julien Chaumond. Tuân thủ SOC 2 Type II, HIPAA và GDPR, cho chọn lưu trữ dữ liệu tại EU hoặc Mỹ, có tuỳ chọn cài đặt tại chỗ. Đối tác gồm Hugging Face, NVIDIA Inception, Databricks, Mistral AI, Accenture và KPMG.