Gray Swan Shade và Cygnal – Kiểm thử đối kháng và bảo vệ AI khi vận hành

Gray Swan Security Inc. do các nhà nghiên cứu an toàn và bảo mật AI của Đại học Carnegie Mellon sáng lập, dẫn dắt bởi đồng sáng lập kiêm CEO Matt Fredrikson và đồng sáng lập kiêm Giám đốc khoa học Zico Kolter. Công ty cung cấp kiểm thử đối kháng và thực thi chính sách khi vận hành cho mô hình và tác tử AI, dùng kỹ thuật mà các phòng thí nghiệm mô hình AI tiên tiến áp dụng khi đánh giá an toàn trước phát hành, và cho biết có hơn 20 khách hàng.

Shade chạy đánh giá hành vi tự động, trong đó các tác tử đối kháng dựa trên LLM tấn công mô hình, tác tử và rào chắn trong chính bối cảnh triển khai của khách hàng. Cygnal phân loại và chặn đầu vào đối kháng cùng đầu ra không an toàn của tác tử khi vận hành, kèm giám sát liên tục. Arena, mạng thi đấu red teaming với hơn 15.000 nhà nghiên cứu và hơn ba triệu lượt tấn công, cung cấp kỹ thuật tấn công mới cho cả hai sản phẩm. Gray Swan còn đánh giá đối kháng trước phát hành cho đơn vị xây dựng mô hình và cung cấp dịch vụ red teaming chuyên gia.

• Shade: đánh giá đối kháng tự động bằng tác tử tấn công dựa trên LLM trong bối cảnh triển khai của khách hàng.
• Cygnal: phân loại và chặn đầu vào đối kháng và đầu ra không an toàn của tác tử khi vận hành.
• Arena: mạng thi đấu red teaming với hơn 15.000 nhà nghiên cứu cung cấp kiểu tấn công mới.
• Đánh giá đối kháng: bộ đánh giá trước phát hành và red teaming riêng cho đơn vị xây dựng mô hình.
• Bao phủ tác tử và MCP: kiểm thử và giám sát luồng tác tử kết nối công cụ.
• Kho nghiên cứu: hơn 150 công cụ và bộ dữ liệu cho nghiên cứu bảo mật AI.

Doanh nghiệp Việt Nam tự phát triển mô hình ngôn ngữ có thể đặt hàng đánh giá đối kháng trước khi phát hành. Ngân hàng và công ty fintech triển khai tác tử chăm sóc khách hàng có thể chạy đánh giá Shade và bổ sung lớp chặn Cygnal khi vận hành. Doanh nghiệp phần mềm làm sản phẩm tác tử để xuất khẩu có thể dùng kết quả kiểm thử làm bằng chứng bảo mật cho khách hàng nước ngoài.

Doanh nghiệp kiểm thử tác tử của mình bằng chính các phương pháp tấn công dùng để đánh giá mô hình AI lớn trước khi phát hành. Các kiểu tấn công do cộng đồng hơn 15.000 người red team phát hiện giúp phạm vi kiểm thử luôn cập nhật khi xuất hiện kỹ thuật bẻ khoá mới. Cygnal bổ sung khả năng chặn khi vận hành qua tích hợp API đơn giản bằng Python, JavaScript hoặc cURL. Kết quả cung cấp bằng chứng cho đội bảo mật và tuân thủ về các luồng tác tử kết nối MCP và công cụ.

Các phòng thí nghiệm AI lớn và cơ quan quản lý nay coi đánh giá đối kháng độc lập là bước tiêu chuẩn trước phát hành, và doanh nghiệp triển khai tác tử đang áp dụng cách làm tương tự. Red teaming dựa trên cộng đồng đang nổi lên như cách theo kịp các kỹ thuật tấn công mới, phù hợp với doanh nghiệp Đông Nam Á xây ứng dụng trên mô hình nền tảng toàn cầu.

Gray Swan là công ty tách ra từ Đại học Carnegie Mellon. Tháng 6/2026 công ty gọi vốn Series A 40 triệu USD do Wing Venture Capital và Madrona đồng dẫn dắt, cùng Obvious Ventures, Snowflake Ventures, Hudson River Trading, Samsung Next và Magarac Venture Partners; Snowflake là đối tác chiến lược. Website hiển thị huy hiệu Cyber Essentials, SOC 2 và có trung tâm tin cậy.