Privatemode AI và Contrast (AI bảo mật)

Edgeless Systems là công ty an ninh mạng của Đức, các đồng sáng lập gặp nhau tại Đại học Ruhr Bochum, cung cấp phần mềm điện toán bảo mật mã nguồn mở. Công ty giữ dữ liệu được mã hoá khi chạy bằng môi trường thực thi tin cậy và chứng thực từ xa.

Privatemode AI là dịch vụ suy luận AI bảo mật ra mắt tháng 2/2025 và mở rộng tháng 3/2026 với NVIDIA Confidential Computing trên GPU Blackwell. Contrast chạy container bảo mật trên Kubernetes, còn MarbleRun quản lý enclave Intel SGX. Khách hàng nêu trên trang gồm Bosch, Capgemini và STACKIT, và công ty nhắc tới việc bảo vệ hệ thống hồ sơ sức khoẻ điện tử của Đức.

• Privatemode AI: suy luận LLM bảo mật với ứng dụng chat và API tương thích OpenAI.
• Mô hình đa GPU: chạy mô hình lớn trên nhiều GPU gồm Kimi K2.5.
• Contrast: container bảo mật trên Kubernetes dùng SEV-SNP và TDX.
• MarbleRun: quản lý enclave Intel SGX.
• Mật mã kháng lượng tử: chống tấn công thu thập nay giải mã sau.
• Trang tuân thủ: tài liệu cho DORA, GDPR và NIS2.

• Ngân hàng Việt Nam dùng trợ lý lập trình hoặc xử lý tài liệu bảo mật trên dữ liệu nội bộ.
• Nhà cung cấp phần mềm bệnh viện bổ sung chức năng ghi chép bảo mật cho bác sĩ.
• Dự án thí điểm AI tác nhân của cơ quan nhà nước trên hồ sơ nhạy cảm trong hạ tầng nội địa.

• Lời nhắc và dữ liệu luôn được mã hoá trong lúc suy luận AI, kể cả với nhà cung cấp hạ tầng.
• Chứng thực từ xa cung cấp bằng chứng mật mã về tính bảo mật.
• Mã nguồn mở hỗ trợ kiểm toán và tránh bị khoá nhà cung cấp.
• Có dạng dịch vụ quản lý hoặc triển khai vào hạ tầng AI sẵn có.

Chính phủ và các ngành có quản lý muốn dùng AI tạo sinh mà không để lộ lời nhắc và tài liệu cho nhà vận hành đám mây, thúc đẩy quan tâm tới suy luận AI bảo mật. Ngân hàng, bệnh viện và cơ quan nhà nước Việt Nam đang cân nhắc dùng LLM trong nước cũng có lo ngại tương tự về chủ quyền dữ liệu.

Công ty Đức theo trang About; tổ chức hội nghị điện toán bảo mật OC3 từ 2021; gọi vốn 5 triệu EUR (thông cáo có trên website); ra mắt Privatemode AI tháng 2/2025; ngừng Constellation tháng 10/2025 để tập trung vào Contrast và Privatemode; không nêu năm thành lập.