
1. Tổng quan công nghệ
Respan, trước đây là Keywords AI, là bộ định tuyến AI tích hợp quan sát và đánh giá tự động cho các agent AI. Pháp nhân là Keywords AI Inc., đăng ký tại California theo Điều khoản sử dụng; trang About cho biết nhóm tham gia Y Combinator Winter 2024 và có 10 thành viên.
Gateway định tuyến lời gọi tới hơn 1.000 mô hình qua một API, kèm dự phòng, bộ nhớ đệm, ngân sách và giới hạn tốc độ. Phía trên là tracing ghi từng lời gọi LLM, lần chạy công cụ và truy xuất thành span, còn phần eval chấm điểm đầu ra bằng LLM judge, kiểm tra mã hoặc người duyệt. Khách hàng nêu tên gồm AlphaSense, Retell AI, Gumloop và Lovable.
2. Tính năng và thông số nổi bật
- Gateway: một endpoint cho hơn 1.000 mô hình kèm dự phòng, bộ nhớ đệm, ngân sách và giới hạn tốc độ.
- Tracing: span cho từng lời gọi LLM, lần chạy công cụ và truy xuất, kèm chi phí và độ trễ.
- Eval: LLM judge, kiểm tra mã hoặc người duyệt trên bộ test lấy từ lưu lượng thực.
- Giám sát: bảng điều khiển yêu cầu, lỗi, chi phí và token, cảnh báo qua Slack, email và webhook.
- Guardrail: guardrail được cung cấp miễn phí cùng gateway Respan.
- Gateway mã nguồn mở: gateway tự lưu trữ, được tài liệu ghi là giai đoạn pre-alpha.
3. Ứng dụng tiềm năng
Nhà cung cấp phần mềm chăm sóc khách hàng Việt Nam có thể truy vết từng bước của agent và chấm điểm câu trả lời bằng LLM judge. Công ty fintech có thể định tuyến yêu cầu tới mô hình rẻ nhất vẫn đạt kiểm tra chất lượng. Startup AI giọng nói có thể cảnh báo khi lỗi tăng đột biến qua Slack.
4. Lợi ích
Một gateway và một lớp quan sát thay cho các công cụ định tuyến và tracing riêng lẻ. Dự phòng và bộ nhớ đệm giúp tăng thời gian hoạt động và giảm chi phí. Eval xây từ lưu lượng thực giúp phát hiện suy giảm của agent. Trang liệt kê ISO 27001, SOC 2, GDPR và HIPAA, có BAA khi cần.
5. Xu hướng và cơ hội thị trường
Agent AI vận hành thực tế tạo ra lưu lượng nhiều bước, nhiều mô hình cần định tuyến, tracing và đánh giá ở một nơi. Các đội đang gộp công cụ gateway và quan sát để giảm chi phí và độ phức tạp. Startup Việt Nam và ASEAN xây sản phẩm agent có thể áp dụng cùng mô hình với tùy chọn dịch vụ đám mây.
6. Thông tin khác
Trước đây là Keywords AI; chân trang ghi Keywords AI Inc. Đăng ký tại California (địa chỉ Alameda trong Điều khoản sử dụng). Nhà đầu tư nêu ở trang About gồm Y Combinator, Gradient và Hat-Trick Capital. Launch Week diễn ra 2026-04-20 đến 2026-04-24.
Một nền tảng kết nối startup, doanh nghiệp, viện nghiên cứu, địa phương và nhà đầu tư











Cẩm nang · 6/2/2026
Winning Accelerator Playbook 2026 by BambuUP
EDTECH: KHAI THÁC CÔNG NGHỆ TÍCH HỢP AI NHẰM ĐỔI MỚI TRẢI NGHIỆM HỌC TẬP








































