LangWatch – quan sát và đánh giá tác tử AI

LangWatch B.V. xây dựng nền tảng quan sát và đánh giá tác tử mã nguồn mở, chân trang ghi sản phẩm được xây dựng tại Amsterdam. Công ty giải quyết khó khăn khi kiểm thử và quản trị tác tử LLM, từ tác tử tự xây đến trợ lý lập trình. Blog nêu vòng gọi vốn 1 triệu EUR tháng 2/2025 và việc mở mã nguồn toàn bộ nền tảng vào tháng 5/2026.

Nền tảng kết hợp Simulate (mô phỏng người dùng nhiều lượt dạng văn bản và giọng nói cùng JudgeAgent), Evaluate (LLM-as-a-judge và đánh giá trực tuyến trong sản xuất), Observe (truy vết chuẩn OpenTelemetry kèm theo dõi token và chi phí) và AI Gateway có ngân sách theo đội. Langy, kỹ sư AI tự động, chuyển lỗi kiểm thử thành pull request. Khách hàng được nêu gồm Backbase, PagBank, Visma và Deloitte.

• Simulate: mô phỏng người dùng nhiều lượt dạng văn bản và giọng nói, chấm điểm bởi JudgeAgent.
• Evaluate: LLM-as-a-judge, đánh giá trên notebook và giao diện, và đánh giá trực tuyến trong sản xuất.
• Observe: truy vết chuẩn OpenTelemetry kèm theo dõi token, chi phí và gom nhóm chủ đề.
• Langy: kỹ sư AI chuyển mục tiêu thành kế hoạch kiểm thử và lỗi kiểm thử thành pull request.
• AI Gateway: một điểm truy cập cho lệnh gọi mô hình với ngân sách theo người, đội, khách hàng.
• Quản lý prompt, kiểm thử tác tử giọng nói và theo dõi mức dùng Claude Code.

Ngân hàng Việt Nam có thể mô phỏng hội thoại khách hàng với trợ lý ảo trước khi ra mắt. Đơn vị vận hành trung tâm liên lạc có thể kiểm thử tác tử giọng nói trong CI. Đội kỹ thuật có thể theo dõi mức dùng token Claude Code của từng lập trình viên.

Nền tảng mã nguồn mở theo Apache 2 nên đội ngũ có thể tự vận hành bằng Docker, Kubernetes hoặc trong VPC riêng. Vùng đám mây gồm EU, Mỹ, Anh và APAC. Có chứng nhận ISO 27001 và tuân thủ GDPR với lưu trữ dữ liệu tại EU. Ngân sách theo người, đội hoặc khách hàng giúp kiểm soát chi phí token.

Các đội đang chuyển từ kiểm tra prompt thủ công sang kiểm thử mô phỏng và đánh giá liên tục tác tử, đồng thời bổ sung quản trị cho trợ lý lập trình. Công cụ mã nguồn mở, tự vận hành được và có vùng APAC phù hợp doanh nghiệp Việt Nam muốn kiểm soát dữ liệu.

Pháp nhân LangWatch B.V., xây dựng tại Amsterdam theo chân trang. Vòng gọi vốn 1 triệu EUR tháng 2/2025; mở mã nguồn toàn bộ nền tảng tháng 5/2026; v3.0 tháng 4/2026. Có chứng nhận ISO 27001, giám sát bằng Vanta.