AnythingLLM

AnythingLLM là trợ lý AI riêng tư chạy ngay trên máy tính của người dùng, do Mintplex Labs, Inc. phát triển, có địa chỉ tại Anaheim, California theo điều khoản. Dự án theo giấy phép MIT và mã nguồn mở, có ứng dụng desktop miễn phí và tùy chọn đám mây cho nhóm.

Sản phẩm cung cấp tri thức từ tài liệu (hỏi đáp với tệp tải lên), thu thập và tìm kiếm web, chọn mô hình linh hoạt, tác vụ nền, kỹ năng tác tử tùy biến, trợ lý cuộc họp và API cho nhà phát triển. Có thể tự lưu trữ nhiều người dùng bằng Docker, và trang nêu tích hợp Microsoft Foundry Local, llama.cpp qua AMD Lemonade và tìm kiếm web You.com.

• Tri thức từ tài liệu: trò chuyện với tài liệu tải lên bằng truy xuất cục bộ.
• Thu thập và tìm kiếm web: đưa nội dung web vào không gian làm việc, mặc định dùng tìm kiếm You.com.
• Chọn mô hình linh hoạt: chọn giữa mô hình ngôn ngữ cục bộ và đám mây.
• Kỹ năng tác tử tùy biến: API và công cụ xây dựng cho hành động tùy chỉnh.
• Trợ lý cuộc họp: ghi âm chuyển văn bản và ghi chú, được xây lại ở phiên bản 1.17.0.
• Triển khai nhiều người dùng: bản Docker tự lưu trữ và tùy chọn đám mây cho nhóm.

Công ty luật hoặc tư vấn Việt Nam có thể truy vấn kho hợp đồng ngay trên máy cục bộ. Nhóm kỹ thuật có thể chạy trợ lý dùng chung trên Docker với tài liệu kỹ thuật nội bộ. Một phòng ban có thể ghi và tóm tắt cuộc họp mà không gửi âm thanh ra dịch vụ bên ngoài.

Tài liệu và cuộc trò chuyện ở lại trên máy người dùng, phù hợp nhóm nhạy cảm về bảo mật. Ứng dụng desktop miễn phí, không cần tài khoản, khóa API hay giới hạn token. Giấy phép MIT cho phép tự lưu trữ và tùy biến. Hỗ trợ mô hình cục bộ và đám mây giúp không phụ thuộc một nhà cung cấp.

Nhu cầu tăng với trợ lý AI chạy trên thiết bị và tự lưu trữ, giữ tài liệu mật ngoài đám mây bên thứ ba. Doanh nghiệp Việt Nam trong tài chính, pháp lý và tư vấn hạn chế chia sẻ dữ liệu có thể thử nghiệm các công cụ này trên phần cứng cục bộ.

Mintplex Labs, Inc., Anaheim, California (theo điều khoản). Mã nguồn mở giấy phép MIT; tuyển dụng đăng trên trang việc làm của Y Combinator. Trang đã truy cập không nêu năm thành lập.