Hệ thống phục vụ suy luận LLM nhận thức tiền tố và tài nguyên trên NVIDIA Tesla T4.
Trỏ tới server lfm-serving đang chạy (mặc định cổng 8000). Nếu trình duyệt báo lỗi CORS, thêm CORS_ALLOW_ORIGINS ở server.
CORS_ALLOW_ORIGINS
Áp dụng riêng cho hội thoại đang mở.