CONSONANCE.for your information
Thứ Hai, 5 tháng 10, 2026frenvi

Đang được bàn

01 — inference 3 TIẾNG NÓI

vLLM và SGLang bổ sung hỗ trợ ngày đầu cho các mô hình Xiaomi MiMo và GLM-5.3

vLLM and SGLang add day-zero support for new Xiaomi and GLM models

vLLM triển khai hỗ trợ ngày đầu cho dòng mô hình Xiaomi MiMo-V2.6 gồm bản Pro với 1,02 nghìn tỷ tổng tham số và bản Flash với 309 tỷ tham số. Đồng thời, hệ thống đạt tốc độ giải mã 469 token/giây trên phần cứng AMD bằng thiết lập phân rã.

3 tài khoản độc lập 21 bài 2 lab 7.112 tương tác
vllmsglang
@AravSrinivas các chủ đề trên X ↗
@teortaxesTex các chủ đề trên X ↗
@vllm_project các chủ đề trên X ↗
@PyTorch các chủ đề trên X ↗
@SemiAnalysis_ các chủ đề trên X ↗
@XiaomiMiMo các chủ đề trên X ↗
@aiDotEngineer các chủ đề trên X ↗
@googlegemma các chủ đề trên X ↗
↑