vLLM et SGLang ajoutent un support immédiat pour les nouveaux modèles Xiaomi et GLM
vLLM and SGLang add day-zero support for new Xiaomi and GLM models
vLLM a mis en place un support de premier jour pour la gamme Xiaomi MiMo-V2.6, comprenant une version Pro de 1,020 milliard de paramètres au total et une variante Flash de 309 milliards. Par ailleurs, des configurations désagrégées ont atteint un débit de décodage élevé.
3 comptes indépendants
21 messages
2 labos
7 112 interactions
vllmsglang