La communauté optimise les petits modèles et étend le support matériel local
AI community optimizes small models and expands local hardware support
La communauté open-source a progressé dans la quantification des modèles et l'exécution sur matériel local. Des projets comme Bonsai 2 27B ont atteint des vitesses de décodage élevées avec de faibles besoins en mémoire.
4 comptes indépendants
18 messages
3 labos
10 372 interactions
llamallama.cppquantizationunslothgemma