Mallit
Uudet GGUF-mallit Nanbeige ja Qwen3.6 ovat saatavilla paikalliseen käyttöön
Yön aikana julkaistiin Nanbeige4.2-3B-GGUF ja Qwen3.6-27B-i1-IQ4_KS_KT-GGUF -mallit [1, 3]. Molemmat on lisensoitu Apache-2.0-lisenssillä [1, 3].
Nanbeige4.2-3B-GGUF on julkaistu 8.8.2026 [1]. Malli on 3B-parametrin kokoluokkaa ja se on saatavilla GGUF-muodossa [1].
Qwen3.6-27B-i1-IQ4_KS_KT-GGUF on myös julkaistu 8.8.2026 [3]. Tässä mallissa on 27B parametria ja se on kvantisoitu 4-bitin IQ4_KS-menetelmällä [3].
Veyra2-Apricot-50M-Base on pieni 50M-parametrin malli, joka on julkaistu 8.8.2026 [2]. Se on tyypiltään causal-lm ja perustuu transformers-kirjastoon [2].
Nanbeige-malli on imatrix-menetelmällä kvantisoitu ja se on yhteensopiva eri päättelyympäristöjen kanssa [1].
Qwen3.6-27B-malli on tarkoitettu keskusteluun ja se on optimoitu NVIDIA-laitteistolle [3].
Suosittelemme testaamaan Nanbeige-mallia kevyemmillä laitteilla sen 3B-parametrin koon vuoksi [1].