Koodi · VLLM-päivitys

vLLM-kirjasto v0.27.1 julkaistu ja se tuo tukea kvantisoiduille DSpark Markov -päille

vLLM-projektin uusin versio 0.27.1 on julkaistu 11. elokuuta 2026 [1]. Tämä on korjauspäivitys edelliseen versioon 0.27.0 verrattuna [2].

vLLM-kirjasto on julkaissut version 0.27.1, joka on tarkoitettu suurten kielimallien päättelyyn ja palveluun [1]. Uusi versio on korjauspäivitys, joka perustuu versioon 0.27.0 [2].

Päivityksen keskeinen uutuus on tuki kvantisoiduille DSpark Markov -päille [2]. Tämä parantaa kirjaston toiminnallisuutta päättelyprosessissa [2].

vLLM on kehitetty alun perin UC Berkeleyn Sky Computing Labissa [1]. Projektia ylläpitää laaja avoimen lähdekoodin yhteisö, johon kuuluu kymmeniä akateemisia instituutioita ja yrityksiä [1].

Kirjastoon on kertynyt yhteensä yli 2000 kehittäjää [1]. Se on suunniteltu tarjoamaan nopeaa ja kustannustehokasta päättelyä suurille kielimalleille [1].

Kirjasto on tällä hetkellä erittäin aktiivinen, ja sillä on yli 88 800 tähtiä GitHubissa [2]. Projektin kehitystyö on jatkuvaa ja se kattaa laajan kirjon käyttäjiä [1].

Lukijan kannattaa päivittää vLLM-kirjasto versioon 0.27.1, jos tarvitaan tukea DSpark Markov -päille [2]. Päivitys on suositeltava vakauden ja uusien ominaisuuksien vuoksi [2].