Työkalut

Exllamav3-ajomoottoriin on julkaistu versio 1.4.1, joka tuo tuen Mistral-4-mallille

Exllamav3-projektin uusin versio 1.4.1 julkaistiin 8.8.2026 [1]. Päivitys sisältää useita teknisiä muutoksia päättelyyn.

Exllamav3-ajomoottoriin on julkaistu uusi versio 1.4.1 [1]. Päivitys sisältää tuen Mistral-4-mallille, joka on sijoitettu Mistral3ForConditionalGeneration-kategoriaan [1].

Uusi versio tukee myös logit bias -asetuksia [1]. Lisäksi päivityksessä on otettu käyttöön LLGuidance-tuki Formatronin tilalle [1].

Formatron säilyy edelleen käytössä valinnaisena riippuvuutena [1]. Päivitys mahdollistaa myös suodattimien ja kieliopin käytön yhdessä kiellettyjen merkkijonojen kanssa [1].

Kehittäjä turboderp-org on julkaissut tämän version 8.8.2026 [1]. Kyseessä on avoin lähdekoodiprojekti GitHubissa [1].

Päivitys on suunnattu erityisesti paikallisten kielimallien ajamiseen [1]. Se vaikuttaa suoraan niihin, jotka käyttävät Mistral-sarjan malleja [1].

Käyttäjien kannattaa päivittää Exllamav3-ajomoottori versioon 1.4.1, jos tarvitaan uusia kielioppitukia tai Mistral-4-yhteensopivuutta [1].