Työkalut · Ajomoottori-päivitys

llama.cpp b10355 tuo tukea useille rinnakkaisille tulosteille ja parannuksia näytönohjaimen käyttöön

llama.cpp-ajomoottori on julkaissut version b10355, joka sisältää tukea useille tulosteille (multi-output backend sampling) [1]. Päivitys tuo mukanaan myös uusia korjauksia muistinhallintaan ja testitilanteisiin [1].

llama.cpp-ajomoottori on julkaissut version b10355, joka tuo mukanaan tukea useille rinnakkaisille tulosteille (multi-output backend sampling) [1]. Päivityksessä on lisätty numeerinen kontekstiparametri, joka määrittää yhden sekvenssin enimmäistulosteiden määrän [1].

Uusi versio sisältää myös korjauksia, joilla estetään muistin uudelleenkäyttö tulosteiden näkymissä [1]. Lisäksi päivityksessä on korjattu CPU:n ja taustajärjestelmän näyteprosessoinnin välisiä epäjohdonmukaisuuksia [1].

Päivitys on julkaistu 10.8.2026 [1]. Se sisältää useita korjauksia Vulkan-testien ja muiden testitapausten toimivuuteen [1].

Laitteistotuki kattaa laajan valikoiman alustoja, kuten Windowsin CUDA 12.4, 13, 13.3 ja 13.4 -versioilla [1]. Lisäksi tuki on olemassa Ubuntu-pohjaisille järjestelmille sekä macOS-laitteille [1].

Päivityksessä on tehty muutoksia myös Android- ja iOS-alustoille [1]. Windows-käyttäjille on tarjolla useita eri CUDA-versioita sekä Vulkan- ja OpenCL-tuki [1].

Käyttäjien kannattaa päivittää llama.cpp-ajomoottori, jos tarvitaan tarkempaa kontrollia tulosteiden määrään tai halutaan korjata näytönohjaimen ja prosessorin välisiä eroavaisuuksia [1].