Paikallisen tekoälyn päivälehti — avoimen painon mallit, työkalut ja rauta
DeepSeek-V4-Flash-GGUF on päivän merkittävin uutinen, sillä 284 miljardin parametrin MIT-lisenssillä varustettu malli tuo massiivisen suorituskyvyn avoimesti saataville. Sen julkaisu bati.cpp-kirjastolla muuttaa laskentatehon saatavuutta. Samalla Samsungin 1,4 nanometrin valmistuksen siirtyminen vuoteen 2029 asti muistuttaa puolijohdetekniikan realiteeteista.
Yön aikana on tapahtunut useita päivityksiä työkaluun ja kirjastoihin: vLLM-kirjasto on julkaissut version 0.27.1, Ollama tuo tuen Qwen 3.8 27B -mallille ja Llama.cpp-ajomoottoriin on lisätty SSM-skannauksen rollback-tuki. Lisäksi Unsloth, PEFT ja AutoGPTQ ovat päivittäneet versioitaan, ja AutoAWQ on siirtymässä vLLM-projektin ylläpitoon.
Haku tuotti 426 tuoretta osumaa, mutta kaikki ei päätynyt tähän numeroon. Mini-PC-aiheinen palsta jäi pois, koska kaksi konetta, joiden lepomelu on julkaistu, eivät täyttäneet kriteerejä. Myöskään suljetut aineistot eivät tuottaneet kynnyksen ylittävää sisältöä.
Mallit
DeepSeek-V4-Flash-GGUF-malli on julkaistu 15.8.2026. Malli on 284 miljardin parametrin kokoinen ja se on julkaistu bati.cpp-kirjastolla [1].
Vinkit · Promptivinkki
Koa-AI-v1-Code-3B on julkaistu 15.8.2026 ja se on kooltaan 844 latauksen suosima malli [4]. Pienet mallit tarvitsevat selkeää kontekstia toimiakseen luotettavasti.
Koodi · Python-kirjasto
vLLM-kirjaston versio 0.27.1 on julkaistu 11.8.2026. Se on suunniteltu tarjoamaan nopea ja edullinen päättelyympäristö suurille kielimalleille [1].
Työkalut · Llama.cpp päivitys
Llama.cpp-projektiin julkaistiin 14.8.2026 versio b10431 [1]. Päivitys sisältää muutoksia, jotka liittyvät recurrent state rollback -toimintoon.
Laitteisto
Samsungin tavoite tuottaa 1,4 nanometrin siruja on siirtynyt kahdella vuodella. High-NA EUV -litografia vaatii vielä teknisiä parannuksia [1].
Työkalut · Ollama-päivitys
Ollama julkaisi version v0.32.12 14.8.2026. Päivitys sisältää tuen Qwen 3.8 27B -mallille [1].
Työkalut · Unsloth-päivitys
Unsloth-projektin uusin versio on v0.1.71-beta [1]. Päivitys on julkaistu 14. elokuuta 2026 [1].
Koodi · Python-kirjasto
PEFT-kirjaston versio 0.20.0 on julkaistu 28.7.2026 [1]. Menetelmä vähentää laskennallisia kustannuksia hienosäädössä merkittävästi [1].
Koodi
AutoAWQ-kirjaston versio 0.2.9 on julkaistu 11.5.2025. Kirjasto on siirtymässä pois yksittäisen kehittäjän ylläpidosta vLLM-projektin käyttöön [1].
Koodi
AutoGPTQ-paketti on julkaistu version 0.7.1. Se mahdollistaa painoihin perustuvan kvantisoinnin käyttämällä käyttäjäystävällisiä rajapintoja [1].