Koodi · Python-kirjasto

Optimum Intel 2.1.0 tarjoaa rajapinnan Intel-arkkitehtuurien tehostettuun päättelyyn

Versio 2.1.0 on julkaistu 5.8.2026. Kirjasto on osa Hugging Face -ekosysteemiä [1].

Optimum Intel 2.1.0 on julkaistu 5.8.2026 [1]. Kirjasto toimii rajapintana Hugging Face -kirjastojen ja OpenVINO-työkalujen välillä [1].

Se mahdollistaa päättelyketjujen tehostamisen Intel-arkkitehtuureilla [1]. Kirjasto tukee Transformers-, Diffusers-, Sentence Transformers- ja timm-kirjastoja [1].

Taustalla toimii OpenVINO, joka on avoimen lähdekoodin työkalupaketti [1]. Se on suunniteltu Intelin prosessoreille, näytönohjaimille ja erillisille DL-kiihdyttimille [1].

Kirjasto mahdollistaa mallien optimoinnin eri tekniikoilla [1]. Näitä tekniikoita ovat kvantisointi, karsiminen ja tiedon tislaus [1].

Käyttäjä voi muuntaa mallit OpenVINO Intermediate Representation -muotoon [1]. Päättely suoritetaan OpenVINO Runtime -ympäristössä [1].

Lukijan kannattaa hyödyntää kirjastoa, jos käytössä on Intel-pohjainen laitteisto. Se tarjoaa suoran tavan optimoida malleja suorituskyvyn parantamiseksi [1].