Koodi · Python-kirjasto

Ollama-kirjasto mahdollistaa tekoälymallien integroimisen Python-projekteihin helposti

Ollama Python Library on julkaistu versiolla 0.6.2. Kirjasto tukee Python 3.8 ja uudemmat versiot [1].

Ollama Python Library tarjoaa tavan integroida Python 3.8+ -projektit Ollama-ajomoottoriin [1]. Kirjasto mahdollistaa chat-toiminnallisuuden ja vastausten suoratoiston (streaming) käyttämällä yksinkertaisia funktioita [1].

Kirjaston käyttö vaatii, että Ollama on asennettuna ja käynnissä järjestelmässä [1]. Käyttäjän on myös ladattava haluttu malli, kuten gemma3, ennen käyttöä [1].

Taustalla toimii Ollama-ajomoottori, joka hallitsee paikallista päättelyä [1]. Kirjasto tukee myös pilvipalveluita, joiden avulla voidaan ajaa suuria malleja paikallisen työnkulun ohella [1].

Tuetut pilvimalleja ovat muun muassa deepseek-v3.1:671b-cloud, gpt-oss:20b-cloud, gpt-oss:120b-cloud, kimi-k2:1t-cloud ja qwen3-coder:480b-cloud [1].

Kirjaston käyttöön on saatavilla valmiit tyypit vastausten käsittelyyn, kuten ChatResponse [1]. Vastaukset voidaan hakea joko sanakirjamuodossa tai suoraan vastausobjektin kentistä [1].

Lukijan kannattaa asentaa kirjasto pip-komennolla ja varmistaa, että paikallinen Ollama-palvelin on aktiivinen [1]. Suurten mallien kohdalla kannattaa hyödyntää pilvipalveluita resurssien säästämiseksi [1].