cd ~/open-source/

chrille@linux:~$ apt show ollama

Ollama

Ollama låter dig köra stora språkmodeller på din egen dator. Du laddar ner modeller med ett kommando och kör dem lokalt utan att skicka promptar till molnet. Passar dig som vill testa AI privat eller bygga interna verktyg.

Projektsidan för Ollama
Projektets egen sida, som den såg ut vid importen.

Ollama är ett verktyg för att köra språkmodeller lokalt på macOS, Linux och Windows. Du hämtar modeller som Llama, Mistral eller Gemma med ett enda kommando och får ett CLI och API att bygga vidare på. Det passar utvecklare, forskare och nyfikna som vill experimentera med AI utan att dela data med externa tjänster. Du behöver en hyfsat stark maskin för stora modeller. Fördelen är att dina promptar och dokument stannar på din egen hårdvara.