cd ~/open-source/

chrille@linux:~$ apt show localai

LocalAI

LocalAI är ett API som efterliknar OpenAI men körs lokalt. Du kan byta ut OpenAI-anropen i din kod och köra öppna modeller på egen hårdvara istället. Passar utvecklare som vill behålla data inom huset.

Projektsidan för LocalAI
Projektets egen sida, som den såg ut vid importen.

LocalAI är en öppen inferensserver som implementerar OpenAI-kompatibla slutpunkter för text, ljud och bild. Du byter bara bas-URL:en i dina applikationer och pekar dem mot din egen server. Det fungerar med många öppna modeller och kräver ingen GPU för enklare uppgifter. Passar företag och utvecklare som vill bygga AI-funktioner utan att vara beroende av externa API:er. Fördelen är att du får samma integrationsmönster som OpenAI men med full lokal kontroll.