cd ~/open-source/

chrille@linux:~$ apt show text-generation-webui

text-generation-webui

text-generation-webui är ett webbgränssnitt för att köra språkmodeller lokalt. Du laddar modeller, chattar och experimenterar med parametrar direkt i webbläsaren. Passar dig som vill testa öppna modeller utan att skriva kod.

Projektsidan för text-generation-webui
Projektets egen sida, som den såg ut vid importen.

text-generation-webui, ofta kallat Oobabooga, är ett Gradio-baserat gränssnitt för lokal körning av språkmodeller. Du laddar ner modeller i vanliga format, justerar temperatur, sampler och promptar via knappar och fält, och chattar med modellen. Det passar nyfikna användare och forskare som vill prova olika modeller utan att bygga egna pipelines. Fördelen är att du kommer igång med lokal AI utan att behöva programmera.