Open WebUI

Versija

0.9.6

ubuntu 24.04

Open WebUI

Open WebUI – tai žiniatinklio sąsaja darbui su kalbos modeliais. Ji perima visą vizualiąją dalį: pokalbius, dialogų istoriją, modelių valdymą ir dokumentų įkėlimą analizei. Platforma veikia su

Savarankiškas diegimas per Docker užima laiko: reikia sukonfigūruoti Docker, paleisti Ollama, nustatyti paleidimo parametrus ir sukonfigūruoti tinklo ryšį tarp konteinerių. Atvaizdas iš rinkos pašalina šiuos veiksmus. Pasirenkate atvaizdą, sukuriate VPS ir po kelių minučių naršyklėje atidarote paruoštą sąsają.

Ko reikia

VPS tiekėjo paskyros su atvaizdų rinkos (Marketplace) palaikymu.
VPS su mažiausiai 2 vCPU ir 4 GB RAM paleidimui be GPU.
Ollama su 7B parametrų modeliais: 8 GB RAM ir daugiau.

Pasirenkame atvaizdą ir sukuriame serverį

Marketplace randame Open WebUI atvaizdą. Spaudžiame Deploy ir pasirenkame serverio konfigūraciją. Pakanka:

CPU: 2–4 vCPU
RAM: 4–8 GB
Diskas: 40 GB SSD – kiekvienas Ollama modelis užima apie 2–8 GB.

Nustatome slaptažodį arba pridedame SSH raktą ir spaudžiame sukurti. Serveris paleidžiamas per 1–2 minutes.

Prisijungiame per SSH

Paleidus serverį prisijungiame:

Linux / macOS:

ssh root@IP_Server

Windows - PowerShell:

ssh root@IP_Server

Įvedame slaptažodį, nustatytą kuriant VPS, arba naudojame SSH raktą.

Jei anksčiau nedirbote su SSH, išsamus prisijungimo aprašymas iš Linux/macOS ir Windows naudojant PuTTY pateiktas pagal nuorodą:

Windows, Linux/macOS — Prisijungimas per SSH

Gauname prisijungimo duomenis

Administratoriaus prisijungimo vardas ir slaptažodis saugomi tiesiai serveryje faile /root/.password_credentials. Peržiūrėti juos galima naudojant komandą:

cat /root/.password_credentials

Užsirašykite arba nukopijuokite juos – jie bus reikalingi pirmojo prisijungimo metu. Vėliau slaptažodį galėsite pakeisti tiesiogiai sąsajos nustatymuose.

Atidarome žiniatinklio sąsają

Naršyklėje įvedame serverio IP adresą:

http://IP_server

Atidaromas Open WebUI prisijungimo puslapis. Įvedame duomenis iš failo /root/.password_credentials.

После авторизации вы попадёте в панель Open WebUI, где сможете создать основную учётную запись администратора

Po prisijungimo pateksite į Open WebUI valdymo skydelį, kuriame galėsite sukurti pagrindinę administratoriaus paskyrą.

Ką gali sąsaja

Open WebUI suteikia patogią pokalbių sąsają darbui su kalbos modeliais. Kairėje pusėje rodoma dialogų istorija, centre – aktyvus pokalbis. Galite kurti kelis lygiagrečius pokalbius, greitai juos perjungti ir grįžti prie bet kurio ankstesnio dialogo.

Modelių perjungimas realiuoju laiku be puslapio perkrovimo. Jei serveryje nėra Ollama, galite prijungti išorinį API per Settings → Connections.
Dokumentų įkėlimas. PDF, DOCX ir TXT failus galima pridėti naudojant segtuko mygtuką įvedimo lauke. Sistema indeksuoja turinį, o modelis atsako į klausimus pagal pateiktą tekstą. Nuolatiniam saugojimui naudokite Workspace → Knowledge Base.
Komandos valdymas. Skiltyje Admin Panel → Users galite kurti darbuotojų paskyras arba leisti savarankišką registraciją. Naujos paskyros pagal numatymą gauna būseną Pending – jas turi patvirtinti administratorius. Prieiga prie konkrečių modelių nustatoma atskirai kiekvienam vartotojui.

Ollama modelių pridėjimas

Papildomi modeliai įkeliami tiesiai iš sąsajos. Eikite į Settings → Models, įveskite modelio pavadinimą iš Ollama katalogo ir paspauskite Pull. Atsisiuntimo eigą matysite realiuoju laiku.

Orientaciniai išteklių poreikiai:


Modelis	Vietos diske poreikis	Min. RAM
llama3.2:3b	~2 GB	4 GB
mistral:7b	~4,1 GB	8 GB
llama3.1:8b	~4,7 GB	8 GB
qwen2.5:14b	~8,9 GB	16 GB

Išorinių API prijungimas

Open WebUI gali prisijungti prie bet kurio API, suderinamo su OpenAI formatu. GPT-4o, Claude ar kitas tiekėjas atsiras bendrame modelių sąraše šalia vietinių Ollama modelių.

Eikite į Settings → Connections → OpenAI API. Įveskite API raktą ir tiekėjo bazinį URL. OpenAI atveju naudojamas:

https://api.openai.com/v1

Išsaugojus nustatymus, modeliai iš karto taps prieinami pasirinkimui.

Ką sukonfigūruoti toliau

Po pirmojo prisijungimo rekomenduojama atlikti tris veiksmus:

Įdiegti Nginx su Let's Encrypt – naudoti savo domeną su HTTPS yra saugiau nei atvirą HTTP prieigą pagal IP adresą.
Uždaryti tiesioginę prieigą prie 3000 prievado ugniasienėje – jei naudojate Nginx, 3000 prievadas turėtų būti pasiekiamas tik iš vietinio pagrindinio kompiuterio, o ne iš išorės.
Pakeisti numatytąjį slaptažodį iš .password_credentials – kad standartiniai prisijungimo duomenys nebūtų naudojami nuolat.

Diegimas per Marketplace pašalina visą pradinę konfigūraciją. Jūs iš karto gaunate paruoštą darbo aplinką ir pirmąsias minutes skiriate nustatymams, o ne diegimo procesui.