Pokud chcete mít plnou kontrolu nad svou umělou inteligencí a preferujete otevřená řešení, Ollama v kombinaci s OpenWeb UI je ideální volbou. Tento článek vás provede kompletní instalací a nastavením této pokročilé lokální AI platformy.
Proč Ollama a OpenWeb UI?
- Plná kontrola: Možnost detailně nastavovat a spravovat různé AI modely.
- Webové rozhraní: Pohodlný přístup k AI přes prohlížeč.
- Offline provoz: Data nikdy neopustí váš počítač.
- Kompatibilita s populárními LLM modely: Llama, Mistral, Gemma a další.
Hardwarové požadavky
- Procesor: Doporučeno alespoň Intel Core i5 / AMD Ryzen 5
- RAM: 16 GB (optimálně 32 GB)
- GPU: NVIDIA RTX 3060 nebo lepší pro urychlení výpočtů
- Disk: SSD s minimálně 512 GB volného místa
Instalace Ollama
- Stáhněte si Ollama pro svůj operační systém z oficiálního webu: https://ollama.com
- Nainstalujte Ollama dle instrukcí (Windows/macOS/Linux).
- Ověřte funkčnost zadáním příkazu v terminálu:
ollama run llama3
Tento příkaz spustí základní model Llama 3.
Instalace OpenWeb UI
- Stáhněte OpenWeb UI z repozitáře GitHub: https://github.com/open-webui/open-webui
- Nainstalujte Docker (pokud jej ještě nemáte):
- Windows/macOS: https://www.docker.com/products/docker-desktop
- Linux: dle distribuce
- Spusťte OpenWeb UI pomocí Dockeru:
docker run -d --name openwebui -p 3000:3000 --gpus all --restart always openwebui/openwebui:latest
- Otevřete prohlížeč a zadejte adresu:
http://localhost:3000
- Propojte OpenWeb UI s Ollama v nastavení.
Doporučené AI modely pro různé účely
- Text: Llama 3.1, Mistral 7B
- Grafika: Stable Diffusion (samostatně přes jiný server)
- Matematika: Mixtral 8x7B, DeepSeek Math
- Video: Modely typu Stable Video Diffusion (vyžadují speciální instalaci mimo Ollama)
Výhody této sestavy
- Modularita: Můžete spravovat více modelů dle potřeby.
- Škálovatelnost: Snadno přidáte další AI modely nebo vylepšíte hardware.
- Přístup odkudkoliv v domácí síti: Stačí webový prohlížeč.
Tato kombinace poskytuje ideální zázemí pro domácí, ale i pokročilé AI experimenty s maximální mírou soukromí a flexibility.