KI Server
Installationsanleitung KI Server mit GPU Unterstützung basierend auf ollama mit LLMs wie LLama3.1:8b usw.
Einleitung
Der KI-Server bildet das Herzstück der lokalen KI- und Automatisierungsumgebung im Homelab. Er di...
Hardwareübersicht
Der aktuelle KI-Server basiert auf leistungsfähiger Gaming- und Serverhardware, die speziell für ...
Zusammenbau Server
Der Zusammenbau erfolgt in einem 19"-Servergehäuse und erfordert besondere Aufmerksamkeit auf Küh...
BIOS Anpassungen
BIOS Update auf aktuelle Version durchführen. Resizable BAR aktivieren (wichtig für GPU-...
Installation
Installation Host
Installation von Proxmox VE 9 1. ISO herunterladen Offizielle Downloadseite:👉 https://www.p...
Einrichten VM
Installation Ubuntu 24.04.3 LTS (Minimal Server) 1. ISO herunterladen Offizielle Quelle:👉 https...
Installation Docker
Installation von Docker & Docker Compose 1. Alte Versionen entfernen (falls vorhanden) Vorherig...
Docker Container
Installation Ollama und OpenWebUI
1. Verzeichnisstruktur vorbereiten Alle Containerdaten liegen unter /opt/docker, damit System un...
Installation Paperless und Paperless-AI
Verzeichnis anlegen (einmalig) sudo mkdir -p /home/pleibling/docker/paperless/{data,...
Installation Immich-App
Immich – Installation (Minimal Setup) cd /opt/docker git clone https://github.com/i...