Hardware

Der aktuelle KI-Server basiert auf leistungsfähiger Gaming- und Serverhardware, die speziell für Virtualisierung und GPU-Passthrough ausgelegt ist:

Mainboard: ASUS TUF Gaming Z790 Pro Wifi

CPU: Intel i5-13400 (10 Kerne, 16 Threads)

RAM: 128 GB DDR5 (2 × 64 GB)

GPU: MSI GeForce RTX 5060 Ti 16G Ventus 2X OC Plus (16 GB VRAM, passthrough-fähig)

Netzwerk: Dual 10 Gbit LAN (Intel X540-T2)

Speicher:

Samsung NVMe 990 Pro 2 TB (System & VM-Speicher)

Crucial NVMe 4 TB (Schneller Datenspeicher für Modelle und Container)

10 TB SATA HDD (Langzeitspeicher)

Netzteil: ASUS TUF Gaming 750W Gold

Gehäuse: 19" Servergehäuse

Betriebssystem: Proxmox VE 9 (Virtualisierungshost)
KI-VM: Ubuntu 24.04.3 LTS mit durchgereichter GPU