Hardwareübersicht

Der aktuelle KI-Server basiert auf leistungsfähiger Gaming- und Serverhardware, die speziell für Virtualisierung und GPU-Passthrough ausgelegt ist:
Mainboard: ASUS TUF Gaming Z790 Pro Wifi
CPU: Intel i5-13400 (10 Kerne, 16 Threads)
RAM: 128 GB DDR5 (2 × 64 GB)
GPU: MSI GeForce RTX 5060 Ti 16G Ventus 2X OC Plus (16 GB VRAM, passthrough-fähig)
Netzwerk: Dual 10 Gbit LAN (Intel X540-T2)
Speicher:
Samsung NVMe 990 Pro 2 TB (System & VM-Speicher)
Crucial NVMe 4 TB (Schneller Datenspeicher für Modelle und Container)
10 TB SATA HDD (Langzeitspeicher)
Netzteil: ASUS TUF Gaming 750W Gold
Gehäuse: 19" Servergehäuse
Betriebssystem: Proxmox VE 9 (Virtualisierungshost)
KI-VM: Ubuntu 24.04.3 LTS mit durchgereichter GPU