Hardware

Der aktuelle KI-Server basiert auf leistungsfähiger Gaming- und Serverhardware, die speziell für Virtualisierung und GPU-Passthrough ausgelegt ist:

• Mainboard: ASUS TUF Gaming Z790 Pro Wifi

• CPU: Intel i5-13400 (10 Kerne, 16 Threads)

• RAM: 128 GB DDR5 (2 × 64 GB)

• GPU: MSI GeForce RTX 5060 Ti 16G Ventus 2X OC Plus (16 GB VRAM, passthrough-fähig)

• Netzwerk: Dual 10 Gbit LAN (Intel X540-T2)

• Speicher:

  • Samsung NVMe 990 Pro 2 TB (System & VM-Speicher)

  • Crucial NVMe 4 TB (Schneller Datenspeicher für Modelle und Container)

  • 10 TB SATA HDD (Langzeitspeicher)

• Netzteil: ASUS TUF Gaming 750W Gold

• Gehäuse: 19" Servergehäuse

Betriebssystem: Proxmox VE 9 (Virtualisierungshost)
KI-VM: Ubuntu 24.04.3 LTS mit durchgereichter GPU