Mini-PC für lokale KI-Modelle mit 192 GB RAM verfügbar

Hinweis: Dieser Beitrag wurde mit künstlicher Intelligenz erstellt.

Worum geht’s?

GMKtec hat den EVO-X5 Pro vorgestellt, einen Mini-PC für den lokalen Betrieb großer KI-Modelle. Das Gerät ist mit einem Ryzen AI Max+ PRO 495 ausgestattet, der 16 Kerne mit einer Taktrate von bis zu 5,2 GHz bietet. Besonderheit ist der gemeinsam genutzte Arbeitsspeicher von 192 GB LPDDR5X-8533, auf den sowohl Prozessor als auch integrierte Grafik zugreifen können. Die Radeon 8065S GPU verfügt über 40 Recheneinheiten und erreicht eine KI-Leistung von 55 TOPS. Der Verkaufspreis liegt bei 6.249 Euro für das Basismodell.

Hintergrund & Einordnung

Der EVO-X5 Pro richtet sich an Entwickler und Unternehmen, die KI-Anwendungen ohne Cloud-Anbindung betreiben möchten. Durch die Unified-Memory-Architektur steht der gesamte Arbeitsspeicher beiden Prozessoren zur Verfügung, was eine Bandbreite von bis zu 273 GB/s ermöglicht. Das Gerät soll Sprachmodelle mit bis zu 320 Milliarden Parametern lokal verarbeiten können, was für datenschutzkritische Szenarien relevant ist.

Zur Ausstattung gehören vier USB4-Anschlüsse, von denen zwei mit bis zu 80 Gbit/s arbeiten, sowie zwei 10-Gigabit-LAN-Ports. Der interne Speicher lässt sich auf bis zu 24 TByte erweitern. Die Kühlung erfolgt über eine Vapor Chamber mit drei Lüftern, das System ist für Dauerbetrieb ausgelegt. Für Administratoren steht eine betriebssystemunabhängige Fernverwaltung per ams DASH zur Verfügung.

Was bedeutet das?

Kompakte Systeme für rechenintensive KI-Aufgaben werden zunehmend verfügbar, allerdings mit hohem Preisaufwand.
Der gemeinsame Speicherpool ermöglicht flexiblere Ressourcennutzung als getrennte RAM- und VRAM-Aufteilungen.
Lokale Verarbeitung großer Modelle wird für Anwender interessant, die auf Cloud-Dienste verzichten müssen oder wollen.
Die Anschlussvielfalt mit schnellen USB4- und Netzwerkports erlaubt den Einsatz in professionellen Umgebungen.