Upscale, ein von NVIDIA unterst\u00fctztes Start-up, entwickelt Software, mit der KI-Chips konkurrierender Anbieter im selben Rechenzentrum zusammenarbeiten k\u00f6nnen. Die technische Begr\u00fcndung ist einfach: Cloud-Anbieter entwickeln ihre eigenen Chips, spezialisierte Beschleuniger kommen auf den Markt, und NVIDIA-GPUs k\u00f6nnen nicht mehr als einzige Hardware in einem KI-Cluster vorausgesetzt werden. Die Koordination von Workloads \u00fcber diese unterschiedlichen Komponenten hinweg ist schwierig, da die Stack-L\u00f6sungen der einzelnen Anbieter jeweils f\u00fcr den eigenst\u00e4ndigen Betrieb konzipiert wurden.<\/p>\n
F\u00fcr Unternehmen, die Teams f\u00fcr KI-Infrastrukturen zusammenstellen, stellt die Koordinierungsebene die gr\u00f6\u00dfte Herausforderung bei der Personalbeschaffung dar. Ein Kunde in Frankfurt, der eine hybride GPU-Umgebung aufbaut, bat uns um einen Mitarbeiter, der Workloads sowohl auf NVIDIA- als auch auf ma\u00dfgeschneiderten TPU-\u00e4hnlichen Beschleunigern optimieren und gleichzeitig die MLOps-Pipeline stabil halten kann. Die Stelle blieb vier Monate lang unbesetzt. Bewerber mit fundierter NVIDIA-Erfahrung hatten Schwierigkeiten, Kenntnisse in alternativen Architekturen nachzuweisen. Bewerbern mit Cloud-nativem Hintergrund fehlten die Kenntnisse in der Low-Level-GPU-Programmierung.<\/p>\n
Interoperabilit\u00e4tssoftware wie die von Upscale k\u00f6nnte diese Komplexit\u00e4t zwar irgendwann teilweise abstrahieren, doch f\u00fcr diese Abstraktion braucht es nach wie vor jemanden, der versteht, was dahintersteckt. Unternehmen, die heterogene KI-Rechenumgebungen betreiben, zahlen bereits hohe Geh\u00e4lter f\u00fcr Ingenieure, die zwischen den \u00d6kosystemen verschiedener Anbieter wechseln k\u00f6nnen, ohne sich von Grund auf neu schulen zu m\u00fcssen. Noch seltener ist das Profil einer Person, die tats\u00e4chlich Produktions-Workloads auf mehr als einem Beschleuniger-Typ bereitgestellt hat und die Kompromisse gleichzeitig gegen\u00fcber der Beschaffung und der Technikabteilung klar darlegen kann.<\/p>\n
Die gr\u00f6\u00dfte Herausforderung bei der Personalbeschaffung liegt darin, Mitarbeiter zu finden, die zwei oder drei Hardware-Paradigmen gleichzeitig im Kopf behalten und Planungsentscheidungen treffen k\u00f6nnen, die sich sowohl auf die Kosten als auch auf die Modellleistung auswirken. Da Unternehmen im DACH-Raum eine souver\u00e4ne KI-Infrastruktur aufbauen und ihre Abh\u00e4ngigkeit von einzelnen Anbietern verringern, wird dieses Profil dar\u00fcber entscheiden, wie schnell sie ihre L\u00f6sungen einsetzen k\u00f6nnen.<\/p>\n