Der jüngste Observability-Bericht von New Relic kommt zu dem Ergebnis, dass etwa ein Viertel der KI-Workloads in Unternehmen ohne angemessene Überwachung im Produktivbetrieb läuft. Führende Vertreter von Datenplattformen in der DACH-Region bestätigen dies: Der Druck, KI-Funktionen auf den Markt zu bringen, ist größer geworden als die verfügbaren Tools und das Fachwissen, um diese nach ihrer Inbetriebnahme zu überwachen.
Der Bericht erscheint zeitgleich mit einem Führungswechsel. Nandini Ramani übernimmt die Position der Geschäftsführerin und erbt ein Produktportfolio, das genau auf diese Überwachungslücke ausgerichtet ist. Unternehmen, die KI in ihre Kerngeschäftsprozesse integrieren, benötigen Fachleute, die ihnen Aufschluss darüber geben können, wie sich ihre Modelle in der Produktion tatsächlich verhalten.
Fachwissen im Bereich Observability taucht mittlerweile als zentrale Anforderung in den Stellenbeschreibungen für Plattformingenieure auf, die wir erhalten. Kunden wünschen sich Kandidaten, die eine Brücke zwischen Data-Science-Teams und der Infrastruktur schlagen – jemanden, der sowohl die ML-Pipeline als auch die Produktionsumgebung so gut versteht, dass er weiß, was instrumentiert werden muss und warum.
Die traditionelle Beobachtbarkeit hat sich im Zusammenhang mit Webanwendungen und Microservices entwickelt. Ihre Anwendung auf KI-Workloads, bei denen die Ergebnisse probabilistisch sind und Fehlermodi schwerer zu definieren sind, erfordert ein anderes Denkmodell. Bewerber, die diese Arbeit tatsächlich bereits geleistet haben, heben sich in Vorstellungsgesprächen sofort von denen ab, die lediglich darüber gelesen haben.
Ein Leiter des Bereichs Datenplattformen bei einem Münchner Hersteller berichtete uns letzten Monat, dass die Suche nach einer Person, die die Empfehlungsmaschine des Unternehmens ordnungsgemäß instrumentieren konnte, doppelt so lange dauerte wie die Einstellung der ML-Ingenieure, die sie entwickelt hatten. Das Fachwissen ist zwar vorhanden, aber es befindet sich bei Personen, die es bei Hyperscalern oder Anbietern von Observability-Lösungen erworben haben. Um diese zu erreichen, muss man passive Kandidaten ansprechen, die in solchen Umgebungen herausragende Leistungen erbringen.
Personalverantwortliche, die Teams für Datenplattformen aufbauen, sollten bei der Erweiterung um KI-Fähigkeiten die Beobachtbarkeit als oberste Anforderung betrachten. Kandidaten, die eine Brücke zwischen Inferenz-Pipelines und der Überwachung im Produktivbetrieb schlagen können, sind besonders gefragt, und die Suche erfordert es, über die üblichen Bewerberkreise hinauszuschauen.
Angeregt durch Berichte von Diginomica.