Anthropic, eines der Unternehmen, das sich am stärksten für den Ausbau der KI-Fähigkeiten einsetzt, hat sich kürzlich einer wachsenden Zahl von Stimmen angeschlossen, die warnen, dass das Entwicklungstempo die Fähigkeit aller Beteiligten übersteigen könnte, damit verantwortungsvoll umzugehen. Diese Botschaft sollte man sich zu Herzen nehmen. Gerade die Organisationen, die diese Systeme entwickeln, geben zu, dass sie nicht vollständig vorhersagen können, wozu die nächste Generation fähig sein wird.
Für Unternehmen, die in der DACH-Region KI-Fachkräfte einstellen, stellt sich daraus eine praktische Frage: Welche Art von Team baut man auf, wenn die Technologie selbst noch unausgereift ist? Ein in München ansässiges Industrieunternehmen hat kürzlich die Suche nach einem Senior Machine-Learning-Ingenieur vorübergehend ausgesetzt und sie als breiter gefasste Position im Bereich KI-Governance wieder aufgenommen. Die technischen Fähigkeiten waren dabei weniger wichtig als die Fähigkeit, Sicherheitsvorkehrungen zu treffen und zu überprüfen, was die Modelle in der Produktion tatsächlich leisten.
Die Profile, die derzeit an Bedeutung gewinnen, konzentrieren sich darauf, zu erkennen, in welchen Fällen einem Modell nicht vertraut werden sollte, Entscheidungen für Aufsichtsbehörden zu dokumentieren und dem Vorstand zu erläutern, warum ein Projekt mehr Zeit benötigt, bevor es in Betrieb genommen wird. Eine hochrangige Kandidatin, die wir Anfang dieses Jahres vermittelt haben, hatte zwei Jahre lang bei einem Finanzdienstleistungsunternehmen Rahmenwerke zur Erklärbarkeit von Modellen entwickelt. Dieser Hintergrund machte sie für unseren Kunden attraktiver als Kandidaten mit rein technischen Qualifikationen.
Unternehmen, die klar darlegen, was ihre KI leisten wird und was nicht, haben es leichter, erfahrene Fachkräfte zu gewinnen. Unklarheiten hinsichtlich des Anwendungsbereichs oder ethischer Fragen sind für Bewerber, die die Wahl haben, mittlerweile ein Ausschlusskriterium. Ein Leiter im Bereich Data Science berichtete uns, dass er sich nach drei Vorstellungsgesprächen aus dem Auswahlverfahren zurückgezogen habe, da das Unternehmen grundlegende Fragen dazu nicht beantworten konnte, wie es mit Modellausfällen im Produktivbetrieb umgehen würde.
Die Entwickler selbst warnen vor überstürzten Entscheidungen. Die Personalverantwortlichen, die dies ernst nehmen, stellen Teams zusammen, bei denen Urteilsvermögen und Verantwortungsbewusstsein im Vordergrund stehen – und diese Teams lassen sich leichter besetzen.
Angeregt durch einen Bericht von Datanami.