Ein Kunde in Wien hat kürzlich die Suche nach einem Senior Data Engineer vorübergehend ausgesetzt. Die Stelle war ursprünglich auf die Entwicklung von Abrufsystemen für einen internen KI-Assistenten ausgerichtet. Nach zwei Wochen legte der Personalverantwortliche eine überarbeitete Stellenbeschreibung vor. Die neue Anforderung: jemand, der Systeme entwerfen kann, die das Handeln der KI einschränken, jemand, der Grenzen für autonomes Handeln festlegen kann.
Unternehmen bauten ihre erste Generation von KI-Tools auf der Annahme auf, dass mehr Kontext zu besseren Ergebnissen führen würde. Man füttert das Modell mit der Dokumentation, den Kundendaten und dem Produktkatalog, und schon wird es nützlich. Diese Logik galt für die Beantwortung von Fragen. Sie versagt jedoch in dem Moment, in dem man das System auffordert, Maßnahmen zu ergreifen. Ein Hersteller aus Zürich bat uns letzten Monat um einen Datenarchitekten, der klar formulieren könnte, was sein Beschaffungsassistent niemals tun sollte, welche Genehmigungen er vor der Tätigung von Ausgaben benötigt und wie man eine sinnvolle Maßnahme von einer plausibel klingenden unterscheidet.
Die Kandidaten, die Stellenangebote erhalten, verfügen über zwei Fähigkeiten, die bisher selten zusammen vorkamen. Die erste ist die technische Fachkompetenz, um mit Abruf-Pipelines, Einbettungsmodellen und Inferenz-Infrastrukturen zu arbeiten. Die zweite ist das Urteilsvermögen, Grenzen für autonomes Verhalten festzulegen. Eine Datenarchitektin, die wir Anfang dieses Jahres vermittelt haben, sicherte sich ihr Stellenangebot, indem sie darlegte, wie sie verhindern würde, dass ein interner Agent Lieferantenrechnungen allein auf der Grundlage von Musterabgleichen automatisch genehmigt. Ihre Gesprächspartner widmeten vierzig Minuten der Festlegung von Grenzen und fünfzehn Minuten dem technischen Stack.
Die jüngsten Preisanpassungen von Anthropic zwingen zu ähnlichen Diskussionen. Angesichts der Kosten für Frontier-Modelle müssen Unternehmen entscheiden, für welche Aufgaben dieses Leistungsniveau tatsächlich erforderlich ist. Ein Finanzdienstleister aus Frankfurt hat uns letzte Woche nach einem Ingenieur gefragt, der mehrere Modelle koordinieren kann, Abfragen je nach Komplexität und Risiko weiterleitet und, sofern es die Aufgabe zulässt, kleinere und kostengünstigere Optionen auswählt. Sowohl die Koordinationsrolle als auch die Rolle der Festlegung von Grenzen erfordern dieselbe grundlegende Kompetenz: zu wissen, wann ein System anhalten, die Aufgabe weitergeben oder um Genehmigung bitten sollte.
Angeregt durch einen Bericht von Diginomica.