Dataiku hat im September „Agent Management“ eingeführt. Oracle widmete diesem Thema einen Großteil seiner „AI World“-Konferenz. Unternehmen, die KI-Agenten in großem Maßstab einsetzen, stellen fest, dass es schwieriger ist, Einblick in die tatsächlichen Aktivitäten dieser Agenten zu gewinnen, als die Agenten selbst zu entwickeln.
Die technische Herausforderung ist real. Ein KI-Agent, der Kundendaten abfragt, in ein CRM schreibt und nachgelagerte Workflows auslöst, erzeugt einen Prüfpfad, der sich über verschiedene Systeme erstreckt. Jeden Schritt zu protokollieren ist eine Sache. Zu verstehen, ob der Agent die richtige Entscheidung getroffen hat – mit den richtigen Daten und unter Einhaltung der richtigen Richtlinienvorgaben –, erfordert eine andere Art der Überwachung. Die Anbieter, die nun in diesen Bereich drängen, setzen darauf, dass eine zentralisierte Steuerung der Agenten ebenso unverzichtbar wird wie es vor fünf Jahren die Tools zur Datenherkunft waren.
Für unsere Kunden aus dem Bereich „Data & Digital“ in der DACH-Region hat dies bereits Auswirkungen auf die Personalbeschaffung. Ein Fertigungsunternehmen aus Stuttgart hat uns kürzlich beauftragt, einen Mitarbeiter zu finden, der für die Beobachtbarkeit von Agenten verantwortlich ist. Die Anforderung lautete, einen Fachmann zu finden, der das Modellverhalten, die Datenzugriffsrichtlinien und die Produktionsüberwachung so gut versteht, dass er in allen drei Bereichen tätig sein kann. Ähnliche Anfragen sind im vergangenen Quartal auch von Finanzdienstleistern und Logistikunternehmen eingegangen.
Die für diese Positionen am besten geeigneten Kandidaten verfügen über Erfahrung im Bereich Datenplattformen – häufig Databricks oder Snowflake – sowie über praktische Erfahrung mit MLOps-Pipelines. Sie sind in der Lage, das Entscheidungsprotokoll eines Modells zu interpretieren und dessen Bedeutung für die Daten-Governance zu erklären. Sie präsentieren ihre Erkenntnisse den leitenden Entscheidungsträgern in verständlicher Sprache.
Unser Rat an Datenverantwortliche: Machen Sie die Steuerung von Agenten ab sofort zu einer Priorität bei der Personalbeschaffung. Die Aufsichtsbehörden werden früher oder später strengere Fragen zur automatisierten Entscheidungsfindung stellen, und der Aufbau interner Kompetenzen braucht Zeit.
Angeregt durch Berichte von Datanami.