Ein im US-Repräsentantenhaus kursierender Gesetzesentwurf sieht vor, dass Entwickler haftbar gemacht werden, wenn KI-Agenten Schäden oder Verluste verursachen. Die vorgesehene Ausnahme ist eng gefasst: Sie gilt nur für Nutzer, die das System in einer Weise modifiziert haben, die zum Schaden beigetragen hat. In der Praxis würde dies bedeuten, dass ein Unternehmen, das einen unveränderten KI-Agenten für die Finanzplanung, das Treasury-Management oder die Unterstützung bei der Wirtschaftsprüfung einsetzt, den Anbieter haftbar machen könnte, falls etwas schiefgeht.
Der Vorschlag schließt eine Lücke, die Rechts- und Compliance-Teams bisher beunruhigt hat. Bislang befand sich die Haftung für autonome KI in einer Grauzone. Wenn ein System eine Zahlung falsch weiterleitet, eine fehlerhafte Prognose erstellt, auf der eine Entscheidung des Vorstands basiert, oder einen Compliance-Verstoß auslöst – wer trägt dann die Verantwortung dafür? Der Gesetzentwurf sieht vor, dass der Entwickler haftet, es sei denn, der Nutzer hat das Produkt nachweislich beschädigt.
Finanzabteilungen, die KI-Anbieter bewerten, müssen die Beschaffung als eine Form des Risikotransfers betrachten. Bei den Verhandlungen müssen Haftungsfreistellungsklauseln, Versicherungsschutz und Prüfpfade berücksichtigt werden, die belegen, dass das System wie vorgesehen implementiert wurde. Kleinere Anbieter, deren Bilanz nicht ausreicht, um Haftungsansprüche abzufedern, könnten Schwierigkeiten haben, sich im Wettbewerb um Großaufträge von Unternehmen zu behaupten.
Für Bewerber ergibt sich daraus eine neue Dimension der Relevanz. Finanzfachleute, die sich mit KI-Governance auskennen, Anbieterrisiken einschätzen können und wissen, wie man Entscheidungen zur Einführung dokumentiert, lassen sich immer schwerer ersetzen. Die Rolle des Controllers oder der Finanzabteilung erweitert sich um den Bereich der Technologie-Stewardship: zu verstehen, wie ein KI-Agent konfiguriert wurde, von wem und mit welcher Freigabekette.
Regulierungsmaßnahmen folgen der Einführung in der Regel mit einer gewissen Verzögerung. In den USA scheint sich diese Lücke zu verringern. Finanzverantwortliche aus Deutschland und der Schweiz, die die Entwicklungen aus der DACH-Region beobachten, sollten damit rechnen, dass in der EU ähnliche Rahmenbedingungen entstehen werden, und sollten bereits jetzt das interne Fachwissen aufbauen, um damit umzugehen.
Angeregt durch Berichte von CFO-Tauchen.