AI Governance und Modellrisiko im regulierten Finanzwesen

Einleitung

Künstliche Intelligenz hat sich von isolierten Experimenten in Investment-Research, Kundenservice, Compliance, Betrieb, Risikoanalyse und Technologiebereitstellung bewegt. Im regulierten Finanzwesen ist die zentrale Managementfrage, ob jede Nutzung entsprechend ihrer Folgen gesteuert werden kann. Die Antwort erfordert eine Bestandsaufnahme, eine belastbare Klassifizierung, zurechenbare Entscheidungsrechte, unabhängige kritische Hinterfragung, zuverlässige Bewertung, nachvollziehbaren Betrieb und einen glaubwürdigen Ausstieg. Eine bloße Richtlinie kann diesen Nachweis nicht liefern.

Die regulatorische Ausgangslage hat sich 2026 wesentlich verändert. Die US-Bundesbankaufsichtsbehörden veröffentlichten am 17. April 2026 überarbeitete Leitlinien zum Modellrisikomanagement. Die Leitlinien ersetzen SR 11-7, betonen einen risikobasierten und maßgeschneiderten Ansatz und dürften für von der Federal Reserve regulierte Bankorganisationen mit einer Bilanzsumme von mehr als USD 30 billion am relevantesten sein [1]. Die OCC stellte außerdem fest, dass generative AI und agentische AI nicht in den Anwendungsbereich dieser überarbeiteten Leitlinien fallen, da sie neuartig und sich schnell entwickelnd sind [2]. Diese Abgrenzung des Anwendungsbereichs ist wichtig. Sie bedeutet, dass eine Institution nicht davon ausgehen kann, dass konventionelles Modellrisikomanagement allein jede Frage zu generativer oder agentischer AI beantwortet.

Im Vereinigten Königreich gilt die im April 2026 veröffentlichte Fassung des PRA Supervisory Statement SS1/23 und wendet Grundsätze des Modellrisikomanagements auf Modelle an, die zur Unterstützung von Geschäftsentscheidungen eingesetzt werden, einschließlich Anbietermodellen und künstlicher Intelligenz, sofern die Grundsätze anwendbar sind [4]. Die Bank of England, die FCA und HM Treasury forderten im Mai 2026 separat ein Verständnis des Boards und eine aktive Minderung von Cyber- und operationellen Resilienzrisiken im Zusammenhang mit Frontier-AI [9]. Im Juni 2026 schlug das Financial Stability Board 12 solide Praktiken vor, die organisationsweite Governance, Lifecycle-Kontrollen, Cyber-, Informations- und Kommunikationstechnik- sowie Drittanbieterrisiken abdecken [10]. Dieses FSB-Dokument blieb zum Stichtag der Beweiserhebung am 1. August 2026 eine Konsultation; sein Abschlussbericht war für Oktober 2026 vorgesehen [10].

Die Position der UAE wurde ebenfalls konkreter. Die Zentralbank der UAE veröffentlichte im Februar 2026 Verbraucherschutzleitlinien für den verantwortungsvollen Einsatz von AI und maschinellem Lernen durch lizenzierte Finanzinstitute [16]. Die DFSA veröffentlichte im Juni 2026 regulatorische Erwartungen zum AI-Risikomanagement im DIFC [18]. Diese Materialien ergänzen die Leitlinien der UAE-Regulierer zu Enabling-Technologien aus 2021, den UAE-Datenschutzrahmen und die DIFC-Regeln für personenbezogene Daten, die von autonomen und halbautonomen Systemen verarbeitet werden [17,22,23].

Dieses Papier überführt diese sich überschneidenden Quellen in einen operativen Rahmen für CIOs von Family Offices sowie Leiter alternativer Anlagen und internationale institutionelle Allokatoren. Der Rahmen ist für Investmentinstitutionen konzipiert, die möglicherweise direkt reguliert sind, an regulierte Unternehmen allokieren, AI-gestützte Dienstleistungen beschaffen oder aufgrund treuhänderischer, vertraglicher oder reputationsbezogener Risiken eine Governance auf institutionellem Niveau benötigen. Er unterscheidet zwischen Recht, verbindlichen Regeln, aufsichtlichen Leitlinien, Konsultationsmaterial, Standards und freiwilliger Praxis. Die Anwendbarkeit muss von qualifizierten Verantwortlichen für Recht und Compliance für die jeweilige Einheit, Aktivität und Jurisdiktion bestätigt werden.

Der Beitrag ist praxisorientiert. Er definiert ein gemeinsames Inventar, das Modelle, AI-Systeme, Assistenten, Agenten und eingebettete Anbieterfunktionen abdeckt; eine Wesentlichkeitsmethode, die Entscheidungskonsequenz von technischer Neuheit trennt; einen Lifecycle mit Evidence-Gates; Bewertungsanforderungen für deterministische, prädiktive, generative und agentische Systeme; Kontrollen für Drittanbieter und Konzentrationen; sowie Board-Informationen, die tatsächliche Hinterfragung ermöglichen. Zwei ausgearbeitete Betriebsfälle sind enthalten. Jede numerische Eingabe in diesen Fällen ist ausdrücklich ungeprüft und illustrativ. Zugeordnete Matchpoint- oder Kundenerträge, Barkostensenkungen und Verlustreduktionen bleiben USD 0, bis genehmigte beobachtete Nachweise vorliegen.

Das Papier stellt fünf Thesen auf.

Geltungsbereich, Definitionen und Evidenzgrenzen

Geltungsbereich

Gegenstand sind Governance und Modellrisiko für AI in regulierter Finanzwirtschaft und institutionell gesteuerter Investitionstätigkeit. Zu den abgedeckten Anwendungen gehören Research, Screening, Portfolioanalytik, Bewertungsunterstützung, Prognosen, Kontrollen zur Bekämpfung von Finanzkriminalität, Kundenkommunikation, Unterstützung bei der Geeignetheitsprüfung, Betrieb, Coding, Dokumentenanalyse und Workflow-Agenten. Das Papier behandelt intern entwickelte Systeme, konfigurierte Drittanbietersysteme, integrierte AI-Funktionen und extern bereitgestellte Modellergebnisse.

Das Papier legt weder den rechtlichen Status, den regulatorischen Perimeter, die Einhaltung treuhänderischer Pflichten, die Geeignetheit, die Datenschutzrechtskonformität noch die bilanzielle Behandlung für ein bestimmtes Institut fest. Es zertifiziert weder ein Modell noch einen Anbieter noch ein AI-System. Jedes Institut muss die anwendbaren Anforderungen durch seine autorisierten Verantwortlichen in den Bereichen Recht, Compliance, Risiko, Informationssicherheit, Datenschutz und Geschäft festlegen.

Arbeitsdefinitionen

Definitionen variieren je nach Regelwerk und Standard. Das Institut sollte die anwendbare rechtliche Definition in seinem Pflichtenregister beibehalten und einen breiteren operativen Perimeter für Governance aufrechterhalten.

Der operative Perimeter ist bewusst inklusiv. Eine Tabellenkalkulationsformel, eine Anbieterbewertung, ein Retrieval-Assistent oder ein Workflow-Agent erfüllen möglicherweise nicht jede rechtliche Definition eines Modells. Sie können dennoch eine folgenreiche Abhängigkeit erzeugen. Die Registrierung leitet den Vorgang an den zuständigen Governance-Verantwortlichen weiter; sie legt die regulatorische Einstufung nicht im Voraus fest.

Nachweiskategorien

Nachweise haben unterschiedliche Beweiskraft. Die Vermischung dieser Klassen erzeugt falsche Gewissheit.

Evidenzstichtag und Einschränkungen des aktuellen Zustands

Die Quellen wurden bis zum 1. August 2026 geprüft. Der EU-Umsetzungszeitplan änderte sich im Juli 2026, einschließlich verlängerter Fristen für Hochrisiko-Pflichten nach AI [25]. Die Transparenzpflichten nach Artikel 50 sollten ab dem 2. August 2026 gelten, einen Tag nach dem Evidenzstichtag [26]. Die FSB-Sound-Practices blieben Gegenstand einer Konsultation [10]. NIST gab an, dass AI RMF 1.0 überarbeitet werde [29]. Das Pflichtenregister muss daher Quelldatum, aktuellen Status, nächsten Überprüfungstermin und die rechtlich verantwortliche Stelle erfassen.

Forschungsmethodik

Das Papier priorisiert primäre Rechtsvorschriften, Aufsichtsbehörden, Standardsetzer und anerkannte Normungsorganisationen. Es trianguliert Modellrisiko, Governance nach AI, operative Resilienz, Cybersicherheit, Datenschutz und Drittanbieterrisiko. Es behandelt einen Umfrageprozentsatz nicht als universelle Adoptionsquote. Es behandelt einen freiwilligen Standard nicht als Gesetz. Es legt Konsultationsformulierungen nicht als endgültige Regelung aus.

Und Entscheidungskarte

Family-Office-CIOs und Leiter alternativer Anlagen

Institutionen sollten vermeiden, die organisatorische Größe einer Bank zu kopieren. Verhältnismäßigkeit kann dieselben Kontrollziele mit weniger Ausschüssen erhalten. Eine namentlich benannte verantwortliche Führungskraft, ein unabhängiger Challenger und ein vollständiges Nachweispaket können wirksamer sein als mehrere Gremien mit unklarer Zuständigkeit.

internationale institutionelle Allokatoren

Gemeinsames Governance-Ergebnis

Beide Zielgruppen benötigen einen kompakten Entscheidungsvertrag.

Regulatorische und aufsichtliche Landschaft

Leitlinien zum Modellrisiko im US-Bankwesen

Die behördenübergreifenden Leitlinien vom April 2026 beschreiben Modellrisiko als das Potenzial nachteiliger Folgen aus Entscheidungen, die auf fehlerhaften oder missbräuchlich verwendeten Modellausgaben beruhen. Sie heben eine wirksame Entwicklung und Nutzung, Validierung sowie Governance und Kontrollen hervor [1]. Sie sehen eine Anpassung an das Modellrisikoprofil, die Größe und die Komplexität der Bankorganisation vor. Die Anwendbarkeit durch die Federal Reserve wird als am relevantesten bei einer Bilanzsumme über USD 30 billion beschrieben [1]. Die OCC erklärte, dass die Leitlinien keinen durchsetzbaren Standard darstellen und dass generative sowie agentische AI-Modelle außerhalb ihres Geltungsbereichs liegen [2].

Dies schafft eine zweigeteilte Governance-Aufgabe. Konventionelle Modelle sollten, wo anwendbar, den überarbeiteten Leitlinien zugeordnet werden. Generative und agentische Systeme benötigen eine angrenzende AI-Risikomethode, die nützliche Modellrisiko-Disziplinen beibehält und zugleich Kontrollen für Inhalte, Interaktion, Tool-Nutzung, Sicherheit, Datenrechte und Autonomie ergänzt. Institutionen sollten festhalten, welches Regelwerk oder welche Richtlinie jedes Kontrollziel verantwortet.

Vereinigtes Königreich

PRA SS1/23 legt fünf Grundsätze fest: Modellidentifizierung und -klassifizierung; Governance; Entwicklung, Implementierung und Nutzung; unabhängige Validierung; und Maßnahmen zur Minderung von Modellrisiken [4]. Es gilt für Anbietermodelle ebenso wie für intern entwickelte Modelle und adressiert AI in Modellierungstechniken, sofern die allgemeinen Grundsätze anwendbar sind [4]. Materialien der Bank und der FCA betonen zudem Governance, Verantwortlichkeit sowie Daten-, Modell- und Drittanbieterrisiken [5,6].

Die gemeinsame Erklärung des Vereinigten Königreichs vom Mai 2026 ergänzt eine eigenständige Sorge um die Cyberresilienz von Frontier-AI. Sie fordert Verständnis bei Vorstand und Geschäftsleitung, Investitionen und Ressourcenausstattung, Zugriffsmanagement, Netzwerksicherheit, Datenschutz, präventive und detektive Fähigkeiten sowie Bedrohungseindämmung und Reaktion [9]. Der Financial Stability Report vom Juli 2026 beschrieb vier Kanäle: zentrale finanzielle Entscheidungsfindung, Finanzmärkte, operationelles Risiko von Dienstleistern und die sich verändernde externe Cyberbedrohung [8].

Die Governance-Implikation ist, dass AI-Risiko nicht ausschließlich in der Modellvalidierung verortet sein darf. Es erfordert Koordination über Fachbereichsverantwortung, Modellrisiko, operationelles Risiko, Informationssicherheit, Datenschutz, Compliance, Beschaffung und Resilienz hinweg.

UAE und DIFC

Die Leitlinie der CBUAE vom Februar 2026 konzentriert sich auf Verbraucherschutz und Marktverhalten für zugelassene Finanzinstitute, die AI und maschinelles Lernen einsetzen. Sie behandelt Transparenz, Bias, Ethik, Verantwortlichkeit, Erklärbarkeit und Datenschutz [16]. Die gemeinsamen UAE-Enabling-Technology-Leitlinien behandeln AI, Big-Data-Analytik, Cloud, Anwendungsprogrammierschnittstellen, Biometrie und Distributed-Ledger-Technologie [17].

Das SEO-Schreiben der DFSA vom Juni 2026 dokumentiert regulatorische Erwartungen an das AI-Risikomanagement im DIFC [18]. Ihre Erhebung von 2025 umfasste 661 zugelassene Unternehmen bei einer Teilnahmequote von 88 Prozent. Die DFSA berichtete, dass 52 Prozent AI nutzten, 60 Prozent über irgendeine Form einer AI-Governance-Struktur verfügten und 21 Prozent klare Verantwortlichkeit oder Aufsicht vermissen ließen, selbst wenn die Nutzung kritisch war [19]. Diese Zahlen beschreiben die damalige Erhebungspopulation und den Erhebungszeitpunkt; es handelt sich nicht um allgemeingültige Schätzungen zur Verbreitung.

Die DIFC Data Protection Regulation 10 behandelt personenbezogene Daten, die durch autonome und halbautonome Systeme verarbeitet werden [22]. Das UAE Federal Decree-Law Nr. 45 von 2021 legt den föderalen Rahmen für personenbezogene Daten fest [23]. Das Pflichtenregister der Institution sollte das maßgebliche Datenregime, die Rollen von Verantwortlichem und Auftragsverarbeiter, die Rechtsgrundlage, Einschränkungen für sensible Daten, Übermittlungsanforderungen, Rechte Einzelner, Aufbewahrung und Vorfallpflichten identifizieren.

Europäische Union

Die Verordnung (EU) 2024/1689 legt einen risikobasierten AI-Rahmen fest [24]. Das AI-Omnibus vom Juli 2026 änderte Elemente der Umsetzung und verlängerte den Beginn der Vorschriften für Hochrisiko-AI auf den 2. Dezember 2027, wobei Vorschriften für AI, die in regulierte physische Produkte eingebettet ist, für den 2. August 2028 vorgesehen sind [25]. Transparenzpflichten für bestimmte AI-Interaktionen sowie generierte oder manipulierte Inhalte sollten ab dem 2. August 2026 gelten [26].

DORA verlangt von den in den Anwendungsbereich fallenden Finanzunternehmen, IKT-Assets, Abhängigkeiten und kritische Verbindungen zu identifizieren und zu dokumentieren; IKT-Risiken zu steuern; Vereinbarungen mit Dritten zu regeln; Resilienz zu testen; und vertragliche sowie Exit-Fähigkeiten aufrechtzuerhalten [27]. GDPR regelt weiterhin die Verarbeitung personenbezogener Daten und Fragen automatisierter Entscheidungen, soweit anwendbar [28]. Die AI-Klassifizierung sollte daher an bestehende IKT-, Auslagerungs-, Datenschutz-, Verhaltens- und Resilienzregister anknüpfen.

Internationale Koordinierung und Standards

Die Konsultation des FSB vom Juni 2026 schlägt 12 solide Praktiken vor. Die ersten vier betreffen unternehmensweite Governance, die nächsten sechs das Risikomanagement über den Lebenszyklus und die letzten beiden Cyber-, IKT- und Drittanbieterrisiken [10]. Das Dokument stellt klar, dass die Praktiken weder einen internationalen Standard schaffen noch vorschreiben sollen, ob Institute AI übernehmen sollten [10].

Materialien des Basler Ausschusses verknüpfen Digitalisierung mit Governance, Modellrisiko, Abhängigkeit von Dritten, operationellem Risiko und Resilienz [12-14]. Eine Untersuchung des BIS-FSI stellte fest, dass die meisten Finanzaufsichtsbehörden AI über bestehende technologieneutrale Rahmenwerke adressieren und dabei Lücken bei Governance, Kompetenzen, Modellrisiko, Daten, Dritten und neuen Geschäftsmodellen ausmachen [15].

Das NIST-AI-RMF ordnet Ergebnisse den Bereichen Govern, Map, Measure und Manage zu [29]. Sein Generative-AI-Profil benennt Risiken und empfohlene Maßnahmen, die für generative AI spezifisch sind oder durch sie verstärkt werden [30]. ISO/IEC 42001 legt einen Managementsystemstandard für AI fest [33]. ISO/IEC 23894 bietet Leitlinien zum Risikomanagement für AI [34]. Dies sind nützliche Referenzen für die Kontrollgestaltung. Ihre Anwendung begründet keine rechtliche Konformität.

Anwendbarkeitsmatrix

Inventar und Klassifizierung

Ein Perimeter, mehrere Taxonomien

Eine Institution sollte ein auffindbares AI- und Modellregister mit verknüpften Klassifizierungen führen. Getrennte, nicht verknüpfte Inventare für Modelle, SaaS, End-User-Computing, Datenschutz, Anbieter und operative Prozesse schaffen Lücken. Der Stammdatensatz sollte auf Fachregister verweisen, statt jedes Feld zu duplizieren.

Erkennungswege

Die Vollständigkeit des Inventars erfordert mehrere Erkennungswege. Selbstauskunft allein ist schwach, weil eingebettete Funktionen und Schattennutzung für zentrale Teams unsichtbar sein können.

Wesentlichkeitsmodell

Die Wesentlichkeit sollte beurteilt werden, bevor Kontrollen ausgewählt werden. Der vorgeschlagene Score verwendet acht Dimensionen, die jeweils mit null bis vier bewertet werden. Der Score unterstützt die Beurteilung; er ersetzt sie nicht.

Die vorgeschlagenen anfänglichen Bänder sind 0–7 für Tier 1, 8–15 für Tier 2, 16–23 für Tier 3 und 24–32 für Tier 4. Diese Bänder sind Management-Designparameter, keine regulatorischen Schwellenwerte. Eine verpflichtende Überschreibung sollte Anwendungsfälle hochstufen, die rechtliche Rechte, wesentliche Kundenkommunikation, autonome Wertbewegungen, regulatorische Berichterstattung, Sicherheit, Kredit- oder Eignungsentscheidungen oder kritische Dienstabhängigkeiten betreffen.

Befugnisklassifizierung

Die Befugnis bestimmt das Risiko häufig direkter als der Modelltyp.

Klassifizierungsergebnis

Der Klassifizierungsdatensatz sollte Fakten, Schlussfolgerungen und Unsicherheit getrennt ausweisen.

Governance und Entscheidungsrechte

Verantwortliche Zuständigkeit

Jede registrierte Nutzung benötigt einen fachlichen Verantwortlichen, der für das Ergebnis und das Restrisiko verantwortlich ist. Technologische Zuständigkeit ersetzt nicht die fachliche Verantwortung. Verantwortliche für Modellrisiko, Compliance, Datenschutz und Sicherheit bieten im Rahmen ihrer Mandate unabhängige oder fachliche kritische Hinterfragung.

Verhältnismäßige Gremiengestaltung

Institutionen können einen bestehenden Investment-, Risiko- oder Operating-Ausschuss mit einer ständigen AI-Agenda nutzen. Institutionen können einen zentralen AI-Risikoausschuss mit Genehmigungen auf Geschäftsbereichsebene nutzen. Das erforderliche Ergebnis sind klare Befugnisse und dokumentierte Hinterfragung.

Richtlinienstruktur

Die Institution sollte eine eigenständige AI-Richtlinie vermeiden, die mit bestehenden Verpflichtungen kollidiert. Eine prägnante AI-Richtlinie sollte Geltungsbereich, Grundsätze, Rollen, unzulässige Verwendungen, Genehmigung, Überwachung, Vorfälle und Ausnahmen definieren. Unterstützende Standards sollten mit Modellrisiko, Daten, Datenschutz, Cybersicherheit, Auslagerung, operativer Resilienz, Geschäftsgebaren, Aufzeichnungen, Change und Audit verknüpft sein.

Risikoappetit

Der Risikoappetit sollte unzulässige Aktivitäten, quantitative oder kategorische Limits, Genehmigungsinstanzen und Eskalation festlegen. Beispiele hierfür sind:

Kompetenz und kritische Hinterfragung

Schulungen sollten zur Rolle passen. Allgemeine Anwender brauchen ein Bewusstsein für Daten, Quellen, Halluzinationen, Phishing, Prompt-Injection und Eskalation. Verantwortliche benötigen Klassifizierung, Nachweise und Zuständigkeiten bei Vorfällen. Prüfer benötigen technische und fachliche Kompetenz. Gremien benötigen ausreichend Verständnis, um Risikokonzentration, Autonomie, Grenzen und Ressourcenausstattung zu hinterfragen [9,10]. Der Abschluss von Schulungen ist für sich genommen ein schwacher Nachweis; Szenariotests und beobachtetes Verhalten liefern stärkere Nachweise.

Lebenszyklus und Evidenz-Gates

Lebenszyklus

Der vorgeschlagene Lebenszyklus umfasst zehn Phasen: Idee, Registrierung, Klassifizierung, Design, Entwicklung oder Beschaffung, Evaluierung, Genehmigung, kontrollierte Bereitstellung, Überwachung und Außerbetriebnahme. Iterationen kehren zum jeweils geeigneten früheren Gate zurück, wenn sich Modell, Prompt, Daten, Tool, Zweck, Population oder Anbieter ändern.

Designnachweise

Das Design-Paket sollte das vollständige System zeigen, einschließlich der Aufgabe des Nutzers, Daten, Modell, Retrieval, deterministischer Kontrollen, Tools, Schnittstellen, menschlicher Prüfung und nachgelagerter Aktion. Eine Modellkarte ohne Workflow-Kontext ist für eine wesentliche AI-Nutzung unvollständig.

Genehmigungspaket

Das Genehmigungspaket sollte eine Frage beantworten: Stützt die verfügbare Evidenz die vorgeschlagene begrenzte Nutzung? Es sollte Lücken aufzeigen, statt das Fehlen von Evidenz in eine positive Schlussfolgerung umzuwandeln.

Änderungskontrolle

AI-Dienste können sich durch Modellversionen, Prompts, Systemanweisungen, Retrieval-Inhalte, Tools, Richtlinien, Sicherheitsfilter, Anbieter, Daten, Nutzergruppen und Hosting ändern. Der Änderungsstandard sollte jede Änderung klassifizieren und die erforderliche Regression definieren.

Außerbetriebnahme

Die Außerbetriebnahme sollte Zugriff und Abhängigkeit beseitigen und dabei die erforderlichen Aufzeichnungen erhalten. Bei kritischen Systemen sollte die Institution den Datenexport, den Ersatzbetrieb und die Wiederherstellung testen, bevor sie den Produktivbetrieb genehmigt. Kündigungsrechte gegenüber Anbietern ohne operativen Übergangsplan sind schwache Belege.

Validierung und Evaluierung

Validierungsziel

Die Validierung bietet eine wirksame Herausforderung hinsichtlich konzeptioneller Fundiertheit, Implementierung, Performance, Nutzung und Einschränkungen. Die Tiefe hängt von Wesentlichkeit, Komplexität und Exposure [1,4] ab. Der Validator sollte ausreichend unabhängig sein, um den Verantwortlichen herauszufordern, und in den relevanten Bereichen Daten, Modell und Workflow kompetent sein.

Evaluierung nach Systemtyp

Repräsentativer Evaluationsdatensatz

Die Evaluationspopulation sollte normale, schwierige, widrige und unzulässige Fälle widerspiegeln. Sie sollte wesentliche Untergruppen und Zeiträume, bekannte Fehlermodi, Randbedingungen und Out-of-Distribution-Beispiele umfassen. Die Testset-Governance sollte Kontamination und nicht nachverfolgte Änderungen verhindern.

Metriken

Ein einzelner Genauigkeitsprozentsatz ist für die meisten wesentlichen AI-Anwendungen unzureichend.

Schwellenwerte müssen an Konsequenzen geknüpft sein. Ein Assistent für Textentwürfe und eine automatisierte Kundenanweisung sollten nicht dieselbe Toleranz aufweisen. Bei Ereignistypen mit Nulltoleranz sollte das Bewertungsziel die Abwesenheit des Ereignisses in der getesteten Population sowie starke präventive und detektive Kontrollen sein; es sollte nicht als Nachweis beschrieben werden, dass das Ereignis nicht eintreten kann.

Bewertung generativer AI

Das NIST-Profil für generative AI identifiziert Risiken wie Konfabulation, Datenschutz, schädliche Verzerrung, Mensch-AI-Konfiguration, Informationsintegrität, Informationssicherheit, geistiges Eigentum und Abhängigkeit von der Wertschöpfungskette [30]. Die Bewertung sollte das System in der konfigurierten Form abdecken, einschließlich Prompts, Retrieval, Tools, Sicherheitskontrollen und Workflow. Benchmark-Ergebnisse von Anbietern können die Eignung für eine lokale Investition oder eine Nutzung im regulierten Finanzbereich nicht belegen.

Agentische Bewertung

Agentische Systeme bringen zusätzliche Risiken durch Sequenzen, Zustand, Tools und Berechtigungen mit sich. Ein Schritt kann für sich genommen akzeptabel sein, während die Sequenz zu einem nicht autorisierten Ergebnis führt. Die Bewertung sollte jede Aktion, jede Tool-Eingabe, jede Tool-Ausgabe, jede Berechtigungsentscheidung, jede menschliche Intervention und den endgültigen Zustand erfassen.

Dokumentation der unabhängigen Hinterfragung

Der Validierungsbericht sollte Umfang, Methoden, Nachweise, Einschränkungen, Feststellungen, Schweregrad, Bedingungen und Schlussfolgerung darstellen. Eine eingeschränkte Schlussfolgerung kann einen begrenzten Pilotversuch unterstützen. Fehlende Nachweise sollten als Einschränkung oder Problem bestehen bleiben. Die Abnahme durch das Management sollte die verantwortliche Stelle und die Entscheidungsbefugnis benennen.

Daten, Datenschutz, Sicherheit und Dritte

Daten-Governance

AI Kontrollen leiten sich aus dem Datenlebenszyklus ab. Jede wesentliche Nutzung sollte Provenienz, Eigentümerschaft, Berechtigung, Zweck, Qualität, Datenherkunft, Minimierung, Aufbewahrung, Übertragung, Löschung und Reaktion auf Vorfälle festlegen.

Sichere Entwicklung und sicherer Betrieb

NIST CSF 2.0 und die NCSC-Leitlinien zu Secure-AI liefern Referenzen für Governance und Sicherheit über den Lebenszyklus [31,32]. Die LLM-Arbeit von OWASP zu Anwendungsrisiken liefert einen technischen Bedrohungskatalog [36]. Das Institut sollte Kontrollen aus seinem anwendbaren Sicherheitsframework auswählen und deren Umsetzung dokumentieren.

Drittanbieter AI

Finanzinstitute bleiben für Risiken verantwortlich, die durch von ihnen beschaffte oder genutzte Dienste entstehen. DORA, Basel-Unterlagen, FSB-Arbeiten, FINMA-Leitlinien und UAE-Aufsichtsunterlagen unterstreichen allesamt die Bedeutung von Abhängigkeiten von Drittanbietern, Governance und Resilienz [10,12,15-17,27,37].

Konzentration und Viertparteien

Basismodelle, Cloud-Infrastruktur, Datendienste und spezialisierte Werkzeuge können gemeinsame Abhängigkeiten über scheinbar unterschiedliche Anwendungen hinweg erzeugen. Das Inventar sollte letztendliche Anbieter und wesentliche Unterauftragsverarbeiter ermitteln. Die Szenarioanalyse sollte gleichzeitigen Ausfall, eingeschränkten Dienst, einseitige Vertragsänderung, Regionsausfall, Modellrückzug und Verlust des Audit-Zugriffs untersuchen.

Kontrollplan für Verträge

Der Vertrag sollte Leistungsumfang, genehmigte Datennutzung, Vertraulichkeit, Sicherheit, Vorfallmeldung, Geschäftskontinuität, Audit, gegebenenfalls Aufsichtsbehördenzugang, Unterauftragsvergabe, Modelländerungen, Leistungserbringung, geistiges Eigentum, Aufbewahrung von Unterlagen, Löschung, Ausstiegsunterstützung und Haftungszuordnung festlegen. Vertragsklauseln müssen von qualifizierten Rechtsberatern geprüft werden. Ein Recht ohne betriebliche Erprobung bleibt ein unvollständiger Nachweis.

Menschliche Aufsicht, Verhalten und Rechenschaftspflicht

Wirksame menschliche Aufsicht

Menschliche Überprüfung ist aussagekräftig, wenn der Prüfer über Kompetenz, Zeit, Autorität, Informationen und eine wirksame Fähigkeit verfügt, das Ergebnis infrage zu stellen oder zu stoppen. Ein Pflichtklick ohne stützende Nachweise ist eine schwache Kontrolle.

Automatisierungsverzerrung und Arbeitsbelastung

Überwachung kann versagen, wenn Nutzer sich auf ausgefeilte Ausgaben verlassen, zu viele Vorgänge prüfen oder keinen Zugang zu Quellnachweisen haben. Das Monitoring sollte Muster bei Korrekturen, Übersteuerungen, Prüfzeiten, Ausnahmen und Uneinigkeiten messen. Eine sehr niedrige Übersteuerungsrate kann hohe Qualität anzeigen; sie kann aber auch auf eine schwache Hinterfragung hindeuten. Eine Untersuchung erfordert stichprobenartige Nachweise.

Fairness und betroffene Parteien

Wenn AI Zugang, Preisgestaltung, Eignung, Beschäftigung, Kredit, Versicherung oder andere Behandlungen mit erheblichen Folgen betrifft, sollte die Institution rechtlich und operativ relevante Gruppen identifizieren, unterschiedliche Ergebnisse bewerten, rechtmäßige Ziele dokumentieren, eine angemessene Erläuterung bereitstellen und Widerspruchs- oder Eskalationswege vorhalten. Das anwendbare Recht bestimmt die konkreten Pflichten. OECD-Grundsätze, NIST-Ergebnisse, CBUAE-Hinweise und FINMA-Erwartungen liefern unterstützende Governance-Referenzen [16,29,35,37].

Aufzeichnungen und Erläuterungen

Die Aufzeichnung sollte Eingabe, relevante Quellversion, Systemkonfiguration, Ausgabe, Prüfermaßnahme, endgültige Entscheidung und Begründung in dem für eine Rekonstruktion erforderlichen Umfang bewahren. Die Erläuterung sollte dem Publikum und der Entscheidung angemessen sein. Technische Interpretierbarkeit erfüllt nicht automatisch die Anforderungen an Erklärungen gegenüber Kunden oder die rechtlichen Erklärungsanforderungen.

Verbotene und eingeschränkte Verwendungen

Jede Institution sollte verbotene Verwendungen auf Grundlage von Recht, Mandat und Risikobereitschaft definieren. Eingeschränkte Verwendungen dürfen nur unter festgelegten Bedingungen betrieben werden. Beispiele zur Erwägung durch das Management umfassen die Eingabe nicht genehmigter vertraulicher Daten, unbeaufsichtigte Rechts- oder Anlageberatung, autonome Werttransfers über Limits hinaus, erfundene Quellenzuordnung, verdeckte Kundeninteraktion und die Nutzung personenbezogener Daten außerhalb des genehmigten Zwecks. Dies sind vorgeschlagene Richtlinienbeispiele; die rechtlichen Verantwortlichen müssen die tatsächlichen Verbote festlegen.

Überwachung, Vorfälle und Assurance

Überwachungsdesign

Die Überwachung sollte das Systemverhalten mit Risikobereitschaft und Genehmigungsbedingungen verknüpfen.

Incident-Taxonomie

Ein AI-Vorfall kann ein Modell-, Daten-, Sicherheits-, Datenschutz-, Verhaltens-, Betriebs-, Rechts- oder Drittanbieterereignis sein. Der Incident-Prozess sollte vermeiden, alles an ein spezialisiertes AI-Team weiterzuleiten. Die Schweregradbewertung sollte tatsächliche und plausible Folgen, Exposition, Eindämmung, regulatorische Meldepflichten, betroffene Parteien und Wiederholung berücksichtigen.

Kontrollsicherheit

Tests der ersten Verteidigungslinie sollten bestätigen, dass die Kontrollen funktionieren. Die Überwachung durch die zweite Verteidigungslinie sollte Klassifizierung, Genehmigung, Feststellungen und aggregiertes Risiko hinterfragen. Die Interne Revision sollte die Ausgestaltung des Rahmens und die operative Wirksamkeit anhand eines risikobasierten Plans bewerten. Externe Prüfungssicherheit kann Anbieter- oder technische Nachweise stützen, aber das Institut muss Umfang, Zeitraum, Ausschlüsse und Relevanz bewerten.

Aggregiertes Risiko

Die Portfolioberichterstattung sollte Konzentrationen nach Anbieter, Modell, Cloud, Datenquelle, Geschäftsprozess, Geografie und Berechtigungsebene ausweisen. Einzeln niedrig eingestufte Assistenten können wesentlich werden, wenn sie einen Anbieter teilen, ein großes Volumen verarbeiten oder einen gemeinsamen Fehler in mehrere Entscheidungen einbetten.

Illustrativer Betriebsfall

Falldefinition

Illustrative Annahme: Es wird angenommen, dass ein Investmentteam eines Family Office einen Retrieval-Augmented-Assistenten nutzt, um Dokumente von Private-Market-Fonds zusammenzufassen, wesentliche Bedingungen zu vergleichen und Fragen für den Investmentausschuss zu entwerfen. Das System ist nicht befugt, Investitionen zu genehmigen, mit Managern zu kommunizieren oder Anweisungen zu übermitteln. Alle numerischen Werte und Betriebsannahmen in diesem Abschnitt sind unbestätigte Illustrationen.

Klassifizierung

Die vorgeschlagene Wesentlichkeitsbewertung ist Stufe 3, weil die Anwendung vertrauliche Daten verarbeitet und die Investmentanalyse beeinflussen kann, während die Ausgabe ein Entwurf bleibt und reversibel ist. Eine verpflichtende Übersteuerung würde greifen, wenn die Ausgabe ohne Prüfung in Ausschussunterlagen gelangte, rechtliche Schlussfolgerungen erzeugte oder externe Kommunikation auslöste.

Evaluierungsdesign

Illustrative Annahme. Die vorgeschlagenen Schwellenwerte zur Veranschaulichung sind: 100 Prozent Belegquote für definierte wesentliche Vertragsbedingungen im Testset, null transaktionsübergreifende Zugriffsfehler, null autonome Aktionen, mindestens 98 Prozent Zitattreue und dokumentierte Eskalation bei jedem ungelösten Quellenkonflikt. Diese Werte sind vorgeschlagene Annahmen des Managements und bedürfen der Genehmigung.

Kontrollausgestaltung

Wirtschaftliche Grenze

Illustrative Annahme: Die Nutzung kann Analystenkapazität freisetzen. Freigesetzte Zeit ist keine Bareinsparung, sofern nicht eine genehmigte finanzielle Auswirkung festgestellt wird. Zugeschriebene Matchpoint oder Kundenerlöse, Senkung der Cash-Kosten und Verlustminderung bleiben USD 0.. Ein Value-Ledger kann akzeptierte Ergebnisse, Prüfzeit, Nacharbeit und vollständige Betriebskosten erfassen, ohne theoretische Stunden in realisierten Nutzen umzuwandeln.

Illustrativer Betriebsfall

Falldefinition

Illustrative Annahme: Es wird angenommen, dass ein institutioneller Allokator ein prädiktives und generatives System nutzt, um externe Manager zu überwachen, Berichts anomalien zu kennzeichnen und Due-Diligence-Folgefragen zu entwerfen. Das Modell kann die Prüfung priorisieren; es kann keine Allokation ändern, keine Verstoßmitteilung ausstellen oder extern kommunizieren. Alle numerischen Eingaben und Schwellenwerte in diesem Abschnitt sind unbestätigte Illustrationen.

Abgrenzung zwischen Modell und Workflow

Die prädiktive Komponente erkennt Anomalien anhand freigegebener Merkmale und Benchmarks. Die generative Komponente erläutert den Flag anhand kontrollierter Aufzeichnungen und entwirft Rückfragen. Eine deterministische Regelschicht setzt Exposure-Limits und erforderliche Eskalationen durch. Der Verantwortliche für Investmentrisiken entscheidet über die Eskalation. Diese Trennung ermöglicht unterschiedliche Bewertungsmethoden und verringert die Autorität, die probabilistischen Ergebnissen zugewiesen wird.

Evaluierung

Beispielhafte Annahme: Ein beispielhafter Pilotversuch verwendet 18 Monate historischer Aufzeichnungen, 60 entschiedene Ereignisse und eine dreimonatige Schattenphase. Diese Werte sind Annahmen des Managements. Das Institut müsste beurteilen, ob die Stichprobe die beabsichtigten Aussagen und wesentlichen Untergruppen stützt.

Entscheidung und Eskalation

Portfolio- und Drittanbieter-Aggregation

Der Allokator sollte gemeinsame Anbieter über Manager-Monitoring-, Research-, Reporting- und Client-Service-Tools hinweg aggregieren. Eine einzelne Foundation-Model- oder Cloud-Abhängigkeit kann mehrere dem Namen nach verschiedene Anbieter unterstützen. Das Board Pack sollte diese Look-Through-Konzentration und den getesteten Wiederherstellungspfad ausweisen.

Wirtschaftliche Grenze

Illustrative Annahme: Im illustrativen Fall wird kein finanzieller Nutzen angerechnet. Eine spätere Bewertung könnte Review-Durchsatz, akzeptierte Flags, wesentliche Auslassungen, falsche Eskalationen, Zeit bis zur Behebung und Betriebskosten messen. Aussagen zu Umsatz, Cash-Kosten und Verlusten erfordern genehmigte beobachtete Nachweise und ein belastbares kontrafaktisches Szenario.

Board Pack, Roadmap und Umsetzung

Board-Informationen

Das Board-Reporting sollte Steuerung und kritische Hinterfragung unterstützen. Es sollte Risikopositionen von Aktivitäten trennen und Ausnahmen klar berichten.

Zwölfmonats-Roadmap

Erste 30 Tage

Im ersten Monat sollten Zuständigkeiten und Sichtbarkeit geschaffen werden. Benennen Sie die verantwortliche Führungskraft, erlassen Sie vorläufige Daten- und Befugnisbeschränkungen, richten Sie eine zentrale Erfassungsstelle ein, gleichen Sie bekannte Anwendungen und Abonnements ab und verknüpfen Sie AI-Ereignisse mit dem bestehenden Incident-Management. Priorisieren Sie Nutzungen, die sich auf Kunden, Kapital, Berichterstattung, Rechte, vertrauliche Daten oder Vermögensbewegungen auswirken können.

Tage 31–90

Erstellen Sie ein Pflichtenregister aus den anwendbaren rechtlichen und aufsichtsrechtlichen Quellen. Schließen Sie die Klassifizierung wesentlicher Nutzungen ab. Erstellen Sie Vorlagen für Bewertung, Genehmigung, Überwachung, Änderung und Außerbetriebnahme. Prüfen Sie kritische Anbieter und eingebettete AI-Funktionen. Richten Sie einen Ausnahmeprozess mit Ablaufdatum und kompensierenden Kontrollen ein.

Monate vier bis zwölf

Bewerten Sie wesentliche Nutzungen und genehmigen Sie sie oder setzen Sie sie aus. Testen Sie Zugriffsisolierung, Wiederherstellung nach Ausfällen und Anbieterausstieg. Gleichen Sie die Anbieterkonzentration ab. Implementieren Sie Board-Kennzahlen und unabhängige Assurance. Aktualisieren Sie das Rahmenwerk, wenn die FSB-Konsultation abgeschlossen ist, NIST AI RMF aktualisiert oder sich die Vorschriften der jeweiligen Jurisdiktionen ändern.

Reifegradmodell für Kontrollen

Einschränkungen, Forschungsagenda und Fazit

Dieses Papier fasst länderübergreifende Materialien zusammen; es begründet keine Anwendbarkeit für ein bestimmtes Unternehmen. Anforderungen können sich überschneiden und ändern. Die FSB-Sound-Practices befanden sich zum Zeitpunkt der Datenerhebung im Konsultationsstatus. Der EU-Zeitplan änderte sich kurz vor der Veröffentlichung. Die überarbeiteten US-Leitlinien zum Modellrisiko schließen generative und agentische AI ausdrücklich vom Anwendungsbereich aus. Standards und freiwillige Rahmenwerke begründen keine rechtliche Compliance.

Das Betriebsrahmenwerk erfordert empirische Tests. Künftige Forschungsarbeiten sollten die Konsistenz der Klassifizierung zwischen Institutionen vergleichen; die Zuverlässigkeit der Validierung für generative und agentische Workflows messen; bewerten, ob Zitations- und Human-Review-Kontrollen wesentliche Fehler verringern; die Konzentration auf Viertparteien bewerten; und Exit-Pläne bei Anbieterrückzug, Modellwechsel und Cyber-Störungen testen. Institutionen sollten Incident-Taxonomien und Evaluierungsmethoden veröffentlichen oder teilen, soweit es die Vertraulichkeit zulässt.

Die zentrale Schlussfolgerung ist, dass eine kontrollierte Einführung von AI ein Evidenzproblem ist. Eine vollständige Bestandsaufnahme zeigt die Exposition. Wesentlichkeit und Befugnis bestimmen die verhältnismäßige Kontrolle. Die Bewertung stellt eine begrenzte Eignung fest. Die Governance weist die Entscheidung zu. Die Überwachung hält die Genehmigung aktuell. Vorfall- und Exit-Fähigkeiten begrenzen Fehlschläge. Für Family Offices und institutionelle Allokatoren unterstützt diese Struktur Innovation, während sie die Anlagebefugnis, Vertraulichkeit, Rückverfolgbarkeit und Resilienz wahrt.

Zugerechnete Matchpoint oder Kundenerlöse, Senkungen der Barkosten und Verlustreduzierungen bleiben USD 0, bis genehmigte beobachtete Nachweise die Zurechnung stützen.