AI Gouvernance et risque de modèle en finance réglementée

Introduction

L’intelligence artificielle est passée de l’expérimentation isolée à la recherche en investissement, au service client, à la conformité, aux opérations, à l’analyse des risques et à la livraison technologique. Dans la finance réglementée, la question centrale de gestion est de savoir si chaque usage peut être gouverné proportionnellement à ses conséquences. La réponse exige un inventaire, une classification défendable, des droits de décision attribuables, une remise en question indépendante, une évaluation fiable, une exploitation traçable et une sortie crédible. Une déclaration de principe seule ne peut fournir ces preuves.

Le référentiel réglementaire a sensiblement évolué en 2026. Les agences bancaires fédérales américaines ont publié le 17 avril 2026 des orientations révisées en matière de gestion du risque de modèle. Ces orientations remplacent SR 11-7, mettent l'accent sur une approche fondée sur les risques et adaptée, et devraient concerner au premier chef les organisations bancaires régulées par la Réserve fédérale dont le total d'actifs dépasse USD 30 billion [1]. L'OCC a également indiqué que l'AI générative et l'AI agentique sont hors du champ de ces orientations révisées, car elles sont nouvelles et évoluent rapidement [2]. Cette délimitation du champ d'application est importante. Elle signifie qu'une institution ne peut pas supposer que la gestion conventionnelle du risque de modèle répond à elle seule à toutes les questions relatives à l'AI générative ou agentique.

Au Royaume-Uni, la version d'avril 2026 de la déclaration de supervision SS1/23 de la PRA applique les principes de gestion du risque de modèle à l'ensemble des modèles utilisés pour éclairer les décisions métier, y compris les modèles de fournisseurs et l'intelligence artificielle lorsque ces principes s'appliquent [4]. La Banque d'Angleterre, la FCA et HM Treasury ont séparément appelé en mai 2026 à une compréhension par les conseils d'administration et à une atténuation active des risques cyber et de résilience opérationnelle liés à l'AI de frontière [9]. En juin 2026, le Conseil de stabilité financière a proposé 12 pratiques saines couvrant la gouvernance à l'échelle de l'organisation, les contrôles du cycle de vie, les risques cyber, les technologies de l'information et de la communication, ainsi que les risques liés aux tiers [10]. Ce document du FSB restait une consultation à la date d'arrêt des éléments probants du 1er août 2026 ; son rapport final était prévu pour octobre 2026 [10].

La position UAE est également devenue plus précise. La Banque centrale UAE a publié en février 2026 des orientations de protection des consommateurs pour un usage responsable de l'AI et de l'apprentissage automatique par les institutions financières agréées [16]. La DFSA a publié en juin 2026 des attentes réglementaires sur la gestion des risques liés à l'AI dans le DIFC [18]. Ces documents s'ajoutent aux lignes directrices de 2021 des régulateurs UAE sur les technologies habilitantes, au cadre UAE relatif aux données personnelles et aux règles du DIFC applicables aux données personnelles traitées par des systèmes autonomes et semi-autonomes [17,22,23].

Ce document convertit ces sources qui se chevauchent en un cadre opérationnel destiné aux directeurs des investissements des family offices et aux responsables des classes d'actifs alternatives et des allocateurs institutionnels internationaux. Le cadre est conçu pour les institutions d'investissement qui peuvent être régulées directement, allouer à des sociétés régulées, acheter des services intégrant l'AI, ou avoir besoin d'une gouvernance de niveau institutionnel en raison d'une exposition fiduciaire, contractuelle ou réputationnelle. Il distingue le droit, les règles contraignantes, les orientations de supervision, les documents de consultation, les normes et les pratiques volontaires. L'applicabilité doit être confirmée par des responsables qualifiés des fonctions juridique et conformité pour l'entité, l'activité et la juridiction.

L'apport est pratique. Il définit un inventaire commun couvrant les modèles, les systèmes d'AI, les assistants, les agents et les capacités intégrées des fournisseurs ; une méthode de matérialité qui distingue la conséquence décisionnelle de la nouveauté technique ; un cycle de vie assorti de points de contrôle probants ; des exigences d'évaluation pour les systèmes déterministes, prédictifs, génératifs et agentiques ; des contrôles des tiers et de concentration ; et une information au conseil d'administration qui permette une véritable remise en question. Deux cas opérationnels travaillés sont inclus. Chaque donnée numérique de ces cas est explicitement non vérifiée et illustrative. Les Matchpoint attribués ou les revenus clients, la réduction des coûts de trésorerie et la réduction des pertes restent USD 0 jusqu'à ce que des éléments probants observés et approuvés existent.

Le document formule cinq propositions.

Périmètre, définitions et limites des preuves

Périmètre

Le sujet est la gouvernance et le risque de modèle pour AI utilisé dans la finance réglementée et les activités d’investissement encadrées par des institutions. Les utilisations couvertes comprennent la recherche, le filtrage, l’analytique de portefeuille, l’aide à la valorisation, les prévisions, les contrôles de criminalité financière, les communications clients, l’aide à l’adéquation, les opérations, le codage, l’analyse de documents et les agents de flux de travail. L’article traite des systèmes développés en interne, des systèmes tiers configurés, des fonctionnalités AI intégrées et des sorties de modèles fournies en externe.

L’article ne détermine pas le statut juridique, le périmètre réglementaire, la conformité fiduciaire, l’adéquation, la conformité au droit des données ou le traitement comptable pour une institution particulière. Il ne certifie ni un modèle, ni un fournisseur, ni un système AI. Chaque institution doit établir les exigences applicables par l’intermédiaire de ses responsables autorisés des fonctions juridique, conformité, risque, sécurité de l’information, confidentialité et métiers.

Définitions de travail

Les définitions varient selon les règles et les normes. L’institution devrait conserver la définition juridique applicable dans son registre des obligations et maintenir un périmètre opérationnel plus large pour la gouvernance.

Le périmètre opérationnel est volontairement inclusif. Une formule de tableur, un score fournisseur, un assistant de recherche d'informations ou un agent de workflow peuvent ne pas satisfaire toutes les définitions juridiques d'un modèle. Ils peuvent néanmoins créer une dépendance lourde de conséquences. L'enregistrement achemine l'élément vers le responsable de gouvernance compétent ; il ne prédétermine pas la classification réglementaire.

Classes de preuves

Les preuves n'ont pas toutes la même autorité. Mélanger ces catégories crée une fausse certitude.

Date d’arrêté des éléments probants et limites de l’état actuel

Les sources ont été examinées jusqu’au 1er août 2026 inclus. Le calendrier de mise en œuvre de l’UE a changé en juillet 2026, notamment avec des dates prolongées pour les obligations AI à haut risque [25]. Les obligations de transparence de l’article 50 devaient s’appliquer à compter du 2 août 2026, soit un jour après la date d’arrêté des éléments probants [26]. Les pratiques saines du FSB sont restées au stade de la consultation [10]. Le NIST a indiqué que la RMF 1.0 de AI était en cours de révision [29]. Le registre des obligations doit donc consigner la date de la source, le statut actuel, la date de la prochaine révision et le responsable juridique désigné.

Méthode de recherche

L’article privilégie les textes législatifs primaires, les régulateurs, les normalisateurs et les organismes de normalisation reconnus. Il recoupe le risque de modèle, la gouvernance AI, la résilience opérationnelle, la cybersécurité, la protection des données et les risques liés aux tiers. Il ne considère pas un pourcentage d’enquête comme un taux d’adoption universel. Il ne considère pas une norme volontaire comme une loi. Il n’interprète pas les termes d’une consultation comme une politique définitive.

Et carte de décision

Directeurs des investissements (CIO) de family office et responsables des alternatives

Les institutions devraient éviter de reproduire l'échelle organisationnelle d'une banque. La proportionnalité peut préserver les mêmes objectifs de contrôle avec moins de comités. Un dirigeant responsable nommé, un contradicteur indépendant et un dossier de preuves complet peuvent être plus efficaces que de multiples instances aux responsabilités floues.

allocateurs institutionnels internationaux

Résultat de gouvernance partagé

Les deux publics ont besoin d’un cadre de décision concis.

Cadre réglementaire et de surveillance

Orientations américaines sur le risque de modèle dans le secteur bancaire

Les orientations interagences d'avril 2026 décrivent le risque de modèle comme le risque de conséquences défavorables découlant de décisions fondées sur des résultats de modèle incorrects ou mal utilisés. Elles soulignent le développement et l'utilisation efficaces, la validation, ainsi que la gouvernance et les contrôles [1]. Elles prévoient une adaptation au profil de risque de modèle, à la taille et à la complexité de l'organisation bancaire. L'applicabilité à la Réserve fédérale est décrite comme particulièrement pertinente pour les actifs totaux supérieurs à USD 30 billion [1]. L'OCC a déclaré que les orientations ne constituaient pas une norme opposable et que les modèles génératifs et agentiques AI ne relevaient pas de leur champ d'application [2].

Cela crée une tâche de gouvernance en deux volets. Les modèles conventionnels doivent être rattachés aux orientations révisées lorsqu'elles s'appliquent. Les systèmes génératifs et agentiques nécessitent une méthode adjacente de gestion du risque AI qui conserve les disciplines utiles en matière de risque de modèle tout en ajoutant des contrôles sur le contenu, l'interaction, l'utilisation d'outils, la sécurité, les droits sur les données et l'autonomie. Les institutions doivent consigner à quel régime ou à quelle politique se rattache chaque objectif de contrôle.

Royaume-Uni

PRA SS1/23 établit cinq principes : identification et classification des modèles ; gouvernance ; développement, mise en œuvre et utilisation ; validation indépendante ; et mesures d'atténuation du risque de modèle [4]. Il s'applique aux modèles de fournisseurs ainsi qu'aux modèles développés en interne et traite de AI dans les techniques de modélisation lorsque les principes généraux s'appliquent [4]. Les documents de la Banque et de la FCA soulignent également les risques de gouvernance, de responsabilité, de données, de modèle et de tiers [5,6].

La déclaration conjointe du Royaume-Uni de mai 2026 ajoute une préoccupation distincte de cyberrésilience liée aux modèles AI de frontière. Elle appelle à la compréhension par le conseil d'administration et la direction générale, à l'investissement et à l'allocation de ressources, à la gestion des accès, à la sécurité des réseaux, à la protection des données, à des capacités de protection et de détection, ainsi qu'au confinement et à la réponse aux menaces [9]. Le Rapport sur la stabilité financière de juillet 2026 décrit quatre canaux : la prise de décision financière centrale, les marchés financiers, le risque opérationnel des prestataires de services et l'évolution de la menace cyber externe [8].

L'implication en matière de gouvernance est que le risque AI ne peut pas relever uniquement de la validation des modèles. Il nécessite une coordination entre les propriétaires métier, le risque de modèle, le risque opérationnel, la sécurité de l'information, la confidentialité, la conformité, les achats et la résilience.

UAE et DIFC

Les orientations de la CBUAE de février 2026 portent sur la protection des consommateurs et la conduite de marché pour les institutions financières agréées utilisant AI et l'apprentissage automatique. Elles traitent de la transparence, des biais, de l'éthique, de la responsabilité, de l'explicabilité et de la confidentialité des données [16]. Les lignes directrices conjointes UAE sur les technologies habilitantes traitent de AI, de l'analyse de mégadonnées, du cloud, des interfaces de programmation d'applications, de la biométrie et de la technologie des registres distribués [17].

La lettre SEO de la DFSA de juin 2026 consigne les attentes réglementaires en matière de gestion du risque AI dans le DIFC [18]. Son enquête de 2025 a couvert 661 sociétés agréées, avec un taux de participation de 88 %. La DFSA a indiqué que 52 % utilisaient AI, que 60 % disposaient d'une forme de structure de gouvernance AI et que 21 % n'avaient pas de responsabilité ou de supervision claire, même lorsque l'utilisation était critique [19]. Ces chiffres décrivent cette population d'enquête et cette date ; ils ne constituent pas des estimations universelles d'adoption.

Le Règlement 10 de la DIFC sur la protection des données traite des données personnelles traitées au moyen de systèmes autonomes et semi-autonomes [22]. Le décret-loi fédéral UAE n° 45 de 2021 établit le cadre fédéral des données personnelles [23]. Le registre des obligations de l'institution devrait identifier le régime de données applicable, les rôles de responsable du traitement et de sous-traitant, la base juridique, les contraintes liées aux données sensibles, les exigences de transfert, les droits des personnes, la conservation et les obligations en cas d'incident.

Union européenne

Le règlement (UE) 2024/1689 établit un cadre AI fondé sur les risques [24]. L'Omnibus AI de juillet 2026 a modifié des éléments de mise en œuvre et reporté au 2 décembre 2027 le début de l'application des règles relatives à AI à haut risque, les règles applicables à AI intégrée dans des produits physiques réglementés étant prévues pour le 2 août 2028 [25]. Les obligations de transparence pour certaines interactions AI et pour les contenus générés ou manipulés devaient s'appliquer à partir du 2 août 2026 [26].

DORA exige des entités financières concernées qu'elles identifient et documentent leurs actifs TIC, leurs dépendances et leurs interconnexions critiques ; qu'elles gèrent le risque TIC ; qu'elles encadrent les accords avec des tiers ; qu'elles testent leur résilience ; et qu'elles maintiennent des capacités contractuelles et de sortie [27]. GDPR continue de régir le traitement des données personnelles et les questions de décision automatisée, le cas échéant [28]. La classification AI devrait donc être reliée aux registres existants relatifs aux TIC, à l'externalisation, à la confidentialité, à la conduite et à la résilience.

Coordination internationale et normes

La consultation de juin 2026 du FSB propose 12 pratiques saines. Les quatre premières portent sur la gouvernance à l'échelle de l'organisation, les six suivantes portent sur la gestion des risques sur l'ensemble du cycle de vie et les deux dernières portent sur les risques cyber, TIC et liés aux tiers [10]. Le document précise que ces pratiques ne visent pas à créer une norme internationale ni à prescrire si les institutions doivent adopter AI [10].

Les documents du Comité de Bâle établissent un lien entre la digitalisation et la gouvernance, le risque de modèle, la dépendance à l'égard des tiers, le risque opérationnel et la résilience [12-14]. Les recherches du FSI de la BRI ont constaté que la plupart des autorités financières traitent AI au moyen de cadres existants neutres sur le plan technologique, tout en identifiant des lacunes en matière de gouvernance, de compétences, de risque de modèle, de données, de tiers et de nouveaux modèles d'affaires [15].

Le RMF AI du NIST organise les résultats selon les fonctions Gouverner, Cartographier, Mesurer et Gérer [29]. Son profil AI génératif identifie les risques et les actions suggérées qui sont propres à AI génératif ou que celui-ci amplifie [30]. ISO/IEC 42001 spécifie une norme de système de management de AI [33]. ISO/IEC 23894 fournit des orientations en matière de gestion des risques liés à AI [34]. Ces documents constituent des références utiles pour la conception des contrôles. Leur utilisation ne permet pas d'établir la conformité juridique.

Matrice d'applicabilité

Inventaire et classification

Un périmètre, plusieurs taxonomies

Une institution doit tenir un registre AI et de modèles unique et consultable, avec des classifications liées. Des inventaires distincts et non reliés pour les modèles, SaaS, l’informatique utilisateur final, la confidentialité, les fournisseurs et les processus opérationnels créent des lacunes. L’enregistrement maître doit être relié à des registres spécialisés plutôt que de dupliquer chaque champ.

Voies de découverte

L’exhaustivité de l’inventaire nécessite plusieurs voies de détection. L’auto-déclaration seule est insuffisante, car les fonctionnalités intégrées et les usages non déclarés peuvent être invisibles pour les équipes centrales.

Modèle de matérialité

La matérialité doit être évaluée avant la sélection des contrôles. Le score proposé utilise huit dimensions, chacune notée de zéro à quatre. Le score appuie le jugement ; il ne le remplace pas.

Les fourchettes initiales proposées sont 0-7 pour le niveau 1, 8-15 pour le niveau 2, 16-23 pour le niveau 3 et 24-32 pour le niveau 4. Ces fourchettes sont des paramètres de conception définis par la direction, et non des seuils réglementaires. Un relèvement obligatoire doit élever les usages impliquant des droits juridiques, des communications clients importantes, des mouvements autonomes de valeur, des rapports réglementaires, la sécurité, des décisions de crédit ou d’adéquation, ou des dépendances à des services critiques.

Classification d’autorité

Le niveau d’autorité détermine souvent le risque plus directement que le type de modèle.

Résultat de classification

L’enregistrement de classification doit indiquer séparément les faits, les conclusions et l’incertitude.

Gouvernance et droits de décision

Responsabilité explicite

Chaque utilisation enregistrée doit avoir un responsable métier qui est responsable du résultat et du risque résiduel. La responsabilité technologique ne se substitue pas à la responsabilité métier. Les responsables du risque de modèle, de la conformité, de la confidentialité et de la sécurité apportent une contestation indépendante ou spécialisée dans le cadre de leurs mandats.

Conception proportionnée des instances

Les institutions peuvent recourir à un comité d’investissement, des risques ou opérationnel existant doté d’un ordre du jour permanent AI. Les institutions peuvent recourir à un comité central des risques AI avec des approbations au niveau métier. Le résultat requis est une autorité claire et une remise en question documentée.

Architecture des politiques

L'institution devrait éviter une politique AI autonome qui entre en conflit avec des obligations établies. Une politique AI concise devrait définir le périmètre, les principes, les rôles, les usages interdits, l'approbation, la surveillance, les incidents et les exceptions. Les normes associées devraient être reliées au risque de modèle, aux données, à la confidentialité, à la cybersécurité, à l'externalisation, à la résilience opérationnelle, à la conduite, aux enregistrements, au changement et à l'audit.

Appétit pour le risque

L'appétit pour le risque devrait préciser les activités interdites, les limites quantitatives ou catégorielles, les autorités d'approbation et l'escalade. Exemples :

Compétence et remise en question

La formation doit être adaptée au rôle. Les utilisateurs généraux doivent être sensibilisés aux données, aux sources, aux hallucinations, à l’hameçonnage, à l’injection de prompts et aux procédures d’escalade. Les propriétaires ont besoin de responsabilités en matière de classification, de preuves et de gestion des incidents. Les validateurs ont besoin de compétences techniques et métier. Les conseils d’administration doivent comprendre suffisamment pour remettre en question la concentration des risques, l’autonomie, les limites et l’allocation des ressources [9,10]. L’achèvement de la formation est une preuve faible en soi ; les tests de scénarios et le comportement observé fournissent des preuves plus solides.

Cycle de vie et jalons de preuve

Cycle de vie

Le cycle de vie proposé comporte dix étapes : idée, enregistrement, classification, conception, développement ou approvisionnement, évaluation, approbation, déploiement contrôlé, surveillance et retrait. L’itération revient au jalon antérieur approprié lorsque le modèle, le prompt, les données, l’outil, la finalité, la population ou le fournisseur changent.

Preuves de conception

Le dossier de conception doit présenter le système complet, y compris la tâche de l'utilisateur, les données, le modèle, la récupération, les contrôles déterministes, les outils, les interfaces, la revue humaine et l'action en aval. Une fiche modèle sans contexte de flux de travail est incomplète pour une utilisation importante de AI.

Dossier d'approbation

Le dossier d'approbation doit répondre à une question : les éléments de preuve disponibles soutiennent-ils l'utilisation encadrée proposée ? Il doit identifier les lacunes plutôt que transformer l'absence de preuve en conclusion positive.

Contrôle des changements

Les services AI peuvent évoluer en raison des versions de modèle, des prompts, des instructions système, du contenu de récupération, des outils, des politiques, des filtres de sécurité, des fournisseurs, des données, des populations d'utilisateurs et de l'hébergement. La norme de changement doit classer chaque changement et définir les tests de régression requis.

Mise hors service

La mise hors service doit supprimer l’accès et la dépendance tout en conservant les enregistrements requis. Pour les systèmes critiques, l’institution doit tester l’exportation des données, le fonctionnement du remplacement et la récupération avant d’approuver la mise en production. Les droits de résiliation du fournisseur sans plan de transition opérationnel constituent des preuves faibles.

Validation et évaluation

Objectif de la validation

La validation permet d'exercer une contestation efficace de la solidité conceptuelle, de la mise en œuvre, de la performance, de l'utilisation et des limites. La profondeur dépend de l'importance relative, de la complexité et de l'exposition [1,4]. Le validateur doit être suffisamment indépendant pour contester le propriétaire et compétent dans le domaine, les données, le modèle et le flux de travail concernés.

Évaluation par type de système

Jeu d'évaluation représentatif

La population d'évaluation doit refléter les cas normaux, difficiles, défavorables et interdits. Elle doit inclure des sous-groupes et des périodes significatifs, des modes de défaillance connus, des conditions limites et des exemples hors distribution. La gouvernance du jeu de test doit empêcher la contamination et les modifications non tracées.

Indicateurs

Un seul pourcentage de précision ne suffit pas pour la plupart des utilisations importantes de AI.

Les seuils doivent être liés aux conséquences. Un assistant de rédaction et une instruction client automatisée ne doivent pas avoir la même tolérance. Pour les types d’événements à tolérance zéro, l’objectif d’évaluation doit être l’absence dans la population testée, appuyée par de solides contrôles préventifs et détectifs ; il ne doit pas être présenté comme la preuve que l’événement ne peut pas se produire.

Évaluation de AI générative

Le profil NIST de AI générative identifie des risques, notamment la confabulation, la confidentialité des données, les biais préjudiciables, la configuration humain-AI, l’intégrité de l’information, la sécurité de l’information, la propriété intellectuelle et la dépendance à la chaîne de valeur [30]. L’évaluation doit couvrir le système tel que configuré, y compris les prompts, la récupération, les outils, les contrôles de sécurité et le flux de travail. Les scores de benchmark des fournisseurs ne peuvent pas établir l’adéquation à un investissement local ou à un usage en finance réglementée.

Évaluation agentique

Les systèmes agentiques ajoutent des risques liés à la séquence, à l’état, aux outils et à l’autorité. Une étape peut être acceptable individuellement alors que la séquence produit un résultat non autorisé. L’évaluation doit consigner chaque action, l’entrée d’outil, la sortie d’outil, la décision d’autorisation, l’intervention humaine et l’état final.

Registre de contestation indépendante

Le rapport de validation doit indiquer le périmètre, les méthodes, les éléments probants, les limites, les constats, la gravité, les conditions et la conclusion. Une conclusion avec réserve peut étayer un pilote à périmètre limité. Les éléments probants manquants doivent rester une limite ou un problème. L'acceptation par la direction doit préciser le propriétaire responsable et l'autorité.

Données, confidentialité, sécurité et tiers

Gouvernance des données

Les contrôles AI découlent du cycle de vie des données. Chaque utilisation significative doit établir la provenance, la propriété, l'autorisation, la finalité, la qualité, le lignage, la minimisation, la conservation, le transfert, la suppression et la réponse aux incidents.

Développement et exploitation sécurisés

NIST CSF 2.0 et les recommandations NCSC secure-AI fournissent des références en matière de gouvernance et de sécurité tout au long du cycle de vie [31,32]. Les travaux d'OWASP LLM sur les risques applicatifs fournissent un catalogue technique des menaces [36]. L'institution doit sélectionner les mesures de contrôle de son cadre de sécurité applicable et consigner leur mise en œuvre.

Tiers AI

Les institutions financières restent responsables des risques créés par les services qu'elles se procurent ou sur lesquels elles s'appuient. DORA, les documents de Bâle, les travaux du FSB, les orientations de la FINMA et les documents réglementaires de UAE renforcent tous l'importance de la dépendance à l'égard de tiers, de la gouvernance et de la résilience [10,12,15-17,27,37].

Concentration et quatrièmes parties

Les modèles de fondation, l’infrastructure cloud, les services de données et les outils spécialisés peuvent créer des dépendances communes entre des applications apparemment différentes. L’inventaire doit identifier les fournisseurs ultimes et les sous-traitants ultérieurs importants. L’analyse de scénarios doit examiner la défaillance simultanée, le service dégradé, la modification unilatérale des conditions, la panne régionale, le retrait de modèle et la perte d’accès à l’audit.

Annexe de contrôle contractuel

Le contrat doit définir le périmètre des services, l’utilisation approuvée des données, la confidentialité, la sécurité, la notification des incidents, la continuité d’activité, l’audit, l’accès des autorités de régulation le cas échéant, la sous-traitance, les modifications de modèle, les performances, la propriété intellectuelle, la conservation des enregistrements, la suppression, l’assistance à la sortie et la répartition des responsabilités. La rédaction contractuelle doit être examinée par un conseil juridique qualifié. Un droit sans test opérationnel ne constitue qu’une preuve incomplète.

Supervision humaine, conduite et responsabilité

Supervision humaine significative

La revue humaine est pertinente lorsque le réviseur dispose de la compétence, du temps, de l'autorité, de l'information et d'une capacité effective de contester ou d'arrêter le résultat. Un clic obligatoire sans éléments probants constitue un contrôle faible.

Biais d'automatisation et charge de travail

La supervision peut échouer lorsque les utilisateurs s'en remettent à des sorties peaufinées, examinent trop d'éléments ou n'ont pas accès aux éléments probants sources. Le suivi doit mesurer les schémas de correction, de dérogation, de temps de revue, d'exception et de désaccord. Un taux de dérogation très faible peut indiquer une qualité élevée ; il peut aussi indiquer une contestation faible. L'investigation exige des éléments probants échantillonnés.

Équité et parties concernées

Lorsque AI affecte l’accès, la tarification, l’adéquation, l’emploi, le crédit, l’assurance ou d’autres traitements à conséquences significatives, l’institution doit identifier les groupes pertinents sur le plan juridique et opérationnel, évaluer les résultats différenciés, documenter les objectifs légitimes, fournir une explication appropriée et maintenir des voies de contestation ou d’escalade. Le droit applicable détermine les obligations spécifiques. Les principes de l’OCDE, les résultats du NIST, les orientations de la CBUAE et les attentes de la FINMA constituent des références de gouvernance à l’appui [16,29,35,37].

Registres et explications

Le registre doit conserver l’entrée, la version pertinente de la source, la configuration du système, la sortie, l’action du réviseur, la décision finale et le motif, au niveau requis pour la reconstruction. L’explication doit être adaptée au public et à la décision. L’interprétabilité technique ne répond pas automatiquement aux exigences d’explication à l’intention du client ni aux exigences juridiques.

Utilisations interdites et restreintes

Chaque institution doit définir les utilisations interdites en fonction du droit, du mandat et de l’appétit pour le risque. Les utilisations restreintes ne peuvent être mises en œuvre que dans les conditions énoncées. Parmi les exemples soumis à l’examen de la direction figurent la saisie non approuvée de données confidentielles, les conseils juridiques ou d’investissement non supervisés, le transfert autonome de valeur au-delà des limites, l’attribution de sources inventées, l’interaction dissimulée avec le client et l’utilisation de données personnelles à des fins non approuvées. Il s’agit d’exemples de politiques proposés ; les responsables juridiques doivent établir les interdictions effectives.

Surveillance, incidents et assurance

Conception de la surveillance

La surveillance doit relier le comportement du système à l’appétit pour le risque et aux conditions d’approbation.

Taxonomie des incidents

Un incident AI peut être un événement lié à un modèle, aux données, à la sécurité, à la vie privée, à la conduite, aux opérations, au juridique ou à un tiers. Le processus de gestion des incidents doit éviter de tout orienter vers une équipe AI spécialisée. L'évaluation de la gravité doit prendre en compte les conséquences réelles et plausibles, l'exposition, le confinement, la notification réglementaire, les parties concernées et la récurrence.

Assurance des contrôles

Les tests de première ligne doivent confirmer que les contrôles fonctionnent. La surveillance de deuxième ligne doit remettre en question la classification, l’approbation, les constats et le risque agrégé. L’audit interne doit évaluer la conception du cadre et l’efficacité opérationnelle à l’aide d’un plan fondé sur les risques. L’assurance externe peut étayer les éléments probants des fournisseurs ou techniques, mais l’institution doit évaluer le périmètre, la période, les exclusions et la pertinence.

Risque agrégé

Le reporting de portefeuille doit identifier les concentrations par fournisseur, modèle, cloud, source de données, processus métier, zone géographique et niveau d’autorité. Des assistants individuellement de faible niveau peuvent devenir significatifs lorsqu’ils partagent un fournisseur, traitent un volume important ou intègrent une erreur commune dans plusieurs décisions.

Cas opérationnel illustratif

Définition du cas

Hypothèse illustrative : on suppose qu’une équipe d’investissement d’un family office utilise un assistant augmenté par la recherche pour résumer des documents de fonds de marchés privés, comparer les conditions importantes et rédiger des questions pour le comité d’investissement. Le système n’a pas l’autorité d’approuver des investissements, de communiquer avec les gestionnaires ni de transmettre des instructions. Toutes les valeurs numériques et hypothèses opérationnelles de cette section sont des illustrations non vérifiées.

Classification

L'évaluation de matérialité proposée est de niveau 3, car l'usage traite des données confidentielles et peut influencer l'analyse d'investissement, tandis que le résultat reste un brouillon et réversible. Une validation obligatoire s'appliquerait si le résultat était versé aux dossiers du comité sans revue, produisait des conclusions juridiques ou déclenchait des communications externes.

Conception de l'évaluation

Hypothèse illustrative : Les seuils proposés à titre illustratif sont une prise en charge à 100 % des termes importants définis dans l'ensemble testé, zéro défaillance d'accès entre transactions, zéro action autonome, une fidélité de citation d'au moins 98 % et une escalade documentée pour tout conflit de sources non résolu. Ces valeurs constituent des hypothèses de gestion proposées et nécessitent une approbation.

Conception des contrôles

Périmètre économique

Hypothèse illustrative : L'utilisation peut libérer de la capacité d'analyse. Le temps libéré ne constitue pas une économie de trésorerie, sauf si une conséquence financière approuvée est constatée. Les revenus attribués à Matchpoint ou les revenus clients, la réduction des coûts de trésorerie et la réduction des pertes restent USD 0.. Un registre de valeur peut consigner les résultats acceptés, le temps de revue, les reprises et le coût opérationnel complet sans convertir des heures théoriques en avantage réalisé.

Cas opérationnel illustratif

Définition du cas

Hypothèse illustrative : On suppose qu'un allocateur institutionnel utilise un système prédictif et génératif pour surveiller des gestionnaires externes, signaler des anomalies de reporting et rédiger des questions de suivi de due diligence. Le modèle peut prioriser les examens ; il ne peut pas modifier une allocation, émettre une notification de manquement ni communiquer avec l'extérieur. Tous les paramètres numériques et seuils de cette section sont des illustrations non vérifiées.

Périmètre du modèle et du flux de travail

La composante prédictive détecte les anomalies par rapport aux caractéristiques et aux références approuvées. La composante générative explique l'alerte à partir d'enregistrements contrôlés et prépare des questions. Une couche de règles déterministes applique les limites d'exposition et les escalades requises. Le responsable du risque d'investissement décide s'il y a lieu d'escalader. Cette séparation permet différentes méthodes d'évaluation et réduit l'autorité accordée aux résultats probabilistes.

Évaluation

Hypothèse illustrative Un pilote illustratif utilise 18 mois d’historique, 60 événements tranchés et une période de simulation de trois mois. Ces valeurs sont des hypothèses de la direction. L’institution devrait évaluer si l’échantillon étaye les allégations envisagées et les sous-groupes significatifs.

Décision et escalade

Agrégation du portefeuille et des tiers

L'allocateur devrait agréger les fournisseurs communs entre les outils de suivi des gestionnaires, de recherche, de reporting et de service client. Une même dépendance à un modèle de fondation ou au cloud peut soutenir plusieurs fournisseurs nominaux. Le dossier du conseil devrait présenter cette concentration en transparence et le chemin de reprise testé.

Périmètre économique

Hypothèse illustrative : aucun avantage financier n'est attribué dans le cas illustratif. Une évaluation ultérieure pourrait mesurer le débit de revue, les alertes acceptées, les omissions significatives, les escalades erronées, le délai de résolution et le coût d'exploitation. Les affirmations relatives aux revenus, aux coûts décaissés et aux pertes nécessitent des preuves observées approuvées et un contrefactuel défendable.

Dossier du conseil, feuille de route et mise en œuvre

Informations destinées au conseil

Le reporting au conseil devrait permettre d'orienter et de challenger. Il devrait distinguer l'exposition de l'activité et signaler clairement les exceptions.

Feuille de route sur douze mois

Premiers 30 jours

Le premier mois doit permettre d'établir l'autorité et la visibilité. Nommer le dirigeant responsable, publier des restrictions provisoires en matière de données et de pouvoirs, créer un point d'entrée unique, rapprocher les applications et abonnements connus, et relier les événements AI à la gestion des incidents existante. Prioriser les usages susceptibles d'affecter les clients, le capital, le reporting, les droits, les données confidentielles ou les mouvements de valeur.

Jours 31 à 90

Constituer le registre des obligations à partir des sources légales et de supervision applicables. Finaliser la classification des usages significatifs. Créer des modèles d'évaluation, d'approbation, de surveillance, de modification et de mise hors service. Examiner les fournisseurs critiques et les fonctionnalités AI intégrées. Mettre en place un processus d'exception avec échéance et contrôles compensatoires.

Mois quatre à douze

Évaluer et approuver ou suspendre les usages significatifs. Tester l'isolation des accès, la reprise après défaillance et la sortie des fournisseurs. Rapprocher la concentration des fournisseurs. Mettre en œuvre des indicateurs pour le conseil d'administration et une assurance indépendante. Actualiser le cadre lorsque la consultation du FSB est finalisée, que le NIST met à jour le RMF AI ou que les règles juridictionnelles changent.

Modèle de maturité des contrôles

Limites, programme de recherche et conclusion

Le présent document synthétise des éléments provenant de différentes juridictions ; il n'établit pas l'applicabilité à une entité particulière. Les exigences peuvent se chevaucher et évoluer. Les pratiques saines du FSB faisaient l'objet d'une consultation à la date d'arrêt des éléments probants. Le calendrier de l'UE a été modifié peu avant la publication. Les orientations révisées des États-Unis sur le risque de modèle excluent expressément du champ d'application les AI génératives et agentiques. Les normes et les cadres volontaires n'établissent pas la conformité juridique.

Le cadre opérationnel exige une validation empirique. Les recherches futures devraient comparer la cohérence de la classification entre les institutions ; mesurer la fiabilité de la validation pour les flux de travail génératifs et agentiques ; évaluer si les contrôles de citation et de revue humaine réduisent les erreurs significatives ; apprécier la concentration des quatrièmes parties ; et tester les plans de sortie en cas de retrait du fournisseur, de changement de modèle et de perturbation cyber. Les institutions devraient publier ou partager les taxonomies d’incidents et les méthodes d’évaluation lorsque la confidentialité le permet.

La conclusion centrale est que l’adoption maîtrisée de AI est un problème de preuves. Un inventaire complet révèle l’exposition. La matérialité et l’autorité déterminent un contrôle proportionné. L’évaluation établit une aptitude encadrée. La gouvernance attribue la décision. La surveillance maintient l’approbation à jour. Les capacités de gestion des incidents et de sortie limitent les défaillances. Pour les family offices et les allocateurs institutionnels, cette structure soutient l’innovation tout en préservant l’autorité d’investissement, la confidentialité, la traçabilité et la résilience.

Les revenus attribués à Matchpoint ou les revenus clients, la réduction des coûts décaissés et la réduction des pertes restent USD 0 jusqu’à ce que des preuves observées approuvées étayent l’attribution.