1. Définir ce que la machine est autorisée à faire
L'adéquation assistée par AI doit commencer par un cas d'usage précis. Un chargé de relation peut utiliser la technologie pour récupérer les objectifs déclarés d'un client, consolider les positions, extraire les conditions du produit, comparer les contraintes documentées, faire ressortir les incohérences ou rédiger une explication en langage clair. Chaque tâche présente un risque différent. La recherche documentaire peut renvoyer le mauvais document. L'extraction peut omettre une condition. La comparaison peut appliquer la mauvaise règle. La génération peut créer une déclaration plausible sans source.
Le cabinet doit préciser si le système informe, recommande, décide ou communique. Il doit identifier l'utilisateur, la population de clients, les produits, les données, le modèle, les interfaces, les résultats et les usages interdits. Un outil approuvé pour résumer la recherche interne ne doit pas être automatiquement utilisé pour recommander un produit structuré complexe. Un modèle validé pour des documents en anglais ne doit pas être présumé offrir des performances équivalentes dans une autre langue.
L'adéquation demeure un processus professionnel de bout en bout. Le chargé de relation doit comprendre la situation et les objectifs du client, le produit et ses risques, la raison de l'adéquation proposée et la qualité des éléments probants à l'appui. La technologie peut renforcer ce travail. Elle ne peut pas transformer des faits incomplets en une recommandation fiable.
Le périmètre opérationnel doit être exprimé par des actions autorisées, des approbations requises et des conditions d'arrêt. L'absence de documents sources, des informations client obsolètes, des objectifs contradictoires, une information sur les risques indisponible ou un produit hors de l'offre approuvée doivent arrêter la progression automatisée. Un contrôle qui se contente d'afficher un avertissement tout en permettant de finaliser peut être inefficace lorsque le personnel est sous pression de délais.
Cadre de l'auteur. Chaque couche conserve ses éléments probants, son propriétaire et son statut de décision.
Tableau 1. Registre minimal des éléments probants d'adéquation
| Classe de preuve | Contenu requis | Champ de statut | Question du réviseur |
|---|---|---|---|
| client | objectifs, horizon, capacité, connaissances, expérience, liquidité, restrictions et préférences | vérifié, déclaré par le client, calculé, obsolète ou manquant | quels faits étayent le résultat proposé ? |
| portefeuille | positions, expositions, concentrations, flux de trésorerie, contraintes fiscales ou juridiques le cas échéant | à jour, rapproché ou en exception | Comment la recommandation modifie-t-elle l’exposition totale ? |
| produit | conditions, risques, coûts, liquidité, scénarios, marché cible et conflits | approuvé, en vigueur, remplacé ou restreint | quel document faisant autorité étaye chaque attribut ? |
| politique | règle d’adéquation, règle de gouvernance des produits, délégation de pouvoir et information obligatoire à fournir | applicable, conditionnel ou non résolu | quelle règle autorise, restreint ou bloque l’action ? |
| machine | modèle, version, prompt, jeu d’entrées, sources de récupération, sortie et indicateur de confiance | accepté, contesté, passé outre ou rejeté | qu’est-ce que la technologie a apporté et où peut-elle échouer ? |
| humain | analyse, alternatives examinées, jugement, dérogation, approbation et communication | brouillon, approuvé, escaladé ou refusé | l’approbateur pourrait-il expliquer et défendre le résultat ? |
La structure du dossier doit être adaptée au cadre juridique et aux règles de conduite applicables.
2. Considérer l’explicabilité comme une reconstruction des éléments de preuve.
L’expression « boîte noire » peut désigner plusieurs problèmes différents. Un modèle peut être mathématiquement complexe. Un fournisseur peut protéger sa propriété intellectuelle. Un chargé de relation peut recevoir un classement sans références de sources. Un contrôleur de conformité peut voir la réponse finale sans disposer des données d’entrée ni du chemin de décision. La gouvernance doit identifier l’opacité réelle et en traiter l’effet.
En matière d’adéquation, l’explicabilité pratique signifie qu’un contrôleur qualifié peut reconstituer pourquoi un produit a été examiné, pourquoi des alternatives ont été écartées, quels éléments du client ont compté, quels attributs du produit ont compté, ce que le système a produit, ce que l’humain a modifié et ce qui a été communiqué. Cette reconstitution n’exige pas la communication publique des pondérations du modèle. Elle exige des éléments de preuve utiles à la décision.
Le dossier doit conserver l’identité de la source, la date d’effet, la version, l’heure d’extraction et la transformation. Si un assistant AI indique qu’un produit présente une liquidité mensuelle, le dossier de recommandation doit renvoyer au document approuvé et à la disposition qui étayent cette affirmation. S’il estime l’exposition du portefeuille, le dossier doit conserver les positions, les prix, la méthode et l’horodatage. S’il interprète un objectif en texte libre d’un client, le chargé de relation doit confirmer l’interprétation.
Les explications doivent être adaptées au public. Le client a besoin de raisons claires, de risques, de coûts et d’alternatives. Le chargé de relation a besoin d’éléments de preuve exploitables et d’une indication de l’incertitude. La conformité a besoin de traçabilité et d’application des règles. Les équipes chargées du risque de modèle ont besoin de données, de tests et d’analyses de défaillance. La direction générale a besoin de tendances sur les résultats, les incidents et les contrôles.
3. Établir la chaîne de traçabilité des éléments de preuve, de la source à la communication.
La traçabilité des éléments de preuve suit l’information depuis son origine jusqu’à la recommandation et à la communication finale. Elle doit identifier les dossiers clients, les documents sur les produits, les calculs, les politiques, les appels au modèle, les passages extraits, les modifications et les approbations. Un identifiant stable pour chaque élément permet à la société de reproduire le dossier après modification des documents sources ou des modèles.
Les contrôles de traçabilité doivent tenir compte de l’actualité des données. La situation d’un client peut changer. Les conditions des produits, les coûts, la liquidité et les classifications de risque peuvent être modifiés. Les opinions d’investissement et les conditions de marché peuvent évoluer. Le processus doit définir le niveau d’actualité requis pour chaque catégorie d’éléments de preuve et ce qui se passe lorsqu’une source sort de cette fenêtre.
La traçabilité doit également préserver les absences et les contradictions. Un besoin de liquidité manquant doit rester visible. Des réponses client contradictoires ne doivent pas être résolues silencieusement par un modèle. Le chargé de relation doit demander des éclaircissements, consigner la résolution ou interrompre la recommandation. Une information inconnue constitue un fait utile à la décision.
Le système doit séparer le contenu source du contenu généré. Les passages extraits, les champs calculés et le texte rédigé peuvent être affichés différemment. Une affirmation sans source attribuable doit être signalée pour vérification ou supprimée avant communication.
Cadre de l’auteur. Le dossier de preuves conserve les enregistrements relatifs à la source, à la transformation, à la décision et à la communication.
4. Faire prévaloir les obligations d’adéquation sur la conception du modèle.
Les approches officielles varient selon le marché. La FCA applique les cadres existants, notamment le Consumer Duty et la responsabilité de la direction générale, à l'utilisation de AI. L'ESMA a déclaré que les entreprises utilisant AI dans les services d'investissement devraient continuer à respecter les obligations de MiFID II et a souligné les risques de biais, de prise de décision opaque, de dépendance excessive, de confidentialité et de sécurité. La SFC de Hong Kong identifie les recommandations d'investissement, les conseils et les recherches produits par des modèles de langage génératifs AI comme des utilisations à haut risque nécessitant des contrôles supplémentaires.
FINRA rappelle aux entreprises membres que les règles en matière de valeurs mobilières, neutres sur le plan technologique, continuent de s'appliquer à AI génératif. L'examen par l'ASIC des titulaires de licences de services financiers a identifié un risque que la gouvernance accuse un retard sur l'adoption, notamment des lacunes concernant l'équité, les biais et les systèmes de tiers. Le rapport de l'IOSCO sur AI et l'apprentissage automatique traite de la gouvernance, des tests, de la qualité des données, de l'externalisation, de la communication d'informations et de la supervision humaine pour les intermédiaires de marché et les gestionnaires d'actifs.
Le cadre de gouvernance modèle AI de Singapour fournit une référence de conception volontaire et intersectorielle fondée sur l'explicabilité, la transparence, l'équité et la prise de décision centrée sur l'humain. Les documents du DFSA et les communications de supervision actuelles fournissent des éléments probants sur la gouvernance, la responsabilité, la supervision et l'explicabilité dans les services financiers. Chaque source a son propre statut juridique et sa propre portée.
Une entreprise devrait cartographier les exigences exactes applicables à son entité, sa licence, son service, son client et son produit. Les disciplines de conception communes peuvent soutenir un modèle de contrôle de groupe. L'analyse juridique locale doit déterminer les tests d'adéquation, les informations à divulguer, les approbations, les enregistrements, les réclamations, la protection des données et les notifications aux autorités de supervision.
Tableau 2. Éléments probants internationaux en matière de conception pour l'adéquation assistée par AI
| Marché | Documentation officielle | Implication pour la conception | Limite importante |
|---|---|---|---|
| Royaume-Uni | Approche de la FCA à l'égard de AI et documents sur le Consumer Duty | préserver les résultats en matière de besoins des clients, de valeur, de compréhension et d'accompagnement ; maintenir la responsabilité des dirigeants | les règles existantes s'appliquent selon le périmètre de l'entreprise, du service et du produit |
| Union européenne | Déclaration de l'ESMA sur AI dans les services d'investissement | maîtriser les biais, les résultats opaques, la dépendance excessive, les risques pour la vie privée et la sécurité tout en respectant les obligations de MiFID II | La loi AI de l'UE et les règles sectorielles exigent une analyse distincte de l'applicabilité |
| Hong Kong | Circulaire de la SFC relative aux modèles de langage génératifs AI | classer les conseils et recommandations comme à haut risque ; appliquer une gouvernance du cycle de vie et des garanties supplémentaires | la circulaire s'applique aux sociétés agréées dans le périmètre indiqué |
| Australie | Rapport ASIC 798 | aligner la gouvernance sur l'ampleur et la complexité de AI ; traiter les questions d'équité, de biais et de risque lié aux tiers | les constatations reflètent les titulaires de licence examinés et les obligations existantes |
| États-Unis | Avis réglementaire FINRA 24-09 | l'utilisation de la technologie ne se substitue pas aux obligations de supervision, de communication, de conservation des documents et de conduite | l'avis s'adresse aux entreprises membres de la FINRA et ne crée aucune nouvelle exigence |
| Singapour | Cadre de gouvernance AI modèle du PDPC | définir les rôles, l'implication humaine, les contrôles opérationnels et la communication avec les parties prenantes | volontaire et intersectoriel ; les exigences sectorielles restent distinctes |
| DIFC | Enquête et documents de supervision de la DFSA sur AI | établir une responsabilité claire, une supervision, une utilisation éthique des données et une gestion des risques | les obligations exactes dépendent du Rulebook de la DFSA et de l’activité autorisée |
| International | Rapport final de l’IOSCO sur AI et l’apprentissage automatique | encadrent le développement, les tests, la surveillance, les données, les fournisseurs, la divulgation et l’intervention humaine | les recommandations s’appliquent par l’intermédiaire des juridictions membres |
Les documents ont des effets juridiques différents ; les entreprises doivent confirmer leur applicabilité actuelle et les obligations locales.
5. Attribuer les droits de décision à des personnes physiques
La supervision humaine doit aller au-delà d’un simple clic. L’approbateur doit disposer de connaissances, de temps, d’éléments probants et de l’autorité nécessaires pour contester le résultat. Le modèle opérationnel doit identifier les décisions qui relèvent du RM, du responsable produit, de la conformité, du comité d’investissement, du responsable du modèle, de la fonction technologique et de la direction générale.
Le RM doit assumer la responsabilité de l’exactitude des informations client recueillies, de la pertinence des objectifs déclarés, de l’explication des solutions alternatives et de la justification professionnelle de la recommandation. Le responsable produit doit assumer la responsabilité des éléments probants du produit approuvé, du marché cible, des restrictions et des événements du cycle de vie. La conformité doit assumer la responsabilité de l’interprétation des règles, de la surveillance et de la conception des procédures d’escalade. Le risque de modèle ou une fonction de contrôle suffisamment indépendante doit assumer la responsabilité des normes de validation et des limitations importantes.
La ségrégation est essentielle. La même équipe commerciale ne doit pas approuver le cas d’usage, sélectionner les éléments probants de validation, juger la performance et clore ses propres lacunes sans remise en cause indépendante. Les entreprises de plus petite taille peuvent appliquer la proportionnalité au moyen de comités ou de spécialistes externes tout en préservant des décisions dont la responsabilité est clairement assumée.
Les pouvoirs délégués doivent être explicites. Une allocation à faible risque et non complexe dans le cadre d’un mandat documenté peut suivre un flux de travail standard. Un produit concentré, illiquide, à effet de levier ou nouveau peut nécessiter une approbation supplémentaire des produits et de la conformité. Une limitation importante du système peut nécessiter la suspension temporaire de la fonction AI.
Tableau 3. Matrice des droits de décision
| Décision | Propose | Conteste | Approuve | Éléments de preuve requis |
|---|---|---|---|---|
| approuver un cas d'usage d'adéquation AI | responsable métier et du modèle | conformité, risque, sécurité de l'information et protection des données | dirigeant responsable ou comité | périmètre du cas d'usage, évaluation des risques, validation et contrôles opérationnels |
| ajouter un produit au catalogue de produits activé par AI | responsable produit | investissement, conformité et opérations | comité produit | conditions actuelles, marché cible, risques, coûts, liquidité et cartographie des données |
| formuler une recommandation client | chargé de relation client | contrôles du flux de travail et deuxième ligne lorsque déclenchée | chargé de relation client autorisé ou approbateur délégué | compléter le dossier de preuves, les alternatives et la justification |
| passer outre un avertissement du système | chargé de relation client | responsable de la conformité ou réviseur désigné | autorité définie selon la gravité | avertissement, motif, éléments de preuve, impact client et approbation |
| modifier le modèle, le prompt ou la source de récupération | responsable du modèle ou de la technologie | validation, conformité et sécurité | autorité de modification | évaluation d’impact, tests de régression, version et retour arrière |
| suspendre le système | responsable de l’incident, de la conformité ou du modèle | responsable métier lorsque le temps le permet | autorité désignée en matière d’incident | seuil de violation, cas concernés, plan de confinement et de communication |
Les intitulés sont donnés à titre indicatif ; les entreprises doivent désigner nommément des personnes responsables dans le cadre de leur dispositif de gouvernance.
6. Mettre en place des points de contrôle humains significatifs
Les points de contrôle doivent intervenir avant qu'une recommandation ne soit présentée au client ou exécutable. Un premier point de contrôle peut vérifier si les éléments probants client sont complets et à jour. Un deuxième peut confirmer que le produit est approuvé et que les éléments probants sont à jour. Un troisième peut vérifier l'adéquation au portefeuille, la concentration, la liquidité et les coûts. Un quatrième peut exiger qu'un chargé de relation compare les alternatives et consigne son jugement. Un dernier point de contrôle peut confirmer la communication des informations, l'approbation et la conservation des dossiers.
L'automatisation doit s'arrêter lorsqu'une condition importante n'est pas remplie. Les exemples incluent des objectifs client incohérents, des informations manquantes sur la capacité à supporter des pertes, un document produit périmé, des données de coûts indisponibles, un produit non approuvé, un dépassement de concentration, un résultat non étayé ou un incident système. Le message d'arrêt doit expliquer quels éléments probants manquent et qui peut y remédier.
Une dérogation doit être rare, spécifique et contrôlable. Elle doit identifier l'alerte, le décideur, l'autorité, les éléments probants à l'appui, l'impact client et la date d'expiration. Des dérogations répétées peuvent indiquer qu'une règle est mal calibrée, que le personnel contourne les garde-fous ou que le processus produit est faible.
L'échantillonnage après approbation reste utile, en particulier pour les cas à faible risque qui ne font pas l'objet d'une approbation préalable. Les échantillons doivent être fondés sur le risque et inclure les nouveaux produits, les clients vulnérables, les changements importants, les fortes concentrations, les produits complexes, les cas transfrontaliers et les chargés de relation présentant des schémas inhabituels.
Cadre de l'auteur. Une défaillance importante oriente le dossier vers une clarification, une escalade ou un rejet.
7. Valider le système de recommandation complet
La validation doit tester l'ensemble du processus et non le modèle seul. Le système comprend les sources de données, la récupération de documents, les règles, les calculs, les prompts, le modèle, l'interface, les décisions humaines et les enregistrements en aval. Un modèle techniquement précis peut encore produire des résultats inadaptés si les données client sont obsolètes ou si le processus omet l'exposition totale du portefeuille.
Le plan de validation doit couvrir l'usage prévu, l'usage interdit, la qualité des données, la précision de la récupération, l'exactitude de l'extraction, la reproductibilité des calculs, la stabilité du modèle, les hallucinations, les biais, l'injection de prompts, l'accès, l'exhaustivité des enregistrements, les facteurs humains et la solution de repli. Les tests doivent inclure des cas ordinaires, des cas limites et des entrées adversariales délibérées.
Les mesures de performance doivent avoir une signification pour la décision. La précision de la récupération peut montrer si le système a trouvé les documents approuvés. L'exactitude des citations peut montrer si les affirmations sont étayées par les passages cités. Les taux de faux négatifs peuvent mesurer les restrictions manquées. Les taux de dérogation peuvent révéler des frictions dans le processus ou des contrôles faibles. Les tests de résultats peuvent examiner si des clients se trouvant dans une situation similaire reçoivent un traitement sensiblement incohérent.
Les seuils d'acceptation sont des décisions de la direction éclairées par les obligations, le préjudice et l'appétit pour le risque. Un seuil adapté à la rédaction d'un compte rendu de réunion peut être insuffisant pour une recommandation client. Les limites doivent être consignées et traduites en restrictions d'utilisation, contrôles humains ou rejet du cas d'usage.
Tableau 4. Plan de validation et de surveillance
| Domaine de test | Test avant utilisation | Preuves de production | Conséquence de la décision |
|---|---|---|---|
| données clients | exhaustivité, fraîcheur, rapprochement et cas de conflit | taux de champs manquants, enregistrements obsolètes et corrections manuelles | arrêter le cas concerné ou restreindre la population éligible |
| preuves produit | récupération depuis des sources approuvées, extraction de version et d'attributs | exactitude des citations, documents expirés et exceptions produit | retirer le produit ou actualiser les preuves |
| règles de politique | cas positifs, négatifs et limites | déclencheurs de règles, faux négatifs et schémas de dérogation | corriger la règle, réexaminer les cas ou suspendre le flux de travail |
| sortie générative | étayage factuel, cohérence, incertitude et allégations interdites | taux d'affirmations non étayées, modifications et réclamations | renforcer la récupération, le prompt ou la revue humaine |
| équité et résultats | cas comparables, variables de substitution et scénarios de clients vulnérables | différences de résultats, refus, escalades et remédiation | examiner la cause et modifier les données, le processus ou l'accès |
| sécurité et résilience | accès, injection de prompt, fuite de données, défaillance du fournisseur et repli | alertes, incidents, indisponibilité et tests de reprise | contenir, révoquer l'accès, passer en mode de repli ou suspendre |
Les seuils doivent être approuvés pour le cas d'usage spécifique ; ce tableau définit des types de tests plutôt que des références numériques.
8. Gouverner les données clients comme éléments de preuve de la recommandation
Les données clients sont rarement un enregistrement unique et propre. Les objectifs peuvent être exprimés lors de réunions, dans des questionnaires, des courriels et des instructions de portefeuille. La tolérance au risque peut être saisie au moyen d'un score, tandis que la capacité à supporter des pertes dépend des engagements financiers et de la liquidité. Les connaissances et l'expérience peuvent varier selon les produits. Les entités juridiques, les trusts et les structures familiales peuvent impliquer plusieurs décideurs.
Le système doit conserver la source et le statut de chaque fait important. Une préférence déclarée par le client diffère d'un solde de compte vérifié. Une exposition calculée diffère d'un jugement du chargé de relation. Une réponse manquante diffère d'une réponse négative. Ces distinctions doivent être conservées lors de l'intégration dans le modèle.
L'interprétation de texte libre nécessite une confirmation. Si un client indique que du capital doit rester disponible pour l'achat d'un bien immobilier, un système AI peut classer cela comme un besoin de liquidité. Le chargé de relation doit confirmer l'échéance, le montant, la devise et le degré de certitude. Le fait enregistré doit refléter ce que le client a confirmé.
La minimisation des données et les contrôles d'accès restent importants. Un modèle ne doit recevoir que les informations nécessaires à la tâche approuvée. Les informations personnelles sensibles ne doivent pas être transférées vers un outil public non approuvé. La conservation, la suppression, le transfert transfrontalier et les droits des clients doivent être évalués au regard du cadre applicable en matière de données.
9. Gouverner les éléments probants produit tout au long de leur cycle de vie
Un catalogue de produits évolue en continu. Les conditions peuvent être modifiées, les souscriptions suspendues, des restrictions de liquidité appliquées, les gérants remplacés et les classifications de risque mises à jour. Les systèmes d'évaluation de l'adéquation doivent exploiter des éléments probants produit approuvés, avec des responsabilités clairement définies et des dates d'effet.
La fiche produit doit couvrir l'objectif, la stratégie, les instruments, l'effet de levier, la liquidité, la valorisation, les frais, les scénarios de performance, les caractéristiques de perte, la devise, le marché cible, les conflits d'intérêts, les restrictions de distribution et les documents pertinents. Chaque attribut important doit être lié à une source faisant autorité. Les textes marketing ne doivent pas remplacer les documents juridiques et les documents produit approuvés.
Les événements produit doivent déclencher une action dans le workflow. Une suspension des rachats doit modifier les éléments probants relatifs à la liquidité. Un changement de gérant ou de stratégie peut nécessiter une réévaluation. Une mise à jour de document doit invalider les passages remplacés. Le système doit identifier les recommandations client ou les positions concernées par des changements importants.
Les produits complexes méritent des contrôles plus approfondis. Les comparaisons générées par modèle peuvent masquer la dépendance au sentier, le risque de crédit de l'émetteur, l'effet de levier, la résiliation anticipée et les limites des scénarios. Le chargé de relation (RM) doit comprendre la structure de rendement et expliquer les résultats défavorables plausibles. Un score standard ne doit pas se substituer à cette analyse.
10. Comparer la recommandation à des alternatives crédibles
L'adéquation est renforcée lorsque le RM compare des alternatives réalistes. L'ensemble doit inclure le maintien du portefeuille actuel lorsque cela est approprié, des options moins coûteuses ou plus liquides, différentes modalités de mise en œuvre et le produit proposé. La comparaison doit s'appuyer sur les objectifs du client et le portefeuille total.
AI peut aider à identifier les produits qui répondent à des filtres documentés. Il peut aussi réduire l'ensemble de manière trop agressive en raison d'hypothèses intégrées ou de priorités commerciales. La couverture du catalogue, la logique de classement, les conflits et les produits exclus doivent donc être visibles pour le RM et le contrôleur.
Les coûts doivent être pris en compte de manière cumulative et en contexte. Les frais produit, les frais de conseil, les coûts de transaction, les coûts de financement, les effets de change et les coûts de sortie peuvent modifier le résultat. L'explication de la recommandation doit décrire la valeur attendue de l'option retenue et les inconvénients importants par rapport aux alternatives.
Lorsque le cabinet perçoit des frais de placement, des rétrocessions ou d'autres avantages, le conflit doit être traité dans le cadre applicable. Le modèle ne doit pas optimiser les revenus commerciaux tout en présentant le résultat comme guidé par le client. La logique de classement et les dérogations doivent être surveillées au regard de ce risque.
Tableau 5. Comparaison hypothétique client-produit
| Facteur de décision | Portefeuille diversifié actuel | Fonds équilibré à liquidité quotidienne | Allocation aux marchés privés | Éléments probants et question du RM |
|---|---|---|---|---|
| objectif déclaré | croissance modérée à long terme | globalement aligné | potentiellement aligné avec l’objectif de rendement | quel objectif est prioritaire et sur quel horizon ? |
| liquidité | au quotidien | au quotidien | période de blocage pluriannuelle avec transfert limité | quel besoin de liquidités pourrait survenir avant la sortie ? |
| capacité d'absorption des pertes | capacité modérée hypothétique | dans la fourchette supposée | l’exposition aux baisses et aux appels de capital peut dépasser le seuil de confort | la capacité d’absorption des pertes est-elle vérifiée et à l’échelle du portefeuille ? |
| concentration | base actuelle | variation modérée | augmente la concentration en actifs illiquides et en gestionnaires | quelle limite s’applique après la transaction ? |
| Coût | coût existant divulgué | hypothétique moyen | hypothétique élevé avec des éléments liés à la performance | quels coûts sont certains, conditionnels et comparables ? |
| charge opérationnelle | établi | souscription standard | appels de capitaux, complexité fiscale et de reporting | le client et le cabinet peuvent-ils accompagner le cycle de vie ? |
| résultat illustratif | maintenir | candidat à l'analyse | nécessite un examen renforcé | quels éléments de preuve changeraient la décision ? |
Chaque valeur et chaque évaluation constituent une hypothèse de gestion hypothétique utilisée à des fins de démonstration de la documentation ; aucun produit n'est recommandé.
11. Fournir au chargé de relation une fiche d’explication
L’interface doit aider un chargé de relation à raisonner, et non simplement à approuver. Une fiche de décision peut présenter l’objectif du client, les faits critiques, l’action proposée, les alternatives, les sources à l’appui, les risques importants, les coûts, l’incertitude, les conflits et les approbations requises. Elle doit exposer les éléments de preuve manquants ou obsolètes.
La fiche doit distinguer le contenu produit par la machine. Les passages récupérés peuvent être affichés avec des liens vers les sources. Les calculs peuvent indiquer la méthode et les données d’entrée. Le texte généré peut être modifiable et visiblement signalé dans le flux de travail interne. La communication finale au client ne doit contenir que du contenu vérifié et approuvé.
Une explication doit être suffisamment précise pour être testable. Des affirmations telles que « adapté à la diversification » sont faibles si elles n’identifient pas la concentration actuelle, le changement proposé, l’horizon temporel, la liquidité et le risque. Un réviseur doit pouvoir comprendre en quoi la recommandation sert l’objectif du client et où elle pourrait échouer.
L’interface doit limiter le biais d’automatisation. Le produit proposé ne doit pas dominer visuellement avant que le chargé de relation n’examine les éléments de preuve. Les alternatives et les conditions d’arrêt doivent bénéficier d’une visibilité comparable. Les indicateurs de confiance doivent être définis et testés ; un ton soigné ne doit jamais être considéré comme un gage de confiance.
Cadre de l’auteur. La fiche interne met en avant les éléments de preuve, l’incertitude, les alternatives et la responsabilité de la décision.
12. Maîtriser les prompts, la récupération et les changements de modèle
Un système génératif peut changer même lorsque l’interface utilisateur semble stable. Le fournisseur du modèle peut mettre à jour le service sous-jacent. Le cabinet peut modifier un prompt système, l’index de récupération, l’analyseur de documents, la température, la configuration de sécurité ou une règle de post-traitement. Chaque changement important peut altérer le processus de recommandation.
L’inventaire des changements doit consigner le composant, le responsable, la version, la date, la justification, les tests, l’approbation et le retour arrière. Les tests de régression doivent inclure des cas ordinaires, limites et de défaillance connus. Une modification de l’analyseur de documents de produit doit être testée sur des tableaux, des notes de bas de page, des pages numérisées et des documents modifiés.
Les prompts sont des artefacts de contrôle. Les prompts système, les gabarits approuvés et les instructions interdites doivent être versionnés et soumis à un contrôle d’accès. Les prompts utilisateurs et les sorties du modèle doivent être conservés lorsque cela est requis et sûr. L’injection de prompts et le contenu malveillant dans les documents doivent être inclus dans les tests de sécurité.
Les mises à jour de modèles tiers exigent une surveillance contractuelle et technique. Le cabinet doit comprendre les modalités de notification, les journaux de service, l’utilisation des données, la conservation, les sous-traitants ultérieurs, la région, la sécurité, la résilience et la sortie. Lorsqu’un fournisseur ne divulgue pas les détails du modèle, le cabinet peut toujours tester les performances observables, encadrer les entrées et les sorties, exiger des éléments de preuve et préserver une capacité de repli.
13. Concevoir les dérogations comme des signaux de risque
Une dérogation peut être appropriée lorsqu’une règle présente une limite documentée et qu’une personne qualifiée dispose de meilleurs éléments de preuve. Elle peut aussi constituer un moyen de contourner un contrôle nécessaire. La gouvernance doit distinguer ces cas.
Le registre des dérogations devrait inclure la condition déclenchante, la sortie du système, la justification humaine, les preuves, l'autorité, l'effet sur le client et l'expiration. Les dérogations significatives devraient faire l'objet d'une revue indépendante avant action. Les dérogations à moindre risque peuvent faire l'objet d'un échantillonnage après action conformément à la politique.
Les tendances comptent davantage que les totaux isolés. Un taux élevé pour un produit peut indiquer des données produit médiocres. Un taux élevé pour un chargé de relation peut indiquer des préoccupations en matière de formation ou de conduite. Des dérogations répétées à une règle de liquidité peuvent révéler une pression commerciale. Les dérogations qui améliorent les résultats clients peuvent révéler une limite du modèle qui devrait être corrigée.
Le reporting de direction devrait relier les dérogations aux décisions. Le responsable devrait décider s'il convient de modifier la règle, d'améliorer les données, de reformer le personnel, de restreindre le produit, de réexaminer les dossiers clients ou de suspendre le système. Clore le ticket sans tester le changement laisse le risque non résolu.
14. Surveiller les résultats, la dérive et la conduite
La surveillance en production devrait couvrir la performance du système et les résultats clients. Les mesures techniques comprennent la disponibilité, la latence, la récupération, l'exactitude des citations, les erreurs de modèle et les événements de sécurité. Les mesures de processus comprennent l'achèvement, les arrêts, les escalades, les dérogations, le temps de revue et la qualité des enregistrements. Les mesures de résultats comprennent la concentration, le coût, les réclamations, les annulations, la remédiation et les différences entre les groupes de clients.
La dérive peut résulter des conditions de marché, des changements de produits, du comportement des clients, des sources de données et des mises à jour du modèle. Un score de précision stable peut masquer une composition des dossiers en évolution. La surveillance devrait donc segmenter par complexité des produits, type de client, zone géographique, canal, chargé de relation et version du modèle, lorsque cela est juridiquement et opérationnellement approprié.
La surveillance de la conduite peut examiner si les recommandations se concentrent sur des produits à plus fort intérêt commercial, si les avertissements de risque font l'objet de dérogations, si les clients vulnérables obtiennent des résultats différents et si les explications générées omettent des inconvénients. Toute analyse d'attributs protégés ou sensibles exige une gouvernance juridique et de confidentialité appropriée.
Les seuils devraient déclencher des actions définies. Une allégation critique non étayée peut nécessiter un confinement immédiat. Un taux de dérogation en hausse peut nécessiter un échantillonnage renforcé. Une défaillance de la documentation produit peut nécessiter de retirer le produit du catalogue activé. Un impact client significatif peut nécessiter l'identification des dossiers, la communication et la remédiation.
Cadre de l'auteur. Les valeurs sont des hypothèses de gestion hypothétiques créées pour illustrer la conception d'un tableau de bord.
15. Se préparer aux incidents et à la remédiation client
Un incident AI peut impliquer des conseils non étayés, des données produit erronées, un traitement biaisé, une fuite de données, un accès non autorisé, une défaillance d'un prestataire ou des enregistrements manquants. Le plan de réponse devrait relier le confinement technologique aux décisions clients et réglementaires.
Le responsable de l'incident devrait identifier les versions du modèle, les dates, les utilisateurs, les clients, les produits et les sorties concernés. La traçabilité conservée rend cela possible. L'entreprise devrait arrêter ou restreindre le cas d'usage, sécuriser les preuves, appliquer les procédures de repli et décider si les recommandations passées doivent être revues.
La gravité devrait refléter le préjudice réel et potentiel pour les clients, la violation réglementaire, la sensibilité des données, le volume et la durée. Les obligations de notification dépendent de la juridiction et des faits. Les équipes juridiques, de conformité, de protection des données, de sécurité de l'information, métiers et de communication ont besoin d'une autorité définie et de voies d'escalade.
La remédiation doit traiter les cas individuels et la cause systémique. Les clients concernés peuvent nécessiter une correction, une explication, une action sur le portefeuille, un ajustement des frais ou une indemnisation selon les obligations et circonstances applicables. La réponse sous-jacente peut nécessiter une correction des données, une modification du modèle, une refonte des règles, une revue renforcée, une action auprès du fournisseur ou le retrait du cas d'usage.
16. Gérer les AI de tiers dans le cadre du processus réglementé
La due diligence fournisseur doit examiner le service, le modèle, les données, la sécurité, la résilience, le processus de changement, les preuves d'audit, les sous-traitants ultérieurs et les droits contractuels. La profondeur doit refléter si le fournisseur récupère des informations, classe des produits, crée du contenu de conseil ou participe à une décision client.
Le cabinet doit comprendre comment les données des clients et du cabinet sont utilisées. Il doit déterminer si les invites ou les résultats servent à entraîner les modèles du fournisseur, où les données sont traitées, combien de temps elles sont conservées, qui peut y accéder et comment la suppression fonctionne. Les dispositions de confidentialité doivent être alignées sur la configuration technique.
La supervision opérationnelle doit inclure la disponibilité, les performances, les incidents, les changements importants et la reprise. Un plan de sortie doit préserver les invites, les enregistrements, les preuves produit, les décisions des clients et un processus manuel ou alternatif viable. La portabilité est importante car le dossier de recommandation peut survivre au contrat technologique.
La responsabilité doit rester claire. Un fournisseur peut fournir un modèle et néanmoins manquer du contexte client et de la responsabilité réglementaire nécessaires pour approuver une recommandation. La société de gestion de patrimoine doit conserver la gouvernance et les preuves nécessaires au respect de ses propres obligations.
17. Former les chargés de relation à remettre en question le système
La formation doit couvrir le cas d'usage approuvé, les preuves, les limites, les usages interdits, la communication client, les dérogations manuelles, les incidents et le repli. Elle doit utiliser des exemples réalistes où le système est correct, incomplet ou se trompe avec assurance.
Les chargés de relation doivent être capables d'identifier les affirmations non étayées, les conditions de produit obsolètes, les faits client incohérents, les hypothèses cachées et les effets sur le portefeuille. Ils doivent comprendre que la fluidité n'est pas une preuve. Un modèle qui fournit une explication claire peut néanmoins s'appuyer sur la mauvaise source.
L'évaluation des compétences doit impliquer des décisions observées. Un bref test de connaissances peut établir la compréhension. Un travail sur scénario peut montrer si le chargé de relation remet en question l'outil, recherche les faits manquants, compare les alternatives et consigne la justification. Les erreurs répétées doivent entraîner un accompagnement ciblé, un accès restreint ou une réévaluation.
Les responsables doivent surveiller la charge de travail. La revue humaine perd de sa valeur si les files d'approbation sont trop importantes, si les preuves sont difficiles à parcourir ou si le calendrier commercial décourage la remise en question. La capacité est une condition de contrôle.
18. Mettre en œuvre le cadre en 180 jours
La mise en œuvre doit commencer par un inventaire des utilisations existantes et prévues de AI. L'utilisation parallèle via des outils publics doit être incluse. Chaque cas d'usage doit avoir un responsable métier, une classification des risques, une cartographie des données, un fournisseur, un statut d'approbation et une restriction d'exploitation.
Un pilote encadré doit utiliser une population définie de clients et de produits. Il doit tester la chaîne de preuves, les points de contrôle, l'interface des chargés de relation, l'enregistrement, la surveillance et le repli. Les résultats du pilote doivent inclure les cas en échec et le comportement du personnel, et pas seulement la productivité.
La montée en charge doit suivre une capacité vérifiée. La couverture produit peut s'étendre une fois la gouvernance des sources stabilisée. La couverture client peut s'étendre après que les cas limites et les risques d'équité ont été testés. Les nouvelles langues et les nouveaux marchés exigent leurs propres preuves et leur propre analyse juridique.
Le conseil d'administration ou le comité délégué devrait recevoir une décision sur l'état opérationnel à la fin du programme. Le dossier devrait décrire les utilisations approuvées, les limites, les résultats de validation, les incidents, les risques non résolus, les garanties pour les clients, la responsabilité et la prochaine revue.
Tableau 6. Feuille de route de mise en œuvre sur 180 jours
| Période | Travail principal | Livrable requis | Jalon d'approbation |
|---|---|---|---|
| jours 1 à 30 | inventaire, périmètre juridique, propriété et classification des cas d'usage | AI registre, utilisations interdites, responsables désignés et base de référence des preuves | approuver le périmètre et le pilote |
| Jours 31 à 60 | conception relative aux clients, aux produits, aux politiques et au lignage | cartographie des sources, règles de fraîcheur, points de contrôle et spécification des enregistrements | approuver la norme de preuve |
| jours 61 à 90 | tests de validation, de sécurité et des facteurs humains | résultats des tests, limites, solution de repli et remédiation | autoriser, restreindre ou rejeter l'utilisation pilote |
| jours 91 à 120 | pilote contrôlé et examen renforcé des cas | preuves relatives aux résultats, aux dérogations, aux incidents et aux utilisateurs | décider de l'extension des produits et de la clientèle |
| jours 121 à 150 | contrôles du fournisseur, surveillance et formation | contrats, tableau de bord, registres de compétences et plan de réponse | accepter le risque résiduel et les limites opérationnelles |
| jours 151 à 180 | contestation indépendante et revue de l'état opérationnel | dossier d'assurance, actions ouvertes et cycle de tests continu | approuver l'état de production ou une restriction supplémentaire |
Le calendrier est un cadre de séquençage illustratif et doit être adapté à la taille de l'entreprise, à son risque et à ses capacités existantes.
19. Rendre le reporting au conseil utile à la prise de décision
La direction générale doit disposer d'une vision de l'utilisation, de l'exposition, de la performance et des risques non résolus. Le rapport doit présenter les cas d'usage actifs, les clients et produits concernés, les changements significatifs, le statut de validation, les limites, la performance des contrôles, les dérogations, les incidents, les réclamations, les mesures correctives et les dépendances vis-à-vis des fournisseurs.
Les indicateurs doivent être reliés à des seuils et à des actions. Un taux de support par citation a de la valeur lorsque la direction sait quelles défaillances affectent les décisions des clients et quelle réponse s'ensuit. Un décompte des dérogations a de la valeur lorsqu'il est segmenté par motif, produit, chargé de relation et résultat.
Le conseil doit avoir une vision du périmètre opérationnel. Le dossier doit identifier les fonctions autorisées, les fonctions interdites, les populations exclues et le dispositif manuel de repli existant. Les décisions d'extension doivent préciser les éléments probants requis avant approbation.
L'assurance doit inclure une contestation indépendante. La surveillance de la conformité, l'audit interne, la validation des modèles, les tests de sécurité et la revue externe peuvent chacun fournir des éléments probants différents. Les constats doivent avoir des responsables désignés, des échéances et des tests de clôture.
Cadre de l'auteur. Le reporting relie les éléments probants relatifs à l'exposition et au contrôle à des décisions de gestion explicites.
20. Faire du conseil fiable la proposition commerciale
Les clients peuvent bénéficier d'une préparation plus rapide, d'éléments probants plus cohérents et de comparaisons plus claires. La confiance dépend de la manière dont le cabinet encadre la recommandation. Le chargé de relation doit pouvoir expliquer quelles informations ont été utilisées, quelle contribution la technologie a apportée, quel jugement il a porté et quelles limites subsistent.
Le cabinet doit décrire avec précision l'utilisation de AI. Les affirmations générales d'objectivité ou d'automatisation sans erreur sont inappropriées. La communication client doit porter sur le service, les mesures de sauvegarde, les limites importantes et le canal à utiliser pour poser des questions ou demander une correction. Les obligations d'information dépendent du cadre applicable et des faits.
Un processus d'adéquation encadré peut soutenir la montée en charge. Les éléments probants sur les produits et les clients deviennent réutilisables, les décisions deviennent vérifiables et les faiblesses récurrentes deviennent visibles. Les données opérationnelles peuvent éclairer la gouvernance des produits, la formation, la conception des services et l'accompagnement client.
La valeur commerciale découle d'un conseil responsable. Le client doit recevoir une recommandation fondée sur des éléments probants actuels, le contexte du portefeuille global, des alternatives crédibles et le jugement humain. AI peut aider à constituer et à tester ce dossier. Les collaborateurs du cabinet restent responsables de la décision professionnelle.
Conclusion
L'évaluation d'adéquation assistée par AI doit être conçue comme un système d'éléments probants et de décision. Les faits clients, les données de portefeuille, les éléments probants sur les produits, les politiques, les transformations effectuées par la machine, le jugement humain et la communication client doivent rester distincts et traçables.
L'explicabilité pratique permet à un contrôleur qualifié de reconstituer la recommandation sans avoir besoin d'accéder aux pondérations propriétaires du modèle. Le dossier identifie les sources, les versions, les calculs, les contributions du modèle, les alternatives, les dérogations, les approbations et la formulation finale. Les éléments probants manquants ou contradictoires restent visibles.
Les documents officiels internationaux empruntent des voies juridiques différentes. Ils soutiennent de manière récurrente la gouvernance, la responsabilité, une implication humaine appropriée, la qualité des données, les tests, la surveillance, le contrôle des prestataires, la tenue de registres et la protection des clients. Un cabinet de gestion de patrimoine peut traduire ces disciplines en un modèle opérationnel commun tout en réalisant l'analyse juridique propre à chaque juridiction.
La question déterminante est directe : le chargé de relation et le cabinet peuvent-ils démontrer, à partir d'éléments probants actuels, pourquoi la recommandation sert les circonstances et objectifs documentés de ce client, comment la technologie y a contribué, quelles alternatives ont été examinées, quels risques et coûts ont été expliqués et quelle personne qualifiée a accepté la responsabilité ? Une réponse complète fait passer AI d'un outil de productivité opaque à une composante encadrée du conseil professionnel.
Références
- Financial Conduct Authority du Royaume-Uni, Notre approche de AI, https://www.fca.org.uk/firms/innovation/ai-approach
- Financial Conduct Authority du Royaume-Uni, AI dans les services financiers : notre approche, 8 juin 2026, https://www.fca.org.uk/news/blogs/ai-financial-services-approach
- Financial Conduct Authority du Royaume-Uni, À propos du Consumer Duty, https://www.fca.org.uk/firms/consumer-duty/about
- Financial Conduct Authority du Royaume-Uni, PS22/9 : Un nouveau Consumer Duty, https://www.fca.org.uk/publications/policy-statements/ps22-9-new-consumer-duty
- Financial Conduct Authority du Royaume-Uni, Rapport Mills sur AI dans les services financiers de détail, 6 juillet 2026, https://www.fca.org.uk/news/press-releases/fca-publishes-landmark-review-impact-ai-retail-financial-services
- Autorité européenne des marchés financiers, Déclaration publique sur l’utilisation de l’intelligence artificielle dans la fourniture de services d’investissement de détail, 30 mai 2024, https://www.esma.europa.eu/sites/default/files/2024-05/ESMA35-335435667-5924__Public_Statement_on_AI_and_investment_services.pdf
- Securities and Futures Commission de Hong Kong, Circulaire aux sociétés agréées sur l’utilisation de modèles de langage génératifs AI, 12 novembre 2024, https://apps.sfc.hk/edistributionWeb/api/circular/list-content/circular/intermediaries/supervision/doc?lang=EN&refNo=24EC55
- Securities and Futures Commission de Hong Kong et autres autorités de régulation de Hong Kong, Circulaire conjointe sur l’élargissement du bac à sable d’intelligence artificielle générative, 5 mars 2026, https://apps.sfc.hk/edistributionWeb/gateway/EN/circular/intermediaries/supervision/doc?refNo=26EC11
- Australian Securities and Investments Commission, Rapport 798 : Attention à l’écart, 29 octobre 2024, https://asic.gov.au/regulatory-resources/find-a-document/reports/rep-798-beware-the-gap-governance-arrangements-in-the-face-of-ai-innovation/
- Australian Securities and Investments Commission, Passez en revue vos dispositifs de gouvernance et de gestion des risques en matière d’intelligence artificielle, avril 2025, https://asic.gov.au/about-asic/corporate-publications/newsletters/market-integrity-update/miu-issue-166-april-2025/
- Financial Industry Regulatory Authority, Avis réglementaire 24-09 : Obligations réglementaires lors de l’utilisation de AI générative et de grands modèles de langage, 27 juin 2024, https://www.finra.org/rules-guidance/notices/24-09
- Autorité des services financiers de Dubaï, Enquête sur l'intelligence artificielle 2025, https://www.dfsa.ae/news/new-dfsa-ai-survey-generative-ai-adoption-has-nearly-tripled-within-difc-last-12-months-governance-continues-develop
- Dubai Financial Services Authority, Risques liés à la cybersécurité et à l’intelligence artificielle dans les services financiers, 30 juin 2025, https://www.dfsa.ae/news/new-dfsa-report-explores-regulatory-insights-cybersecurity-artificial-intelligence-and-quantum-risks
- Personal Data Protection Commission de Singapour, Cadre modèle de gouvernance de l’intelligence artificielle, deuxième édition, https://www.pdpc.gov.sg/-/media/files/pdpc/pdf-files/resource-for-organisation/ai/sgmodelaigovframework2.pdf
- Personal Data Protection Commission de Singapour, Approche de Singapour en matière de gouvernance de l’AI, https://www.pdpc.gov.sg/Help-and-Resources/2020/01/Model-AI-Governance-Framework
- Organisation internationale des commissions de valeurs, L’utilisation de l’intelligence artificielle et de l’apprentissage automatique par les intermédiaires de marché et les gestionnaires d’actifs, septembre 2021, https://www.iosco.org/library/pubdocs/pdf/IOSCOPD684.pdf
À propos de l'auteur
Chennakeshav Adya est chercheur indépendant et associé-gérant de Matchpoint Partners. Ses travaux examinent la stratégie, la formation de capital, la valorisation, les transactions et l'exécution opérationnelle sur les marchés privés et publics.
