1. Établir une politique avant le premier incident
L'adoption de AI commence souvent par un choix de productivité. Un employé utilise un assistant public pour résumer un contrat. Une équipe commerciale active un outil de rédaction intégré. Une société du portefeuille déploie un bot client. Un analyste de family office teste une note d'investissement. Un fournisseur ajoute une fonctionnalité AI lors d'une mise à jour logicielle. Chaque action peut entraîner des conséquences en matière de données, de décisions, de propriété intellectuelle, de cybersécurité et de responsabilité.
Les groupes familiaux ajoutent une complexité structurelle. Le même nom de famille peut se trouver au-dessus de sociétés opérationnelles, d'actifs immobiliers, de véhicules d'investissement, d'activités philanthropiques et d'affaires personnelles. Certaines entités partagent des personnes, des systèmes et des conseillers. D'autres ont des investisseurs minoritaires, des activités réglementées ou des conseils indépendants. Une politique émise par une société peut n'avoir aucun effet juridique dans une autre. Un incident peut néanmoins se transmettre par les garanties, les services partagés, la réputation, les dispositions successorales et la propriété commune.
La politique du conseil d'administration doit définir comment AI peut être acquis, construit, configuré, connecté et utilisé. Elle doit établir les droits de décision avant qu'un cas d'usage ne devienne opérationnel. Elle doit également distinguer la gouvernance de l'assurance technique. Une politique peut attribuer l'autorité et les contrôles minimaux ; des équipes qualifiées doivent néanmoins tester les données, les systèmes, la sécurité et l'impact en contexte.
Le NIST structure la gestion des risques liés à AI autour de Gouverner, Cartographier, Mesurer et Gérer. Les principes de l'OCDE mettent l'accent sur les droits humains, la transparence, la robustesse, la sécurité et la responsabilité. Les cadres de Singapour ajoutent des orientations pratiques pour l'implication humaine et les systèmes agentiques. Ces sources soutiennent une idée opérationnelle commune : l'organisation doit savoir ce que fait un système AI, qui est responsable du résultat, quelles preuves étayent son utilisation et quand une personne doit intervenir.
Le périmètre de la politique suit les entités juridiques, les services partagés, les données, les décisions et le nom de la famille.
2. Définir le périmètre, les rôles et la hiérarchie des politiques
Le périmètre de la politique devrait commencer par une cartographie des entités. Elle devrait identifier la société mère, les filiales, les coentreprises, les entreprises réglementées, les conseillers en investissement, les entités de family office, les trusts, les fondations et les sociétés de services partagés. Pour chaque entité, le conseil d'administration devrait consigner l'actionnariat, l'organe de gouvernance, les employés, les clients, les activités réglementées, les emplacements des données et les dépendances technologiques.
Les rôles importent car le même modèle peut s'inscrire dans des relations juridiques différentes. Une entité peut développer un système AI, le fournir, le déployer, le distribuer, l'importer ou utiliser ses résultats. Un fournisseur cloud, un intégrateur de systèmes, une équipe technologique du groupe et une société d'exploitation peuvent chacun porter des obligations différentes. La cartographie devrait identifier les relations de responsable du traitement et de sous-traitant pour les données personnelles et clarifier la responsabilité contractuelle en matière d'entraînement, de configuration, de surveillance et d'incidents.
La politique de groupe devrait fixer des principes minimaux et des déclencheurs d'escalade. Les conseils d'administration des entités devraient adopter des annexes locales couvrant le droit applicable, les règles sectorielles, les comités d'entreprise, les pratiques d'emploi, les obligations envers les clients, la résidence des données et les attentes des régulateurs. Une règle plus stricte devrait s'appliquer lorsqu'un système partagé ne peut pas séparer de manière fiable les entités ou les utilisateurs.
La hiérarchie devrait relier la politique AI à la sécurité de l'information, à la protection de la vie privée, aux archives, à l'usage acceptable, au risque de modèle, aux achats, à l'emploi, à la propriété intellectuelle, à la conduite de marché, à la criminalité financière, à la santé et à la sécurité, à la gestion de crise et aux délégations de pouvoir. Les conflits devraient être résolus par le propriétaire juridique responsable, avec les conseils adaptés à la question.
Tableau 1. Périmètre de la politique AI du conseil d'administration et rôles responsables
| Niveau de politique | Question du conseil d'administration | Rôle responsable | Preuves minimales |
|---|---|---|---|
| principes de groupe | quelles valeurs, interdictions et seuils d'escalade s'appliquent à l'ensemble du groupe familial ? | conseil d'administration de la société mère | politique approuvée, cartographie d'applicabilité par entité et exceptions |
| adoption par l'entité | quelles exigences s'appliquent à cette entité juridique et à cette juridiction ? | conseil d'administration de l'entité | calendrier local, revue juridique et procès-verbal d'adoption |
| responsabilité du cas d'usage | qui est responsable du résultat métier et du processus concerné ? | responsable métier | finalité, utilisateurs, impact, contrôles et critères d'acceptation |
| technologie | qui est responsable de l'architecture, des accès, des changements et de la résilience ? | responsable de la technologie | conception du système, modèle d'accès, journaux, tests et reprise |
| données | qui autorise les sources de données, la finalité, la conservation et le transfert ? | responsable des données | cartographie des données, base légale, qualité, droits et contrôles de suppression |
| risques et conformité | qui remet en question la classification et la suffisance des contrôles ? | fonction de contrôle indépendante | examen documenté, conditions et décision relative au risque résiduel |
| assurance | qui teste si les contrôles fonctionnent comme annoncé ? | audit interne ou assurance qualifiée | plan au périmètre défini, éléments de preuve, constats et suivi des remédiations |
Les intitulés varient selon le groupe ; chaque mission doit avoir un responsable redevable unique et un appui nommé.
3. Constituer un registre des systèmes AI et des cas d’usage
Un groupe ne peut pas gouverner des systèmes qu’il n’a pas identifiés. L’inventaire doit couvrir les modèles développés en interne, les applications de fournisseurs, les fonctions AI intégrées, les outils publics, l’automatisation robotisée des processus avec des composants AI, les modèles analytiques, la vision par ordinateur, les moteurs de recommandation, le contenu synthétique, les systèmes décisionnels et les workflows autonomes ou agentiques. Il doit également recenser les expérimentations informelles impliquant des données ou des décisions du groupe.
La phase de découverte doit combiner les déclarations et les éléments de preuve techniques. Les registres des achats et des comptes fournisseurs peuvent identifier les abonnements. Les journaux d’identité et de réseau peuvent identifier les applications. Les contrôles des navigateurs et des terminaux peuvent détecter les services non gérés lorsque la loi le permet. Les inventaires logiciels peuvent révéler des capacités intégrées. Les enquêtes, entretiens et ateliers peuvent faire apparaître des cas d’usage que les analyses technologiques ne détectent pas. L’objectif est un périmètre auditable, la surveillance des employés étant conçue conformément au droit et aux politiques applicables.
La fiche système et la fiche cas d’usage doivent être distinctes. Un même modèle peut soutenir plusieurs usages présentant des risques différents. Un assistant de rédaction utilisé pour le marketing public n’a pas les mêmes conséquences lorsqu’il sert au conseil juridique ou à l’évaluation des employés. La fiche système décrit le modèle, le fournisseur, la version, l’hébergement, l’accès et les contrôles techniques. La fiche cas d’usage décrit l’objectif, les personnes concernées, l’influence sur les décisions, les données, le propriétaire, le déploiement et la surveillance.
Chaque fiche doit avoir un état de cycle de vie : découverte, bac à sable, évaluation, pilote approuvé, production, suspendu ou retiré. Les systèmes non autorisés doivent suivre un parcours de remédiation. Le conseil d’administration doit voir les inconnues importantes et les revues en retard, tandis que la direction est responsable du registre opérationnel.
Un système peut prendre en charge plusieurs cas d’usage ; chaque cas d’usage reçoit sa propre classification et son propre propriétaire.
Tableau 2. Champs minimaux du registre AI
| Domaine | Fiche système | Fiche de cas d'usage |
|---|---|---|
| identité | fournisseur, modèle, version, responsable du système et hébergement | finalité, entité, processus, responsable métier et utilisateurs |
| données | données d'entraînement ou de référence, prompts, sorties, conservation et transfert | catégories de données, personnes concernées, sensibilité, finalité et base légale |
| Décision | capacités du modèle et limites connues | décision influencée, conséquence, autorité humaine et voie de recours |
| accès | identités, privilèges, interfaces et outils connectés | utilisateurs autorisés, emplacements, ségrégation et conditions d'approbation |
| assurance | tests du fournisseur, tests internes, revue de sécurité et incidents | tests d'acceptation, analyse d'impact, seuils de surveillance et date de revue |
| cycle de vie | acquisition, version, processus de modification et mise hors service | découverte, bac à sable, pilote, production, suspension ou mise hors service |
Le registre doit conserver les dates des éléments de preuve, les sources et les lacunes non résolues.
4. Classer le cas d’usage avant d’approuver le système
La classification doit suivre l’usage et ses conséquences. La politique du conseil d’administration peut recourir à quatre niveaux : interdit, restreint, contrôlé et courant. Les libellés sont des outils de gouvernance interne ; les catégories juridiques doivent être évaluées séparément. Un système peut passer d’un niveau à l’autre lorsque les données, l’autonomie, les utilisateurs, les personnes concernées ou les actions connectées changent.
Les usages interdits devraient inclure les activités que le groupe ne souhaite pas ou n’est pas en mesure de gouverner, ainsi que tout usage interdit par la législation applicable. Les exemples peuvent inclure la manipulation dissimulée, la discrimination illégale, la fabrication de preuves, l’usurpation d’identité non autorisée, le contournement des contrôles et l’introduction d’informations protégées ou confidentielles dans un service public non autorisé. La politique devrait éviter les formulations générales que les employés ne peuvent pas appliquer.
Les usages restreints peuvent inclure des décisions importantes ayant une incidence sur l’emploi, le crédit, l’assurance, la santé, la sécurité, les droits juridiques, les clients, les investissements ou l’accès à des services essentiels. Ils exigent un examen juridique renforcé, une évaluation d’impact, une gouvernance des données, des tests, une autorité humaine, une documentation et une surveillance. Les actions autonomes impliquant de l’argent, du code, des communications externes ou des systèmes de production doivent également suivre un parcours restreint.
Les usages contrôlés comprennent des fonctions de support à moindre impact, avec des données, des outils et une revue humaine approuvés. Les usages courants peuvent couvrir des tâches à faibles conséquences, comme la mise en forme de textes publics dans des systèmes approuvés. La classification doit tenir compte de la gravité, de l’échelle, de la réversibilité, de la vulnérabilité des personnes concernées, de la sensibilité des données, de l’automatisation, de l’opacité, de la dépendance externe et de la capacité à détecter les erreurs.
L’escalade suit l’impact, l’autonomie, la sensibilité et la réversibilité ; la classification juridique reste distincte.
Tableau 3. Politique du conseil d’administration pour les usages autorisés, conditionnels et interdits
| État de la politique | Usage illustratif | Action requise |
|---|---|---|
| autorisé dans l’outil approuvé | mise en forme de documents publics, traduction avec revue humaine, logistique des réunions | utiliser un compte approuvé, vérifier les résultats et conserver les enregistrements requis |
| contrôlé | synthèse de recherche, rédaction interne, assistance au codage, assistance au service client | données autorisées, responsable désigné, vérification des sources, contrôle d’accès et surveillance |
| restreint | décisions en matière de recrutement, de crédit, de tarification, juridiques, d’investissement, de santé, de sécurité ou ayant un impact important sur les clients | évaluation d’impact, examen juridique et de contrôle, tests, autorité humaine, voie de recours et seuil du conseil d’administration |
| action autonome restreinte | envoyer des communications, modifier des systèmes, exécuter du code, déplacer des fonds ou passer des ordres | autorisations limitées, double contrôle, bac à sable, journaux, limites de transaction, interrupteur d’urgence et réponse aux incidents |
| interdit par la politique | preuves fabriquées, usurpation d’identité non approuvée, manipulation dissimulée, contournement des contrôles ou divulgation non sécurisée de données | bloquer, signaler, préserver les preuves et évaluer les obligations liées à l’incident |
| interdiction réglementaire | toute activité interdite pour l’entité, la juridiction ou le rôle | Ne pas déployer ; documenter la qualification juridique et surveiller les changements |
Les exemples nécessitent un examen juridique et sectoriel propre à l'entité avant adoption.
5. Définir les droits de décision et une autorité humaine réelle
La revue humaine doit être conçue autour de la décision. Une personne ne peut pas exercer une supervision réelle lorsqu'elle manque de temps, d'informations, d'autorité, de compétences ou d'une solution alternative. La politique doit identifier qui peut approuver, rejeter, passer outre, suspendre et contester un résultat influencé par AI. Elle doit également préciser quelles décisions restent exclusivement humaines.
Le conseil d'administration définit l'appétit pour le risque et les seuils importants. La direction approuve les cas d'usage dans le cadre des pouvoirs délégués. Le propriétaire métier est responsable du résultat, y compris des erreurs dues à une confiance excessive. La fonction technologique est responsable de l'exploitation du système. Les propriétaires des données gouvernent les sources et les droits. Les fonctions juridique, vie privée, risque, conformité, sécurité et ressources humaines examinent leurs domaines respectifs. L'audit interne ou une fonction d'assurance qualifiée évalue la conception et le fonctionnement des contrôles sans assumer la responsabilité de la direction.
La conception de la revue doit être proportionnée aux conséquences et à la réversibilité. Un brouillon à faible impact peut nécessiter qu'un utilisateur compétent vérifie l'exactitude et le ton. Une décision importante en matière d'emploi ou de crédit peut exiger des éléments de preuve indépendants, une motivation, une évaluation des biais, la conservation des enregistrements et une voie de réexamen accessible. Un agent capable d'exécuter des actions peut nécessiter des limites préapprouvées, une double autorisation et une capacité de suspension immédiate.
La politique doit traiter le biais d'automatisation. Les utilisateurs doivent être formés pour comprendre que des résultats fluides peuvent être erronés, incomplets ou non étayés. Les interfaces de revue doivent exposer les sources, les limites de confiance, les exceptions et les changements. La direction doit vérifier si les réviseurs contestent réellement les résultats plutôt que de simplement les confirmer.
6. Gouverner les données, la confidentialité et la propriété intellectuelle
AI La gouvernance des données commence avant la saisie d'un prompt. L'organisation doit classer les informations, identifier le propriétaire juridique, confirmer la finalité et l'autorité, et comprendre ce que le fournisseur stocke, utilise, transfère ou expose. Les informations relatives aux clients, aux employés, aux transactions, à la santé, aux finances, au droit, à la famille, à la sécurité et aux investissements non publiés peuvent nécessiter des contrôles renforcés.
La politique doit distinguer les environnements d'entreprise approuvés des comptes publics ou grand public. Le contrat et la configuration doivent préciser si les prompts et les résultats servent à entraîner les modèles, ainsi que la conservation, la suppression, les sous-traitants ultérieurs, les localisations, l'accès, le chiffrement, les journaux d'audit, la notification d'incident et la sortie. Les contrôles techniques doivent renforcer la règle au moyen de l'identité, de la prévention des pertes de données, de la gestion des terminaux et de restrictions d'accès lorsque cela est licite et proportionné.
Les obligations en matière de données personnelles dépendent de la juridiction et du rôle. Le Bureau du Commissaire à l'information du Royaume-Uni identifie l'obligation de rendre compte, la base licite, l'équité, la transparence, la sécurité, la minimisation des données, les droits des personnes et l'analyse d'impact relative à la protection des données comme des considérations pertinentes. L'avis de décembre 2024 du Comité européen de la protection des données traite de l'anonymat, de l'intérêt légitime et des conséquences de données d'entraînement traitées illégalement. Chaque utilisation nécessite une évaluation au cas par cas.
L'examen de la propriété intellectuelle doit couvrir les droits sur les entrées, les droits sur les résultats, les licences, les obligations relatives aux logiciels libres, le savoir-faire confidentiel, le contenu de tiers, les actifs de marque, les conditions d'entraînement et les indemnisations. Le contenu généré doit être vérifié quant à sa provenance et à son autorisation avant toute utilisation externe. Le secret professionnel de l'avocat et la confidentialité professionnelle exigent un traitement explicite approuvé par un conseil juridique.
7. Maîtriser les modèles de tiers et les AI intégrés
La fonction achats doit évaluer le fournisseur et l'utilisation proposée. La notoriété d'un fournisseur ne suffit pas à établir qu'une configuration, une intégration ou un cas d'usage spécifique est approprié. La due diligence doit couvrir l'identité de l'entreprise, la description du service, les dépendances du modèle, l'entraînement et l'évaluation, la sécurité, les conditions relatives aux données, les sous-traitants, la propriété intellectuelle, la disponibilité, la surveillance, les incidents, les droits d'audit, la responsabilité et la résiliation.
Les changements de modèles et de fonctionnalités créent un risque particulier. Les fournisseurs peuvent modifier les capacités, les garde-fous, les pratiques en matière de données ou les interfaces. Le contrat doit définir les droits de préavis, de modification substantielle, de contrôle de version, de test, de retour arrière et de résiliation. Le propriétaire du système doit surveiller les notes de version et retester les flux de travail importants avant d'accepter les changements.
L’AI intégré nécessite une phase de découverte. La gestion de la relation client, la productivité, la finance, les ressources humaines, la sécurité et les logiciels industriels peuvent activer des fonctions AI au titre des contrats existants. Le responsable doit évaluer la fonctionnalité avant de l’activer et confirmer si les flux de données ou les rôles contractuels changent.
La concentration compte également. Plusieurs sociétés du groupe peuvent dépendre du même modèle de fondation, de la même plateforme cloud ou du même fournisseur d’intégration. Une défaillance commune, un changement de politique ou une panne peut affecter plusieurs entités. Le registre doit exposer les dépendances partagées et les dispositifs alternatifs.
Tableau 4. Matrice de due diligence et de contractualisation des AI tiers
| Domaine | Question de due diligence | Preuves contractuelles ou de contrôle |
|---|---|---|
| modèle et service | quels modèles, versions, composants et sous-fournisseurs fournissent le service ? | description du service, cartographie des dépendances et notification de changement |
| données | quelles données entrent dans le service, où sont-elles traitées, combien de temps sont-elles conservées et sont-elles utilisées pour l’entraînement ? | conditions relatives aux données, configuration, suppression, transfert et preuves d’audit |
| tests | comment l’exactitude, la robustesse, les biais, la sécurité et les usages abusifs sont-ils testés pour le contexte prévu ? | rapports d’évaluation, limites, tests clients et seuils d’acceptation |
| sûretés | comment les identités, interfaces, secrets, journaux et incidents sont-ils protégés ? | architecture de sécurité, certifications, processus de gestion des vulnérabilités et conditions de notification |
| propriété intellectuelle | Quels droits régissent les entrées, les sorties, les données d'entraînement et les revendications ? | licences, garanties, indemnisations et procédure relative aux atteintes aux droits |
| résilience | Que se passe-t-il en cas d'indisponibilité, de retrait du modèle ou de modification substantielle ? | niveaux de service, continuité, exportation, retour arrière et plan de sortie |
| responsabilité | Qui est responsable des erreurs, des réclamations, de l'accompagnement réglementaire et de la remédiation ? | contacts désignés, coopération, archives, droits d'audit et répartition des responsabilités |
La profondeur doit être proportionnée au cas d'usage, aux données et à la dépendance.
8. Sécuriser le cycle de vie de AI et les outils connectés
La sécurité doit couvrir l'empoisonnement des données, l'injection de prompt, le traitement non sécurisé des sorties, l'extraction de modèle, l'exposition des identifiants, les autorisations excessives, la compromission des dépendances, le déni de service et les usages abusifs. Le modèle de menace doit refléter si le système est interne, orienté client, connecté à des outils, affiné sur des données du groupe ou exposé à du contenu non fiable.
Le développement et la configuration doivent recourir à des environnements séparés, à des composants approuvés, à la gestion des secrets, à la revue de code, aux tests et au contrôle des changements. Les systèmes de récupération doivent encadrer les collections de sources et les autorisations. Les sorties transmises à du code, à des bases de données, à la messagerie, aux systèmes financiers ou industriels doivent être validées avant exécution. Les journaux doivent faciliter la détection et l'investigation tout en respectant la vie privée et la confidentialité.
Les exercices de red teaming et l'évaluation doivent être adaptés à l'usage. Les jeux de test doivent inclure les réponses attendues, les cas limites, les entrées adverses et les perspectives des utilisateurs concernés. Les mesures peuvent couvrir l'exactitude, les allégations non étayées, les contenus nuisibles, le refus, les biais, la sécurité, la latence, la résilience et l'outrepassement. Le propriétaire doit fixer des seuils d'acceptation et consigner les limites avant le déploiement.
La surveillance en production doit détecter la dérive, les accès anormaux, les sorties non sûres, les violations de politique, les plaintes, les incidents et les changements de fournisseur. Un test de pré-déploiement réussi a une date et une portée. Il ne fournit pas d'assurance permanente.
9. Appliquer des limites plus strictes à la AI générative et agentique
La AI générative peut produire du texte, des images, de l'audio, de la vidéo et du code plausibles sans établir leur véracité ni les droits associés. Le profil Generative AI du NIST identifie des risques qui peuvent être nouveaux ou exacerbés, notamment la confabulation, les contenus dangereux, la vie privée, les biais, l'intégrité de l'information, la propriété intellectuelle, la cybersécurité et l'intégration de la chaîne de valeur. La politique doit exiger la vérification des sources, l'étiquetage des contenus le cas échéant, des contrôles de provenance et une responsabilité humaine.
La AI agentique ajoute l'action. Un agent peut planifier des étapes, utiliser de la mémoire, appeler des outils, communiquer et modifier des systèmes. Le cadre de gouvernance « Model AI » de Singapour pour la AI agentique, publié en janvier 2026, met l'accent sur l'encadrement de l'autonomie, l'attribution d'une responsabilité humaine, le contrôle des accès, les tests, la transparence et la surveillance. Ces principes peuvent éclairer la gouvernance interne, tandis que le droit et le contexte locaux déterminent les exigences.
Un agent devrait recevoir les autorisations minimales nécessaires. Les outils, les données, les destinations, les montants des transactions, les fenêtres temporelles et les types d'actions devraient figurer sur une liste d'autorisation. Les actions à fort impact devraient exiger une confirmation ou une double validation. Les limites de débit, les budgets, le cloisonnement des environnements, les journaux immuables, la détection d'anomalies et un mécanisme d'arrêt testé devraient soutenir le contrôle.
Le responsable métier devrait documenter ce que l'agent peut décider, ce qu'il peut recommander et ce qu'il peut exécuter. La politique devrait interdire à un agent d'étendre ses propres autorisations ou de contourner les points de contrôle humains. Les flux de travail connectés devraient être testés face à des instructions malveillantes et à des sources de données compromises.
L'autonomie ne s'étend qu'à l'intérieur de limites approuvées, avec des preuves et un mécanisme d'arrêt testé.
10. Encadrer les personnes, l'emploi et les capacités
Les employés ont besoin de règles claires et d'outils approuvés utilisables. Une politique qui ne fait qu'interdire des comportements peut faire basculer l'activité vers des canaux non surveillés. La formation devrait expliquer les systèmes autorisés, les catégories de données, la vérification, les enregistrements, la propriété intellectuelle, la sécurité, l'escalade et les conséquences. Des modules par rôle devraient s'adresser aux développeurs, aux achats, aux ressources humaines, aux équipes d'investissement, aux opérations clients, aux dirigeants et aux membres du conseil d'administration.
Les usages liés à l'emploi exigent une vigilance accrue. Le recrutement, la surveillance, l'évaluation des performances, la planification, la promotion et la rupture peuvent affecter des droits et des moyens de subsistance. L'examen devrait prendre en compte les règles applicables en matière d'emploi, d'égalité, de protection de la vie privée, de consultation et de décision automatisée. Il devrait tester la qualité des données, les variables substitutives, les résultats divergents, les explications, l'accessibilité et le réexamen réel.
Le groupe devrait également planifier les changements de main-d'œuvre. AI peut redéfinir les tâches, les contrôles et les exigences de compétences. La direction devrait évaluer la séparation des fonctions, la conception des postes, la supervision, les compétences et la fatigue liée au changement. Les connaissances critiques ne devraient pas être transférées dans un outil opaque sans dispositifs de conservation et de continuité.
Les membres de la famille et les administrateurs sont eux aussi des utilisateurs. Les assistants personnels, les outils de messagerie et les appareils peuvent contenir des informations sensibles sur la famille, les transactions et la gouvernance. L'intégration et les déclarations annuelles devraient couvrir les portails du conseil, les comptes approuvés, les déplacements, le clonage de la voix et de l'image, l'usurpation d'identité et la fraude aux paiements urgents.
11. Protéger l'intégrité de l'information et la réputation de la famille
Le contenu synthétique peut causer un préjudice opérationnel et réputationnel. Un faux message d'un dirigeant peut demander de l'argent ou des données. Un audio fabriqué peut influencer une négociation. Une réponse publique inexacte peut être attribuée à une entreprise familiale. Le groupe a besoin d'authentification, de contrôles de publication externe et d'une voie d'escalade pour l'usurpation d'identité et la désinformation.
Les communications à haut risque devraient utiliser des canaux vérifiés et une confirmation secondaire. Les changements de paiement ou de compte ne devraient jamais reposer uniquement sur la voix, la vidéo ou l'e-mail. Le contenu public généré ou substantiellement modifié par AI devrait faire l'objet d'un examen factuel, juridique et de marque adapté à ses conséquences. Les exigences de provenance et d'étiquetage devraient être vérifiées selon la juridiction et le canal.
Le plan de crise devrait identifier le porte-parole de la famille, le porte-parole de l'entité, le responsable juridique, le responsable technologique et les contacts des forces de l'ordre ou des plateformes. La surveillance devrait se concentrer sur les menaces crédibles et respecter la vie privée. Les preuves devraient être préservées avant que le contenu ne soit retiré, lorsque cela est licite.
12. Cartographier la réglementation et les normes par entité et par rôle
La cartographie réglementaire doit être à jour et propre à chaque entité. Le règlement AI de l’Union européenne s’applique selon un calendrier échelonné et attribue des obligations selon la catégorie de système et le rôle de l’acteur. La Commission européenne indique que la plupart des dispositions s’appliquent à compter du 2 août 2026, tandis que certaines dispositions ont commencé plus tôt et que certaines obligations relatives aux systèmes à haut risque sont soumises à des échéances ultérieures. Les lignes directrices, les normes et les modalités d’application continuent d’évoluer. L’applicabilité et les dates en vigueur nécessitent une confirmation juridique.
Les États-Unis présentent un environnement sectoriel et à plusieurs niveaux. Le RMF AI du NIST est volontaire et fournit une structure de gouvernance plutôt qu’une détermination juridique. Des exigences fédérales, étatiques, sectorielles, contractuelles, de protection des consommateurs, d’emploi, de confidentialité, de propriété intellectuelle et de valeurs mobilières peuvent s’appliquer. Le groupe devrait tenir une cartographie des juridictions et des cas d’usage plutôt que de se fier à un seul label national.
Le Royaume-Uni a une approche réglementaire fondée sur des principes, appliquée par les régulateurs existants, parallèlement à des obligations en matière de protection des données et sectorielles. L’ICO déclare que ses orientations relatives à AI et à la protection des données sont en cours de révision à la suite du Data (Use and Access) Act 2025. La version et l’applicabilité doivent donc être vérifiées au moment de la décision.
Singapour propose des cadres modèles pratiques pour AI traditionnelle, générative et agentique. Il s’agit de références utiles en matière de gouvernance ; les obligations des entités dépendent toujours du droit applicable, du secteur et du rôle. Les principes de l’OCDE constituent une base largement adoptée pour l’interopérabilité entre juridictions.
La politique devrait consigner la source juridique, la date d’entrée en vigueur, l’entité concernée, le rôle, le responsable désigné et les éléments de preuve. Tout changement réglementaire devrait déclencher une réévaluation de la classification, de la documentation, des tests, des contrats et des obligations en matière d’incidents.
13. Concevoir la réponse aux incidents autour des preuves et des décisions
Un incident AI peut impliquer la confidentialité, les données personnelles, la cybersécurité, une action dangereuse, la discrimination, une perte financière, la propriété intellectuelle, la désinformation, une violation réglementaire ou une interruption de service. Le plan de gestion des incidents devrait relier les procédures existantes de crise, de cybersécurité, de vie privée, juridiques, de risque et de communication plutôt que de créer un canal isolé.
Les premières actions consistent à protéger les personnes, contenir le système, préserver les preuves et mettre fin à toute action préjudiciable supplémentaire. L’équipe devrait identifier les entités, systèmes, versions, données, utilisateurs, décisions et outils connectés concernés. Les journaux, prompts, résultats, configurations, enregistrements de modèles et de fournisseurs devraient être conservés dans les limites légales.
Le responsable de la gestion de l’incident devrait coordonner les décisions techniques et commerciales. Les équipes juridiques et de protection de la vie privée évaluent les obligations de notification et le secret professionnel. Le propriétaire métier évalue les décisions concernées et les mesures correctives destinées aux clients. La sécurité enquête sur les accès et la compromission. La communication contrôle les déclarations internes, familiales et externes. La finance suit les pertes et l’assurance. Le fournisseur devrait apporter son soutien à la préservation des preuves, au confinement et aux mesures correctives conformément au contrat.
Les enseignements tirés devraient mettre à jour le registre, les contrôles, la formation et les clauses fournisseurs. La reprise devrait exiger des preuves et une autorisation définies.
La séquence protège les personnes et les preuves tout en coordonnant les obligations propres à chaque entité.
14. Illustrer le cadre à l’aide d’un groupe mondial hypothétique
Prenons l’exemple d’un groupe familial hypothétique avec une société holding au Royaume-Uni, des activités de consommation et industrielles dans l’Union européenne et aux États-Unis, une filiale technologique à Singapour et un bureau d’investissement distinct. Le groupe compte 4 800 employés et un chiffre d’affaires annuel consolidé de USD 1.2 billion. Ces chiffres sont des hypothèses de la direction créées uniquement pour illustrer la méthode.
La phase de découverte recense 64 systèmes activés par AI et 117 cas d'usage. Vingt-neuf systèmes sont des outils d'entreprise approuvés, 18 sont des fonctionnalités intégrées de fournisseurs, 11 sont des abonnements de collaborateurs et six sont développés en interne. L'examen initial des cas d'usage recense 12 usages restreints, 69 usages contrôlés, 30 usages courants et six usages suspendus dans l'attente d'une enquête.
L'ensemble restreint comprend le tri des candidatures, les alertes de sécurité en usine, la tarification dynamique des clients, les recommandations de crédit, la recherche en investissement, le tri des réclamations clients et deux agents connectés au code et aux communications externes. Aucun n'est approuvé uniquement parce qu'un fournisseur le présente comme conforme. Chacun fait l'objet d'une cartographie juridique locale, d'une évaluation d'impact, d'une revue des données, d'un test de recette, d'une conception de l'autorité humaine et d'un plan de surveillance.
Le conseil d'administration approuve une politique de groupe et quatre annexes par entité. Elle interdit les informations confidentielles dans des outils publics non approuvés, les preuves fabriquées, l'usurpation d'identité non approuvée et les mouvements autonomes de fonds. Elle exige une double validation pour les communications externes importantes et les modifications de code de production par les agents. Six usages suspendus sont maîtrisés ; deux sont abandonnés, trois sont migrés vers des environnements approuvés et un passe à un pilote contrôlé après remédiation.
Tableau 5. Situation de référence hypothétique du groupe familial AI et premières décisions
| Domaine | Hypothèse de la direction | Première action du conseil d'administration ou de la direction |
|---|---|---|
| empreinte du groupe | Société holding britannique ; activités dans l'UE, aux États-Unis et à Singapour ; bureau d'investissement distinct | adopter les principes du groupe et quatre annexes par entité |
| passage à l’échelle | USD 1.2bn de chiffre d'affaires annuel ; 4 800 employés | fixer les seuils de matérialité et de reporting |
| systèmes | 64 systèmes activés par AI | désigner les propriétaires de systèmes, les versions et les registres de dépendances |
| cas d'usage | 117 identifiés | classer chaque usage et supprimer les enregistrements en double ou obsolètes |
| usages restreints | 12 | exiger des jalons juridiques, d'impact, de test et d'autorité humaine |
| usages suspendus | 6 | contenir, préserver les preuves et décider de retirer, migrer ou remédier |
| systèmes agentiques | 2 connectés au code ou aux communications | restreindre les outils, exiger une double approbation, journaliser les actions et tester les contrôles d'arrêt |
Toutes les valeurs sont des hypothèses de la direction à des fins de démonstration de la méthode ; elles ne constituent pas des données observées du groupe.
Le family office a un problème distinct. Les analystes ont utilisé des assistants grand public pour la recherche publique et la rédaction de projets de mémorandums. Le conseil d'administration exige un environnement d'entreprise approuvé, la conservation des sources, des restrictions sur les données confidentielles, la responsabilité des décisions d'investissement et une séparation claire entre les résultats des outils et les preuves d'investissement approuvées. Le comité d'investissement conserve la responsabilité de chaque décision.
Le tableau de bord à 90 jours montre une attribution complète des responsabilités pour 60 des 64 systèmes, des contacts d'incident testés pour toutes les entités significatives, la clôture des six usages suspendus et des preuves fournisseurs en retard pour quatre systèmes contrôlés. Les exceptions restent visibles jusqu'à leur résolution. L'exemple montre comment la politique devient un portefeuille de décisions plutôt qu'une simple déclaration de principes.
15. Exécuter une séquence de mise en œuvre de 100 jours
Pendant les jours 1 à 20, le conseil d'administration nomme un sponsor exécutif et un responsable de la politique, définit le périmètre du groupe, publie un avis provisoire d'utilisation acceptable, préserve les preuves pertinentes et identifie les systèmes significatifs. La direction crée les registres des entités, des systèmes et des cas d'usage et désigne les contacts en cas d'incident.
Pendant les jours 21 à 40, le groupe classe les cas d'usage, identifie les activités interdites et restreintes, cartographie les données et les rôles juridiques et confine les exceptions urgentes. La fonction achats examine les fournisseurs significatifs et les fonctionnalités intégrées. La fonction technologie établit les accès approuvés et les contrôles de détection initiaux.
Pendant les jours 41 à 60, les responsables réalisent les évaluations d'impact, de confidentialité, de sécurité, de propriété intellectuelle et d'autorité humaine pour les usages restreints. Les équipes techniques élaborent des tests d'acceptation, des autorisations, des journaux, une surveillance et des contrôles de suspension. Les conseils d'administration des entités examinent les calendriers locaux.
Au cours des jours 61 à 80, le groupe pilote la formation, les exercices d’incident et les éléments probants de contrôle. Il teste les limites des agents et les points d’approbation. La direction clôture ou escalade les exceptions, met à jour les contrats et définit les indicateurs du conseil d’administration. Les fonctions de contrôle indépendantes contestent les approbations à fort impact.
Au cours des jours 81 à 100, le conseil d’administration adopte la politique et les annexes par entité, approuve les risques résiduels significatifs et reçoit le premier tableau de bord. L’audit interne établit un plan d’assurance fondé sur les risques. Le registre devient un document de gestion récurrent, avec réévaluation déclenchée par les événements.
16. Instaurer une gouvernance récurrente et des examens déclenchés par les événements
Le rythme opérationnel doit suivre le rythme du changement. Les propriétaires de systèmes surveillent la production. Les responsables métier examinent mensuellement les performances, les réclamations, les dérogations et les exceptions. Les fonctions de contrôle examinent les utilisations restreintes au moins chaque trimestre. Les conseils d’administration reçoivent les expositions significatives, les incidents et les remédiations en retard selon un calendrier convenu.
Les événements doivent déclencher une réévaluation immédiate. Cela inclut une nouvelle utilisation, un nouveau modèle ou un nouveau fournisseur ; un changement de version significatif ; une nouvelle catégorie de données ; une extension à une autre entité ou juridiction ; une connexion à un outil ; une autonomie accrue ; une réclamation significative ; une défaillance de contrôle ; un incident ; une acquisition ; une cession ; ou un changement réglementaire.
Les acquisitions nécessitent une identification précoce. La due diligence devrait identifier les systèmes AI significatifs, les droits sur les données, les contrats, les incidents, les réclamations et les lacunes de conformité. L’intégration devrait préserver les éléments probants et empêcher toute connexion non contrôlée aux systèmes du groupe. Les cessions nécessitent une séparation des données, un transfert de licences et le retrait des accès.
La succession compte aussi. Un membre de la nouvelle génération de la famille peut parrainer l’innovation ou rejoindre le conseil d’administration. La gouvernance devrait appliquer les mêmes droits de décision et normes de preuve. La politique devrait rester un actif institutionnel qui perdure malgré les changements de direction, de fournisseurs et de technologies.
Les revues déclenchées par les événements complètent la supervision récurrente ; la cadence peut être plus stricte selon l’entité ou l’utilisation.
17. Doter le conseil d’administration d’un tableau de bord en boucle fermée
Le conseil d’administration devrait relier chaque utilisation significative de AI à une entité, un système, un responsable, une décision, un jeu de données, un niveau de risque, une autorité, un contrôle et des éléments probants actuels. Le tableau de bord devrait indiquer les systèmes inconnus, les utilisations restreintes, les incidents, les examens en retard et les remédiations.
Tableau 6. Tableau de bord de mise en œuvre de la gouvernance AI prêt pour le conseil d’administration
| Domaine | Question de gouvernance | Justificatif d'acceptation |
|---|---|---|
| périmètre | les entités juridiques, les systèmes partagés, les fournisseurs et les utilisations significatives sont-ils inclus ? | registres réconciliés des entités, systèmes, cas d'usage et dépendances |
| classification | chaque usage est-il classé selon l'impact, l'autonomie, les données et la réversibilité ? | justification approuvée, cartographie juridique et décision d'escalade |
| droits de décision | les personnes responsables peuvent-elles approuver, rejeter, passer outre, suspendre et faire appel ? | matrice d'autorité, conception utilisateur, formation et intervention testée |
| données et propriété intellectuelle | la finalité, les droits, la confidentialité, la conservation et le transfert sont-ils contrôlés ? | cartographie des données, analyse d'impact, contrat, configuration et habilitation |
| sécurité et agents | les permissions sont-elles limitées et les actions connectées observables et interruptibles ? | modèle de menace, listes d'autorisation, journaux, tests, limites et mécanisme d'arrêt |
| fournisseurs | les risques liés au modèle, aux données, aux changements, aux incidents, à la résilience et à la sortie sont-ils gouvernés ? | due diligence, contrat, surveillance et plan de concentration |
| incidents | le groupe peut-il contenir, préserver, évaluer, notifier et remédier ? | plan testé, contacts, procédure de preuve et condition de redémarrage |
| supervision | le reporting pilote-t-il la clôture et la réévaluation ? | tableau de bord, exceptions, dates de remédiation et constats d'assurance |
L'acceptation exige des preuves à jour et un responsable nommé pour chaque exception significative.
Le tableau de performance devrait éviter un pourcentage d'achèvement trompeur. Un groupe peut avoir de nombreux systèmes enregistrés et toujours manquer de contrôle sur les quelques systèmes qui touchent les personnes, l'argent, la sécurité ou la réputation. Le conseil d'administration devrait se concentrer sur les exceptions significatives et l'ancienneté des preuves.
La gouvernance AI devient durable lorsqu'elle est reliée à l'investissement, aux achats, à l'emploi, à la cybersécurité, aux données, aux transactions et à la gestion opérationnelle. La politique fournit l'ensemble des règles. Le registre fournit le périmètre factuel. Les tests fournissent des preuves. Les droits de décision assurent la responsabilité. La réponse aux incidents protège les personnes et la valeur lorsque les hypothèses échouent.
Références
- Organisation de coopération et de développement économiques, Principes AI de l'OCDE, mis à jour en mai 2024, https://oecd.ai/en/ai-principles
- National Institute of Standards and Technology des États-Unis, Cadre de gestion des risques liés à l'intelligence artificielle 1.0, 26 janvier 2023, https://www.nist.gov/itl/ai-risk-management-framework
- National Institute of Standards and Technology des États-Unis, Cadre de gestion des risques liés à l'intelligence artificielle : Profil pour l'intelligence artificielle générative, NIST AI 600-1, 26 juillet 2024, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- Commission européenne, Naviguer dans le règlement AI, y compris les informations sur l'application par étapes, https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
- Commission européenne, Lignes directrices sur les obligations des fournisseurs de AI à usage général, https://digital-strategy.ec.europa.eu/en/faqs/guidelines-obligations-general-purpose-ai-providers
- Comité européen de la protection des données, avis 28/2024 sur certains aspects de la protection des données liés au traitement des données à caractère personnel dans le contexte des modèles AI, 18 décembre 2024, https://www.edpb.europa.eu/news/edpb-opinion-on-ai-models-gdpr-principles-support-responsible-ai_en
- Information Commissioner's Office du Royaume-Uni, Orientations sur AI et la protection des données : implications en matière de responsabilité et de gouvernance, en cours d'examen à la suite du Data (Use and Access) Act 2025, https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/what-are-the-accountability-and-governance-implications-of-ai/
- Département des sciences, de l'innovation et de la technologie du Royaume-Uni, Mise en œuvre des principes réglementaires AI du Royaume-Uni : orientations initiales à l'intention des régulateurs, février 2024, https://assets.publishing.service.gov.uk/media/65c0b6bd63a23d0013c821a0/implementing_the_uk_ai_regulatory_principles_guidance_for_regulators.pdf
- Autorité de développement des infocommunications et des médias de Singapour et Commission de protection des données personnelles, Cadre de gouvernance modèle pour l'intelligence artificielle, deuxième édition, https://www.imda.gov.sg/-/media/imda/files/infocomm-media-landscape/sg-digital/tech-pillars/artificial-intelligence/second-edition-of-the-model-ai-governance-framework.pdf
- Autorité de développement des infocommunications et des médias de Singapour, Cadre de gouvernance modèle de l'AI pour l'AI générative, mai 2024, https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2024/singapore-launches-model-ai-governance-framework-for-generative-ai
- Autorité de développement des infocommunications et des médias de Singapour, Cadre de gouvernance modèle de l'AI pour l'AI agentique, version 1.0, 22 janvier 2026, https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
- Institut national des normes et de la technologie des États-Unis, Guide pratique et ressources du cadre de gestion des risques AI, https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-resources
À propos de l'auteur
Chennakeshav Adya est chercheur indépendant et associé-gérant de Matchpoint Partners. Ses travaux examinent la stratégie, la formation de capital, la valorisation, les transactions et l'exécution opérationnelle sur les marchés privés et publics.
