Gouvernance de l’AI avant la série A : les politiques que les investisseurs attendent désormais

1. Considérer la gouvernance AI comme une infrastructure d’investissabilité

Une start-up AI qui prépare une série A a besoin de preuves que son produit peut changer d’échelle sans perdre le contrôle des données, des modèles, des résultats clients ou des allégations commerciales. La gouvernance fournit le système d’exploitation de ces preuves. Elle attribue les droits de décision, définit les usages approuvés, exige des tests avant la mise en production, consigne les exceptions et donne au conseil d’administration un moyen de relier la vélocité produit au risque, à la trésorerie et à la valeur client.

Le point de départ est le rôle AI réel de l’entreprise. Une entreprise peut entraîner un modèle, affiner un modèle tiers, récupérer des informations pour un modèle de fondation, déployer un agent, intégrer un service externe, fournir une infrastructure ou n’utiliser AI qu’en interne dans ses opérations. Chaque rôle crée des dépendances et des obligations différentes. Le conseil d’administration doit documenter le résultat produit, la frontière du système, les personnes et organisations concernées, les décisions importantes, les juridictions et les parties qui fournissent les données, les modèles, les outils et la distribution.

La gouvernance doit soutenir l’exécution. Les équipes produit ont besoin d’un parcours clair de l’expérimentation à la mise en production contrôlée. Les équipes commerciales ont besoin d’un langage précis sur les capacités, les limites et les responsabilités des clients. Les acheteurs d’entreprise ont besoin de preuves couvrant la sécurité, la confidentialité, la disponibilité, les performances des modèles, les sous-traitants, les incidents et la sortie. Les investisseurs doivent comprendre si la croissance repose sur des droits, des capacités et des modèles économiques que l’entreprise peut conserver. Les employés ont besoin de voies d’escalade lorsque le système fonctionne en dehors de sa finalité approuvée.

NIST organise la gestion des risques AI selon les fonctions Govern, Map, Measure et Manage. L’ISO/IEC 42001 utilise une approche de système de management pour établir, mettre en œuvre, maintenir et améliorer en continu la gouvernance AI. Ces référentiels appuient une structure pratique pour le conseil d’administration : définir la responsabilité, comprendre le contexte, produire des preuves, gérer le risque résiduel et revoir les décisions à mesure que le système évolue.

Le conseil doit approuver cinq preuves liées. La preuve produit relie le système à un résultat client significatif. La preuve des droits couvre les données, les logiciels, les modèles et les contenus. La preuve de performance couvre l'exactitude, la robustesse, la sécurité et le suivi. La preuve commerciale couvre les achats, la distribution, l'économie unitaire et les allégations. La preuve de gouvernance couvre la responsabilité, les incidents, la réglementation et le changement. Une faiblesse importante dans une preuve doit renvoyer la version ou le dossier d'investissement en remédiation.

Cinq preuves liées relient l'exécution produit à une décision de passage à l'échelle contrôlée par le conseil.

2. Définir le système, le résultat visé et le niveau de risque

La gouvernance commence par une définition précise du système. L'entreprise doit identifier l'utilisateur, la finalité prévue, la finalité interdite, les entrées, le modèle, les outils, les sources de récupération, la sortie, l'action, la partie affectée et le responsable humain. Un libellé générique tel que « assistant AI » ou « plateforme intelligente » masque la différence entre résumer des informations, recommander une action financière, approuver un crédit, sélectionner un candidat, diagnostiquer une pathologie ou autoriser un paiement.

La définition doit montrer si le système produit uniquement du contenu ou s'il peut aussi appeler des outils, modifier des enregistrements, envoyer des communications, déplacer de l'argent, modifier les accès, acheter des services ou affecter les droits d'une personne. Les systèmes agentiques nécessitent une cartographie des outils disponibles, des identifiants, de la mémoire, des services externes, des points de contrôle décisionnels et des contrôles d'arrêt. Le Cadre de gouvernance des modèles d'AI de Singapour pour l'AI agentique met l'accent sur l'encadrement des cas d'usage et des pouvoirs, une responsabilité humaine effective, des contrôles du cycle de vie et la responsabilité des utilisateurs finaux.

La classification par niveau de risque doit suivre les conséquences et l'exposition. L'évaluation peut prendre en compte la sécurité, la perte financière, les droits juridiques, les utilisateurs vulnérables, les données personnelles ou confidentielles, l'échelle, la réversibilité, l'autonomie, l'opacité du modèle, la cybersécurité, le statut réglementaire et la disponibilité d'une revue humaine. L'entreprise doit aussi évaluer le risque créé lorsque plusieurs composants à faible conséquence se combinent en un flux de travail à conséquence plus élevée.

Le conseil d'administration devrait définir quel niveau peut être approuvé par un responsable produit, lequel nécessite une revue sécurité, confidentialité ou juridique, et lequel exige l'approbation de la direction ou du conseil d'administration. Les systèmes à fort impact devraient s'appuyer sur des preuves plus solides, des autorisations plus restreintes, des tests indépendants et des règles d'arrêt explicites. Les usages interdits devraient être documentés, communiqués et appliqués au moyen de contrôles techniques et contractuels.

L'enregistrement de classification devrait être versionné. Un changement de modèle, une nouvelle source de données, un nouveau groupe de clients, une juridiction supplémentaire, une autonomie plus large ou une promesse commerciale modifiée peuvent modifier le niveau de risque. Un système auparavant utilisé pour rédiger des textes internes peut nécessiter une nouvelle gouvernance lorsqu'il commence à répondre aux clients ou à exécuter des transactions.

Tableau 1. Définition du système AI et registre des niveaux de risque

Le niveau de risque est une décision de la direction, étayée par une revue qualifiée lorsque le droit ou une activité réglementée est en cause.

3. Établir la responsabilité du conseil d'administration et les droits de décision

Le conseil reste redevable envers la société même lorsqu'un modèle, un fournisseur ou un client exécute une partie du flux de travail. Il devrait approuver l'appétit pour le risque AI, les cas d'usage importants, le modèle de responsabilité, la fréquence de reporting et les seuils d'escalade. La direction devrait traduire cette orientation en responsables désignés et procédures opérationnelles.

La responsabilité devrait couvrir le résultat dans son intégralité. Un responsable produit peut être chargé de la finalité visée et du résultat client. Un responsable de modèle peut être chargé des performances, de l'évaluation et des changements. Un responsable des données peut être chargé de la provenance, de la qualité, des autorisations et de la conservation. L'équipe sécurité peut être chargée des contrôles des menaces et de la réponse aux incidents. Les conseillers juridiques et de confidentialité peuvent évaluer les obligations applicables. La direction commerciale peut être chargée des allégations et des promesses aux partenaires. Un sponsor exécutif peut résoudre les conflits et accepter le risque résiduel dans les limites de l'autorité déléguée.

Le conseil devrait éviter une approbation fragmentée. Un système peut réussir une évaluation technique tout en échouant sur le dossier des droits, du client, des achats ou de l'économie. Une seule note de mise en production devrait concilier tous les éléments probants importants et les exceptions. Cette note devrait indiquer l'usage, le niveau, la version, les marchés concernés, les tests, les limites, la surveillance, les incidents, les points ouverts, le risque résiduel accepté, les responsables et la date du prochain examen.

Les comités devraient être proportionnés au stade. Une société en pré-série A peut utiliser un forum hebdomadaire transversal de mise en production, appuyé par un examen mensuel de la direction et un reporting trimestriel au conseil. Le forum doit avoir l'autorité de suspendre une mise en production, d'en réduire le périmètre ou d'exiger des mesures correctives. Les incidents et changements importants devraient être traités hors du rythme normal.

Le reporting au conseil devrait relier le risque et la performance commerciale. Les indicateurs utiles incluent les systèmes actifs par niveau, les revues en retard, les résultats d'évaluation, les constats de sécurité, les exceptions aux droits sur les données, les plaintes clients, les interventions humaines, les incidents, la concentration des fournisseurs, le coût des modèles, la marge brute et l'autonomie de trésorerie. Le reporting devrait distinguer les résultats observés des prévisions et des scénarios de la direction.

4. Établir un inventaire des systèmes AI et des dépendances

Une société prête pour les investisseurs devrait connaître chaque système AI important qu'elle développe, achète, intègre ou permet à ses employés d'utiliser. L'inventaire devrait inclure les produits en production, les configurations spécifiques aux clients, les copilotes internes, les expérimentations connectées à des données réelles, les outils fantômes, les modèles utilisés par des sous-traitants et les fonctionnalités AI intégrées aux logiciels d'entreprise.

Chaque entrée devrait identifier le responsable, la finalité, les utilisateurs, le niveau de risque, le statut, le modèle et la version, le fournisseur, l'hébergement, les catégories de données, les juridictions, les outils, les sources de récupération, les décisions en aval, le contrôle humain, les évaluations, la surveillance, les incidents, les contrats et la date de révision. L'inventaire devrait renvoyer aux éléments probants sous-jacents plutôt que de devenir un tableur statique déconnecté des opérations.

L'analyse des dépendances devrait aller au-delà du modèle nommé. Un service peut dépendre d'une région cloud, d'une base de données vectorielle, d'un framework d'orchestration, d'un filtre de contenu, d'un outil d'observabilité, d'un fournisseur d'identité, d'un API externe et d'un stockage de données clients. La société devrait identifier quelle dépendance peut modifier le comportement, les conditions, le prix, l'emplacement, l'accès ou la disponibilité. Elle devrait consigner le délai de substitution et l'effet d'une résiliation.

Les composants open source exigent une vérification de la provenance, de la licence et de la sécurité. Les poids de modèles, le code d'entraînement, les jeux de données et les bibliothèques peuvent être soumis à des licences et obligations différentes. La société devrait consigner la version, la source, les modifications, l'usage autorisé, l'attribution, les conditions de distribution et les vulnérabilités connues. Les conclusions en matière de propriété intellectuelle devraient être confirmées par un conseil qualifié.

Les contrôles d'inventaire devraient être reliés à l'ingénierie. Les nouveaux identifiants de modèle, paquets, points de terminaison et déploiements en production peuvent déclencher un enregistrement ou une mise à jour. Les achats peuvent bloquer un fournisseur non approuvé. Le contrôle d'accès peut limiter les données sensibles aux systèmes autorisés. La surveillance peut rapprocher les points de terminaison actifs des enregistrements approuvés. L'objectif est une visibilité opérationnelle à jour.

Les éléments probants s'accumulent depuis la définition du système jusqu'à la surveillance et au retrait contrôlé.

5. Cartographier les droits sur les données, la provenance, la confidentialité et la conservation

La gouvernance des données doit déterminer si l’entreprise a le droit de collecter, d’accéder à, de transformer, de combiner, d’entraîner des modèles sur, d’évaluer au moyen de, de divulguer et de conserver chaque catégorie de données. Un contrat client, une page web publique, une licence de fournisseur, un téléversement de salarié ou un dépôt open source n’établit pas automatiquement tous les droits envisagés. L’entreprise doit tenir un registre des finalités et des droits pour les données d’entraînement, les données d’évaluation, le contenu de récupération, les prompts, les sorties, la télémétrie et les retours humains.

Le registre doit identifier la source, le responsable du traitement ou le propriétaire, la base juridique ou l’autorisation contractuelle, la finalité, la localisation géographique, la sensibilité, l’accès, le sous-traitant, la conservation, la suppression et les restrictions relatives à l’entraînement des modèles ou à leur réutilisation. Les données personnelles doivent être rattachées à la législation applicable en matière de protection de la vie privée. Les données confidentielles et réglementées doivent être rattachées aux obligations contractuelles et sectorielles. Le droit d’auteur, les droits sur les bases de données, les secrets d’affaires et les droits à l’image peuvent nécessiter une analyse distincte.

La loi UAE sur la protection des données personnelles établit des obligations pour le traitement des données personnelles et des droits pour les personnes concernées. La boîte à outils AI de l’ICO britannique fournit des domaines de risque pratiques tout au long du cycle de vie AI et fait l’objet d’un réexamen à la suite du Data (Use and Access) Act ; les entreprises doivent revérifier les orientations en vigueur avant de s’y fier. La loi AI de l’UE, GDPR et les règles sectorielles peuvent s’appliquer conjointement. Les cadres saoudien et singapourien relient également un AI responsable à la confidentialité et à la gouvernance des données.

La minimisation des données doit faire partie de la conception des produits. L’entreprise doit identifier les données minimales nécessaires au résultat approuvé, limiter l’accès, séparer les environnements et fixer des règles de suppression ou de dé-identification. Les systèmes de récupération doivent appliquer des autorisations au niveau des documents. Les journaux de prompts et de sorties doivent être évalués au regard des données sensibles. L’entraînement des modèles doit être séparé de la prestation de services lorsque les droits et les attentes des clients diffèrent.

La provenance doit survivre aux transformations. L’entreprise doit pouvoir retracer une sortie importante jusqu’à la version du modèle, au prompt ou à l’entrée, aux sources de récupération, à la configuration des politiques et à l’action humaine pertinente. Cela facilite l’évaluation, la correction, l’explication au client, l’enquête sur incident et la due diligence des investisseurs. Lorsque la traçabilité complète n’est pas techniquement disponible, cette limitation doit être documentée et reflétée dans le périmètre du système.

6. Encadrer les modèles de fondation, les fournisseurs et les composants open source

Les modèles de tiers peuvent accélérer le développement de produits tout en créant des risques de concentration, de tarification, de données, de performance et de continuité. L’entreprise doit évaluer le fournisseur, le service, le contrat, la fiche modèle ou la documentation technique, les conditions d’utilisation des données, la sécurité, la confidentialité, l’hébergement, les sous-traitants ultérieurs, les niveaux de service, la politique de changement, l’accès à l’évaluation, les conditions de propriété intellectuelle, les indemnités, la notification d’incident, la résiliation et le retour ou la suppression des données.

L’évaluation du fournisseur doit être propre au cas d’usage. Un modèle acceptable pour rédiger des textes internes peut être inadapté à une décision client ayant des conséquences financières ou juridiques. L’entreprise doit tester le modèle exact, la configuration, les prompts, les outils, les données de récupération et les garde-fous utilisés en production. Les benchmarks du fournisseur ne remplacent pas l’évaluation de l’entreprise.

La gestion des changements de modèle est importante. Les fournisseurs peuvent mettre à jour les poids, le routage, les filtres, les limites de contexte, la tarification ou les conditions. L’entreprise doit savoir si une version peut être figée, comment fonctionne le préavis et ce qui se passe lorsqu’une version est retirée. Un changement important doit déclencher des tests de régression et une décision de mise en production. Si le service utilise un routage dynamique des modèles, l’approbation doit couvrir la logique de routage et chaque modèle éligible.

La résilience commerciale exige un plan de sortie. Le conseil d’administration doit comprendre l’effort nécessaire pour remplacer le fournisseur, exporter les données, reproduire les évaluations, migrer les prompts et les outils, maintenir le service client et réapprouver le système. Une conception multi-modèles peut réduire une partie de la concentration tout en augmentant la complexité d’intégration, de test et de coût. Le choix doit suivre des éléments économiques vérifiés et les exigences de service.

Tableau 2. Registre des dépendances aux modèles, aux fournisseurs et aux données

Les conclusions contractuelles et juridiques nécessitent l'examen des conditions signées et de l'usage prévu.

7. Mettre en place des contrôles de développement, de test et de mise en production

AI Le développement nécessite un parcours reproductible de l'expérimentation à la production. L'entreprise doit consigner le problème, la base de référence, les données, le modèle, la configuration, le code, l'ensemble d'évaluation, les critères d'acceptation, l'évaluateur, le périmètre de mise en production et le plan de surveillance. Les éléments de preuve doivent permettre à une personne qualifiée de comprendre ce qui a changé et pourquoi la mise en production a été autorisée.

Les tests doivent couvrir l'usage approuvé et les modes de défaillance crédibles. Les mesures de performance peuvent inclure l'exactitude, la précision, le rappel, la calibration, la qualité de récupération, l'appui factuel, le respect des instructions, la stabilité, la latence et le coût. Les tests fondés sur les conséquences peuvent couvrir les biais, le contenu préjudiciable, la fuite de données privées, l'injection de prompt, l'exfiltration de données, l'utilisation non sécurisée d'outils, le déni de service, l'extraction de modèle, les entrées adverses et les défaillances en cas de données incomplètes ou inhabituelles.

Les systèmes génératifs nécessitent une évaluation des sorties en contexte. Un score global unique peut masquer des défaillances importantes selon la langue, le groupe de clients, le flux de travail ou la tâche. L'ensemble d'évaluation doit représenter la distribution en production, les cas limites importants et les voies d'abus connues. L'examen humain doit s'appuyer sur des critères définis, des évaluateurs formés et une réconciliation lorsque le jugement est important. Les tests synthétiques peuvent élargir la couverture tout en restant clairement identifiés comme synthétiques.

Les critères de mise en production doivent être approuvés avant que les résultats ne soient consultés. Le dossier doit indiquer la performance minimale, les conditions de tolérance zéro, le risque résiduel acceptable, les problèmes non résolus, la limite de déploiement et les règles d'arrêt. Un modèle peut être techniquement performant et rester néanmoins hors mise en production parce que les droits, la sécurité, l'approvisionnement, la communication client ou le support sont incomplets.

Un déploiement contrôlé réduit l'exposition tout en générant des preuves. L'entreprise peut limiter les clients, les données, les transactions, les outils, l'autonomie ou le volume. La surveillance doit comparer la production aux hypothèses d'évaluation. Une dérive importante, un incident ou un préjudice client doit conduire à une enquête et à une décision documentée de poursuivre, restreindre, revenir en arrière ou retirer.

8. Mesurer la performance, la robustesse, les biais et les défaillances

La performance d’un modèle doit être définie par rapport à une décision métier et aux personnes concernées. Un système de synthèse peut être évalué sur la couverture, les affirmations non étayées et l’exactitude des citations. Un système de prévision peut être évalué sur l’erreur, la calibration et la stabilité. Un système de classement peut être évalué sur la pertinence, l’exposition et les résultats par groupe. Un agent peut être évalué sur la réussite de la tâche, la sélection des outils, l’exactitude des actions, la conformité aux politiques et la reprise après incident.

Les tests de robustesse examinent la variation. Les entrées peuvent varier en longueur, langue, format, bruit, ambiguïté ou intention. Les distributions de données peuvent évoluer. Une source de récupération peut devenir obsolète ou indisponible. Un fournisseur peut mettre à jour un modèle. L’entreprise doit tester quels changements affectent le résultat et mettre en place une surveillance des signaux observables.

L’analyse d’équité doit suivre la décision et le contexte juridique. L’équipe doit identifier les groupes concernés, les préjudices potentiels d’allocation ou de qualité, les limites des données, les attributs autorisés et les options d’atténuation. La parité agrégée n’établit pas à elle seule un résultat équitable. Des conseillers qualifiés doivent confirmer les exigences applicables en matière d’emploi, de crédit, d’assurance, de consommation et d’autres secteurs, le cas échéant.

La gestion des défaillances doit être conçue avant le lancement. Le système doit pouvoir apporter une réponse sûre lorsque la confiance est faible, que les éléments de preuve se contredisent, qu’un outil échoue ou que l’action demandée dépasse le niveau d’autorité. Les options comprennent la demande de clarification, la présentation de l’incertitude, le refus de l’action, le transfert vers un humain, le recours à une solution de repli déterministe, la limitation du périmètre ou l’arrêt du flux de travail.

Le plan de surveillance doit désigner un responsable pour chaque indicateur et chaque seuil. Il doit couvrir la performance, la latence, le coût, la sécurité, la confidentialité, les plaintes, les dérogations, les incidents et le résultat client. Les alertes nécessitent des procédures d’enquête et une autorité de décision. Les investisseurs et les acheteurs d’entreprise peuvent alors examiner un dispositif de contrôle opérationnel plutôt qu’une politique dépourvue de preuves de fonctionnement.

L’autorité n’augmente que lorsque les éléments de preuve, les autorisations et la responsabilité humaine soutiennent la conséquence.

9. Encadrer l’action générative AI et agentique

L’AI générative peut produire des sorties fluides qui restent incomplètes, non étayées ou inadaptées à une décision particulière. Le produit doit distinguer le contenu généré des faits vérifiés, exiger un ancrage dans les sources lorsque cela est approprié et divulguer à l’utilisateur les limites significatives. Les sorties à fort impact doivent être soumises à une personne qualifiée avant toute action.

L’AI agentique ajoute des droits d’action. Un agent peut appeler des outils, parcourir des systèmes, modifier des enregistrements, communiquer à l’extérieur, passer des commandes ou déplacer des fonds. La gouvernance doit définir l’objectif autorisé, les outils, les données, les identifiants, les limites de transaction, les limites de temps, les limites de débit, les points de contrôle d’approbation, les actions interdites, les journaux, la surveillance, la résiliation et la reprise. Les autorisations doivent respecter le principe du moindre privilège et être accordées pour la période pratique la plus courte.

L’échelle d’autorité de la figure 3 distingue informer, recommander, préparer et agir. Une entreprise peut obtenir de la valeur opérationnelle aux niveaux inférieurs tout en accumulant des preuves pour un niveau supérieur. Le conseil d’administration doit résister à la tentation de traiter l’autonomie comme un objectif produit en soi. Le dossier commercial doit préciser quelle action améliore le résultat client et pourquoi l’autorité supplémentaire justifie le risque et le coût de contrôle supplémentaires.

La supervision humaine doit être significative. Une personne ne peut pas examiner des centaines d’actions complexes en quelques secondes ni approuver une recommandation sans informations pertinentes. Le processus doit donner à l’évaluateur du temps, des compétences, des éléments de preuve, l’autorité et un moyen utilisable de rejeter ou de modifier l’action. Une approbation automatique répétée est un signal que le contrôle doit être repensé.

L’entreprise doit tester les défaillances composées. Un agent peut recevoir une instruction malveillante provenant d’un contenu récupéré, sélectionner un outil trop privilégié, exposer des données confidentielles, puis créer une communication externe. Les tests de scénarios doivent franchir les frontières entre composants. Les journaux doivent conserver l’objectif, le plan, les appels d’outils, les entrées, les sorties, les approbations, les erreurs et l’action finale, tout en respectant les exigences de confidentialité et de sécurité.

10. Sécuriser les modèles, les données, les prompts et les interfaces

AI La sécurité doit s’inscrire dans le programme de sécurité global de l’entreprise et traiter les menaces propres au modèle. L’équipe de sécurité doit cartographier les actifs, les identités, les flux de données, les frontières de confiance, les outils et les dépendances. Les scénarios de menace peuvent inclure l’injection de prompt, l’injection indirecte par le contenu récupéré, l’empoisonnement des données, les fichiers de modèle malveillants, la désérialisation non sécurisée, le vol d’identifiants, l’extraction de modèle, la divulgation de données sensibles, le déni de service et la compromission de la chaîne d’approvisionnement.

Les contrôles peuvent inclure l’isolation des entrées et du contenu, les listes d’autorisation d’outils, le moindre privilège, les restrictions réseau, la gestion des secrets, la séparation des environnements, la vérification des modèles et des paquets, les versions signées, l’analyse des dépendances, les limites de débit, la validation des sorties, les contrôles des autorisations de récupération, la surveillance et une réponse aux incidents testée. Les allégations de sécurité doivent refléter les preuves issues du système et de la configuration déployés.

La société doit traiter les prompts et les politiques comme du code lorsqu’ils influent sensiblement sur le comportement. Ils doivent faire l’objet d’un contrôle de version, d’une revue, de tests et d’un retour arrière. Les index de récupération et les configurations de politique doivent également faire l’objet d’enregistrements de modification. Un modèle de base sécurisé peut devenir non sûr à cause d’un outil disposant de privilèges excessifs, d’un prompt faible, d’un secret exposé ou d’une délimitation incorrecte des données clients.

Les tests de sécurité doivent inclure des parcours adversariaux réalistes. Des exercices de red team peuvent vérifier si un utilisateur, un document, une page web, une intégration ou un compte compromis peut détourner le modèle ou l’agent. Les constats doivent être classés par niveau de risque, assignés et retestés. Le dossier de publication doit indiquer toute limitation acceptée et son contrôle compensatoire.

La réponse aux incidents doit couvrir la détection, le confinement, la préservation des preuves, la communication aux clients et aux autorités de régulation, la désactivation du modèle ou de l’outil, la rotation des identifiants, l’examen des données, la restauration et les enseignements tirés. La société doit savoir comment arrêter un modèle, un agent ou une intégration sans interrompre des services non liés. Les clients entreprises et les investisseurs peuvent demander des preuves que le plan a été exercé.

Tableau 3. Éléments probants d’évaluation, de sécurité et de publication

Le niveau de profondeur requis doit être proportionné aux conséquences du système, aux engagements envers les clients et aux obligations applicables.

11. Mettre en place une supervision humaine et des voies de recours pour les clients

La supervision humaine doit être proportionnée aux conséquences. L'entreprise doit déterminer quelles décisions exigent une confirmation humaine, lesquelles peuvent faire l'objet d'un contrôle par échantillonnage, lesquelles nécessitent un examen spécialisé et lesquelles peuvent fonctionner automatiquement dans les limites approuvées. La conception doit préciser ce que voit l'évaluateur, quelles solutions de rechange sont disponibles et comment les désaccords sont consignés.

Les clients ont besoin d'informations claires sur le service. La communication doit expliquer le résultat, le rôle déterminant de AI le cas échéant, les données importantes, les limites, les responsabilités du client et la voie d'accès au support. Une personne concernée par une décision ayant des conséquences importantes peut avoir besoin d'une explication, d'une correction ou d'un recours en vertu du droit applicable ou du contrat. Le produit doit transmettre cette demande à une personne capable d'examiner les éléments de preuve sous-jacents et de modifier le résultat lorsque cela est autorisé.

Les registres de réclamations constituent des données de gouvernance précieuses. La direction doit classer le système, la version du modèle, le groupe de clients, le problème, la conséquence, la résolution et la cause profonde. Une confusion récurrente peut révéler une communication insuffisante. Des corrections répétées peuvent révéler des problèmes de données ou de modèle. Une résolution lente peut révéler une responsabilité non attribuée. Le conseil d'administration doit voir les tendances importantes avec le tableau de bord commercial.

La gouvernance des employés compte aussi. Le personnel doit savoir quels outils sont approuvés, quelles données peuvent être utilisées, comment les résultats doivent être vérifiés et quand une communication externe nécessite une revue. La formation doit tenir compte du rôle et du risque. Les développeurs ont besoin de pratiques de conception sécurisées et responsables. Les équipes commerciales doivent faire preuve de rigueur dans leurs allégations. Les équipes clients doivent savoir gérer les escalades et fournir des explications. Les dirigeants doivent connaître leurs obligations en matière d'incidents et à l'égard du conseil d'administration.

L'entreprise doit soutenir un dispositif d'alerte pour les préoccupations liées à AI. Les employés et les sous-traitants peuvent observer un usage abusif des données, des allégations non étayées, des pressions visant à contourner les tests ou un préjudice causé aux clients. Le dispositif doit protéger les preuves, confier l'enquête à une personne désignée et permettre une escalade au-delà du responsable produit immédiat.

12. Encadrer les allégations, les ventes, les démonstrations et les supports destinés aux investisseurs

Les allégations relatives à AI doivent être précises, étayées et à jour. Des termes tels qu'autonome, propriétaire, exact, non biaisé, sécurisé, conforme ou en temps réel peuvent créer une impression trompeuse lorsqu'ils omettent des dépendances ou limitations importantes. L'entreprise doit tenir un registre des allégations reliant chaque déclaration aux résultats de tests, au périmètre du produit, à la version du modèle, à la date, à l'évaluateur et au canal approuvé.

L'application de la loi aux États-Unis illustre ce risque. La Securities and Exchange Commission a engagé des poursuites contre deux conseillers en investissement en 2024 pour des déclarations fausses et trompeuses concernant leur usage prétendu de AI. La Federal Trade Commission a averti à plusieurs reprises les entreprises qu'elles doivent étayer les allégations de performance liées à AI et respecter leurs engagements en matière de protection de la vie privée et de confidentialité. Ces éléments étayent un principe de contrôle général : les déclarations sur le produit, le marketing et la collecte de fonds doivent correspondre aux capacités démontrables et au fonctionnement réel.

Les démonstrations exigent la même rigueur. Un exemple sélectionné, un résultat assisté par un humain ou un prototype doit être décrit avec exactitude. L'entreprise doit distinguer les fonctionnalités en production des éléments de feuille de route. Si la démonstration utilise des données synthétiques, une intégration simulée ou une revue manuelle, le public doit en être informé. Les équipes commerciales ne doivent pas promettre un statut réglementaire, une propriété de sécurité ou un niveau de performance qui n'a pas été approuvé.

Les supports destinés aux investisseurs doivent mettre en cohérence les allégations relatives au produit et les allégations financières. Si le modèle est fourni par un tiers, la présentation ne doit pas laisser entendre que l'entreprise est propriétaire du modèle de fondation. Si la marge repose sur l'hypothèse d'un coût d'inférence futur plus faible, la prévision doit identifier cette hypothèse. Si le chiffre d'affaires dépend de l'approbation de sécurité d'une entreprise ou d'une autorisation réglementaire, le plan doit indiquer la condition préalable. Si les résultats pour les clients reposent sur un pilote, la cohorte et la méthode doivent être claires.

Le conseil d'administration doit approuver les formulations importantes relatives à AI utilisées lors de la levée de fonds. Une data room doit contenir le registre des allégations, la cartographie des modèles et des fournisseurs, les évaluations, les preuves de sécurité, les limites applicables aux clients, l'analyse des droits, les incidents et les problèmes ouverts. Une divulgation exacte favorise la due diligence et réduit le risque que l'enthousiasme commercial se transforme en déclaration inexacte.

Les valeurs sont des hypothèses de gestion illustratives et doivent être remplacées par des cohortes et des contrats vérifiés.

13. Cartographier la réglementation et les obligations d'entrée sur le marché

La réglementation relative à AI varie selon la juridiction, le secteur, l'activité et le rôle. Une startup doit cartographier l'endroit où elle développe, fournit et déploie le système ; où se trouvent les utilisateurs et les personnes concernées ; quelles données sont traitées ; et quels produits ou décisions réglementés sont concernés. Cette cartographie doit distinguer le droit contraignant, les règles des régulateurs, les exigences contractuelles, les normes volontaires et les propositions.

Le règlement AI de l'Union européenne s'applique progressivement. Le calendrier officiel du service desk indique que les définitions, les exigences de littératie en AI et les interdictions étaient applicables depuis février 2025 ; les obligations et la gouvernance relatives à l'AI à usage général depuis août 2025 ; et la plupart des règles restantes ainsi que les obligations de transparence de l'article 50 depuis août 2026, sous réserve du calendrier publié et des amendements du Digital Omnibus. Les règles relatives aux systèmes à haut risque ont des dates ultérieures. Une entreprise doit confirmer son rôle, la catégorie de son système, sa transition et son statut sur le marché auprès d'un conseil juridique qualifié.

La Charte UAE pour le développement et l'utilisation de l'intelligence artificielle énonce des principes nationaux pour une AI responsable. La loi UAE sur la protection des données personnelles régit le traitement des données personnelles. Les règles sectorielles peuvent ajouter des exigences, notamment dans les services financiers, la santé et les travaux gouvernementaux. Les principes d'éthique de l'AI de la SDAIA saoudienne utilisent des catégories de risque et des contrôles du cycle de vie pour les parties prenantes qui développent, déploient ou utilisent des systèmes AI dans le Royaume.

Le Royaume-Uni applique le droit existant en matière de protection de la vie privée, de consommation, d'égalité, de produits, de services financiers et d'autres domaines, parallèlement à son approche AI inter-régulateurs. La boîte à outils de l'ICO soutient l'analyse des risques en matière de protection des données AI. La FCA déclare que les cadres existants, notamment le Consumer Duty, la responsabilité de la direction générale, la gouvernance et les contrôles, s'appliquent à l'AI dans les services financiers. Les cadres de l'IMDA de Singapour fournissent une gouvernance pratique pour les systèmes AI traditionnels, génératifs et agentiques. Les principes de l'OCDE soutiennent l'interopérabilité autour des droits humains, de la transparence, de la robustesse, de la sécurité et de la responsabilité.

L'entrée sur le marché doit comporter un jalon juridique et opérationnel. Le conseil d'administration doit exiger une cartographie écrite des rôles et obligations, les dates d'entrée en vigueur actuelles, des contrôles produits, des informations à fournir aux clients, l'engagement auprès du régulateur ou du dispositif lorsque cela est nécessaire et un responsable de la veille sur les changements. Un cadre ou une norme volontaire peut soutenir la gouvernance sans établir à lui seul la conformité juridique.

Tableau 4. Cartographie multi-marchés de la gouvernance de l'AI et de l'entrée sur le marché

Ce tableau résume les positions officielles des référentiels à la date de publication ; chaque entreprise doit revérifier le droit en vigueur, son rôle et les dates d'entrée en vigueur avant le lancement.

14. Convertir la gouvernance en préparation aux achats des grandes entreprises

Les clients grandes entreprises évaluent souvent un fournisseur AI au moyen de revues de sécurité, de confidentialité, de résilience, juridiques, achats et par les responsables métier. Un fondateur peut raccourcir ce processus en tenant à jour un espace de preuves. Cet espace doit correspondre au périmètre réel du produit et éviter les certifications ou politiques génériques qui ne couvrent pas le service déployé.

Le dossier de preuves peut comprendre la description du système, l'architecture, les flux de données, le programme de sécurité, le test d'intrusion, le processus de gestion des vulnérabilités, le plan de gestion des incidents, l'évaluation de confidentialité, la liste des sous-traitants, les emplacements des données, le registre des modèles et des fournisseurs, les évaluations, le plan de continuité d'activité, les niveaux de service, l'assurance, les conditions contractuelles clients, la position en matière de propriété intellectuelle et l'accompagnement à la sortie. Lorsqu'une certification existe, la direction doit en préciser le périmètre, la date et les exclusions.

Les questionnaires clients doivent alimenter le système de gouvernance. Les questions récurrentes révèlent les preuves exigées par les acheteurs. Les exceptions récurrentes révèlent des lacunes produit ou contractuelles. L'entreprise peut créer des réponses standard étayées par des documents contrôlés et des responsables désignés. Les engagements importants propres à un client doivent être inscrits au backlog produit et au suivi.

L'économie des achats doit être mesurée. La revue de sécurité, la négociation juridique, l'intégration, l'évaluation du modèle, l'hébergement et le support propres au client consomment des liquidités. Les prévisions de revenus doivent inclure la probabilité d'approbation, le délai de mise en œuvre, le renouvellement, l'expansion et le coût du service. Un contrat important assorti d'une responsabilité étendue, de contrôles personnalisés et d'une faible marge brute peut affaiblir le dossier de financement.

Le conseil d'administration doit examiner la relation entre la maturité de la gouvernance et l'exécution commerciale à partir de données observées de l'entreprise. Les mesures utiles comprennent le délai de traitement des questionnaires, le délai d'obtention de l'approbation de sécurité, les exceptions importantes, le cycle contractuel, le délai de mise en œuvre, les incidents clients, le renouvellement et la contribution. L'entreprise doit éviter d'affirmer une hausse de valorisation attribuable à un lien causal sans preuves transactionnelles.

15. Relier la gouvernance à l'économie unitaire et à la valorisation

L'économie unitaire de AI doit inclure le coût de production d'un résultat contrôlé. Les frais de calcul et de modèle en constituent une composante. L'acquisition de données, la récupération, l'observabilité, la sécurité, la revue humaine, le support, la remédiation des incidents, les contrôles propres au client, la conformité, l'assurance et les minimums contractuels des fournisseurs peuvent modifier sensiblement la contribution.

L'équipe finance doit suivre une cohorte depuis l'utilisateur éligible jusqu'à un résultat réussi et maintenu dans le temps. Elle doit enregistrer les appels de modèle, les tokens ou le calcul, les nouvelles tentatives, l'utilisation d'outils, les interventions humaines, le support, les remboursements et les pertes. La segmentation par flux de travail, par client et par modèle peut révéler les cas où une marge affichée élevée masque un échec ou une revue coûteuse.

L’amélioration des modèles peut influer sur l’économie via un taux d’achèvement des tâches plus élevé, moins de nouvelles tentatives, une réduction de la revue humaine, un temps de traitement plus court ou une meilleure rétention. Un modèle plus grand peut améliorer la qualité tout en augmentant le coût et la latence. Un modèle plus petit ou spécialisé peut améliorer la contribution pour une tâche délimitée. Le routage doit être gouverné et évalué dans le cadre du produit.

La valorisation doit s’appuyer sur des preuves durables de flux de trésorerie, des droits stratégiques et une croissance ajustée au risque. La gouvernance peut étayer la thèse en protégeant les droits sur les données, en renforçant les achats en entreprise, en réduisant les surprises liées aux dépendances, en étayant les allégations et en rendant la performance opérationnelle mesurable. L’effet réel sur la valorisation dépend des résultats de l’entreprise, des conditions de marché, du jugement des investisseurs et des termes de la transaction. Il ne doit pas être présenté comme une prime fixe.

Le conseil d’administration devrait utiliser des scénarios. Un scénario de base peut refléter les prix actuels des modèles, la conversion observée et la revue approuvée. Un scénario favorable peut refléter une automatisation étayée et une distribution signée. Un scénario défavorable peut refléter des hausses de prix des fournisseurs, des délais d’achat plus longs, un incident lié à un modèle, une revue humaine supplémentaire ou une réglementation retardée. Chaque scénario devrait montrer l’autonomie de trésorerie et la décision à la disposition de la direction.

Les tranches de financement et les valeurs de participation sont des hypothèses illustratives de la direction ; les décisions de l’entreprise nécessitent une table de capitalisation vérifiée et des conditions de financement approuvées.

16. Financement par étapes, table de capitalisation et utilisation des fonds

Le plan de financement doit relier le capital à des preuves spécifiques. Les fonds initiaux peuvent établir la définition du système, les droits sur les données, une architecture sécurisée et une évaluation représentative. La tranche suivante peut soutenir des clients en déploiement contrôlé, les achats en entreprise et les indicateurs opérationnels. Le capital de série A peut ensuite financer la distribution, l’expansion du produit et la capacité organisationnelle sur la base d’un dossier de risque et d’économie mieux défini.

L’utilisation des fonds devrait distinguer le développement produit, les coûts de modèle et de données, la sécurité, la confidentialité et les travaux juridiques, les intégrations en entreprise, les ventes, le support client, la capacité de gestion des incidents et le fonds de roulement. Un budget étiqueté ingénierie peut masquer l’investissement de gouvernance requis. Les investisseurs devraient pouvoir voir quelles dépenses produisent un jalon de mise en production et quelles dépenses soutiennent la croissance après ce jalon.

La table de capitalisation devrait inclure les actions émises, les options, les bons de souscription, les instruments convertibles, les SAFE ou autres instruments, les préférences de liquidation, les droits de prorata, les droits d’information, les droits de consentement et toute participation au capital d’un partenaire de modèle ou de données. La direction devrait modéliser la détention et les produits selon des conditions de financement plausibles. Les pourcentages illustratifs de la Figure 5 démontrent une méthode et ne recommandent pas une transaction.

Le conseil d’administration devrait préserver la flexibilité opérationnelle. Les documents de financement, les partenariats stratégiques et les contrats clients peuvent influer sur le choix du modèle, l’utilisation des données, l’exclusivité, la tarification, la levée de fonds, la propriété intellectuelle et le changement de contrôle. Ces contraintes devraient être examinées ensemble. Un contrat de distribution attractif peut réduire la marge de manœuvre s’il accorde une exclusivité large ou la propriété des améliorations.

La planification de l’autonomie de trésorerie devrait inclure la volatilité des coûts AI et le calendrier des achats. Le scénario défavorable peut modéliser un coût d’inférence plus élevé, une approbation en entreprise plus lente, une revue humaine supplémentaire ou une suspension temporaire de mise en production. Le conseil d’administration devrait approuver des déclencheurs pour les recrutements, les engagements et un nouveau processus de financement. Les prévisions restent des estimations de la direction tant qu’elles ne sont pas étayées par des encaissements, des contrats et des données opérationnelles réels.

Tableau 5. Liste de contrôle des preuves pour la data room et les investisseurs de série A

Les exigences des investisseurs varient ; cette liste de contrôle organise les éléments probants généralement pertinents concernant le produit, le volet commercial, le juridique et l'exploitation.

17. Mener un programme pré-série A de 120 jours

Les jours un à vingt permettent d'établir la visibilité. La direction définit le résultat produit, recense les systèmes et dépendances, cartographie les données et les droits de propriété intellectuelle, identifie les juridictions et attribue les niveaux de risque. Le conseil approuve l'appétit pour le risque AI, la responsabilité et les cas d'usage significatifs. Le premier jalon exige un inventaire à jour et une trajectoire acceptable pour les droits critiques.

Jours vingt et un à quarante-cinq : instauration des contrôles du cycle de vie. Les équipes produit, ingénierie, sécurité, confidentialité et commerciales définissent les critères d'évaluation, les scénarios de menace, les exigences fournisseurs, la validation des allégations, la réponse aux incidents et le recours client. La société teste la configuration de production et clôt les constats critiques. La deuxième porte de décision exige des preuves reproductibles et un périmètre de version limité.

Jours quarante-six à soixante-dix : établissement de la preuve client et de la preuve en matière d'achats. La société exécute une cohorte contrôlée, complète les preuves pour grands comptes, rapproche les allégations des résultats et mesure le coût du service. Elle enregistre les réclamations, les dérogations, les événements de sécurité et les modifications de modèle. La troisième porte de décision exige un résultat client démontrable, des performances maîtrisées et un parcours d'achat exécutable.

Jours soixante et onze à quatre-vingt-quinze : établissement de l'économie et de la préparation du marché. La finance construit la passerelle d'économie unitaire, les cohortes clients, la sensibilité aux coûts des modèles, la feuille de route de financement et les scénarios de table de capitalisation. Les conseillers juridiques et réglementaires confirment l'analyse applicable d'entrée sur le marché. La quatrième porte de décision exige une contribution fondée sur des preuves et les conditions juridictionnelles en vigueur.

Jours quatre-vingt-seize à cent vingt : préparation de la transaction. La direction constitue le data room, rapproche les déclarations produit et les états financiers, prépare les documents du conseil et clôt les exceptions prioritaires. La cinquième porte de décision autorise un périmètre de levée de fonds défini, une utilisation des fonds, une position de divulgation et un plan opérationnel. Les écarts importants restent identifiés avec leurs responsables et leurs conséquences.

Chaque phase se termine par des preuves que le conseil peut approuver, assortir de réserves ou renvoyer pour remédiation.

18. Rendre explicite la décision du conseil et de l'investisseur

Le dossier final du conseil doit présenter le résultat produit, l'inventaire des systèmes, les niveaux de risque, les droits sur les données et les modèles, l'architecture, les dépendances vis-à-vis des fournisseurs, les évaluations, les preuves de sécurité, la supervision humaine, le recours client, le registre des allégations, la cartographie réglementaire, la préparation aux achats, l'économie unitaire, le plan de financement, la table de capitalisation et le statut du data room. Chaque élément doit identifier sa source, son responsable, sa date et le point ouvert.

Le conseil doit approuver une décision délimitée. Il peut autoriser une version définie du système, un usage, une cohorte clients, une juridiction, un niveau d'autonomie, une voie de distribution et un budget d'investissement. Les conditions peuvent inclure des constats de sécurité clôturés, des droits sur les données à jour, des allégations approuvées, une surveillance testée, une capacité de support client et une date de revue fixe. L'extension devrait exiger le prochain jalon de preuves.

La direction doit exposer l'incertitude clairement. Une analyse juridique en cours, un engagement fournisseur, une approbation client, une amélioration de modèle, un résultat de levée de fonds ou une conversion des prévisions doit conserver son statut actuel. La société doit distinguer les revenus signés, déployés, facturés, encaissés et prévisionnels. Elle doit distinguer une capacité testée d'une feuille de route, et un accès au marché approuvé d'une demande ou d'un plan.

La décision de l'investisseur doit refléter à la fois la croissance et la contrôlabilité. La question de due diligence est de savoir si la société peut convertir le capital en valeur client grâce à des systèmes et des droits qui restent disponibles, mesurables et gouvernables. Un programme de gouvernance solide donne au conseil et à l'investisseur une base de preuves commune pour ce jugement.

La décision opérationnelle se poursuit après le financement. Les nouveaux marchés, modèles, données, agents, acquisitions et engagements clients doivent réintégrer le même système d'inventaire, de classification par niveaux, de preuves, d'approbation et de surveillance. La gouvernance reste partie intégrante de l'exécution produit et capitalistique à mesure que la société se développe.

Tableau 6. Liste de contrôle des décisions du conseil AI relatives à la gouvernance et à la série A

Chaque point de contrôle exige des éléments probants à jour, un responsable désigné et une décision consignée du conseil ou une décision déléguée.

Conclusion de la mise en œuvre

La gouvernance AI avant la série A commence par la visibilité. L'entreprise définit chaque système, conséquence, droit et dépendance, puis attribue des responsables et des points de contrôle probants fondés sur le risque. Elle relie la performance du modèle aux droits sur les données, à la sécurité, aux recours des clients, aux réclamations et à l'économie.

Le programme de 120 jours produit cinq décisions du conseil : approuver la cartographie du système et des droits ; approuver le développement et la mise à disposition contrôlés ; vérifier les preuves relatives aux clients et aux achats ; valider l'économie et l'entrée sur le marché ; et autoriser un processus de financement rapproché. Le résultat est un registre opérationnel concret que les investisseurs, les clients entreprises et les régulateurs peuvent examiner.

Les exigences des investisseurs restent spécifiques au fonds, au stade, au produit, au marché et à la transaction. Les effets de valorisation, de financement, de coût et de calendrier présentés dans les chiffres sont des hypothèses illustratives de la direction. Les décisions de l'entreprise doivent s'appuyer sur des contrats vérifiés, des cohortes, des éléments techniques et des conseils de professionnels qualifiés.

Références

1. National Institute of Standards and Technology. Cadre de gestion des risques AI. https://www.nist.gov/itl/ai-risk-management-framework
2. National Institute of Standards and Technology. Cadre de gestion des risques liés à l'intelligence artificielle : profil pour l'intelligence artificielle générative, NIST AI 600-1. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
3. Organisation internationale de normalisation. ISO/IEC 42001:2023, système de management de l'intelligence artificielle. https://www.iso.org/standard/42001
4. Service d'assistance de la Commission européenne pour le règlement AI. Calendrier de mise en œuvre du règlement AI de l'UE. https://ai-act-service-desk.ec.europa.eu/en/ai-act/eu-ai-act-implementation-timeline
5. UAE Bureau de l'intelligence artificielle. La Charte UAE pour le développement et l'utilisation de l'intelligence artificielle, juillet 2024. https://ai.gov.ae/wp-content/uploads/2024/07/UAEAI-Methaq-EN2-3.pdf
6. Législation des Émirats arabes unis. Décret fédéral-loi n° 45 de 2021 concernant la protection des données personnelles. https://uaelegislation.gov.ae/en/legislations/1972
7. Autorité saoudienne des données et de l'intelligence artificielle. Principes d'éthique en matière de AI. https://sdaia.gov.sa/en/SDAIA/about/Documents/ai-principles.pdf
8. Autorité de développement des infocommunications et des médias de Singapour. L'intelligence artificielle à Singapour et les cadres modèles de gouvernance de AI. https://www.imda.gov.sg/AI
9. Bureau du Commissaire à l'information. AI et boîte à outils des risques en matière de protection des données. https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/ai-and-data-protection-risk-toolkit/
10. Autorité de conduite financière. AI et la FCA : notre approche. https://www.fca.org.uk/firms/innovation/ai-approach
11. Autorité de conduite financière. AI dans les services financiers : façonner notre approche grâce à l'engagement du secteur, 8 juin 2026. https://www.fca.org.uk/news/blogs/ai-financial-services-approach
12. Organisation de coopération et de développement économiques. Principes de AI. https://www.oecd.org/en/topics/ai-principles.html
13. Commission des valeurs mobilières et des changes des États-Unis. La SEC accuse deux conseillers en investissement d'avoir fait des déclarations fausses et trompeuses sur leur utilisation de l'intelligence artificielle, 18 mars 2024. https://www.sec.gov/newsroom/press-releases/2024-36
14. Commission fédérale du commerce des États-Unis. Entreprises de AI : respectez vos engagements en matière de vie privée et de confidentialité, 9 janvier 2024. https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2024/01/ai-companies-uphold-your-privacy-confidentiality-commitments