1. Establecer la política antes del primer incidente
La adopción de AI a menudo comienza como una decisión de productividad. Un empleado utiliza un asistente público para resumir un contrato. Un equipo de ventas habilita una herramienta de redacción integrada. Una empresa participada despliega un bot de atención al cliente. Un analista del family office prueba un memorando de inversión. Un proveedor añade una funcionalidad de AI durante una actualización de software. Cada acción puede generar consecuencias en materia de datos, decisiones, propiedad intelectual, ciberseguridad y rendición de cuentas.
Los grupos de propiedad familiar añaden complejidad estructural. El mismo nombre de la familia puede estar por encima de empresas operativas, inmuebles, vehículos de inversión, filantropía y asuntos personales. Algunas entidades comparten personas, sistemas y asesores. Otras tienen inversores minoritarios, actividades reguladas o consejos independientes. Una política emitida por una empresa puede no tener efecto jurídico en otra. Un incidente puede, no obstante, transmitirse a través de garantías, servicios compartidos, reputación, acuerdos de sucesión y propiedad común.
La política del consejo de administración debe definir cómo se puede adquirir, construir, configurar, conectar y utilizar AI. Debe establecer los derechos de decisión antes de que un caso de uso entre en funcionamiento. También debe distinguir la gobernanza del aseguramiento técnico. Una política puede asignar autoridad y controles mínimos; los equipos cualificados deben seguir probando los datos, los sistemas, la seguridad y el impacto en contexto.
NIST estructura la gestión de riesgos de AI en torno a Gobernar, Mapear, Medir y Gestionar. Los principios de la OCDE hacen hincapié en los derechos humanos, la transparencia, la robustez, la seguridad y la rendición de cuentas. Los marcos de Singapur añaden orientación práctica para la intervención humana y los sistemas agénticos. Estas fuentes respaldan una idea operativa común: la organización debe saber qué hace un sistema de AI, quién es responsable del resultado, qué evidencia respalda su uso y cuándo debe intervenir una persona.
El perímetro de la política sigue a las entidades jurídicas, los servicios compartidos, los datos, las decisiones y el nombre de la familia.
2. Definir el perímetro, los roles y la jerarquía de políticas
El perímetro de la política debe comenzar con un mapa de entidades. Debe identificar la matriz, las filiales, las empresas conjuntas, los negocios regulados, los asesores de inversión, las entidades de family office, los fideicomisos, las fundaciones y las sociedades de servicios compartidos. Para cada entidad, el consejo de administración debe registrar la titularidad, el órgano de gobierno, los empleados, los clientes, las actividades reguladas, las ubicaciones de los datos y las dependencias tecnológicas.
Los roles importan porque el mismo modelo puede encontrarse dentro de relaciones jurídicas diferentes. Una entidad puede desarrollar un sistema de AI, proporcionarlo, desplegarlo, distribuirlo, importarlo o utilizar su resultado. Un proveedor de nube, un integrador de sistemas, un equipo tecnológico del grupo y una sociedad operativa pueden asumir obligaciones diferentes. El mapa debe identificar las relaciones de responsable y encargado del tratamiento de datos personales y aclarar la responsabilidad contractual en materia de entrenamiento, configuración, monitorización e incidentes.
La política del grupo debe establecer principios mínimos y desencadenantes de escalado. Los consejos de administración de las entidades deben adoptar anexos locales que abarquen la legislación aplicable, las normas sectoriales, los comités de empresa, las prácticas de empleo, las obligaciones con los clientes, la residencia de datos y las expectativas de los reguladores. Debe regir una norma más estricta cuando un sistema compartido no pueda separar de forma fiable a las entidades o a los usuarios.
La jerarquía debe conectar la política de AI con la seguridad de la información, la privacidad, los registros, el uso aceptable, el riesgo de modelo, las compras, el empleo, la propiedad intelectual, la conducta de mercado, los delitos financieros, la salud y seguridad, la gestión de crisis y la autoridad delegada. Los conflictos debe resolverlos el titular legal responsable, con el asesoramiento adecuado al asunto.
Tabla 1. Perímetro de la política del consejo de administración sobre AI y roles responsables
| Capa de política | Pregunta para el consejo | Rol responsable | Evidencia mínima |
|---|---|---|---|
| principios del grupo | ¿qué valores, prohibiciones y umbrales de escalado se aplican en todo el grupo familiar? | consejo de la matriz | política aprobada, mapa de aplicabilidad por entidad y excepciones |
| adopción por la entidad | ¿Qué requisitos se aplican a esta entidad jurídica y jurisdicción? | consejo de la entidad | calendario local, revisión jurídica y acta de adopción |
| titularidad del caso de uso | ¿Quién es responsable del resultado de negocio y del proceso afectado? | responsable del negocio | finalidad, usuarios, impacto, controles y criterios de aceptación |
| tecnología | ¿Quién es responsable de la arquitectura, el acceso, el cambio y la resiliencia? | responsable de tecnología | diseño del sistema, modelo de acceso, registros, pruebas y recuperación |
| datos | ¿Quién autoriza las fuentes de datos, la finalidad, la conservación y la transferencia? | propietario de los datos | mapa de datos, base jurídica, calidad, derechos y controles de supresión |
| riesgo y cumplimiento | ¿quién cuestiona la clasificación y la suficiencia de los controles? | función de control independiente | revisión documentada, condiciones y decisión sobre riesgo residual |
| aseguramiento | ¿quién prueba si los controles funcionan según lo declarado? | auditoría interna o aseguramiento cualificado | plan con alcance definido, evidencia, hallazgos y seguimiento de la remediación |
Los títulos varían según el grupo; cada función requiere un responsable final y apoyos designados por nombre.
3. Crear un registro de sistemas de AI y de casos de uso
Un grupo no puede gobernar sistemas que no ha identificado. El inventario debe cubrir modelos desarrollados internamente, aplicaciones de proveedores, funciones de AI integradas, herramientas públicas, automatización robótica de procesos con componentes de AI, modelos analíticos, visión artificial, motores de recomendación, contenido sintético, sistemas de decisión y flujos de trabajo autónomos o agénticos. También debe recoger la experimentación informal en la que participen datos o decisiones del grupo.
El descubrimiento debe combinar declaraciones con evidencia técnica. Los registros de compras y de cuentas por pagar pueden identificar suscripciones. Los registros de identidad y red pueden identificar aplicaciones. Los controles de navegador y de punto final pueden detectar servicios no gestionados cuando sea lícito. Los inventarios de software pueden revelar capacidades integradas. Las encuestas, entrevistas y talleres pueden revelar casos de uso que los escaneos tecnológicos pasan por alto. El objetivo es un perímetro auditable, con la monitorización de empleados diseñada conforme a la legislación y las políticas aplicables.
El registro del sistema y el registro del caso de uso deben ser independientes. Un modelo puede soportar varios usos con distinto riesgo. Un asistente de redacción utilizado para marketing público conlleva consecuencias diferentes cuando se usa para asesoramiento jurídico o evaluación de empleados. El registro del sistema describe el modelo, el proveedor, la versión, el alojamiento, el acceso y los controles técnicos. El registro del caso de uso describe la finalidad, las personas afectadas, la influencia en la decisión, los datos, el propietario, el despliegue y la monitorización.
Cada registro necesita un estado del ciclo de vida: descubrimiento, sandbox, evaluación, piloto aprobado, producción, suspendido o retirado. Los sistemas no autorizados deben entrar en una vía de remediación. El consejo debe ver las incógnitas materiales y las revisiones atrasadas, mientras que la dirección es propietaria del registro operativo.
Un sistema puede soportar varios casos de uso; cada caso de uso recibe su propia clasificación y responsable.
Tabla 2. Campos mínimos del registro de AI
| Dominio | Registro del sistema | Registro del caso de uso |
|---|---|---|
| identidad | proveedor, modelo, versión, responsable del sistema y alojamiento | finalidad, entidad, proceso, responsable de negocio y usuarios |
| datos | datos de entrenamiento o de referencia, prompts, resultados, retención y transferencia | categorías de datos, personas afectadas, sensibilidad, finalidad y base jurídica |
| decisión | capacidad del modelo y limitaciones conocidas | decisión influida, consecuencia, autoridad humana y vía de recurso |
| acceso | identidades, privilegios, interfaces y herramientas conectadas | usuarios autorizados, ubicaciones, segregación y condiciones de aprobación |
| aseguramiento | pruebas del proveedor, pruebas internas, revisión de seguridad e incidentes | pruebas de aceptación, revisión de impacto, umbrales de monitorización y fecha de revisión |
| ciclo de vida | adquisición, versión, proceso de cambio y retirada | descubrimiento, entorno de pruebas, piloto, producción, suspensión o retirada |
El registro debe conservar las fechas de las evidencias, las fuentes y las lagunas sin resolver.
4. Clasificar el caso de uso antes de aprobar el sistema
La clasificación debe basarse en el uso y en sus consecuencias. La política del consejo de administración puede usar cuatro niveles: prohibido, restringido, controlado y rutinario. Las etiquetas son herramientas internas de gobernanza; las categorías legales deben evaluarse por separado. Un sistema puede pasar de un nivel a otro cuando cambian los datos, la autonomía, los usuarios, las personas afectadas o las acciones conectadas.
Los usos prohibidos deben incluir las actividades que el grupo no esté dispuesto o no pueda gobernar, además de cualquier uso prohibido por la legislación aplicable. Entre los ejemplos pueden figurar la manipulación encubierta, la discriminación ilegal, la fabricación de pruebas, la suplantación de identidad no autorizada, la elusión de controles y la introducción de información protegida o confidencial en un servicio público no autorizado. La política debe evitar formulaciones amplias que los empleados no puedan aplicar.
Los usos restringidos pueden incluir decisiones sustanciales que afecten al empleo, el crédito, los seguros, la salud, la seguridad, los derechos legales, los clientes, las inversiones o el acceso a servicios esenciales. Requieren una revisión jurídica reforzada, una evaluación de impacto, gobernanza de datos, pruebas, autoridad humana, documentación y monitorización. Las acciones autónomas que impliquen dinero, código, comunicaciones externas o sistemas de producción también deben entrar en una vía restringida.
Los usos controlados incluyen funciones de apoyo de menor impacto con datos, herramientas y revisión humana aprobados. Los usos rutinarios pueden abarcar tareas de baja consecuencia, como dar formato a texto público dentro de sistemas aprobados. La clasificación debe considerar la gravedad, la escala, la reversibilidad, la vulnerabilidad de las personas afectadas, la sensibilidad de los datos, la automatización, la opacidad, la dependencia externa y la capacidad de detectar errores.
El escalado se basa en el impacto, la autonomía, la sensibilidad y la reversibilidad; la clasificación jurídica se mantiene separada.
Tabla 3. Política del consejo de administración para usos permitidos, condicionales y prohibidos
| Estado de la política | Uso ilustrativo | Acción requerida |
|---|---|---|
| permitido dentro de la herramienta aprobada | dar formato a material público, traducción con revisión humana, logística de reuniones | utilizar una cuenta aprobada, verificar los resultados y conservar el registro exigido |
| controlado | síntesis de investigación, redacción interna, soporte de programación y asistencia en atención al cliente | datos autorizados, responsable designado, verificación de fuentes, control de acceso y monitorización |
| restringido | decisiones de contratación, crédito, precios, cuestiones legales, inversión, salud, seguridad o decisiones materiales sobre clientes | evaluación de impacto, revisión jurídica y de controles, pruebas, autoridad humana, apelación y umbral del consejo de administración |
| acción autónoma restringida | enviar comunicaciones, modificar sistemas, ejecutar código, mover fondos o cursar órdenes | permisos acotados, doble control, entorno de pruebas aislado, registros, límites de transacción, interruptor de emergencia y respuesta a incidentes |
| prohibido por la política | pruebas fabricadas, suplantación no autorizada, manipulación encubierta, elusión de controles o divulgación insegura de datos | bloquear, notificar, preservar las pruebas y evaluar las obligaciones relacionadas con el incidente |
| prohibición regulatoria | cualquier actividad prohibida para la entidad, la jurisdicción o el rol | no desplegar; documentar la determinación legal y monitorear los cambios |
Los ejemplos requieren una revisión legal y sectorial específica de la entidad antes de su adopción.
5. Establecer derechos de decisión y autoridad humana efectiva
La revisión humana debe diseñarse en torno a la decisión. Una persona no puede proporcionar una supervisión efectiva cuando carece de tiempo, información, autoridad, competencia o una alternativa. La política debe identificar quién puede aprobar, rechazar, anular, pausar y apelar un resultado influido por AI. También debe indicar qué decisiones siguen siendo exclusivamente humanas.
El consejo de administración establece el apetito de riesgo y los umbrales materiales. La dirección aprueba los casos de uso dentro de la autoridad delegada. El responsable de negocio es responsable del resultado, incluidos los errores creados por una confianza excesiva. Tecnología es responsable del funcionamiento del sistema. Los responsables de datos gobiernan las fuentes y los derechos. Las áreas de jurídico, privacidad, riesgo, cumplimiento, seguridad y recursos humanos revisan sus ámbitos. La auditoría interna o el aseguramiento cualificado evalúa el diseño y el funcionamiento de los controles sin asumir la responsabilidad de la dirección.
El diseño de la revisión debe ajustarse a las consecuencias y a la reversibilidad. Un borrador de bajo impacto puede requerir que un usuario competente compruebe la exactitud y el tono. Una decisión material en materia de empleo o crédito puede requerir evidencia independiente, motivación, evaluación de sesgos, conservación de registros y una vía accesible de reconsideración. Un agente que puede ejecutar acciones puede requerir límites preaprobados, autorización dual y capacidad de suspensión inmediata.
La política debe abordar el sesgo de automatización. Los usuarios necesitan formación para entender que los resultados bien redactados pueden ser erróneos, incompletos o no estar respaldados. Las interfaces de revisión deben exponer las fuentes, las limitaciones de confianza, las excepciones y los cambios. La dirección debe comprobar si los revisores realmente cuestionan los resultados en lugar de limitarse a confirmarlos.
6. Gobernar los datos, la confidencialidad y la propiedad intelectual
El gobierno de datos de AI comienza antes de introducir un prompt. La organización debe clasificar la información, identificar al titular legal, confirmar la finalidad y la autoridad, y entender qué almacena, utiliza, transfiere o expone el proveedor. La información de clientes, empleados, transacciones, salud, financiera, jurídica, familiar, de seguridad y de inversiones no publicadas puede requerir controles reforzados.
La política debe distinguir los entornos empresariales aprobados de las cuentas públicas o de consumidor. El contrato y la configuración deben abordar si los prompts y los resultados entrenan modelos, la retención, la eliminación, los subencargados, las ubicaciones, el acceso, el cifrado, los registros de auditoría, la notificación de incidentes y la salida. Los controles técnicos deben reforzar la regla mediante la identidad, la prevención de pérdida de datos, la gestión de endpoints y las restricciones de acceso cuando sea lícito y proporcionado.
Las obligaciones en materia de datos personales dependen de la jurisdicción y del rol. La Oficina del Comisionado de Información del Reino Unido identifica la responsabilidad proactiva, la base jurídica, la equidad, la transparencia, la seguridad, la minimización de datos, los derechos individuales y la evaluación de impacto relativa a la protección de datos como consideraciones pertinentes. El dictamen de diciembre de 2024 del Comité Europeo de Protección de Datos aborda el anonimato, el interés legítimo y las consecuencias de los datos de entrenamiento tratados ilícitamente. Cada uso requiere una evaluación específica del caso.
La revisión de la propiedad intelectual debe cubrir los derechos de entrada, los derechos de salida, las licencias, las obligaciones de código abierto, el know-how confidencial, el contenido de terceros, los activos de marca, los términos de entrenamiento y las indemnizaciones. El contenido generado debe comprobarse en cuanto a procedencia y autorización antes de su uso externo. El privilegio legal y la confidencialidad profesional requieren un tratamiento explícito aprobado por asesoría jurídica.
7. Controlar los modelos de terceros y los AI integrados
El área de compras debe evaluar al proveedor y el uso propuesto. Un proveedor conocido no determina que una configuración, integración o caso de uso específico sea adecuado. La diligencia debida debe cubrir la identidad corporativa, la descripción del servicio, las dependencias del modelo, el entrenamiento y la evaluación, la seguridad, los términos de datos, los subencargados, la propiedad intelectual, la disponibilidad, el monitoreo, los incidentes, los derechos de auditoría, la responsabilidad y la terminación.
Los cambios de modelo y de funcionalidades crean un riesgo especial. Los proveedores pueden cambiar capacidades, salvaguardas, prácticas de datos o interfaces. El contrato debe definir la notificación, el cambio material, el control de versiones, las pruebas, la reversión y los derechos de terminación. El responsable del sistema debe monitorear las notas de la versión y volver a probar los flujos de trabajo materiales antes de aceptar los cambios.
La AI integrada requiere identificación. El software de gestión de relaciones con clientes, productividad, finanzas, recursos humanos, seguridad e industrial puede activar funciones de AI en virtud de contratos existentes. El propietario debería evaluar la funcionalidad antes de habilitarla y confirmar si cambian los flujos de datos o los roles contractuales.
La concentración también es importante. Varias empresas del grupo pueden depender del mismo modelo fundacional, plataforma en la nube o proveedor de integración. Un fallo común, un cambio de políticas o una interrupción pueden afectar a varias entidades. El registro debería revelar las dependencias compartidas y los acuerdos alternativos.
Tabla 4. Matriz de diligencia debida y contratación de AI de terceros
| Dominio | Pregunta de diligencia debida | Evidencia contractual o de control |
|---|---|---|
| modelo y servicio | ¿qué modelos, versiones, componentes y subproveedores prestan el servicio? | descripción del servicio, mapa de dependencias y aviso de cambios |
| datos | ¿qué datos se introducen en el servicio, dónde se procesan, durante cuánto tiempo se conservan y se utilizan para entrenamiento? | condiciones de datos, configuración, eliminación, transferencia y evidencia de auditoría |
| pruebas | ¿cómo se prueban la exactitud, la robustez, el sesgo, la seguridad y el uso indebido para el contexto previsto? | informes de evaluación, limitaciones, pruebas de clientes y umbrales de aceptación |
| garantía | ¿cómo se protegen las identidades, las interfaces, los secretos, los registros y los incidentes? | arquitectura de seguridad, certificaciones, proceso de vulnerabilidades y términos de notificación |
| propiedad intelectual | ¿qué derechos rigen las entradas, las salidas, el material de entrenamiento y las reclamaciones? | licencias, garantías, indemnizaciones y procedimiento por infracción |
| resiliencia | ¿qué ocurre durante una interrupción del servicio, la retirada del modelo o un cambio sustancial? | niveles de servicio, continuidad, exportación, reversión y plan de salida |
| responsabilidad | ¿quién es responsable de los errores, las reclamaciones, el soporte regulatorio y la remediación? | contactos designados, cooperación, registros, derechos de auditoría y asignación de responsabilidad |
La profundidad debe ser proporcional al caso de uso, a los datos y a la dependencia.
8. Proteja el ciclo de vida de AI y las herramientas conectadas
La seguridad debe cubrir el envenenamiento de datos, la inyección de prompts, el tratamiento inseguro de las salidas, la extracción de modelos, la exposición de credenciales, los permisos excesivos, el compromiso de dependencias, la denegación de servicio y el uso indebido. El modelo de amenazas debe reflejar si el sistema es interno, orientado al cliente, está conectado a herramientas, se ha ajustado con datos del grupo o está expuesto a contenido no fiable.
El desarrollo y la configuración deben utilizar entornos separados, componentes aprobados, gestión de secretos, revisión de código, pruebas y control de cambios. Los sistemas de recuperación deben gobernar las colecciones de fuentes y los permisos. Las salidas que se pasen a código, bases de datos, correo electrónico, sistemas financieros o industriales deben validarse antes de su ejecución. Los registros deben permitir la detección y la investigación, respetando la privacidad y la confidencialidad.
Las pruebas de red teaming y la evaluación deben ajustarse al uso. Los conjuntos de pruebas necesitan respuestas esperadas, casos límite, entradas adversarias y perspectivas de los usuarios afectados. Las medidas pueden abarcar precisión, afirmaciones no respaldadas, contenido dañino, rechazo, sesgo, seguridad, latencia, resiliencia y anulación. El propietario debe establecer umbrales de aceptación y registrar las limitaciones antes del despliegue.
La monitorización en producción debe detectar deriva, accesos anómalos, salidas inseguras, incumplimientos de políticas, reclamaciones, incidentes y cambios de proveedor. Una prueba superada antes del despliegue tiene una fecha y un alcance. No proporciona garantía permanente.
9. Aplique límites más estrictos a AI generativa y agéntica
La AI generativa puede producir texto, imágenes, audio, vídeo y código verosímiles sin establecer la verdad ni los derechos. El Perfil de AI generativa del NIST identifica riesgos que pueden ser novedosos o intensificarse, como la confabulación, el contenido peligroso, la privacidad, el sesgo, la integridad de la información, la propiedad intelectual, la ciberseguridad y la integración de la cadena de valor. La política debe exigir la verificación de fuentes, el etiquetado de contenido cuando proceda, controles de procedencia y responsabilidad humana.
La AI agéntica añade acción. Un agente puede planificar pasos, usar memoria, llamar a herramientas, comunicarse y cambiar sistemas. El Marco Modelo de Gobernanza de AI para AI agéntica de Singapur, publicado en enero de 2026, hace hincapié en delimitar la autonomía, asignar responsabilidad humana, controlar el acceso, las pruebas, la transparencia y la monitorización. Estos principios pueden orientar la gobernanza interna, mientras que la legislación y el contexto locales determinan los requisitos.
Un agente debería recibir la mínima autoridad necesaria. Las herramientas, los datos, los destinos, los importes de las transacciones, las ventanas temporales y los tipos de acción deberían incluirse en listas de autorización. Las acciones de altas consecuencias deberían requerir confirmación o doble aprobación. Los límites de velocidad, los presupuestos, la segregación de entornos, los registros inmutables, la detección de anomalías y un mecanismo de detención probado deberían respaldar el control.
El responsable del negocio debería documentar qué puede decidir el agente, qué puede recomendar y qué puede ejecutar. La política debería prohibir que un agente amplíe sus propios permisos o eluda las barreras humanas. Los flujos de trabajo conectados deberían probarse frente a instrucciones maliciosas y fuentes de datos comprometidas.
La autonomía se amplía solo dentro de límites aprobados, con pruebas y un mecanismo de parada probado.
10. Gobernar las personas, el empleo y la capacidad
Los empleados necesitan reglas claras y herramientas aprobadas utilizables. Una política que solo prohíbe comportamientos puede llevar la actividad a canales no observados. La formación debería explicar los sistemas permitidos, las categorías de datos, la verificación, los registros, la propiedad intelectual, la seguridad, el escalado y las consecuencias. Los módulos basados en roles deberían dirigirse a desarrolladores, compras, recursos humanos, equipos de inversión, operaciones de clientes, altos directivos y miembros del consejo.
Los usos en el ámbito laboral requieren una mayor cautela. La contratación, la monitorización, el rendimiento, la planificación de turnos, las promociones y las terminaciones pueden afectar a derechos y medios de vida. La revisión debería considerar las normas aplicables en materia laboral, de igualdad, privacidad, consulta y decisión automatizada. Debería probar la calidad de los datos, las variables proxy, los resultados dispares, las explicaciones, la accesibilidad y la reconsideración significativa.
El grupo también debería planificar los cambios en la plantilla. AI puede rediseñar tareas, controles y requisitos de competencias. La dirección debería evaluar la segregación de funciones, el diseño de puestos, la supervisión, la competencia y la fatiga del cambio. El conocimiento crítico no debería trasladarse a una herramienta opaca sin acuerdos de retención y continuidad.
Los miembros de la familia y los consejeros también son usuarios. Los asistentes personales, las herramientas de mensajería y los dispositivos pueden contener información sensible sobre la familia, las transacciones y la gobernanza. La incorporación y las declaraciones anuales deberían abarcar los portales del consejo, las cuentas aprobadas, los viajes, la clonación de voz e imagen, la suplantación de identidad y el fraude de pagos urgentes.
11. Proteger la integridad de la información y el nombre de la familia
El contenido sintético puede causar daños operativos y reputacionales. Un mensaje falso de un directivo puede solicitar dinero o datos. Un audio fabricado puede afectar a una negociación. Una respuesta pública inexacta puede atribuirse a una empresa familiar. El grupo necesita autenticación, controles de publicación externa y una vía de escalado para la suplantación de identidad y la desinformación.
Las comunicaciones de alto riesgo deberían utilizar canales verificados y confirmación secundaria. Los cambios de pago o de cuenta nunca deberían depender únicamente de voz, vídeo o correo electrónico. El contenido público generado o editado de forma sustancial por AI debería recibir una revisión fáctica, legal y de marca adecuada a sus consecuencias. Los requisitos de procedencia y etiquetado deberían comprobarse por jurisdicción y canal.
El plan de crisis debería identificar al portavoz de la familia, al portavoz de la entidad, al responsable legal, al responsable de tecnología y a los contactos de las fuerzas del orden o de las plataformas. La monitorización debería centrarse en amenazas creíbles y respetar la privacidad. Las pruebas deberían conservarse antes de retirar contenido cuando sea lícito.
12. Mapear la regulación y las normas por entidad y rol
El mapa regulatorio debe estar actualizado y ser específico por entidad. La Ley de AI de la Unión Europea se aplica conforme a un calendario escalonado y asigna obligaciones según la categoría del sistema y el rol del actor. La Comisión Europea indica que la mayoría de las disposiciones se aplican a partir del 2 de agosto de 2026, mientras que ciertas disposiciones comenzaron antes y algunas obligaciones para sistemas de alto riesgo tienen plazos posteriores. Las orientaciones, normas y mecanismos de aplicación continúan desarrollándose. La aplicabilidad y las fechas vigentes requieren confirmación jurídica.
Estados Unidos presenta un entorno sectorial y multinivel. El RMF de AI del NIST es voluntario y proporciona una estructura de gobernanza, no una determinación legal. Pueden aplicarse requisitos federales, estatales, sectoriales, contractuales, de protección al consumidor, laborales, de privacidad, de propiedad intelectual y de valores. El grupo debería mantener un mapa de jurisdicciones y casos de uso en lugar de basarse en una única etiqueta nacional.
El Reino Unido tiene un enfoque regulatorio basado en principios entre los reguladores existentes, junto con obligaciones de protección de datos y sectoriales. La ICO señala que su guía sobre AI y sobre protección de datos está en revisión tras la Ley de Datos (Uso y Acceso) de 2025. Por lo tanto, deben verificarse la versión y la aplicabilidad cuando se tome una decisión.
Singapur ofrece marcos modelo prácticos para AI tradicional, generativa y agéntica. Son referencias útiles de gobernanza; las obligaciones de las entidades siguen dependiendo del derecho aplicable, el sector y el rol. Los principios de la OCDE ofrecen una base ampliamente adoptada para la interoperabilidad entre jurisdicciones.
La política debe registrar la fuente jurídica, la fecha de vigencia, la entidad afectada, el rol, el responsable designado y la evidencia. Los cambios regulatorios deben activar la reevaluación de la clasificación, la documentación, las pruebas, los contratos y las obligaciones en materia de incidentes.
13. Diseñar la respuesta a incidentes en torno a la evidencia y las decisiones
Un incidente de AI puede implicar confidencialidad, datos personales, ciberseguridad, acciones no seguras, discriminación, pérdida financiera, propiedad intelectual, desinformación, incumplimiento regulatorio o interrupción del servicio. El plan de incidentes debe conectar los procedimientos existentes de crisis, ciberseguridad, privacidad, legales, de riesgo y comunicación, en lugar de crear un canal aislado.
Las primeras acciones son proteger a las personas, contener el sistema, preservar la evidencia y detener cualquier acción dañina adicional. El equipo debe identificar las entidades afectadas, los sistemas, las versiones, los datos, los usuarios, las decisiones y las herramientas conectadas. Los registros, prompts, resultados, configuración, registros del modelo y del proveedor deben preservarse dentro de los límites legales.
El comandante del incidente debe coordinar las decisiones técnicas y de negocio. Los equipos legal y de privacidad evalúan las notificaciones y el privilegio legal. El propietario del negocio evalúa las decisiones afectadas y la remediación para clientes. Seguridad investiga el acceso y el compromiso. Comunicación controla las declaraciones internas, familiares y externas. Finanzas hace seguimiento de las pérdidas y los seguros. El proveedor debe respaldar la evidencia, la contención y la remediación conforme al contrato.
Las lecciones aprendidas deben actualizar el registro, los controles, la formación y las condiciones con proveedores. El reinicio debe exigir evidencia y autoridad definidas.
La secuencia protege a las personas y la evidencia mientras coordina obligaciones específicas por entidad.
14. Demostrar el marco con un grupo global hipotético
Considérese un grupo familiar hipotético con una sociedad holding en el Reino Unido, negocios de consumo e industriales en la Unión Europea y Estados Unidos, una filial tecnológica en Singapur y una oficina de inversiones separada. El grupo tiene 4.800 empleados y unos ingresos anuales consolidados de USD 1.2 billion. Estas cifras son supuestos de la dirección creados únicamente para demostrar el método.
La fase de descubrimiento identifica 64 sistemas habilitados con AI y 117 casos de uso. Veintinueve sistemas son herramientas empresariales aprobadas, 18 son funcionalidades integradas de proveedores, 11 son suscripciones de empleados y seis son de desarrollo interno. La revisión inicial de casos de uso identifica 12 usos restringidos, 69 usos controlados, 30 usos rutinarios y seis usos suspendidos a la espera de investigación.
El conjunto restringido incluye cribado de selección de personal, alertas de seguridad en fábricas, precios dinámicos para clientes, recomendaciones de crédito, investigación de inversiones, triaje de reclamaciones de clientes y dos agentes conectados a código y comunicaciones externas. Ninguno se aprueba únicamente porque un proveedor lo comercialice como conforme. Cada uno recibe un mapa legal local, una evaluación de impacto, una revisión de datos, una prueba de aceptación, un diseño de autoridad humana y un plan de seguimiento.
El consejo aprueba una política de grupo y cuatro anexos por entidad. Prohíbe la información confidencial en herramientas públicas no aprobadas, las pruebas fabricadas, la suplantación no aprobada y el movimiento autónomo de fondos. Exige doble aprobación para las comunicaciones externas relevantes y los cambios en código de producción realizados por agentes. Los seis usos suspendidos quedan contenidos; dos se retiran, tres se migran a entornos aprobados y uno pasa a un piloto controlado tras la remediación.
Tabla 5. Línea base hipotética de AI del grupo familiar y primeras decisiones
| Área | Supuesto de la dirección | Primera acción del consejo o de la dirección |
|---|---|---|
| Presencia del grupo | Sociedad holding en el Reino Unido; operaciones en la UE, EE. UU. y Singapur; oficina de inversiones independiente | adoptar los principios del grupo y cuatro anexos por entidad |
| escalado | ingresos anuales de USD 1.2bn; 4.800 empleados | establecer umbrales de materialidad y de reporte |
| sistemas | 64 sistemas habilitados con AI | asignar responsables de sistemas, versiones y registros de dependencias |
| casos de uso | 117 identificados | clasificar cada uso y eliminar los registros duplicados u obsoletos |
| usos restringidos | 12 | exigir controles de legalidad, impacto, pruebas y autorización humana |
| usos suspendidos | 6 | contener, preservar las pruebas y decidir si retirar, migrar o remediar |
| sistemas agénticos | 2 conectados con código o comunicaciones | limitar las herramientas, exigir doble aprobación, registrar las acciones y probar los controles de parada |
Todos los valores son supuestos de la dirección para demostrar el método; no son datos observados del grupo.
El family office tiene un problema aparte. Los analistas han utilizado asistentes de consumo para investigación pública y borradores de memorandos. El consejo exige un entorno empresarial aprobado, conservación de fuentes, restricciones sobre datos confidenciales, rendición de cuentas en las decisiones de inversión y una separación clara entre el resultado de las herramientas y la evidencia de inversión aprobada. El comité de inversiones mantiene la responsabilidad de cada decisión.
El panel de control de 90 días muestra la titularidad completa de 60 de 64 sistemas, contactos de incidentes probados para todas las entidades materiales, el cierre de los seis usos suspendidos y la evidencia de proveedores pendiente para cuatro sistemas controlados. Las excepciones permanecen visibles hasta que se resuelvan. El ejemplo demuestra cómo la política se convierte en una cartera de decisiones y no solo en una declaración de principios.
15. Ejecutar una secuencia de implementación de 100 días
Durante los días 1 a 20, el consejo nombra un patrocinador ejecutivo y un responsable de la política, define el perímetro del grupo, emite un aviso provisional de uso aceptable, preserva las pruebas pertinentes e identifica los sistemas materiales. La dirección crea los registros de entidades, sistemas y casos de uso y designa a los contactos para incidentes.
Durante los días 21 a 40, el grupo clasifica los casos de uso, identifica las actividades prohibidas y restringidas, mapea los roles legales y de datos, y contiene las excepciones urgentes. Compras revisa los proveedores materiales y las funcionalidades integradas. Tecnología establece el acceso aprobado y los controles iniciales de detección.
Durante los días 41 a 60, los responsables completan las evaluaciones de impacto, privacidad, seguridad, propiedad intelectual y autoridad humana para los usos restringidos. Los equipos técnicos crean pruebas de aceptación, permisos, registros, monitoreo y controles de suspensión. Los consejos de las entidades revisan los calendarios locales.
Durante los días 61 a 80, el grupo pone a prueba la formación, los simulacros de incidentes y la evidencia de control. Se prueban los límites de los agentes y los puntos de aprobación. La dirección cierra o escala las excepciones, actualiza los contratos y define las métricas para el consejo. Las funciones de control independientes cuestionan las aprobaciones de alto impacto.
Durante los días 81 a 100, el consejo adopta la política y los calendarios de las entidades, aprueba los riesgos residuales materiales y recibe el primer cuadro de mando. La auditoría interna establece un plan de aseguramiento basado en riesgos. El registro pasa a ser un registro de gestión recurrente con reevaluación basada en eventos.
16. Implantar la gobernanza recurrente y la revisión basada en eventos
La cadencia operativa debe ajustarse al cambio. Los responsables de los sistemas supervisan la producción. Los responsables de negocio revisan mensualmente el rendimiento, las reclamaciones, las anulaciones y las excepciones. Las funciones de control revisan los usos restringidos al menos trimestralmente. Los consejos reciben la exposición material, los incidentes y la remediación pendiente según un calendario acordado.
Los eventos deben activar una reevaluación inmediata. Entre ellos se incluyen un nuevo uso, modelo o proveedor; un cambio de versión material; una nueva categoría de datos; la expansión a otra entidad o jurisdicción; la conexión a una herramienta; una mayor autonomía; una reclamación significativa; un fallo de control; un incidente; una adquisición; una desinversión; o un cambio normativo.
Las adquisiciones requieren una identificación temprana. La diligencia debida debe identificar sistemas materiales de AI, derechos sobre datos, contratos, incidentes, reclamaciones y brechas de cumplimiento. La integración debe preservar la evidencia e impedir conexiones no controladas con los sistemas del grupo. Las desinversiones exigen separación de datos, transferencia de licencias y eliminación de accesos.
La sucesión también importa. Un miembro de la próxima generación de la familia puede impulsar la innovación o incorporarse al consejo. La gobernanza debe utilizar los mismos derechos de decisión y estándares de evidencia. La política debe seguir siendo un activo institucional que perdure ante cambios en el liderazgo, los proveedores y la tecnología.
Las revisiones basadas en eventos coexisten con la supervisión recurrente; la cadencia puede ser más estricta según la entidad o el uso.
17. Proporcionar al consejo un cuadro de mando de ciclo cerrado
El consejo debe vincular cada uso material de AI con una entidad, sistema, responsable, decisión, conjunto de datos, nivel de riesgo, autoridad, control y evidencia actual. El cuadro de mando debe mostrar sistemas desconocidos, usos restringidos, incidentes, revisiones pendientes y remediación.
Tabla 6. Cuadro de mando de implementación de la gobernanza de AI preparado para el consejo
| Dominio | Pregunta rectora | Evidencia de aceptación |
|---|---|---|
| perímetro | ¿se incluyen las entidades jurídicas, los sistemas compartidos, los proveedores y los usos materiales? | registros conciliados de entidades, sistemas, casos de uso y dependencias |
| clasificación | ¿se clasifica cada uso según impacto, autonomía, datos y reversibilidad? | justificación aprobada, mapa legal y decisión de escalado |
| derechos de decisión | ¿pueden las personas responsables aprobar, rechazar, anular, pausar y apelar? | matriz de autoridad, diseño de usuario, formación e intervención probada |
| datos y propiedad intelectual | ¿se controlan la finalidad, los derechos, la confidencialidad, la retención y la transferencia? | mapa de datos, revisión de impacto, contrato, configuración y autorización |
| seguridad y agentes | ¿los permisos están acotados y las acciones conectadas son observables y se pueden detener? | modelo de amenazas, listas de permitidos, registros, pruebas, límites y mecanismo de parada |
| proveedores | ¿se gobiernan los riesgos de modelo, datos, cambio, incidentes, resiliencia y salida? | diligencia debida, contrato, seguimiento y plan de concentración |
| incidentes | ¿Puede el grupo contener, preservar, evaluar, notificar y remediar? | plan ensayado, contactos, procedimiento de evidencias y hito de autorización para el reinicio |
| supervisión | ¿Los informes impulsan el cierre y la reevaluación? | panel de control, excepciones, fechas de remediación y hallazgos de aseguramiento |
La aceptación requiere evidencia actualizada y un responsable designado para cada excepción material.
El cuadro de mando debe evitar un porcentaje de finalización engañoso. Un grupo puede tener muchos sistemas registrados y aun así carecer de control sobre los pocos que afectan a las personas, al dinero, a la seguridad o a la reputación. El consejo debe centrarse en las excepciones materiales y en la antigüedad de la evidencia.
La gobernanza de AI se vuelve duradera cuando está conectada con la inversión, las adquisiciones, el empleo, la ciberseguridad, los datos, las transacciones y la gestión operativa. La política proporciona el conjunto de reglas. El registro proporciona el perímetro fáctico. Las pruebas proporcionan evidencia. Los derechos de decisión proporcionan rendición de cuentas. La respuesta a incidentes protege a las personas y el valor cuando fallan las hipótesis.
Referencias
- Organización para la Cooperación y el Desarrollo Económicos, Principios de AI de la OCDE, actualizados en mayo de 2024, https://oecd.ai/en/ai-principles
- Instituto Nacional de Estándares y Tecnología de los Estados Unidos, Marco de Gestión de Riesgos de Inteligencia Artificial 1.0, 26 de enero de 2023, https://www.nist.gov/itl/ai-risk-management-framework
- Instituto Nacional de Estándares y Tecnología de los Estados Unidos, Marco de Gestión de Riesgos de Inteligencia Artificial: Perfil de Inteligencia Artificial Generativa, NIST AI 600-1, 26 de julio de 2024, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- Comisión Europea, Cómo navegar por la Ley de AI, incluida la información sobre la aplicación por fases, https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
- Comisión Europea, Directrices sobre obligaciones para proveedores de AI de propósito general, https://digital-strategy.ec.europa.eu/en/faqs/guidelines-obligations-general-purpose-ai-providers
- Comité Europeo de Protección de Datos, Dictamen 28/2024 sobre determinados aspectos de la protección de datos relacionados con el tratamiento de datos personales en el contexto de los modelos de AI, 18 de diciembre de 2024, https://www.edpb.europa.eu/news/edpb-opinion-on-ai-models-gdpr-principles-support-responsible-ai_en
- Oficina del Comisionado de Información del Reino Unido, Orientaciones sobre AI y protección de datos: implicaciones para la rendición de cuentas y la gobernanza, en revisión tras la Ley de Datos (Uso y Acceso) de 2025, https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/what-are-the-accountability-and-governance-implications-of-ai/
- Departamento de Ciencia, Innovación y Tecnología del Reino Unido, Implementación de los principios regulatorios de AI del Reino Unido: orientaciones iniciales para reguladores, febrero de 2024, https://assets.publishing.service.gov.uk/media/65c0b6bd63a23d0013c821a0/implementing_the_uk_ai_regulatory_principles_guidance_for_regulators.pdf
- Autoridad de Desarrollo de Infocomunicaciones y Medios de Singapur y Comisión de Protección de Datos Personales, Marco modelo de gobernanza de la inteligencia artificial, segunda edición, https://www.imda.gov.sg/-/media/imda/files/infocomm-media-landscape/sg-digital/tech-pillars/artificial-intelligence/second-edition-of-the-model-ai-governance-framework.pdf
- Autoridad de Desarrollo de Infocomunicaciones y Medios de Singapur, Marco modelo de gobernanza de AI para AI generativa, mayo de 2024, https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2024/singapore-launches-model-ai-governance-framework-for-generative-ai
- Autoridad de Desarrollo de Infocomunicaciones y Medios de Singapur, Marco modelo de gobernanza de AI para AI agéntica, versión 1.0, 22 de enero de 2026, https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
- Instituto Nacional de Estándares y Tecnología de los Estados Unidos, Manual y recursos del Marco de Gestión de Riesgos de AI, https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-resources
Sobre el autor
Chennakeshav Adya es un investigador independiente y socio gerente de Matchpoint Partners. Su trabajo examina la estrategia, la formación de capital, la valoración, las transacciones y la ejecución operativa en los mercados privados y públicos.
