AI Gobernanza y riesgo de modelo en finanzas reguladas

Introducción

La inteligencia artificial ha pasado de la experimentación aislada a la investigación de inversiones, el servicio al cliente, el cumplimiento normativo, las operaciones, el análisis de riesgos y la entrega de tecnología. En las finanzas reguladas, la cuestión central de gestión es si cada uso puede gobernarse en proporción a sus consecuencias. La respuesta exige un inventario, una clasificación defendible, derechos de decisión con rendición de cuentas, cuestionamiento independiente, evaluación fiable, operación trazable y una salida creíble. Una declaración de políticas por sí sola no puede aportar esa evidencia.

El punto de referencia regulatorio cambió sustancialmente en 2026. Las agencias bancarias federales de EE. UU. emitieron una guía revisada de gestión del riesgo de modelos el 17 de abril de 2026. La guía sustituye a la SR 11-7, hace hincapié en un enfoque basado en riesgos y adaptado, y se espera que sea más relevante para las organizaciones bancarias reguladas por la Reserva Federal con más de USD 30 billion en activos totales [1]. La OCC también declaró que la AI generativa y la AI agéntica quedan fuera del alcance de esa guía revisada porque son novedosas y evolucionan rápidamente [2]. Ese límite de alcance es importante. Significa que una institución no puede asumir que la gestión convencional del riesgo de modelos por sí sola responde a todas las preguntas sobre AI generativa o agéntica.

En el Reino Unido, la versión de abril de 2026 de la Declaración de Supervisión SS1/23 de la PRA aplica los principios de gestión del riesgo de modelos a los modelos utilizados para fundamentar decisiones empresariales, incluidos los modelos de proveedores y la inteligencia artificial cuando proceda [4]. El Banco de Inglaterra, la FCA y el Tesoro de Su Majestad pidieron por separado, en mayo de 2026, que los consejos comprendan y mitiguen activamente los riesgos cibernéticos y de resiliencia operativa de la AI de frontera [9]. En junio de 2026, el Consejo de Estabilidad Financiera propuso 12 prácticas sólidas que abarcan la gobernanza en toda la organización, los controles del ciclo de vida, los riesgos cibernéticos, de tecnología de la información y las comunicaciones, y de terceros [10]. Ese documento del FSB seguía siendo una consulta en la fecha de corte de evidencia del 1 de agosto de 2026; su informe final estaba previsto para octubre de 2026 [10].

La posición de UAE también se volvió más específica. El Banco Central de UAE emitió en febrero de 2026 una guía de protección del consumidor para el uso responsable de AI y de aprendizaje automático por parte de instituciones financieras autorizadas [16]. La DFSA publicó en junio de 2026 expectativas regulatorias sobre la gestión del riesgo de AI en el DIFC [18]. Estos materiales se suman a las directrices de 2021 de los reguladores de UAE sobre tecnologías habilitadoras, el marco de datos personales de UAE y las normas del DIFC para los datos personales tratados por sistemas autónomos y semiautónomos [17,22,23].

Este documento convierte esas fuentes superpuestas en un marco operativo para los CIO de family office y los responsables de alternativos y asignadores institucionales internacionales. El marco está diseñado para instituciones de inversión que pueden estar reguladas directamente, asignar capital a firmas reguladas, contratar servicios habilitados por AI o necesitar una gobernanza de nivel institucional debido a una exposición fiduciaria, contractual o reputacional. Distingue entre ley, normas vinculantes, guía supervisora, material de consulta, estándares y práctica voluntaria. La aplicabilidad debe ser confirmada por responsables cualificados de legal y cumplimiento para la entidad, la actividad y la jurisdicción.

La contribución es práctica. Define un inventario común que abarca modelos, sistemas de AI, asistentes, agentes y capacidades integradas de proveedores; un método de materialidad que separa la consecuencia de la decisión de la novedad técnica; un ciclo de vida con hitos de evidencia; requisitos de evaluación para sistemas deterministas, predictivos, generativos y agénticos; controles de terceros y de concentración; e información para el consejo que permita un cuestionamiento real. Se incluyen dos casos operativos desarrollados. Cada dato numérico de esos casos es explícitamente no verificado e ilustrativo. Los ingresos atribuidos de Matchpoint o de clientes, la reducción de costes en efectivo y la reducción de pérdidas permanecen en USD 0 hasta que exista evidencia observada aprobada.

El documento formula cinco proposiciones.

Alcance, definiciones y límites de la evidencia

Alcance

El tema es la gobernanza y el riesgo de modelo para AI utilizado en finanzas reguladas y actividad de inversión gobernada institucionalmente. Los usos cubiertos incluyen investigación, cribado, analítica de carteras, apoyo a la valoración, previsión, controles de delitos financieros, comunicaciones con clientes, apoyo a la idoneidad, operaciones, programación, análisis de documentos y agentes de flujo de trabajo. El artículo aborda sistemas desarrollados internamente, sistemas de terceros configurados, funcionalidades de AI integradas y resultados de modelos suministrados externamente.

El artículo no determina el estatus legal, el perímetro regulatorio, el cumplimiento fiduciario, la idoneidad, el cumplimiento de la normativa de datos ni el tratamiento contable para una institución concreta. No certifica un modelo, un proveedor ni un sistema de AI. Cada institución debe establecer los requisitos aplicables a través de sus responsables autorizados de las áreas legal, de cumplimiento, de riesgo, de seguridad de la información, de privacidad y de negocio.

Definiciones de trabajo

Las definiciones varían entre normas y estándares. La institución debe conservar la definición legal aplicable en su registro de obligaciones y mantener un perímetro operativo más amplio para la gobernanza.

El perímetro operativo es intencionadamente inclusivo. Una fórmula de hoja de cálculo, una puntuación de proveedor, un asistente de recuperación o un agente de flujo de trabajo pueden no cumplir todas las definiciones legales de un modelo. Aun así, pueden generar una dependencia de gran impacto. El registro deriva el elemento al responsable de gobernanza que corresponda; no predetermina la clasificación regulatoria.

Clases de evidencia

La evidencia tiene distinta autoridad. Mezclar estas clases crea una falsa certeza.

Corte de evidencia y limitaciones del estado actual

Las fuentes se revisaron hasta el 1 de agosto de 2026. El calendario de implementación de la UE cambió en julio de 2026, incluida la ampliación de los plazos para las obligaciones de alto riesgo de AI [25]. Las obligaciones de transparencia del artículo 50 estaban previstas para aplicarse a partir del 2 de agosto de 2026, un día después del corte de evidencia [26]. Las prácticas sólidas del FSB seguían siendo una consulta [10]. NIST declaró que AI RMF 1.0 se estaba revisando [29]. El registro de obligaciones debe, por tanto, consignar la fecha de la fuente, el estado actual, la próxima fecha de revisión y el responsable legal designado.

Método de investigación

El artículo prioriza las leyes primarias, los reguladores, los emisores de normas y los organismos de normalización reconocidos. Triangula el riesgo de modelo, la gobernanza de AI, la resiliencia operativa, la ciberseguridad, la protección de datos y el riesgo de terceros. No trata un porcentaje de encuesta como una tasa de adopción universal. No trata una norma voluntaria como ley. No interpreta el lenguaje de consulta como política definitiva.

Y mapa de decisiones

CIOs de family office y responsables de alternativas

Las instituciones deberían evitar copiar la escala organizativa de un banco. La proporcionalidad puede preservar los mismos objetivos de control con menos comités. Un ejecutivo responsable designado, un contrapunto independiente y un paquete de evidencia completo pueden ser más eficaces que múltiples foros con una responsabilidad poco clara.

asignadores institucionales internacionales

Resultado de gobernanza compartida

Ambas audiencias necesitan un contrato de decisión compacto.

Panorama regulatorio y de supervisión

Guía sobre riesgo de modelo para la banca de Estados Unidos

La guía interinstitucional de abril de 2026 describe el riesgo de modelo como el potencial de consecuencias adversas derivadas de decisiones basadas en resultados de modelos incorrectos o mal utilizados. Destaca el desarrollo y uso eficaces, la validación y la gobernanza y los controles [1]. Prevé una adaptación al perfil de riesgo de modelo, el tamaño y la complejidad de la organización bancaria. La aplicabilidad de la Reserva Federal se describe como más relevante para entidades con activos totales superiores a USD 30 billion [1]. La OCC declaró que la guía no es una norma exigible y que los modelos generativos y agénticos AI quedan fuera de su ámbito de aplicación [2].

Esto crea una tarea de gobernanza en dos partes. Los modelos convencionales deben vincularse a la guía revisada cuando proceda. Los sistemas generativos y agénticos necesitan un método adyacente de riesgo de AI que conserve las disciplinas útiles de riesgo de modelo y añada controles de contenido, interacción, uso de herramientas, seguridad, derechos sobre los datos y autonomía. Las instituciones deben registrar qué régimen o política es responsable de cada objetivo de control.

Reino Unido

PRA SS1/23 establece cinco principios: identificación y clasificación de modelos; gobernanza; desarrollo, implementación y uso; validación independiente; y mitigantes del riesgo de modelo [4]. Se aplica tanto a modelos de proveedores como a modelos desarrollados internamente y aborda AI en técnicas de modelización cuando resultan aplicables los principios generales [4]. Los materiales del Banco de Inglaterra y de la FCA también hacen hincapié en la gobernanza, la rendición de cuentas, los datos, los riesgos de modelo y de terceros [5,6].

La declaración conjunta del Reino Unido de mayo de 2026 añade una preocupación diferenciada de ciberseguridad relativa a la AI de frontera. Exige comprensión, inversión y asignación de recursos por parte del consejo y la alta dirección, gestión de accesos, seguridad de redes, protección de datos, capacidades de protección y detección, contención y respuesta ante amenazas [9]. El Informe de Estabilidad Financiera de julio de 2026 describió cuatro canales: la toma de decisiones financieras fundamentales, los mercados financieros, el riesgo operacional de proveedores de servicios y la evolución de la amenaza cibernética externa [8].

La implicación de gobernanza es que el riesgo de AI no puede residir únicamente en la validación de modelos. Requiere coordinación entre los responsables de negocio, el riesgo de modelo, el riesgo operacional, la seguridad de la información, la privacidad, el cumplimiento normativo, las adquisiciones y la resiliencia.

UAE y DIFC

La guía del CBUAE de febrero de 2026 se centra en la protección del consumidor y la conducta de mercado para las instituciones financieras autorizadas que utilizan AI y aprendizaje automático. Aborda la transparencia, el sesgo, la ética, la rendición de cuentas, la explicabilidad y la privacidad de los datos [16]. Las directrices conjuntas sobre tecnologías habilitadoras de UAE abordan AI, la analítica de big data, la nube, las interfaces de programación de aplicaciones, la biometría y la tecnología de registros distribuidos [17].

La carta SEO de la DFSA de junio de 2026 recoge las expectativas regulatorias para la gestión del riesgo de AI en el DIFC [18]. Su encuesta de 2025 abarcó a 661 empresas autorizadas, con una participación del 88 por ciento. La DFSA informó de que el 52 por ciento utilizaba AI, el 60 por ciento disponía de alguna forma de estructura de gobernanza de AI y el 21 por ciento carecía de una rendición de cuentas o supervisión claras incluso cuando su uso era crítico [19]. Esas cifras describen esa población y fecha de la encuesta; no son estimaciones universales de adopción.

El Reglamento 10 de Protección de Datos del DIFC aborda los datos personales tratados mediante sistemas autónomos y semiautónomos [22]. El Decreto-Ley Federal n.º 45 de 2021 de UAE establece el marco federal de protección de datos personales [23]. El registro de obligaciones de la institución debe identificar el régimen de datos aplicable, las funciones de responsable y encargado del tratamiento, la base jurídica, las restricciones sobre datos sensibles, los requisitos de transferencia, los derechos de las personas, la conservación y las obligaciones en materia de incidentes.

Unión Europea

El Reglamento (UE) 2024/1689 establece un marco de AI basado en riesgos [24]. El Ómnibus de AI de julio de 2026 modificó elementos de implementación y amplió el inicio de las normas sobre AI de alto riesgo hasta el 2 de diciembre de 2027, y las normas para la AI integrada en productos físicos regulados están previstas para el 2 de agosto de 2028 [25]. Las obligaciones de transparencia para determinadas interacciones con AI y para el contenido generado o manipulado debían aplicarse a partir del 2 de agosto de 2026 [26].

DORA exige que las entidades financieras dentro de su ámbito de aplicación identifiquen y documenten los activos de TIC, las dependencias y las interconexiones críticas; gestionen el riesgo de TIC; gobiernen los acuerdos con terceros; prueben la resiliencia; y mantengan capacidades contractuales y de salida [27]. GDPR sigue rigiendo el tratamiento de datos personales y las cuestiones de decisiones automatizadas cuando proceda [28]. Por lo tanto, la clasificación de AI debe conectarse con los registros existentes de TIC, externalización, privacidad, conducta y resiliencia.

Coordinación y estándares internacionales

La consulta del FSB de junio de 2026 propone 12 prácticas sólidas. Las cuatro primeras abordan la gobernanza en toda la organización, las seis siguientes abordan la gestión de riesgos del ciclo de vida y las dos últimas abordan el riesgo cibernético, de las TIC y de terceros [10]. El documento señala que las prácticas no pretenden crear una norma internacional ni prescribir si las instituciones deben adoptar AI [10].

Los materiales del Comité de Basilea vinculan la digitalización con la gobernanza, el riesgo de modelo, la dependencia de terceros, el riesgo operativo y la resiliencia [12-14]. La investigación del FSI del BIS observó que la mayoría de las autoridades financieras abordan AI mediante marcos existentes neutrales desde el punto de vista tecnológico, al tiempo que identifican lagunas en gobernanza, capacidades, riesgo de modelo, datos, terceros y nuevos modelos de negocio [15].

El RMF de AI del NIST organiza los resultados en Gobernar, Mapear, Medir y Gestionar [29]. Su Perfil de AI generativa identifica riesgos y acciones sugeridas específicos de la AI generativa o amplificados por ella [30]. ISO/IEC 42001 especifica una norma de sistema de gestión de AI [33]. ISO/IEC 23894 proporciona orientación sobre la gestión de riesgos de AI [34]. Estas son referencias útiles para el diseño de controles. Su uso no establece cumplimiento legal.

Matriz de aplicabilidad

Inventario y clasificación

Un perímetro, múltiples taxonomías

Una institución debe mantener un registro de AI y de modelos que sea localizable y tenga clasificaciones vinculadas. Los inventarios separados y no conectados de modelos, SaaS, computación de usuario final, privacidad, proveedores y procesos operativos generan lagunas. El registro maestro debe vincularse con registros especializados en lugar de duplicar todos los campos.

Vías de descubrimiento

La exhaustividad del inventario requiere múltiples vías de detección. La autodeclaración por sí sola es débil porque las funcionalidades integradas y el uso en la sombra pueden ser invisibles para los equipos centrales.

Modelo de materialidad

La materialidad debe evaluarse antes de seleccionar los controles. La puntuación propuesta utiliza ocho dimensiones, cada una valorada de cero a cuatro. La puntuación respalda el juicio; no lo sustituye.

Los rangos iniciales propuestos son 0-7 para el Nivel 1, 8-15 para el Nivel 2, 16-23 para el Nivel 3 y 24-32 para el Nivel 4. Estos rangos son parámetros de diseño de la gestión, no umbrales regulatorios. Una anulación obligatoria debe elevar los usos que impliquen derechos legales, comunicaciones materiales con clientes, movimiento autónomo de valor, reporte regulatorio, seguridad, decisiones de crédito o idoneidad, o dependencias de servicios críticos.

Clasificación de autoridad

La autoridad suele determinar el riesgo de forma más directa que el tipo de modelo.

Resultado de la clasificación.

El registro de clasificación debe indicar hechos, conclusiones e incertidumbre por separado.

Gobernanza y derechos de decisión

Responsabilidad final

Cada uso registrado necesita un responsable de negocio que asuma el resultado y el riesgo residual. La titularidad tecnológica no sustituye la responsabilidad de negocio. Los responsables de riesgo de modelo, cumplimiento, privacidad y seguridad aportan un cuestionamiento independiente o especializado dentro de sus mandatos.

Diseño proporcional de foros

Las instituciones podrán utilizar un comité de inversiones, de riesgo o de operaciones existente con una agenda permanente de AI. Las instituciones podrán utilizar un comité central de riesgo AI con aprobaciones a nivel de negocio. El resultado exigido es una autoridad clara y un cuestionamiento documentado.

Arquitectura de políticas

La institución debería evitar una política AI independiente que entre en conflicto con las obligaciones establecidas. Una política AI concisa debería definir el perímetro, los principios, los roles, los usos prohibidos, la aprobación, la monitorización, los incidentes y las excepciones. Los estándares de apoyo deberían vincularse con el riesgo de modelo, los datos, la privacidad, la ciberseguridad, la externalización, la resiliencia operativa, la conducta, los registros, los cambios y la auditoría.

Apetito de riesgo

El apetito de riesgo debería especificar las actividades prohibidas, los límites cuantitativos o categóricos, las autoridades de aprobación y el escalamiento. Los ejemplos incluyen:

Competencia y capacidad de cuestionamiento

La formación debe ajustarse al rol. Los usuarios generales necesitan concienciación sobre datos, fuentes, alucinaciones, phishing, inyección de prompts y escalado. Los propietarios necesitan responsabilidades de clasificación, evidencia e incidentes. Los validadores necesitan competencia técnica y de dominio. Los consejos de administración necesitan suficiente comprensión para cuestionar la concentración de riesgos, la autonomía, las limitaciones y la asignación de recursos [9,10]. La finalización de la formación es evidencia débil por sí sola; las pruebas de escenarios y el comportamiento observado proporcionan evidencia más sólida.

Ciclo de vida y puertas de evidencia

Ciclo de vida

El ciclo de vida propuesto contiene diez etapas: idea, registro, clasificación, diseño, desarrollo o adquisición, evaluación, aprobación, despliegue controlado, monitorización y retirada. La iteración vuelve a la puerta anterior adecuada cuando cambian el modelo, el prompt, los datos, la herramienta, el propósito, la población o el proveedor.

Evidencia de diseño

El paquete de diseño debe mostrar el sistema completo, incluidos la tarea del usuario, los datos, el modelo, la recuperación, los controles deterministas, las herramientas, las interfaces, la revisión humana y la acción posterior. Una ficha de modelo sin contexto de flujo de trabajo está incompleta para un uso material AI.

Expediente de aprobación

El expediente de aprobación debe responder a una pregunta: ¿respalda la evidencia disponible el uso delimitado propuesto? Debe identificar lagunas en lugar de convertir la ausencia de evidencia en una conclusión favorable.

Control de cambios

Los servicios de AI pueden cambiar mediante versiones del modelo, prompts, instrucciones del sistema, contenido de recuperación, herramientas, políticas, filtros de seguridad, proveedores, datos, poblaciones de usuarios y alojamiento. El estándar de cambios debe clasificar cada cambio y definir la regresión requerida.

Retirada

La retirada debe eliminar el acceso y la dependencia, al tiempo que conserva los registros requeridos. Para los sistemas críticos, la institución debe probar la exportación de datos, la operación de sustitución y la recuperación antes de aprobar la puesta en producción. Los derechos de rescisión con proveedores sin un plan de transición operativo son evidencia débil.

Validación y evaluación

Objetivo de validación

La validación proporciona un desafío efectivo sobre la solidez conceptual, la implementación, el rendimiento, el uso y las limitaciones. La profundidad depende de la materialidad, la complejidad y la exposición [1,4]. El validador debe ser suficientemente independiente para desafiar al propietario y competente en el dominio, los datos, el modelo y el flujo de trabajo relevantes.

Evaluación por tipo de sistema

Conjunto de evaluación representativo

La población de evaluación debe reflejar casos normales, difíciles, adversos y prohibidos. Debe incluir subgrupos y periodos materiales, modos de fallo conocidos, condiciones límite y ejemplos fuera de distribución. La gobernanza del conjunto de pruebas debe evitar la contaminación y los cambios no registrados.

Métricas

Un único porcentaje de precisión es insuficiente para la mayoría de los usos materiales de AI.

Los umbrales deben estar vinculados a las consecuencias. Un asistente de redacción y una instrucción automatizada de cliente no deberían compartir la misma tolerancia. Para los tipos de eventos de tolerancia cero, el objetivo de evaluación debe ser la ausencia en la población evaluada, junto con controles preventivos y de detección sólidos; no debe describirse como prueba de que el evento no puede ocurrir.

Evaluación de AI generativa

El Perfil de AI generativa del NIST identifica riesgos como la confabulación, la privacidad de los datos, el sesgo perjudicial, la configuración humano-AI, la integridad de la información, la seguridad de la información, la propiedad intelectual y la dependencia de la cadena de valor [30]. La evaluación debe abarcar el sistema tal como está configurado, incluidos los prompts, la recuperación, las herramientas, los controles de seguridad y el flujo de trabajo. Las puntuaciones de benchmark de los proveedores no pueden establecer la idoneidad para una inversión local o para un uso en finanzas reguladas.

Evaluación agéntica

Los sistemas agénticos añaden riesgo de secuencia, estado, herramientas y autoridad. Un paso puede ser aceptable individualmente mientras que la secuencia produce un resultado no autorizado. La evaluación debe registrar cada acción, la entrada de la herramienta, la salida de la herramienta, la decisión de autorización, la intervención humana y el estado final.

Registro de cuestionamiento independiente

El informe de validación debe indicar el alcance, los métodos, la evidencia, las limitaciones, los hallazgos, la severidad, las condiciones y la conclusión. Una conclusión con salvedades puede respaldar un piloto acotado. La evidencia faltante debe seguir siendo una limitación o una incidencia. La aceptación por parte de la dirección debe identificar al responsable y la autoridad.

Datos, privacidad, seguridad y terceros

Gobierno de datos

AI los controles derivan del ciclo de vida de los datos. Cada uso relevante debe establecer la procedencia, la titularidad, el permiso, la finalidad, la calidad, el linaje, la minimización, la retención, la transferencia, la eliminación y la respuesta a incidentes.

Desarrollo y operación seguros

NIST CSF 2.0 y la guía secure-AI del NCSC proporcionan referencias de gobernanza y seguridad del ciclo de vida [31,32]. El trabajo de riesgo de aplicaciones LLM de OWASP proporciona un catálogo técnico de amenazas [36]. La institución debe seleccionar controles de su marco de seguridad aplicable y registrar su implementación.

Terceros AI

Las entidades financieras siguen siendo responsables de los riesgos generados por los servicios que contratan o en los que se apoyan. DORA, los materiales de Basilea, los trabajos del FSB, las orientaciones de FINMA y los materiales regulatorios de UAE refuerzan todos la importancia de la dependencia de terceros, la gobernanza y la resiliencia [10,12,15-17,27,37].

Concentración y cuartas partes

Los modelos fundacionales, la infraestructura en la nube, los servicios de datos y las herramientas especializadas pueden crear dependencias comunes entre aplicaciones aparentemente diferentes. El inventario debería identificar a los proveedores finales y a los subencargados materiales. El análisis de escenarios debería examinar fallos simultáneos, servicio degradado, cambio unilateral de condiciones, interrupción de una región, retirada de modelos y pérdida de acceso a auditoría.

Anexo de control contractual

El contrato debería definir el alcance del servicio, el uso aprobado de los datos, la confidencialidad, la seguridad, la notificación de incidentes, la continuidad del negocio, la auditoría, el acceso de los reguladores cuando proceda, la subcontratación, los cambios de modelo, el rendimiento, la propiedad intelectual, la conservación de registros, la eliminación, la asistencia para la salida y la asignación de responsabilidades. La redacción del contrato debe ser revisada por asesoría jurídica cualificada. Un derecho que no se somete a pruebas operativas sigue siendo evidencia incompleta.

Supervisión humana, conducta y rendición de cuentas

Supervisión humana significativa

La revisión humana es significativa cuando el revisor tiene competencia, tiempo, autoridad, información y una capacidad efectiva para cuestionar o detener el resultado. Un clic obligatorio sin evidencia que lo respalde es un control débil.

Sesgo de automatización y carga de trabajo

La supervisión puede fallar cuando los usuarios confían en resultados muy elaborados, revisan demasiados elementos o no tienen acceso a la evidencia de origen. El seguimiento debe medir patrones de corrección, anulación, tiempo de revisión, excepciones y desacuerdos. Una tasa de anulación muy baja puede indicar alta calidad; también puede indicar una capacidad de cuestionamiento débil. La investigación requiere evidencia obtenida por muestreo.

Equidad y partes afectadas

Cuando AI afecte al acceso, los precios, la idoneidad, el empleo, el crédito, los seguros u otro trato con consecuencias, la institución debe identificar grupos relevantes desde el punto de vista legal y operativo, evaluar resultados diferenciales, documentar objetivos legítimos, proporcionar una explicación adecuada y mantener vías de impugnación o escalado. La legislación aplicable determina las obligaciones específicas. Los principios de la OCDE, los resultados del NIST, las directrices del CBUAE y las expectativas de FINMA proporcionan referencias de gobernanza de apoyo [16,29,35,37].

Registros y explicaciones

El registro debe conservar la entrada, la versión relevante de la fuente, la configuración del sistema, la salida, la acción del revisor, la decisión final y el motivo al nivel necesario para la reconstrucción. La explicación debe ser adecuada para el público destinatario y la decisión. La interpretabilidad técnica no satisface automáticamente los requisitos de explicación del cliente ni los legales.

Usos prohibidos y restringidos

Cada institución debe definir los usos prohibidos sobre la base de la ley, el mandato y el apetito de riesgo. Los usos restringidos solo pueden operar en las condiciones indicadas. Entre los ejemplos para consideración de la dirección se incluyen la introducción de datos confidenciales no aprobados, el asesoramiento legal o de inversión sin supervisión, la transferencia autónoma de valor por encima de los límites, la atribución fabricada de fuentes, la interacción encubierta con clientes y el uso de datos personales fuera del propósito aprobado. Estos son ejemplos de políticas propuestos; los responsables jurídicos deben establecer las prohibiciones reales.

Monitorización, incidentes y aseguramiento

Diseño de la monitorización

La monitorización debe conectar el comportamiento del sistema con el apetito de riesgo y las condiciones de aprobación.

Taxonomía de incidentes

Un incidente AI puede ser un evento de modelo, datos, seguridad, privacidad, conducta, operativo, legal o de terceros. El proceso de incidentes debe evitar derivar todo a un equipo especialista AI. La evaluación de la gravedad debe considerar la consecuencia real y plausible, la exposición, la contención, la notificación regulatoria, las partes afectadas y la recurrencia.

Aseguramiento de controles

Las pruebas de primera línea deben confirmar que los controles operan. La monitorización de segunda línea debe cuestionar la clasificación, la aprobación, las incidencias y el riesgo agregado. La auditoría interna debe evaluar el diseño del marco y la eficacia operativa utilizando un plan basado en riesgos. El aseguramiento externo puede respaldar la evidencia de proveedores o técnica, pero la institución debe evaluar el alcance, el período, las exclusiones y la relevancia.

Riesgo agregado

Los informes de cartera deben identificar la concentración por proveedor, modelo, nube, fuente de datos, proceso de negocio, geografía y nivel de autoridad. Los asistentes de nivel bajo, considerados individualmente, pueden llegar a ser materiales cuando comparten un proveedor, procesan un gran volumen o incorporan un error común en múltiples decisiones.

Caso operativo ilustrativo

Definición del caso

Supuesto ilustrativo: Se presume que un equipo de inversiones de family office utiliza un asistente con recuperación aumentada para resumir documentos de fondos de mercados privados, comparar términos materiales y redactar preguntas para el comité de inversiones. El sistema no tiene autoridad para aprobar inversiones, comunicarse con gestores ni transmitir instrucciones. Todos los valores numéricos y supuestos operativos de esta sección son ilustraciones no verificadas.

Clasificación

La evaluación de materialidad propuesta es de Nivel 3 porque el uso trata datos confidenciales y puede influir en el análisis de inversiones, mientras que el resultado sigue siendo un borrador y es reversible. Se aplicaría una anulación obligatoria si el resultado se incorporara a los registros del comité sin revisión, generara conclusiones jurídicas o iniciara comunicaciones externas.

Diseño de la evaluación

Supuesto ilustrativo. Los umbrales propuestos ilustrativos son: 100 % de respaldo para los términos materiales definidos en el conjunto probado, cero fallos de acceso entre operaciones, cero acciones autónomas, al menos 98 % de fidelidad de citas y escalado documentado para cada conflicto de fuentes no resuelto. Estos valores son supuestos de gestión propuestos y requieren aprobación.

Diseño del control

Límite económico

Supuesto ilustrativo: El uso puede liberar capacidad de los analistas. El tiempo liberado no es un ahorro en efectivo salvo que se observe una consecuencia financiera aprobada. Los ingresos atribuidos Matchpoint o los ingresos de clientes, la reducción de costes en efectivo y la reducción de pérdidas siguen siendo USD 0.. Un libro mayor de valor puede registrar resultados aceptados, tiempo de revisión, retrabajo y coste operativo total sin convertir horas teóricas en beneficio materializado.

Caso operativo ilustrativo

Definición del caso

Supuesto ilustrativo: Se supone que un asignador institucional utiliza un sistema predictivo y generativo para supervisar a gestores externos, señalar anomalías en los informes y redactar preguntas de seguimiento de diligencia debida. El modelo puede priorizar la revisión; no puede cambiar una asignación, emitir un aviso de incumplimiento ni comunicarse externamente. Todas las entradas numéricas y umbrales de esta sección son ilustraciones no verificadas.

Límite del modelo y del flujo de trabajo

El componente predictivo detecta anomalías frente a características y referencias aprobadas. El componente generativo explica la alerta utilizando registros controlados y redacta preguntas. Una capa de reglas deterministas aplica los límites de exposición y los escalados obligatorios. El responsable del riesgo de inversión decide si se escala. Esta separación permite distintos métodos de evaluación y reduce la autoridad asignada a los resultados probabilísticos.

Evaluación

Supuesto ilustrativo. Un piloto ilustrativo utiliza 18 meses de registros históricos, 60 eventos adjudicados y un periodo de prueba en paralelo de tres meses. Estos valores son supuestos de la dirección. La institución tendría que evaluar si la muestra respalda las afirmaciones previstas y los subgrupos relevantes.

Decisión y escalado

Agregación de cartera y de terceros

El asignador de capital debería agregar proveedores comunes en las herramientas de seguimiento de gestores, investigación, informes y servicio al cliente. Una única dependencia de modelo fundacional o de nube puede dar soporte a múltiples proveedores nominales. La documentación para el consejo debería mostrar esta concentración look-through y la ruta de recuperación probada.

Límite económico

Supuesto ilustrativo. En el caso ilustrativo no se atribuye ningún beneficio financiero. Una evaluación posterior podría medir el rendimiento de la revisión, las alertas aceptadas, las omisiones materiales, las escaladas falsas, el tiempo de resolución y el coste operativo. Las declaraciones sobre ingresos, costes en efectivo y pérdidas requieren evidencia observada aprobada y un contrafactual defendible.

Documentación para el consejo, hoja de ruta e implementación

Información para el consejo

La información al consejo debería respaldar la orientación y el cuestionamiento. Debería separar la exposición de la actividad y reportar las excepciones con claridad.

Hoja de ruta de doce meses

Primeros 30 días

El primer mes debe establecer autoridad y visibilidad. Designar al ejecutivo responsable, emitir restricciones provisionales en materia de datos y autoridad, crear un canal único de recepción, conciliar las aplicaciones y suscripciones conocidas, y conectar los eventos de AI con la gestión de incidentes existente. Priorizar los usos que puedan afectar a clientes, capital, reporting, derechos, datos confidenciales o movimiento de valor.

Días 31-90

Elaborar el registro de obligaciones a partir de fuentes legales y supervisoras aplicables. Completar la clasificación de los usos materiales. Crear plantillas de evaluación, aprobación, seguimiento, cambio y retirada. Revisar proveedores críticos y funcionalidades de AI integradas. Establecer un proceso de excepciones con caducidad y controles compensatorios.

Del cuarto al duodécimo mes

Evaluar y aprobar o suspender los usos materiales. Probar el aislamiento de accesos, la recuperación ante fallos y la salida de proveedores. Conciliar la concentración de proveedores. Implantar métricas para el consejo y aseguramiento independiente. Actualizar el marco cuando se finalice la consulta del FSB, NIST actualice el RMF de AI o cambien las normas jurisdiccionales.

Modelo de madurez de controles

Limitaciones, agenda de investigación y conclusión

Este artículo sintetiza materiales de distintas jurisdicciones; no establece la aplicabilidad para una entidad concreta. Los requisitos pueden solaparse y cambiar. Las prácticas sólidas del FSB eran de carácter consultivo en la fecha de corte de la evidencia. El calendario de la UE cambió poco antes de la publicación. La guía revisada sobre riesgo de modelos de EE. UU. excluye expresamente del ámbito de aplicación la AI generativa y agéntica. Las normas y los marcos voluntarios no establecen cumplimiento legal.

El marco operativo exige pruebas empíricas. La investigación futura debería comparar la consistencia de la clasificación entre instituciones; medir la fiabilidad de la validación para flujos de trabajo generativos y agénticos; evaluar si los controles de citación y revisión humana reducen los errores materiales; evaluar la concentración de proveedores de cuarta parte; y probar los planes de salida ante la retirada de proveedores, el cambio de modelo y las disrupciones cibernéticas. Las instituciones deberían publicar o compartir taxonomías de incidentes y métodos de evaluación cuando la confidencialidad lo permita.

La conclusión central es que la adopción controlada de AI es un problema de evidencia. Un inventario completo muestra la exposición. La materialidad y la autoridad determinan un control proporcional. La evaluación establece la idoneidad acotada. La gobernanza asigna la decisión. El seguimiento mantiene vigente la aprobación. La capacidad de gestión de incidentes y de salida limita los fallos. Para family offices y asignadores institucionales, esta estructura apoya la innovación mientras preserva la autoridad de inversión, la confidencialidad, la trazabilidad y la resiliencia.

Los ingresos atribuidos a Matchpoint o los ingresos de clientes, la reducción de costes en efectivo y la reducción de pérdidas permanecen como USD 0 hasta que la evidencia observada y aprobada respalde la atribución.