1. Утвердите политику до первого инцидента
Внедрение AI часто начинается как выбор для повышения производительности. Сотрудник использует публичного помощника, чтобы подготовить краткое резюме договора. Команда продаж включает встроенный инструмент для работы с текстом. Портфельная компания развёртывает клиентского бота. Аналитик семейного офиса тестирует инвестиционный меморандум. Поставщик добавляет функцию AI во время обновления программного обеспечения. Каждое действие может иметь последствия для данных, решений, интеллектуальной собственности, кибербезопасности и подотчётности.
Семейные группы добавляют структурную сложность. Одно и то же имя семьи может стоять над операционными компаниями, недвижимостью, инвестиционными структурами, филантропией и личными делами. Некоторые структуры имеют общих людей, системы и консультантов. Другие имеют миноритарных инвесторов, регулируемые виды деятельности или независимые советы директоров. Политика, выпущенная одной компанией, может не иметь юридической силы в другой. Тем не менее инцидент может распространяться через гарантии, общие услуги, репутацию, договорённости о преемственности и общую собственность.
Политика совета директоров должна определять, как AI может приобретаться, создаваться, конфигурироваться, подключаться и использоваться. Она должна устанавливать права на принятие решений до того, как сценарий использования станет операционным. Она также должна отличать управление от технического подтверждения. Политика может распределять полномочия и минимальные меры контроля; квалифицированные команды по-прежнему должны проверять данные, системы, безопасность и воздействие в конкретном контексте.
NIST структурирует управление рисками AI вокруг функций Govern, Map, Measure и Manage. Принципы ОЭСР подчёркивают права человека, прозрачность, устойчивость, безопасность и подотчётность. Сингапурские рамки добавляют практические рекомендации по участию человека и агентным системам. Эти источники поддерживают общую операционную идею: организация должна знать, что делает система AI, кто отвечает за результат, какие доказательства подтверждают её использование, а также когда человек должен вмешаться.
Периметр политики следует за юридическими лицами, общими службами, данными, решениями и именем семьи.
2. Определите периметр, роли и иерархию политик.
Периметр политики должен начинаться с карты юридических лиц. Она должна определять материнскую компанию, дочерние компании, совместные предприятия, регулируемые виды бизнеса, инвестиционных консультантов, структуры семейного офиса, трасты, фонды и компании, оказывающие общие услуги. По каждому юридическому лицу совет директоров должен фиксировать структуру собственности, руководящий орган, сотрудников, клиентов, регулируемую деятельность, места хранения данных и технологические зависимости.
Роли важны, потому что одна и та же модель может находиться в разных правовых отношениях. Юридическое лицо может разрабатывать систему AI, предоставлять её, развертывать, распространять, импортировать или использовать её результаты. Облачный провайдер, системный интегратор, технологическая команда группы и операционная компания могут нести разные обязанности. Карта должна определять отношения контролёра и обработчика для персональных данных и уточнять договорную ответственность за обучение, конфигурацию, мониторинг и инциденты.
Групповая политика должна устанавливать минимальные принципы и триггеры эскалации. Советы директоров юридических лиц должны принимать локальные приложения, охватывающие применимое законодательство, отраслевые правила, советы работников, практики трудоустройства, обязанности перед клиентами, резидентность данных и ожидания регуляторов. Более строгое правило должно действовать там, где общая система не может надёжно разделять юридические лица или пользователей.
Иерархия должна связывать политику AI с информационной безопасностью, конфиденциальностью, записями, допустимым использованием, модельным риском, закупками, трудовыми отношениями, интеллектуальной собственностью, рыночным поведением, финансовыми преступлениями, охраной труда и безопасностью, управлением кризисами и делегированными полномочиями. Конфликты должен разрешать ответственный юридический владелец с привлечением консультации, соответствующей вопросу.
Таблица 1. Периметр политики совета директоров по AI и ответственные роли
| Уровень политики | Вопрос к совету директоров | Ответственная роль | Минимальные доказательства |
|---|---|---|---|
| Групповые принципы | какие ценности, запреты и пороги эскалации применяются во всей семейной группе? | совет директоров материнской компании | утверждённая политика, карта применимости для юридических лиц и исключения |
| принятие на уровне юридического лица | какие требования применяются к данному юридическому лицу и юрисдикции? | совет директоров юридического лица | локальный план-график, юридическая экспертиза и протокол о принятии |
| владение сценарием использования | кто отвечает за бизнес-результат и затронутый процесс? | владелец бизнес-процесса | цель, пользователи, воздействие, меры контроля и критерии приёмки |
| технологии | кто отвечает за архитектуру, доступ, изменения и отказоустойчивость? | владелец технологии | проектирование системы, модель доступа, журналы, тестирование и восстановление |
| данные | кто утверждает источники данных, цель, сроки хранения и передачу? | владелец данных | карта данных, законное основание, качество, права и средства контроля удаления |
| риски и комплаенс | кто оспаривает классификацию и достаточность мер контроля? | независимая функция контроля | документированная проверка, условия и решение по остаточному риску |
| гарантии | кто проверяет, действуют ли меры контроля так, как заявлено? | внутренний аудит или квалифицированное подтверждение | план с определённым объёмом, доказательства, выявленные недостатки и отслеживание устранения |
Должности различаются по группам; для каждой обязанности нужен один ответственный владелец и назначенные поддерживающие лица.
3. Создайте реестр систем AI и сценариев использования
Группа не может управлять системами, которые она не выявила. Реестр должен охватывать модели собственной разработки, приложения поставщиков, встроенные функции AI, общедоступные инструменты, роботизированную автоматизацию процессов с компонентами AI, аналитические модели, компьютерное зрение, рекомендательные системы, синтетический контент, системы принятия решений и автономные или агентные рабочие процессы. Он также должен фиксировать неформальные эксперименты, если в них задействованы данные или решения группы.
Обнаружение должно сочетать декларации с техническими доказательствами. Записи закупок и кредиторской задолженности могут выявлять подписки. Журналы идентификации и сети могут выявлять приложения. Браузерные и оконечные средства контроля могут обнаруживать неуправляемые сервисы, если это разрешено законом. Реестры программного обеспечения могут раскрывать встроенные возможности. Опросы, интервью и семинары могут выявлять сценарии использования, которые упускаются при технологическом сканировании. Цель — аудируемый периметр, при этом мониторинг сотрудников должен быть разработан в соответствии с применимым законодательством и политикой.
Запись о системе и запись о сценарии использования должны быть отдельными. Одна модель может поддерживать несколько вариантов использования с разным уровнем риска. Помощник по написанию текстов, используемый для публичного маркетинга, влечёт иные последствия при использовании для юридических консультаций или оценки сотрудников. Запись о системе описывает модель, поставщика, версию, хостинг, доступ и технические средства контроля. Запись о сценарии использования описывает цель, затронутых лиц, влияние на решения, данные, владельца, развёртывание и мониторинг.
Каждая запись должна иметь состояние жизненного цикла: обнаружение, песочница, оценка, одобренный пилот, продуктивная эксплуатация, приостановка или вывод из эксплуатации. Неавторизованные системы должны попадать в процесс устранения. Совет директоров должен видеть существенные неизвестные и просроченные проверки, а менеджмент владеет рабочим реестром.
Одна система может поддерживать несколько сценариев использования; каждый сценарий использования получает собственную классификацию и владельца.
Таблица 2. Минимальные поля реестра AI
| Область | Запись о системе | Запись о сценарии использования |
|---|---|---|
| идентификация | провайдер, модель, версия, владелец системы и хостинг | цель, организация, процесс, бизнес-владелец и пользователи |
| данные | обучающие или справочные данные, промпты, выходные данные, хранение и передача | категории данных, затронутые лица, чувствительность, цель и правовое основание |
| решение | возможности модели и известные ограничения | затрагиваемое решение, последствие, полномочия человека и порядок обжалования |
| доступ | идентификаторы, привилегии, интерфейсы и подключённые инструменты | разрешённые пользователи, местоположения, разграничение и условия одобрения |
| гарантии | тесты провайдера, внутренние тесты, проверка безопасности и инциденты | приёмочные тесты, оценка воздействия, пороговые значения мониторинга и дата пересмотра |
| жизненный цикл | приобретение, версия, процесс изменений и вывод из эксплуатации | выявление, песочница, пилот, промышленная эксплуатация, приостановка или вывод из эксплуатации |
В реестре следует хранить даты подтверждающих данных, источники и нерешённые пробелы.
4. Классифицируйте сценарий использования до утверждения системы
Классификация должна основываться на использовании и его последствиях. Политика совета директоров может предусматривать четыре уровня: запрещённый, ограниченный, контролируемый и обычный. Эти обозначения являются внутренними инструментами управления; юридические категории должны оцениваться отдельно. Система может переходить между уровнями при изменении данных, автономности, пользователей, затронутых лиц или связанных действий.
К запрещённым видам использования следует относить деятельность, которую группа не желает или не может контролировать, а также любое использование, запрещённое применимым правом. Примеры могут включать скрытое манипулирование, незаконную дискриминацию, сфабрикованные доказательства, несанкционированную выдачу себя за другое лицо, обход средств контроля и ввод защищённой или конфиденциальной информации в несанкционированный публичный сервис. Политика должна избегать широких формулировок, которые сотрудники не могут применять.
К ограниченным видам использования могут относиться существенные решения, затрагивающие трудоустройство, кредитование, страхование, здоровье, безопасность, законные права, клиентов, инвестиции или доступ к жизненно важным услугам. Они требуют усиленной юридической проверки, оценки воздействия, управления данными, тестирования, полномочий человека, документирования и мониторинга. Автономные действия, связанные с деньгами, кодом, внешними коммуникациями или производственными системами, также должны подпадать под ограниченный порядок.
К контролируемым видам использования относятся вспомогательные функции с меньшим воздействием, использующие утверждённые данные, инструменты и проверку человеком. Обычные виды использования могут охватывать задачи с низкими последствиями, такие как форматирование публичного текста в утверждённых системах. При классификации следует учитывать серьёзность, масштаб, обратимость, уязвимость затронутых людей, чувствительность данных, автоматизацию, непрозрачность, внешнюю зависимость и способность обнаруживать ошибки.
Эскалация зависит от воздействия, автономности, чувствительности и обратимости; юридическая классификация остаётся отдельной.
Таблица 3. Политика совета директоров в отношении разрешённых, условно разрешённых и запрещённых видов использования
| Статус по политике | Иллюстративный пример использования | Требуемое действие |
|---|---|---|
| разрешено при использовании утверждённого инструмента | форматирование публичных материалов, перевод с проверкой человеком, организация встреч | использовать утверждённую учётную запись, проверять результат и хранить требуемую запись |
| контролируемый | синтез исследований, внутренняя подготовка документов, поддержка программирования, помощь в обслуживании клиентов | авторизованные данные, назначенный владелец, проверка источников, контроль доступа и мониторинг |
| ограниченный | решения о найме, кредитовании, ценообразовании, юридические и инвестиционные решения, решения, связанные со здоровьем, безопасностью или существенные решения в отношении клиентов | оценка воздействия, юридическая проверка и проверка средств контроля, тестирование, полномочия человека, апелляция и порог для совета директоров |
| ограниченные автономные действия | отправка сообщений, изменение систем, выполнение кода, перевод средств или размещение заказов | ограниченные разрешения, двойной контроль, песочница, журналы, лимиты транзакций, аварийное отключение и реагирование на инциденты |
| запрещено политикой | сфабрикованные доказательства, несанкционированная выдача себя за другое лицо, скрытая манипуляция, обход средств контроля или небезопасное раскрытие данных | блокировать, сообщать, сохранять доказательства и оценивать обязательства по инциденту |
| нормативный запрет | любая деятельность, запрещённая для организации, юрисдикции или роли | не внедрять; задокументировать правовое заключение и отслеживать изменения |
Примеры требуют юридической и отраслевой проверки с учётом конкретного юридического лица до внедрения.
5. Определите права на принятие решений и значимые полномочия человека
Проверка человеком должна проектироваться вокруг решения. Человек не может обеспечить содержательный надзор, если у него нет времени, информации, полномочий, компетенции или альтернативы. Политика должна определять, кто может утверждать, отклонять, переопределять, приостанавливать и обжаловать результат, на который повлиял AI. Она также должна указывать, какие решения остаются исключительно за человеком.
Совет директоров устанавливает аппетит к риску и существенные пороги. Менеджмент утверждает сценарии использования в пределах делегированных полномочий. Владелец бизнес-кейса отвечает за результат, включая ошибки, вызванные чрезмерной зависимостью. Технологическая функция отвечает за эксплуатацию системы. Владельцы данных управляют источниками и правами. Юридическая функция, конфиденциальность, риск, комплаенс, безопасность и кадры проверяют свои области. Внутренний аудит или квалифицированное заверение оценивает структуру и функционирование контролей, не принимая на себя ответственность менеджмента.
Структура проверки должна соответствовать последствиям и обратимости. Для черновика с низким воздействием может потребоваться, чтобы компетентный пользователь проверил точность и тон. Для существенного решения о трудоустройстве или кредите может потребоваться независимое подтверждение, предоставление обоснования, оценка предвзятости, хранение записей и доступный путь пересмотра. Для агента, способного выполнять действия, могут потребоваться предварительно утверждённые границы, двойная авторизация и возможность немедленной приостановки.
Политика должна учитывать предвзятость в пользу автоматизации. Пользователям нужно обучение, чтобы понимать, что гладкие результаты могут быть ошибочными, неполными или необоснованными. Интерфейсы проверки должны показывать источники, ограничения достоверности, исключения и изменения. Менеджмент должен проверять, действительно ли проверяющие оспаривают результаты, а не просто подтверждают их.
6. Управление данными, конфиденциальностью и интеллектуальной собственностью
AI управление данными начинается до ввода промпта. Организации следует классифицировать информацию, определить законного владельца, подтвердить цель и полномочия, а также понять, что поставщик хранит, использует, передаёт или раскрывает. Информация о клиентах, сотрудниках, сделках, здоровье, финансах, юридических вопросах, семье, безопасности и непубличных инвестициях может требовать усиленного контроля.
Политика должна различать одобренные корпоративные среды и публичные или потребительские аккаунты. Договор и конфигурация должны регулировать, используются ли промпты и выходные данные для обучения моделей, а также хранение, удаление, субпроцессоров, местоположения, доступ, шифрование, журналы аудита, уведомление об инцидентах и выход. Технические меры контроля должны подкреплять правило через управление идентификацией, предотвращение утечек данных, управление конечными устройствами и ограничения доступа, когда это законно и соразмерно.
Обязательства по персональным данным зависят от юрисдикции и роли. Управление Информационного комиссара Великобритании относит к соответствующим факторам подотчётность, законное основание, справедливость, прозрачность, безопасность, минимизацию данных, права субъектов данных и оценку воздействия на защиту данных. Заключение Европейского совета по защите данных от декабря 2024 года рассматривает анонимность, законный интерес и последствия неправомерно обработанных обучающих данных. Каждое использование требует оценки с учётом конкретного случая.
Проверка интеллектуальной собственности должна охватывать права на входные данные, права на выходные данные, лицензии, обязательства по открытому исходному коду, конфиденциальное ноу-хау, сторонний контент, брендовые активы, условия обучения и возмещение убытков. Сгенерированный контент следует проверять на происхождение и правовую чистоту перед внешним использованием. Юридическая привилегия и профессиональная конфиденциальность требуют явного порядка обращения, одобренного юристом.
7. Контроль сторонних моделей и встроенных AI
Закупки должны оценивать поставщика и предполагаемое использование. Известность поставщика не подтверждает, что конкретная конфигурация, интеграция или сценарий использования являются подходящими. Дью-дилидженс должен охватывать корпоративную идентичность, описание услуги, зависимости модели, обучение и оценку, безопасность, условия обработки данных, субпроцессоров, интеллектуальную собственность, доступность, мониторинг, инциденты, права на аудит, ответственность и прекращение.
Изменения моделей и функций создают особый риск. Поставщики могут менять возможности, механизмы защиты, практики работы с данными или интерфейсы. Договор должен определять уведомление, существенное изменение, контроль версий, тестирование, откат и права на прекращение. Владелец системы должен отслеживать примечания к выпускам и повторно тестировать существенные рабочие процессы перед принятием изменений.
Встроенный AI необходимо выявить. ПО для управления взаимоотношениями с клиентами, повышения производительности, финансов, кадров, безопасности и промышленности может активировать функции AI в рамках действующих договоров. Владелец должен оценить эту функцию до её включения и подтвердить, меняются ли потоки данных или договорные роли.
Концентрация также имеет значение. Несколько компаний группы могут зависеть от одной и той же базовой модели, облачной платформы или поставщика интеграционных решений. Общий сбой, изменение политики или перебой в работе могут затронуть несколько юридических лиц. Реестр должен выявлять общие зависимости и альтернативные механизмы.
Таблица 4. Матрица дью-дилидженса и заключения договоров для AI от третьих сторон
| Область | Вопрос дью-дилидженса | Доказательства договора или контроля |
|---|---|---|
| модель и сервис | какие модели, версии, компоненты и субпоставщики обеспечивают предоставление сервиса? | описание сервиса, карта зависимостей и уведомление об изменениях |
| данные | какие данные поступают в сервис, где они обрабатываются, как долго хранятся и используются ли они для обучения? | условия обработки данных, конфигурация, удаление, передача и аудиторские доказательства |
| тестирование | как тестируются точность, устойчивость, предвзятость, безопасность и неправомерное использование в предполагаемом контексте? | отчёты об оценке, ограничения, клиентские тесты и пороги приёмки |
| обеспечение | как обеспечивается защита идентификаторов, интерфейсов, секретов, журналов и инцидентов? | архитектура безопасности, сертификации, процесс управления уязвимостями и условия уведомления |
| интеллектуальная собственность | Какие права регулируют входные данные, выходные данные, обучающие материалы и претензии? | лицензии, гарантии, возмещение убытков и процедура урегулирования нарушений прав |
| устойчивость | что происходит при сбое, отзыве модели или существенном изменении? | уровни обслуживания, непрерывность, экспорт, откат и план выхода |
| Подотчётность | кто несёт ответственность за ошибки, жалобы, регуляторную поддержку и устранение последствий? | поименованные контактные лица, взаимодействие, записи, права на аудит и распределение ответственности |
Глубина проработки должна быть соразмерна варианту использования, данным и зависимости.
8. Обеспечьте безопасность жизненного цикла AI и подключённых инструментов
Безопасность должна охватывать отравление данных, prompt injection, небезопасную обработку выходных данных, извлечение модели, раскрытие учётных данных, избыточные разрешения, компрометацию зависимостей, отказ в обслуживании и неправомерное использование. Модель угроз должна отражать, является ли система внутренней, клиентской, подключённой к инструментам, дообученной на данных группы или подверженной воздействию недоверенного контента.
При разработке и конфигурировании следует использовать отдельные среды, одобренные компоненты, управление секретами, проверку кода, тестирование и контроль изменений. Системы извлечения данных должны регулировать коллекции источников и разрешения. Выходные данные, передаваемые в код, базы данных, электронную почту, финансовые или промышленные системы, должны проверяться до исполнения. Журналы должны поддерживать обнаружение и расследование при соблюдении конфиденциальности и защиты частной жизни.
Ред-тиминг и оценка должны соответствовать варианту использования. Наборы тестов должны включать ожидаемые ответы, граничные случаи, состязательные входные данные и точки зрения затронутых пользователей. Меры могут охватывать точность, необоснованные утверждения, вредоносный контент, отказ от ответа, предвзятость, безопасность, задержку, устойчивость и возможность переопределения. Владелец должен установить пороги приемлемости и зафиксировать ограничения до развёртывания.
Мониторинг в продуктивной среде должен выявлять дрейф, аномальный доступ, небезопасные выходные данные, нарушения политик, жалобы, инциденты и изменения со стороны провайдера. Успешно пройденный тест перед развёртыванием имеет дату и область действия. Он не даёт постоянных гарантий.
9. Применяйте более строгие ограничения к генеративному и агентному AI
Генеративный AI может создавать правдоподобный текст, изображения, аудио, видео и код, не устанавливая истинность или права. Профиль генеративного AI NIST определяет риски, которые могут быть новыми или усиленными, включая конфабуляцию, опасный контент, конфиденциальность, предвзятость, целостность информации, интеллектуальную собственность, кибербезопасность и интеграцию цепочки создания стоимости. Политика должна требовать проверки источников, маркировки контента там, где это применимо, контроля происхождения и подотчётности людей.
Агентный AI добавляет действие. Агент может планировать шаги, использовать память, вызывать инструменты, общаться и изменять системы. Опубликованная в январе 2026 года Сингапурская рамочная структура управления моделями AI для агентного AI подчёркивает ограничение автономии, возложение ответственности на человека, контроль доступа, тестирование, прозрачность и мониторинг. Эти принципы могут лежать в основе внутреннего управления, при этом требования определяются местным законодательством и контекстом.
Агент должен получать минимальные полномочия, необходимые для работы. Инструменты, данные, назначения, суммы транзакций, временные окна и типы действий должны быть включены в белый список. Действия с серьезными последствиями должны требовать подтверждения или двойного согласования. Ограничения скорости, бюджеты, изоляция сред, неизменяемые журналы, обнаружение аномалий и проверенный механизм аварийной остановки должны обеспечивать контроль.
Владелец бизнеса должен документально зафиксировать, что агент может решать, что может рекомендовать и что может исполнять. Политика должна запрещать агенту расширять собственные разрешения или обходить контрольные точки с участием человека. Подключенные рабочие процессы должны тестироваться на устойчивость к вредоносным инструкциям и скомпрометированным источникам данных.
Автономность расширяется только в пределах утвержденных границ — с подтверждающими данными и проверенным механизмом остановки.
10. Управление людьми, трудовыми отношениями и компетенциями
Сотрудникам нужны четкие правила и удобные утвержденные инструменты. Политика, которая только запрещает поведение, может вытеснять деятельность в ненаблюдаемые каналы. Обучение должно объяснять разрешенные системы, категории данных, верификацию, записи, интеллектуальную собственность, безопасность, эскалацию и последствия. Ролевые модули должны охватывать разработчиков, закупки, кадры, инвестиционные команды, обслуживание клиентов, руководителей и членов совета директоров.
Применение в сфере занятости требует повышенной осторожности. Подбор персонала, мониторинг, оценка эффективности, планирование графиков, повышение в должности и увольнение могут затрагивать права и средства к существованию. Проверка должна учитывать применимые нормы трудового права, равенства, конфиденциальности, консультаций и автоматизированного принятия решений. Следует проверять качество данных, прокси-переменные, неодинаковые результаты, объяснения, доступность и содержательное повторное рассмотрение.
Группа также должна планировать изменения в составе и организации персонала. AI может перестраивать задачи, средства контроля и требования к квалификации. Руководство должно оценивать разделение обязанностей, организацию труда, надзор, компетентность и усталость от изменений. Критически важные знания не должны переходить в непрозрачный инструмент без механизмов сохранения и преемственности.
Члены семьи и директора тоже являются пользователями. Персональные ассистенты, средства обмена сообщениями и устройства могут содержать конфиденциальную семейную, транзакционную и управленческую информацию. Вводный инструктаж и ежегодные декларации должны охватывать порталы советов директоров, утвержденные учетные записи, поездки, клонирование голоса и изображения, самозванство и мошенничество со срочными платежами.
11. Защита целостности информации и доброго имени семьи
Синтетический контент может причинять операционный и репутационный ущерб. Ложное сообщение от руководителя может требовать деньги или данные. Сфабрикованная аудиозапись может повлиять на переговоры. Неточный публичный ответ могут приписать семейному бизнесу. Группе нужны аутентификация, контроль внешних публикаций и путь эскалации для случаев самозванства и дезинформации.
Коммуникации с высоким риском должны использовать проверенные каналы и вторичное подтверждение. При изменении платежных или учетных данных нельзя полагаться только на голос, видео или электронную почту. Публичный контент, созданный или существенно отредактированный AI, должен проходить фактическую, юридическую и брендовую проверку, соразмерную его последствиям. Требования к происхождению и маркировке должны проверяться с учетом юрисдикции и канала.
План кризисного реагирования должен определять представителя семьи, представителя организации, руководителя юридического направления, руководителя технологического направления и контакты правоохранительных органов или платформ. Мониторинг должен сосредоточиться на достоверных угрозах и уважать конфиденциальность. Там, где это законно, доказательства следует сохранять до удаления контента.
12. Картирование регулирования и стандартов по юридическим лицам и ролям
Карта регулирования должна быть актуальной и учитывать особенности конкретного юридического лица. Закон ЕС об AI применяется по поэтапному графику и распределяет обязанности по категориям систем и ролям участников. Европейская комиссия указывает, что большинство положений применяется с 2 августа 2026 года, при этом отдельные положения начали действовать раньше, а некоторые обязанности для систем высокого риска имеют более поздние сроки. Руководства, стандарты и механизмы правоприменения продолжают развиваться. Применимость и актуальные даты требуют юридического подтверждения.
В США действует отраслевая и многоуровневая среда. NIST AI RMF носит добровольный характер и предлагает структуру управления, а не правовое определение. Могут применяться требования федерального уровня, уровня штатов, отраслевые, договорные, а также требования в области защиты потребителей, трудовых отношений, конфиденциальности, интеллектуальной собственности и ценных бумаг. Группе следует вести карту юрисдикций и сценариев использования, а не полагаться на единое национальное обозначение.
В Соединённом Королевстве применяется основанный на принципах регуляторный подход через действующих регуляторов наряду с обязанностями по защите данных и отраслевыми обязанностями. ICO указывает, что его руководство по AI и защите данных пересматривается после принятия Закона о данных (использовании и доступе) 2025 года. Поэтому при принятии решения следует проверять версию и применимость.
Сингапур предлагает практические типовые рамки для традиционных, генеративных и агентных решений на базе AI. Это полезные ориентиры для управления; обязанности юридического лица по-прежнему зависят от применимого права, отрасли и роли. Принципы ОЭСР служат широко применяемой основой для интероперабельности между юрисдикциями.
Политика должна фиксировать правовой источник, дату вступления в силу, затронутое юридическое лицо, роль, ответственного владельца и доказательства. Изменение регулирования должно запускать переоценку классификации, документации, тестирования, договоров и обязанностей по инцидентам.
13. Выстраивайте процесс реагирования на инциденты на основе доказательств и решений
Инцидент с AI может затрагивать конфиденциальность, персональные данные, кибербезопасность, небезопасные действия, дискриминацию, финансовые потери, интеллектуальную собственность, дезинформацию, нарушение регуляторных требований или прерывание обслуживания. План реагирования на инциденты должен связывать существующие процедуры кризисного управления, кибербезопасности, конфиденциальности, юридические, риск-менеджмента и коммуникаций, а не создавать изолированный канал.
Первые действия — защитить людей, локализовать систему, сохранить доказательства и прекратить дальнейшие вредные действия. Команда должна определить затронутые юридические лица, системы, версии, данные, пользователей, решения и подключённые инструменты. Журналы, промпты, выходные данные, конфигурацию, записи о моделях и поставщиках следует сохранять в пределах, допускаемых законом.
Руководитель реагирования на инцидент должен координировать технические и бизнес-решения. Юридическая служба и команда по конфиденциальности оценивают необходимость уведомлений и применения юридической привилегии. Владелец бизнес-процесса оценивает затронутые решения и меры по устранению последствий для клиентов. Служба безопасности расследует доступ и компрометацию. Коммуникационная служба контролирует внутренние, семейные и внешние заявления. Финансовая служба отслеживает убытки и страхование. Поставщик должен поддерживать сбор доказательств, локализацию и устранение последствий в рамках договора.
Выводы по итогам должны обновлять реестр, средства контроля, обучение и условия договоров с поставщиками. Перезапуск должен требовать определённых доказательств и полномочий.
Эта последовательность защищает людей и доказательства и при этом координирует обязанности, зависящие от конкретного юридического лица.
14. Продемонстрируйте рамки на примере гипотетической глобальной группы
Рассмотрим гипотетическую группу семейного бизнеса с холдинговой компанией в Соединённом Королевстве, потребительским и промышленным бизнесом в Европейском союзе и США, технологической дочерней компанией в Сингапуре и отдельным инвестиционным офисом. В группе 4 800 сотрудников, а консолидированная годовая выручка составляет USD 1.2 billion. Эти показатели являются управленческими допущениями, подготовленными исключительно для демонстрации метода.
Discovery выявляет 64 системы с поддержкой AI и 117 сценариев использования. Двадцать девять систем — утверждённые корпоративные инструменты, 18 — встроенные функции поставщиков, 11 — подписки сотрудников и шесть — собственные разработки. Первичная проверка сценариев использования выявляет 12 ограниченных сценариев, 69 контролируемых, 30 рутинных и шесть сценариев, приостановленных до завершения расследования.
Ограниченный набор включает скрининг кандидатов при найме, оповещения о безопасности на производстве, динамическое ценообразование для клиентов, кредитные рекомендации, инвестиционные исследования, триаж клиентских жалоб и двух агентов, подключённых к коду и внешним коммуникациям. Ни один не утверждается лишь потому, что поставщик позиционирует его как соответствующий требованиям. Для каждого формируются локальная карта требований законодательства, оценка воздействия, проверка данных, приёмочное тестирование, проектирование с сохранением полномочий человека и план мониторинга.
Совет директоров утверждает групповую политику и четыре приложения по юридическим лицам. Она запрещает размещение конфиденциальной информации в неутверждённых публичных инструментах, сфабрикованные доказательства, несанкционированную выдачу себя за других лиц и автономное перемещение средств. Она требует двойного утверждения для существенных внешних коммуникаций и изменений производственного кода агентами. Шесть приостановленных сценариев взяты под контроль; два выведены из эксплуатации, три перенесены в утверждённые среды, а один переходит к контролируемому пилоту после устранения недостатков.
Таблица 5. Гипотетическая исходная конфигурация семейной группы AI и первые решения
| Направление | Допущение менеджмента | Первое действие совета директоров или менеджмента |
|---|---|---|
| Масштаб присутствия группы | Холдинговая компания в Великобритании; операции в ЕС, США и Сингапуре; отдельный инвестиционный офис | принять групповые принципы и четыре приложения по юридическим лицам |
| масштабирование | Годовая выручка USD 1.2bn; 4800 сотрудников | установить пороги существенности и отчётности |
| системы | 64 системы с поддержкой AI | назначить владельцев систем, версии и записи зависимостей |
| сценарии использования | Выявлено 117 | классифицировать каждый вид использования и удалять дублирующиеся или устаревшие записи |
| ограниченные виды использования | 12 | требовать правовых, импакт-, тестовых и связанных с полномочиями человека контрольных этапов |
| приостановленные виды использования | 6 | локализовать, сохранить доказательства и решить, вывести из эксплуатации, мигрировать или устранить недостатки |
| агентные системы | 2 — связаны с кодом или коммуникациями | ограничивать инструменты, требовать двойного утверждения, регистрировать действия и тестировать механизмы остановки |
Все значения являются допущениями руководства для демонстрации метода; они не являются фактическими данными группы.
У семейного офиса есть отдельная проблема. Аналитики использовали потребительские ассистенты для публичных исследований и подготовки проектов меморандумов. Совет директоров требует утверждённой корпоративной среды, хранения источников, ограничений на конфиденциальные данные, подотчётности за инвестиционные решения и чёткого разделения между результатами работы инструментов и утверждёнными подтверждающими материалами для инвестиционных решений. Инвестиционный комитет сохраняет ответственность за каждое решение.
90-дневная панель показывает, что по 60 из 64 систем полностью назначены ответственные, по всем существенным организациям проверены контакты для инцидентов, шесть приостановленных видов использования закрыты, а по четырём контролируемым системам просрочены подтверждения от поставщиков. Исключения остаются видимыми до их устранения. Пример демонстрирует, как политика превращается в портфель решений, а не остаётся лишь декларацией принципов.
15. Выполнить 100-дневную последовательность внедрения
В дни 1–20 совет директоров назначает руководителя-спонсора и владельца политики, определяет периметр группы, выпускает временное уведомление о допустимом использовании, сохраняет соответствующие доказательства и определяет существенные системы. Руководство создаёт реестры юридических лиц, систем и сценариев использования и назначает контакты для инцидентов.
В дни 21–40 группа классифицирует сценарии использования, выявляет запрещённую и ограниченную деятельность, устанавливает соответствие данных и юридических ролей и локализует срочные исключения. Закупки проверяют существенных поставщиков и встроенные функции. Технологическое подразделение устанавливает утверждённый доступ и первичные средства обнаружения.
В дни 41–60 владельцы завершают оценки воздействия, конфиденциальности, безопасности, интеллектуальной собственности и человеческого контроля для ограниченных видов использования. Технические команды создают приёмочные тесты, права доступа, журналы, мониторинг и механизмы приостановки. Советы директоров юридических лиц рассматривают локальные графики.
В течение дней 61–80 группа проводит пилотное обучение, учения по инцидентам и сбор доказательств контроля. Она проверяет границы агентов и контрольные точки утверждения. Руководство закрывает или эскалирует исключения, обновляет договоры и определяет метрики для совета директоров. Независимые функции контроля проверяют одобрения с высоким воздействием.
В течение дней 81–100 совет директоров принимает политику и графики по юридическим лицам, утверждает существенные остаточные риски и получает первую панель показателей. Внутренний аудит устанавливает план обеспечения уверенности на основе рисков. Реестр становится регулярным управленческим документом с переоценкой по событиям.
16. Внедрите регулярное управление и пересмотр по событиям
Операционный ритм должен соответствовать изменениям. Владельцы систем контролируют производственную среду. Владельцы бизнеса ежемесячно анализируют эффективность, жалобы, ручные переопределения и исключения. Функции контроля не реже раза в квартал проверяют ограниченные использования. Советы директоров получают информацию о существенной подверженности риску, инцидентах и просроченных мерах по устранению в согласованном порядке.
События должны запускать немедленную переоценку. К ним относятся новое использование, модель или поставщик; существенное изменение версии; новая категория данных; расширение на другое юрлицо или юрисдикцию; подключение к инструменту; повышение автономности; существенная жалоба; отказ контроля; инцидент; приобретение; выбытие актива; или изменение регулирования.
При приобретениях требуется раннее выявление. Дью-дилидженс должен выявлять существенные системы AI, права на данные, договоры, инциденты, претензии и пробелы в комплаенсе. Интеграция должна сохранять доказательства и предотвращать неконтролируемое подключение к групповым системам. Выбытия активов требуют разделения данных, передачи лицензий и удаления доступа.
Преемственность также важна. Представитель следующего поколения семьи может поддерживать инновации или войти в совет директоров. Управление должно использовать те же права принятия решений и стандарты доказательств. Политика должна оставаться институциональным активом, который сохраняется при смене руководства, поставщиков и технологий.
Пересмотры по событиям дополняют регулярный надзор; периодичность может быть строже в зависимости от юрлица или использования.
17. Предоставьте совету директоров замкнутую систему показателей
Совет директоров должен отслеживать каждое существенное использование AI до юрлица, системы, владельца, решения, набора данных, уровня риска, полномочий, контроля и актуальных доказательств. Дашборд должен показывать неизвестные системы, ограниченные использования, инциденты, просроченные проверки и меры по устранению.
Таблица 6. Готовая для совета директоров система показателей внедрения управления AI
| Область | Вопрос управления | Подтверждающие документы о принятии |
|---|---|---|
| периметр | включены ли юридические лица, общие системы, поставщики и существенные использования? | сверенные реестры организаций, систем, сценариев использования и зависимостей |
| классификация | классифицируется ли каждый сценарий использования по влиянию, автономности, данным и обратимости? | утверждённое обоснование, правовая карта и решение об эскалации |
| права на принятие решений | могут ли ответственные лица одобрять, отклонять, переопределять, приостанавливать и обжаловать? | матрица полномочий, пользовательский дизайн, обучение и проверенные механизмы вмешательства |
| данные и интеллектуальная собственность | контролируются ли цель, права, конфиденциальность, хранение и передача? | карта данных, оценка воздействия, договор, конфигурация и согласование |
| безопасность и агенты | ограничены ли разрешения, а связанные действия наблюдаемы и остановимы? | модель угроз, списки разрешённых, журналы, тесты, ограничения и механизм экстренной остановки |
| поставщики | управляются ли риски модели, данных, изменений, инцидентов, устойчивости и выхода? | дью-дилидженс, договор, мониторинг и план концентрации |
| инциденты | может ли группа локализовать инцидент, сохранить доказательства, оценить ситуацию, уведомить и устранить последствия? | отработанный план, контакты, процедура работы с доказательствами и критерий возобновления работы |
| надзор | способствует ли отчётность закрытию вопросов и повторной оценке? | дашборд, исключения, сроки устранения и результаты заверения |
Для принятия каждого существенного исключения требуются актуальные доказательства и назначенный владелец.
В карте показателей следует избегать ложного процента завершения. У группы может быть много зарегистрированных систем, но при этом отсутствовать контроль над немногими из них, которые влияют на людей, деньги, безопасность или репутацию. Совет директоров должен сосредоточиться на существенных исключениях и давности доказательств.
Управление AI становится устойчивым, когда оно связано с инвестициями, закупками, трудовыми отношениями, кибербезопасностью, данными, сделками и операционным управлением. Политика задаёт набор правил. Реестр определяет фактический периметр. Тестирование обеспечивает доказательства. Права на принятие решений обеспечивают подотчётность. Реагирование на инциденты защищает людей и ценность, когда допущения не оправдываются.
Источники
- Организация экономического сотрудничества и развития, Принципы ОЭСР по AI, обновлено в мае 2024 г., https://oecd.ai/en/ai-principles
- Национальный институт стандартов и технологий США, Система управления рисками искусственного интеллекта 1.0, 26 января 2023 г., https://www.nist.gov/itl/ai-risk-management-framework
- Национальный институт стандартов и технологий США, Система управления рисками искусственного интеллекта: профиль генеративного искусственного интеллекта, NIST AI 600-1, 26 июля 2024 г., https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- Европейская комиссия, Ориентирование в Законе AI, включая информацию о поэтапном применении, https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
- Европейская комиссия, Руководящие указания по обязательствам для поставщиков универсальных систем AI, https://digital-strategy.ec.europa.eu/en/faqs/guidelines-obligations-general-purpose-ai-providers
- Европейский совет по защите данных, Заключение 28/2024 об отдельных аспектах защиты данных, связанных с обработкой персональных данных в контексте моделей AI, 18 декабря 2024 г., https://www.edpb.europa.eu/news/edpb-opinion-on-ai-models-gdpr-principles-support-responsible-ai_en
- Управление информационного комиссара Великобритании, Руководство по AI и защите данных: последствия для подотчётности и управления, пересматривается после принятия Закона о данных (использование и доступ) 2025 года, https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/what-are-the-accountability-and-governance-implications-of-ai/
- Департамент науки, инноваций и технологий Соединенного Королевства, «Внедрение регуляторных принципов AI Великобритании: первоначальное руководство для регуляторов», февраль 2024 г., https://assets.publishing.service.gov.uk/media/65c0b6bd63a23d0013c821a0/implementing_the_uk_ai_regulatory_principles_guidance_for_regulators.pdf
- Управление по развитию инфокоммуникационных медиа Сингапура и Комиссия по защите персональных данных, «Типовая система управления искусственным интеллектом», второе издание, https://www.imda.gov.sg/-/media/imda/files/infocomm-media-landscape/sg-digital/tech-pillars/artificial-intelligence/second-edition-of-the-model-ai-governance-framework.pdf
- Управление по развитию инфокоммуникационных медиа Сингапура, «Типовая система управления AI для генеративного AI», май 2024 г., https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2024/singapore-launches-model-ai-governance-framework-for-generative-ai
- Управление по развитию инфокоммуникационных медиа Сингапура, «Типовая система управления AI для агентного AI», версия 1.0, 22 января 2026 г., https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf
- Национальный институт стандартов и технологий США, «Практическое руководство и ресурсы по системе управления рисками AI», https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-resources
Об авторе
Ченнакешав Адья — независимый исследователь и управляющий партнёр Matchpoint Partners. В его работе анализируются стратегия, формирование капитала, оценка, сделки и операционное исполнение на частных и публичных рынках.
