В рамках новой инициативы AI Transparency Initiative корпорация Microsoft сотрудничает с более чем 40 организациями, включая Accenture, Adobe, KPMG, Mastercard и Volvo Cars, для продвижения общего подхода к прозрачности, безопасности и управлению разных ИИ-моделей от разных поставщиков. Microsoft также более наглядно покажет, как модели и агенты ИИ взаимодействуют с корпоративными данными на примере своих продуктов и услуг
РЕДМОНД, шт. Вашингтон, 19 ноября 2026 г. /PRNewswire/ -- Организации могут наблюдать большую активность вокруг ИИ-моделей, но они зачастую не могут понять, что происходит между отправкой запроса и получением результата, что затрудняет независимую проверку поведения модели. На конференции Microsoft Ignite во вторник председатель совета директоров и генеральный директор Microsoft Сатья Наделла (Satya Nadella) объявил о следующем этапе намерения Microsoft сделать ИИ более безопасным: инициатива AI Transparency Initiative — это совместные усилия с клиентами и партнерами по созданию общего, открытого подхода к безопасности и управлению для разных моделей от разных поставщиков. Данная инициатива отражает простой принцип — бо́льшая автономия ИИ требует большей прозрачности.
«Чтобы средства контроля безопасности были эффективными, каждая организация нуждается в большей прозрачности самой модели», — сказала Хайете Галлот (Hayete Gallot), исполнительный вице-президент Microsoft Security. «Благодаря этой работе мы привнесем больше прозрачности во все модели. Это очень важный шаг для более разумного и сильного сдерживания, что позволит нам более эффективно обеспечивать подотчетность и отслеживаемость».
Компании подключают ИИ-модели к данным, инструментам, учетной информации и инфраструктуре, позволяя агентам предпринимать действия без одобрения человека на каждом этапе. Существующие средства управления могут наблюдать большую активность вокруг моделей ИИ, но они не могут видеть, что происходит внутри них, или самостоятельно проверять их учетные записи о собственной работе. Это ограничивает способность организаций понимать контекст, стоящий за действиями агента. Этот пробел в доказательствах создает угрозу для безопасности, комплаенса, аудита и подотчетности. Службам безопасности нужна новая архитектура доверия для решения растущих инсайдерских рисков, создаваемых все более умелыми ИИ-агентами.
«По мере того, как ИИ-агенты все глубже интегрируются в корпоративные процессы, службам безопасности необходимо четко понимать, к каким данным обращаются эти агенты, какие действия они предпринимают, и как эти действия можно проверить», — сказал Аанчал Гупта (Aanchal Gupta), директор по безопасности Adobe. «Создание общего подхода к прозрачности ИИ в отрасли имеет важное значение для укрепления доверия и поможет организациям с уверенностью внедрять инновации при сохранении безопасности и отслеживаемости».
От принципов к практике
Данная инициатива состоит из трех частей. Во-первых, Microsoft расширит свое участие в программе SI Agent Standards Initiative Национального института стандартов и технологий (National Institute of Standards and Technology) и будет использовать свои исследования для разработки открытых отраслевых стандартов прозрачности, безопасности и управления ИИ. Во-вторых, Microsoft сотрудничает с более чем 40 организациями, включая Accenture, Adobe, KPMG, Mastercard и Volvo Cars, чтобы помочь разработать открытые стандарты для систем ИИ, которые являются транспарентными, независимо проверяемыми и безопасными в части дизайна, независимо от модели или поставщика.
В-третьих, Microsoft включит эту работу в Microsoft AI, Microsoft Foundry и Microsoft Copilot, что позволит клиентам использовать полученные доказательства вместе со своими инструментами безопасности и комплаенса от Microsoft или других поставщиков.
«Наши клиенты хотят двигаться быстрее с ИИ, и им не нужно выбирать между инновациями и безопасностью», — сказал Джон Исраэль (John Israel), директор по глобальной информационной безопасности KPMG International. «Доверие к ИИ требует прозрачности, объяснимости и ответственного контроля. Мы гордимся тем, что сотрудничаем с Microsoft в рамках инициативы AI Transparency Initiative, чтобы помочь установить открытые отраслевые стандарты, которые обеспечивают организациям транспарентность и контроль, необходимые для ответственного и масштабного развертывания ИИ».
Понятная ответственность
Агенты, имеющие доступ к данным, инструментам и учетной информации, имеют профиль риска привилегированного инсайдера, но работают со скоростью и масштабом машины, что делает независимый надзор необходимым.
Ответственность лежит на компании. Если происходит что-то, имеющее значимые последствия, руководители организации несут ответственность перед клиентами, сотрудниками, советами директоров, аудиторами и регулирующими органами. Обвинять ИИ — это не ответ, а «доверять модели» — это не контроль.
Данная инициатива предназначена для работы с моделями и поставщиками, включая закрытые и открытые модели, поэтому команды разработчиков могут изменять или обновлять свои модели, обеспечивающие работу агентов, не ставя под угрозу способность ИТ-служб и служб безопасности надежно управлять ими или способность служб комплаенса проводить аудит их действий.
«По мере того, как организации делают следующий шаг в своем переосмыслении ИИ, им нужен прочный фундамент для доверия и уверенности», — сказал Харприт Сидху (Harpreet Sidhu), руководитель отдела глобальной кибербезопасности Accenture. «Подобные инициативы Microsoft по открытому, ориентированному на отрасль подходу к прозрачности ИИ, могут помочь, поскольку мы защищаем ИИ-модели и внедряем механизмя контроля и управления ими. Accenture гордится тем, что сотрудничает с Microsoft и другими лидерами в этой области».
Видеть, проверять, контролировать
Корпорация Майкрософт считает, что каждая организация должна иметь возможность видеть, к каким данным ИИ-системы обращаются и что с ними делают, независимо проверять их действия и контролировать то, что им позволено делать.
- Видеть: Знать, какой был запрос к ИИ, что ему было разрешено делать, какая модель и время выполнения были использованы, к каким данным и инструментам он обращался, и какие действия он предпринял. Постоянно отслеживайте активность агента и сигналы риска в отношении политик и пороговых значений.
- Проверять: Агенты не могут быть единственным источником правды о своем собственном поведении, и передовые модели ИИ не могут самостоятельно себя контролировать. Доказательства, включающие идентификацию агента, делегированное намерение и действия, должны идентифицировать его источник (модель, время выполнения или независимые системы, такие как идентификация и политика), поэтому сигналы, сообщаемые моделью, могут быть проверены по независимым записям. Организации должны иметь возможность самостоятельно проверять деятельность ИИ, используя свои собственные системы безопасности и комплаенса, не полагаясь исключительно на мнение поставщика о поведении модели.
- Контролировать: Несите ответственность за то, что ИИ разрешено делать. Четкие доказательства цели каждого рабочего процесса, ответственного лица, данных и делегированных полномочий помогают организациям обеспечить соблюдение своих политик до того, как произойдут последующие действия, и реконструировать произошедшее в ходе расследований, локализации, восстановления и аудита. Эти доказательства должны сохраняться, когда модели и поставщики меняются. Организации должны сохранять контроль над тем, к каким данным их агенты могут получить доступ, и как этот доступ регулируется, независимо от модели или поставщика.
Принять участие
Организации, заинтересованные в том, чтобы помочь разработать данную программу или следить за ходом ее реализации, могут узнать больше и пройти регистрацию на сайте aka.ms/learnmoreAItransparency.
Следите за новостями от Microsoft Ignite, где корпорация Microsoft и лидеры отрасли будут делиться идеями о том, как организации могут уверенно управлять моделями и агентами ИИ. Дополнительная информация доступна в блоге Microsoft Security blog.

Share this article