W ramach nowej Inicjatywy na rzecz przejrzystości AI Microsoft współpracuje z ponad 40 organizacjami, w tym Accenture, Adobe, KPMG, Mastercard i Volvo Cars, nad wypracowaniem wspólnego podejścia do przejrzystości, bezpieczeństwa i zarządzania AI obejmującego różne modele i dostawców. Microsoft zapewni również większą przejrzystość korzystania z danych przedsiębiorstw w ramach produktów i usług firmy przez modele i agenty AI.
REDMOND (stan Waszyngton), 18 listopada 2026 r. /PRNewswire/ -- Organizacje mogą monitorować znaczną część działań związanych z modelami sztucznej inteligencji, ale często nie są w stanie odtworzyć przebiegu procesu od otrzymania żądania do uzyskania wyniku, co utrudnia niezależną weryfikację działania modeli. We wtorek podczas konferencji Microsoft Ignite Satya Nadella, prezes zarządu i dyrektor generalny Microsoftu, ogłosił kolejny etap działań firmy na rzecz zwiększenia bezpieczeństwa sztucznej inteligencji: Inicjatywę na rzecz przejrzystości AI (AI Transparency Initiative). Jest to wspólne przedsięwzięcie realizowane z klientami i partnerami w celu wypracowania jednolitego, otwartego podejścia do bezpieczeństwa oraz zarządzania modelami AI pochodzącymi od różnych dostawców. U podstaw inicjatywy leży prosta zasada – im większa autonomia sztucznej inteligencji, tym większa potrzeba przejrzystości jej działania.
„Aby mechanizmy bezpieczeństwa były skuteczne, każda organizacja musi mieć lepszy wgląd w działanie samego modelu" – powiedziała Hayete Gallot, wiceprezes wykonawcza ds. bezpieczeństwa w Microsofcie. „Dzięki tym działaniom zwiększymy przejrzystość wszystkich modeli. To niezwykle ważny krok w kierunku inteligentniejszego i skuteczniejszego ograniczania zagrożeń, który pozwoli nam zapewnić lepsze podstawy do ustalania odpowiedzialności i śledzenia działań".
Przedsiębiorstwa łączą modele sztucznej inteligencji z danymi, narzędziami, danymi uwierzytelniającymi i infrastrukturą, umożliwiając agentom podejmowanie działań bez konieczności uzyskiwania zgody człowieka na każdym etapie. Istniejące mechanizmy kontroli pozwalają monitorować znaczną część aktywności związanej z modelami AI, ale nie zapewniają wglądu w procesy zachodzące wewnątrz tych modeli ani możliwości niezależnego zweryfikowania informacji, które modele podają na temat własnego działania. Ogranicza to zdolność organizacji do zrozumienia kontekstu działań podejmowanych przez agentów. Brak wystarczających danych umożliwiających ich weryfikację stwarza zagrożenia w obszarze bezpieczeństwa, zgodności z wymogami, audytu i odpowiedzialności. Zespoły ds. bezpieczeństwa potrzebują nowej architektury zaufania, aby przeciwdziałać rosnącym zagrożeniom wewnętrznym związanym z coraz bardziej zaawansowanymi agentami AI.
„W miarę jak agenty AI w coraz większym stopniu stają się nieodłącznym elementem działalności przedsiębiorstw, zespoły ds. bezpieczeństwa potrzebują wyraźnego wglądu w to, do jakich zasobów uzyskują oni dostęp, jakie działania podejmują i w jaki sposób można te działania weryfikować" – powiedziała Aanchal Gupta, dyrektorka ds. bezpieczeństwa w Adobe. „Wypracowanie wspólnego dla całej branży podejścia do przejrzystości AI ma zasadnicze znaczenie dla wzmacniania zaufania i umożliwiania organizacjom pewnego wdrażania innowacji przy jednoczesnym zachowaniu bezpieczeństwa i odpowiedzialności".
Od zasad do praktyki
Inicjatywa obejmuje trzy obszary działań. Po pierwsze, Microsoft rozszerzy swój udział w Inicjatywie na rzecz standardów dla agentów superinteligencji (SI Agent Standards Initiative), prowadzonej przez amerykański Narodowy Instytut Standaryzacji i Technologii (NIST), oraz wykorzysta własne badania do opracowania otwartych, ogólnobranżowych standardów dotyczących przejrzystości, bezpieczeństwa i zarządzania AI. Po drugie, Microsoft współpracuje z ponad 40 organizacjami, w tym Accenture, Adobe, KPMG, Mastercard i Volvo Cars, nad opracowaniem otwartych standardów dla systemów AI, które zapewnią możliwość przypisania odpowiedzialności za ich działanie, niezależnej weryfikacji oraz bezpieczeństwo uwzględnione już na etapie projektowania, niezależnie od wykorzystywanego modelu czy jego dostawcy.
Po trzecie, Microsoft wdroży rezultaty tych prac w Microsoft AI, Microsoft Foundry i Microsoft Copilot, umożliwiając klientom wykorzystywanie uzyskanych w ten sposób materiałów umożliwiających weryfikację działań w narzędziach do zapewniania bezpieczeństwa i zgodności z wymogami, pochodzących zarówno od Microsoftu, jak i od innych dostawców.
„Nasi klienci chcą szybciej wdrażać sztuczną inteligencję i nie powinni być zmuszeni do wyboru między innowacyjnością a bezpieczeństwem" – powiedział John Israel, globalny dyrektor ds. bezpieczeństwa informacji w KPMG International. „Zaufanie do AI wymaga przejrzystości, możliwości wyjaśnienia jej działania oraz odpowiedzialnego nadzoru. Cieszymy się ze współpracy z Microsoftem w ramach Inicjatywy na rzecz przejrzystości AI, której celem jest wypracowanie otwartych, ogólnobranżowych standardów zapewniających organizacjom wgląd i kontrolę niezbędne do odpowiedzialnego wdrażania sztucznej inteligencji na dużą skalę".
Jasno określona odpowiedzialność
Agenty mające dostęp do danych, narzędzi i danych uwierzytelniających stwarzają zagrożenia podobne do tych, jakie wiążą się z działaniami osób wewnątrz organizacji dysponujących podwyższonymi uprawnieniami. Działają jednak z szybkością i na skalę charakterystyczną dla systemów informatycznych, co sprawia, że niezależny nadzór nad nimi jest niezbędny.
Odpowiedzialność pozostaje po stronie organizacji. Gdy dochodzi do zdarzenia o istotnych konsekwencjach, osoby kierujące organizacją odpowiadają przed klientami, pracownikami, radami dyrektorów, audytorami i organami regulacyjnymi. Zrzucanie winy na sztuczną inteligencję nie jest rozwiązaniem, a stwierdzenie „zaufaj modelowi" nie stanowi mechanizmu kontroli.
Inicjatywa została opracowana z myślą o współpracy z modelami pochodzącymi od różnych dostawców, w tym modelami zamkniętymi oraz modelami z publicznie dostępnymi wagami. Dzięki temu zespoły programistyczne mogą zmieniać lub aktualizować modele wykorzystywane przez swoich agentów bez ograniczania możliwości bezpiecznego nadzorowania ich przez zespoły IT i bezpieczeństwa ani możliwości kontrolowania ich działań przez zespoły ds. zgodności z wymogami.
„W miarę jak organizacje wkraczają w kolejny etap transformacji z wykorzystaniem sztucznej inteligencji, potrzebują solidnych fundamentów opartych na zaufaniu i poczuciu bezpieczeństwa" – powiedział Harpreet Sidhu, globalny lider ds. cyberbezpieczeństwa w Accenture. „Inicjatywy takie jak ta, podjęta przez Microsoft w celu wypracowania otwartego, kształtowanego przez branżę podejścia do przejrzystości AI, mogą pomóc w zabezpieczaniu modeli sztucznej inteligencji oraz obejmowaniu ich odpowiednimi mechanizmami kontroli i nadzoru. Accenture z dumą współpracuje w tym zakresie z Microsoftem i innymi liderami branży".
Obserwacja, weryfikacja, kontrola
Microsoft uważa, że każda organizacja powinna mieć możliwość sprawdzenia, do jakich zasobów uzyskują dostęp systemy sztucznej inteligencji i jakie działania podejmują, niezależnego weryfikowania tych działań oraz kontrolowania zakresu ich uprawnień.
- Obserwacja: Uzyskuj informacje o tym, jakie zadania powierzono sztucznej inteligencji i do jakich działań ją upoważniono, jaki model i środowisko wykonawcze zostały wykorzystane, do jakich danych i narzędzi uzyskała dostęp oraz jakie działania podjęła. Nieustannie monitoruj aktywność agentów i sygnały wskazujące na ryzyko, porównując je z obowiązującymi zasadami i wartościami progowymi.
- Weryfikacja: Agenty nie mogą być jedynym źródłem wiarygodnych informacji o własnym działaniu, a najbardziej zaawansowanym modelom AI nie można powierzać samodzielnego nadzorowania własnych działań. Materiały dokumentujące tożsamość agenta, cel delegowanego mu zadania oraz podjęte działania powinny wskazywać źródło pochodzenia informacji (sam model, otaczające go środowisko wykonawcze lub niezależne systemy, takie jak systemy zarządzania tożsamością i zasadami). Pozwoli to porównywać sygnały zgłaszane przez model z niezależnie zarejestrowanymi danymi. Organizacje powinny mieć możliwość niezależnego weryfikowania działań AI przy użyciu własnych systemów bezpieczeństwa i zapewniania zgodności z wymogami, bez konieczności polegania wyłącznie na informacjach dostawcy modelu o jego działaniu.
- Kontrola: Zachowaj kontrolę nad tym, do jakich działań uprawniona jest sztuczna inteligencja. Jednoznaczne informacje potwierdzające cel każdego procesu, podmiot za niego odpowiedzialny, wykorzystywane dane oraz zakres delegowanych uprawnień pomagają organizacjom egzekwować obowiązujące zasady, zanim dojdzie do działań mogących mieć istotne konsekwencje, a także odtwarzać przebieg zdarzeń podczas dochodzeń, ograniczania skutków incydentów, przywracania prawidłowego działania systemów i audytów. Informacje te powinny pozostawać w dyspozycji organizacji również w przypadku zmiany modeli lub ich dostawców. Organizacje powinny zachowywać kontrolę nad tym, do jakich danych mogą uzyskiwać dostęp ich agenty i na jakich zasadach ten dostęp jest regulowany, niezależnie od modelu czy dostawcy.
Dołącz do inicjatywy
Organizacje zainteresowane współtworzeniem inicjatywy lub śledzeniem postępów jej realizacji mogą uzyskać więcej informacji i zarejestrować się na stronie aka.ms/learnmoreAItransparency.
Śledź wiadomości z konferencji Microsoft Ignite, podczas której Microsoft i liderzy branży podzielą się wiedzą na temat metod zarządzania modelami i agentami AI, zapewniających organizacjom poczucie bezpieczeństwa i pewności. Więcej informacji można znaleźć na blogu Microsoft Security.

Share this article