V rámci novej iniciatívy za transparentnosť umelej inteligencie Microsoft spolupracuje s viac ako 40 firmami vrátane spoločností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, aby presadili jednotný prístup k transparentnosti, bezpečnosti a správe umelej inteligencie pre rôzne modely a poskytovateľov. Spoločnosť Microsoft zároveň prinesie väčšiu transparentnosť do spôsobu, akým modely a agenti umelej inteligencie interagujú s firemnými údajmi v rámci jej produktov a služieb.
REDMOND, Washington, 19. novembra 2026 /PRNewswire/ -- Firmy síce dokážu sledovať veľkú časť diania okolo modelov umelej inteligencie, ale často nedokážu zrekonštruovať, čo sa stalo medzi zadaním požiadavky a výsledkom, čo sťažuje nezávislé overenie správania modelu. V utorok na konferencii Microsoft Ignite oznámil predseda predstavenstva a generálny riaditeľ spoločnosti Microsoft Satya Nadella ďalšiu fázu úsilia spoločnosti Microsoft o zvýšenie bezpečnosť umelej inteligencie: iniciatíva za transparentnosť umelej inteligencie, spoločné úsilie so zákazníkmi a partnermi o vytvorenie jednotného a otvoreného prístupu k bezpečnosti a správe pre rôzne modely a poskytovateľov. Iniciatíva odráža jednoduchý princíp: väčšia autonómia umelej inteligencie si vyžaduje väčšiu transparentnosť.
„Aby boli bezpečnostné kontroly efektívne, každá firma potrebuje väčšiu transparentnosť samotného modelu," povedala Hayete Gallotová, výkonná viceprezidentka divízie Microsoft Security. „Vďaka tejto práci prinesieme väčšiu transparentnosť do všetkých modelov. Ide o kľúčový krok k inteligentnejšej a silnejšej ochrane pred hrozbami, čo nám umožní presnejšie určiť zodpovednosť a zabezpečiť lepšiu vysledovateľnosť."
Podniky prepájajú modely umelej inteligencie s dátami, nástrojmi, prístupovými údajmi a infraštruktúrou, čo umožňuje agentom konať bez ľudského súhlasu v každom jednotlivom kroku. Súčasné kontroly dokážu sledovať veľkú časť diania okolo modelov umelej inteligencie, ale nedokážu zistiť, čo sa v nich deje, ani nezávisle overiť ich vlastné hlásenia o tom, ako sa správali. To obmedzuje schopnosť organizácií pochopiť kontext konania agenta. Táto medzera v dôkazoch vytvára riziká v oblasti bezpečnosti, dodržiavania predpisov, auditu a zodpovednosti. Bezpečnostné tímy potrebujú novú architektúru dôvery, aby sa vysporiadali s rastúcimi vnútornými rizikami, ktoré predstavujú čoraz schopnejší agenti umelej inteligencie.
„Keďže sa agenti umelej inteligencie čoraz viac integrujú do firemných procesov, bezpečnostné tímy potrebujú jasný prehľad o tom, k čomu majú títo agenti prístup, aké kroky vykonávajú a ako je možné tieto kroky overiť," povedal Aanchal Gupta, riaditeľ pre bezpečnosť spoločnosti Adobe. „Vytvorenie jednotného prístupu k transparentnosti umelej inteligencie v celom odvetví je nevyhnutné na posilnenie dôvery a pomoc firmám, aby dokázali inovovať s istotou a zároveň zachovali bezpečnosť a zodpovednosť."
Od princípov k praxi
Iniciatíva má tri časti. Po prvé, spoločnosť Microsoft rozšíri svoju účasť v iniciatíve pre štandardy agentov umelej inteligencie amerického Národného inštitútu pre štandardy a technológie a využije svoj výskum na vývoj otvorených, celoodvetvových štandardov pre transparentnosť, bezpečnosť a správu umelej inteligencie. Po druhé, spoločnosť Microsoft spolupracuje s viac ako 40 firmami vrátane spoločností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, aby pomohla s vývojom otvorených štandardov pre systémy umelej inteligencie, ktoré sú zodpovedné, nezávisle overiteľné a bezpečné už od návrhu, bez ohľadu na model alebo poskytovateľa.
Po tretie, spoločnosť Microsoft začlení túto prácu do systémov Microsoft AI, Microsoft Foundry a Microsoft Copilot, čo zákazníkom umožní využívať získané dôkazy v ich nástrojoch na zabezpečenie a dodržiavanie súladu, či už od spoločnosti Microsoft alebo od iných poskytovateľov.
„Naši klienti chcú vďaka umelej inteligencii postupovať rýchlejšie a nemali by si musieť vyberať medzi inováciou a bezpečnosťou," povedal John Israel, globálny riaditeľ pre informačnú bezpečnosť v spoločnosti KPMG International. „Dôvera v umelú inteligenciu si vyžaduje transparentnosť, vysvetliteľnosť a zodpovedný dohľad. Sme hrdí na to, že spolupracujeme so spoločnosťou Microsoft na iniciatíve za transparentnosť umelej inteligencie (AI Transparency Initiative), ktorá pomáha zaviesť otvorené štandardy v celom odvetví, ktoré firmám poskytnú prehľad a kontrolu potrebnú na zodpovedné nasadenie umelej inteligencie vo veľkom rozsahu."
Jasná zodpovednosť
Agenti s prístupom k údajom, nástrojom a prístupovým údajom predstavujú rovnaké riziko ako privilegovaní interní používatelia, ale fungujú rýchlosťou a v rozsahu stroja, preto je nezávislý dohľad nevyhnutný.
Zodpovednosť zostáva na organizácii. Keď sa stane niečo závažné, lídri sa musia zodpovedať zákazníkom, zamestnancom, správnym radám, audítorom aj regulačným orgánom. Obviňovať umelú inteligenciu nie je odpoveďou a „dôverovať modelu" nie je kontrolným opatrením.
Iniciatíva je navrhnutá tak, aby fungovala v rámci modelov a poskytovateľov vrátane uzavretých a otvorených modelov, takže vývojárske tímy môžu meniť alebo aktualizovať modely, ktoré poháňajú ich agentov, bez toho, aby obmedzili schopnosť IT a bezpečnostných tímov bezpečne ich spravovať alebo schopnosť tímov pre dodržiavanie súladu kontrolovať ich konanie.
„V čase, keď firmy podstupujú ďalší krok pri pretváraní svojho fungovania pomocou umelej inteligencie, potrebujú pevný základ dôvery, na ktorom môžu stavať," povedal Harpreet Sidhu, globálny líder pre kybernetickú bezpečnosť spoločnosti Accenture. „Iniciatívy ako táto od spoločnosti Microsoft, ktoré uplatňujú otvorený, odvetvím vedený prístup k transparentnosti umelej inteligencie, nám môžu pomôcť pri zabezpečovaní modelov umelej inteligencie a doplniť ich o kontrolné mechanizmy a správu. Spoločnosť Accenture je hrdá na spoluprácu so spoločnosťou Microsoft a ďalšími lídrami v tejto oblasti."
Vidieť, overiť, kontrolovať
Spoločnosť Microsoft verí, že každá firma by mala mať možnosť vidieť, k čomu majú systémy umelej inteligencie prístup a čo robia, nezávisle overovať ich konanie a kontrolovať, čo im je dovolené robiť.
- Vidieť: Vedieť, akú úlohu umelá inteligencie dostala a čo mala povolené urobiť, aký model a aké prostredie runtime boli použité, k akým údajom a nástrojom mala prístup a aké kroky vykonala. Nepretržite monitorovať aktivitu agentov a rizikové signály v porovnaní s politikami a prahovými hodnotami.
- Overiť: Agenti nemôžu byť jediným zdrojom informácií o svojom vlastnom správaní a ani na najvyspelejšie modely sa nemožno spoliehať, že sa budú riadiť samy seba. Dôkazy týkajúce sa identity agenta, delegovaného zámeru a vykonaných činností by mali identifikovať ich zdroj (model, prostredie runtime okolo neho alebo nezávislé systémy, ako napríklad identita a politika), aby bolo možné signály hlásené modelom porovnať s nezávisle zachyteným záznamom. Organizácie by mali byť schopné nezávisle overovať aktivitu umelej inteligencie pomocou vlastných systémov pre bezpečnosť a dodržiavanie súladu bez toho, aby sa spoliehali výlučne na opis správania poskytovateľa modelu.
- Kontrolovať: Majte kontrolu nad tým, čo má umelá inteligencia dovolené robiť. Jasné dôkazy o účele, vlastníkovi, údajoch a delegovaných oprávneniach každého pracovného postupu pomáhajú firmám presadzovať ich politiky skôr, ako dôjde k závažným krokom, a rekonštruovať priebeh udalosti počas vyšetrovaní, obmedzenia hrozieb, obnovy a auditov. Tieto dôkazy by im mali zostať k dispozícii, aj po zmene modelov či poskytovateľov. Firmy si majú udržať kontrolu nad tým, ku ktorým údajom majú ich agenti prístup a ako je tento prístup riadený, bez ohľadu na model alebo poskytovateľa.
Zapojte sa
Firmy, ktoré majú záujem podieľať sa na formovaní tejto iniciatívy alebo sledovať jej priebeh, sa môžu dozvedieť viac a zaregistrovať na stránke aka.ms/learnmoreAItransparency.
Sledujte novinky z konferencie Microsoft Ignite, kde sa spoločnosť Microsoft a lídri v tomto odvetví podelia o svoje poznatky o tom, ako môžu firmy s istotou spravovať modely a agentov umelej inteligencie. Viac informácií nájdete na blogu divízie Microsoft Security.

Share this article