Microsoft a organizace z různých odvětví spouštějí Iniciativu pro transparentnost umělé inteligence s cílem posílit důvěru podniků v modely a agenty umělé inteligence

Redmond (USA) 18. listopadu 2026 (PROTEXT/PRNewswire) - V rámci nové Iniciativy pro transparentnost umìlé inteligence spolupracuje spoleènost Microsoft s více než 40 organizacemi, vèetnì spoleèností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na prosazování spoleèného pøístupu k transparentnosti, bezpeènosti a správì umìlé inteligence napøíè modely a poskytovateli. Microsoft rovnìž zajistí vìtší pøehlednost ohlednì toho, jak modely a agenti umìlé inteligence vzájemnì komunikují s podnikovými daty v rámci svých produktù a služeb

Organizace mohou sledovat velkou èást aktivit souvisejících s modely umìlé inteligence, èasto však nedokážou rekonstruovat, co se odehrálo mezi zadáním požadavku a výsledkem, což ztìžuje nezávislé ovìøení chování modelu. V úterý na konferenci Microsoft Ignite oznámil pøedseda pøedstavenstva a generální øeditel spoleènosti Microsoft Satya Nadella další fázi závazku spoleènosti Microsoft k zajištìní vìtší bezpeènosti umìlé inteligence: Iniciativu pro transparentnost umìlé inteligence, která pøedstavuje spoleèné úsilí se zákazníky a partnery o zavedení spoleèného, otevøeného pøístupu k bezpeènosti a správì napøíè modely a poskytovateli. Tato iniciativa vychází z jednoduchého principu: vìtší autonomie umìlé inteligence vyžaduje vìtší transparentnost.

„Aby byly bezpeènostní kontroly úèinné, potøebuje každá organizace vìtší transparentnost samotného modelu," uvedla Hayete Gallotová, výkonná viceprezidentka divize Microsoft Security. „Díky této práci zajistíme vìtší transparentnost u všech modelù. Jedná se o zásadní krok k chytøejšímu a silnìjšímu omezení rizik, který nám umožní lépe zajistit odpovìdnost a sledovatelnost."

Podniky propojují modely umìlé inteligence s daty, nástroji, pøihlašovacími údaji a infrastrukturou, což agentùm umožòuje provádìt akce bez lidského schválení v každém kroku. Stávající kontrolní mechanismy mohou sledovat velkou èást aktivity kolem modelù umìlé inteligence, ale nemohou vidìt, co se dìje uvnitø tìchto modelù, ani nezávisle ovìøit jejich vlastní zprávy o chování. To omezuje schopnost organizací porozumìt kontextu, který stojí za akcemi agenta. Tato mezera v dùkazech vytváøí rizika v oblasti bezpeènosti, dodržování pøedpisù, auditu a odpovìdnosti. Bezpeènostní týmy potøebují novou architekturu dùvìry, aby mohly øešit rostoucí rizika ze strany tìch, kdo mají pøístup do systémù, která pøedstavují stále schopnìjší agenti umìlé inteligence.

„Vzhledem k tomu, že se agenti umìlé inteligence stále hloubìji zaèleòují do podnikových operací, potøebují bezpeènostní týmy jasný pøehled o tom, k èemu tito agenti pøistupují, jaké akce provádìjí a jak lze tyto akce ovìøit," uvedla Aanchal Guptová, øeditelka pro bezpeènost ve spoleènosti Adobe. „Vytvoøení spoleèného pøístupu k transparentnosti umìlé inteligence v rámci celého odvìtví je zásadní pro posílení dùvìry a pro to, aby organizace mohly s dùvìrou inovovat pøi zachování bezpeènosti a odpovìdnosti."

Od principù k praxi

Tato iniciativa se skládá ze tøí èástí. Za prvé, Microsoft rozšíøí svou úèast v Iniciativì pro standardy SI agentù Národního institutu pro standardy a technologie (NIST) a na základì jeho výzkumu vyvine otevøené, odvìtvové standardy pro transparentnost, bezpeènost a správu umìlé inteligence. Za druhé, Microsoft spolupracuje s více než 40 organizacemi, vèetnì spoleèností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na vývoji otevøených standardù pro systémy umìlé inteligence, které budou odpovìdné, nezávisle ovìøitelné a bezpeèné již od samého návrhu, bez ohledu na model èi poskytovatele.

Zatøetí, Microsoft zaèlení tuto práci do produktù Microsoft AI, Microsoft Foundry a Microsoft Copilot, což zákazníkùm umožní využívat výsledné podklady ve svých nástrojích pro bezpeènost a dodržování pøedpisù, a� už od spoleènosti Microsoft, nebo od jiných poskytovatelù.

„Naši klienti chtìjí s umìlou inteligencí postupovat rychleji a nemìli by být nuceni volit mezi inovací a bezpeèností," uvedl John Israel, globální øeditel pro informaèní bezpeènost v KPMG International. „Dùvìra v umìlou inteligenci vyžaduje transparentnost, vysvìtlitelnost a odpovìdný dohled. Jsme hrdí na to, že spolupracujeme s Microsoftem na Iniciativì pro transparentnost umìlé inteligence, abychom pomohli zavést otevøené standardy pro celé odvìtví, které organizacím poskytnou pøehled a kontrolu potøebnou k zodpovìdnému nasazení umìlé inteligence ve velkém mìøítku."

Jasná odpovìdnost

Agenti s pøístupem k datùm, nástrojùm a pøihlašovacím údajùm pøedstavují rizikový profil privilegovaného zamìstnance, ale pracují rychlostí a v mìøítku stroje, což èiní nezávislý dohled nezbytným.

Odpovìdnost zùstává na organizaci. Když dojde k nìèemu závažnému, vedoucí pracovníci se zodpovídají zákazníkùm, zamìstnancùm, pøedstavenstvùm, auditorùm a regulaèním orgánùm. Svalovat vinu na umìlou inteligenci není øešením a „dùvìøovat modelu" není kontrolní mechanismus.

Iniciativa je navržena tak, aby fungovala napøíè modely a poskytovateli, vèetnì uzavøených i otevøených modelù, takže vývojáøské týmy mohou mìnit nebo aktualizovat modely, na nichž jejich agenti fungují, aniž by tím ohrozily schopnost IT a bezpeènostních týmù je bezpeènì spravovat nebo schopnost týmù pro dodržování pøedpisù provìøovat jejich èinnosti.

„Jak organizace podnikají další kroky ve své transformaci pomocí AI, potøebují pevný základ dùvìry a jistoty, na kterém mohou stavìt," uvedl Harpreet Sidhu, globální vedoucí pro kyberbezpeènost ve spoleènosti Accenture. „Iniciativy, jako je tato od spoleènosti Microsoft, které zaujímají otevøený, odvìtvím øízený pøístup k transparentnosti AI, mohou pomoci pøi zabezpeèení modelù AI a jejich vybavení kontrolními mechanismy a správou. Accenture je hrdá na to, že v této oblasti spolupracuje s Microsoftem a dalšími vedoucími podniky."

Vidìt, ovìøovat, kontrolovat

Spoleènost Microsoft je pøesvìdèena, že každá organizace by mìla být schopna vidìt, k èemu systémy umìlé inteligence pøistupují a co dìlají, nezávisle ovìøovat jejich èinnosti a kontrolovat, co je jim povoleno dìlat.

  • Sledujte: vìdìt, o co byla umìlá inteligence požádána a k èemu byla oprávnìna, který model a runtime byly použity, k jakým datùm a nástrojùm mìla pøístup a jaké akce provedla. Prùbìžnì sledovat aktivitu agentù a signály rizika ve srovnání se zásadami a prahovými hodnotami.
  • Ovìøujte: agenti nemohou být jediným zdrojem pravdy o svém vlastním chování a nelze se spoléhat na to, že se pokroèilé modely budou øídit samy. Dùkazy týkající se identity agenta, delegovaného zámìru a akcí by mìly identifikovat jejich zdroj (model, pøíslušné bìhové prostøedí nebo nezávislé systémy, jako jsou systémy pro správu identit a zásad), aby bylo možné signály hlášené modelem porovnat s nezávisle pozorovanými záznamy. Organizace by mìly být schopny nezávisle ovìøovat èinnost AI pomocí svých vlastních systémù zabezpeèení a dodržování pøedpisù, aniž by se spoléhaly výhradnì na popis chování poskytovatele modelu.
  • Kontrolujte: mìjte pod kontrolou, co smí AI dìlat. Jasné dùkazy o úèelu, vlastníkovi, datech a delegovaných pravomocích každého pracovního postupu pomáhají organizacím prosazovat jejich zásady ještì pøedtím, než dojde k závažným akcím, a rekonstruovat, co se stalo bìhem vyšetøování, omezení šíøení, obnovy a auditù. Tyto dùkazy by mìly zùstat v jejich držení i pøi zmìnì modelù a poskytovatelù. Organizace by si mìly zachovat kontrolu nad tím, k jakým datùm mají jejich agenti pøístup a jak je tento pøístup øízen, bez ohledu na model nebo poskytovatele.

Zapojte se

Organizace, které mají zájem podílet se na utváøení této iniciativy nebo sledovat její pokrok, se mohou dozvìdìt více a zaregistrovat se na adrese aka.ms/learnmoreAItransparency.

Sledujte novinky z konference Microsoft Ignite, kde Microsoft a pøední pøedstavitelé odvìtví budou sdílet poznatky o tom, jak mohou organizace s dùvìrou spravovat modely umìlé inteligence a agenty. Další informace najdete na blogu Microsoft Security.

Další informace (pouze pro novináøe): Microsoft Media Relations, We. Communications pro Microsoft, (425) 638-7777, rapidresponse@wecommunications.com / Poznámka pro redaktory: Další informace, novinky a názory spoleènosti Microsoft najdete na webu Microsoft Source na adrese https://news.microsoft.com/source. Odkazy na webové stránky, telefonní èísla a názvy funkcí byly v dobì zveøejnìní správné, ale mohly se zmìnit. V pøípadì potøeby mohou novináøi a analytici kontaktovat tým Microsoft Rapid Response Team nebo jiné pøíslušné kontaktní osoby uvedené na stránce https://news.microsoft.com/microsoft-public-relations-contacts.

ÈTK Connect ke zprávì vydává obrazovou pøílohu, která je k dispozici na adrese https://www.protext.cz/zpravy/60110.

内容来自 Metro.cz,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab