Trace Id is missing
Přeskočit na hlavní obsah
Security Insider

Inovace pro zabezpečení a odolnost

Vzhledem k tomu, že v odvětví kybernetické bezpečnosti dochází ke změně paradigmatu, nabízí umělá inteligence potenciál pro zvýšení odolnosti a posílení dovedností, rychlosti a znalostí specialistů na zabezpečení.

Počítačový programátor pracující dlouho do noci v kanceláři
„I když lidský důvtip a odborné znalosti budou vždy cennou a nenahraditelnou součástí ochrany před kybernetickými hrozbami, technologie má potenciál rozšířit tyto jedinečné schopnosti o dovednosti, rychlost zpracování a rychlé učení moderní umělé inteligence.“ 
 
 - Bret Arsenault, ředitel informační bezpečnosti společnosti Microsoft 

Reagování na hrozby pomocí průlomových inovací

Ve stále složitějším kybernetickém ekosystému má umělá inteligence (AI) potenciál změnit bezpečnostní prostředí díky zlepšení dovedností, zvýšení rychlosti a posílení znalostí specialistů na zabezpečení.   

Umělá inteligence může také přinášet nové možnosti, jako je využívání rozsáhlých jazykových modelů (LLM) pro generování přehledů a doporučení v přirozeném jazyce ze složitých dat, a nabízet analytikům možnost učit se z nových příležitostí. 

Ve zprávě Microsoft Digital Defense Report 2023 se zabýváme některými průlomovými objevy v oblasti umělé inteligence, které transformují kybernetickou bezpečnost, riziky spojenými s umělou inteligencí a modely LLM a tím, jak můžeme zajistit jejich využití k vytvoření bezpečnější a odolnější digitální budoucnosti.  

Dekorativní obrázek: Abstraktní design se světelnými pramínky v modré a zelené barvě

Jak můžeme využít modely LLM k obraně před kybernetickými hrozbami?

Modely LLM mají potenciál výrazně vylepšit obranu před kybernetickými hrozbami. Výzkumníci a vědečtí pracovníci společnosti Microsoft z oblasti aplikované vědy zkoumají tyto a další scénáře a experimentují s nimi:
  • Analýza hrozeb

    Modely LLM mohou pomáhat specialistům na zabezpečení shromažďovat a analyzovat data a díky tomu odhalovat vzorce a trendy kybernetických hrozeb. Mohou také informace o hrozbách doplnit o kontext pomocí informací z různých zdrojů a provádět technické úkoly, jako je zpětná analýza a analýza malwaru. 

  • Reakce na bezpečnostní incidenty a následné obnovení

    Modely LLM mohou pomáhat specialistům na zabezpečení v podpoře a automatizaci reakce na bezpečnostní incidenty a obnovy, včetně určení priorit, potlačování a eliminování incidentů, jejich analýzy a následné obnovy. Mohou vytvářet souhrny incidentů a skripty pro automatizaci reakce, koordinovat týmy a také dokumentovat podrobnosti o incidentech a opatřeních a informovat o nich. Modely LLM nám také mohou pomoci vyvodit z incidentů závěry a přinášet návrhy na zlepšení v oblasti prevence a zmírňování následků. 

  • Monitorování zabezpečení a detekce

    Modely LLM mohou monitorovat a zjišťovat bezpečnostní události a incidenty v sítích, systémech, aplikacích a datech. Mohou analyzovat data, generovat prioritizovaná upozornění a poskytovat kontextové informace pro potřeby prošetřování a reakce. Modely LLM mohou také analyzovat stav zabezpečení multicloudových prostředí, vytvářet komplexní mapy prostředků, odhadovat potenciální dopady a nabízet návrhy na zmírnění rizik. Mohou být užitečné pro odhalování phishingu tím, že analyzují obsah e-mailů a identifikují textové vzorce, anomálie a podezřelé jazykové výrazy signalizující pokusy o phishing. 

  • Testování a ověřování zabezpečení

    Modely LLM mohou automatizovat a vylepšit testování a ověřování zabezpečení, včetně penetračního testování, kontroly ohrožení zabezpečení, analýzy kódu a auditování konfigurace. Generují a provádějí testovací případy, vyhodnocují a hlásí výsledky a nabízejí návrhy nápravy. Modely LLM můžou vytvářet vlastní aplikace a nástroje pro konkrétní scénáře, automatizovat opakující se úlohy a zpracovávat občasné nebo ad hoc úlohy, které vyžadují ruční zásah. 

  • Zvyšování povědomí o zabezpečení a vzdělávání

    Modely LLM můžou pomáhat specialistům na zabezpečení vytvářet poutavý a přizpůsobený obsah a scénáře pro zvyšování povědomí o zabezpečení a vzdělávání. Mohou posoudit úroveň znalostí a dovedností cílové skupiny v oblasti zabezpečení, poskytnout zpětnou vazbu a pokyny a vytvářet realistická a adaptivní cvičení a simulace zaměřené na kybernetickou bezpečnost pro účely školení a testování. 

  • Zásady správného řízení zabezpečení, rizika a dodržování předpisů

    Modely LLM mohou pomáhat při automatizaci aktivit v oblasti zásad správného řízení z hlediska zabezpečení, řízení rizik a dodržování předpisů, včetně vývoje a vynucování zásad, vyhodnocování a řízení rizik, auditování a zajištění a dodržování předpisů a také vytváření sestav. Mohou sladit aktivity s obchodními cíli a poskytovat metriky zabezpečení a řídicí panely pro měření výkonu. Mohou také identifikovat nedostatky a problémy a nabídnout doporučení pro zlepšení stavu zabezpečení organizace, určení priorit ohrožení zabezpečení a identifikaci návrhů nápravy. 

Žena v brýlích, která drží tablet

Snížení laťky pro používání moderních inovací v oblasti AI

Řešení založená na modelech LLM sice vykazují velký potenciál z hlediska zajišťování kybernetické bezpečnosti, nenahrazují však lidské odborníky na kybernetickou bezpečnost. Při kombinování modelů LLM a kybernetické bezpečnosti je klíčové mít správné odborné znalosti. Jedním z řešení je zvýšit produktivitu spojením dovedností odborníků na umělou inteligenci a odborníků na kybernetickou bezpečnost.  

Využití modulů LLM při operacích v oblasti kybernetické bezpečnosti se naštěstí neomezuje pouze na velké organizace, které mají velké množství prostředků. Tyto modely byly natrénovány na obrovském množství dat, což jim dává z hlediska znalostí v oblasti kybernetické bezpečnosti výhodu. 

Modely LLM vynikají v oblasti syntézy složitých informací a jejich prezentace v jasném a stručném jazyce, což pomáhá analytikům vybrat tu nejlepší analýzu kybernetické bezpečnosti pro konkrétní scénáře. S tím, jak se vyvíjí prostředí hrozeb a rozšiřují se analytické techniky, mohou i zkušení analytici jen těžko držet krok a modely LLM mohou fungovat jako osobní asistenti, kteří navrhují možnosti analýzy a zmírnění rizik.  

Spolupráce na utváření odpovědné umělé inteligence

Programátor počítačového softwaru, který se dívá na dvě obrazovky

Odpovědnost umělé inteligence jako základní princip

Vzhledem k tomu, že technologie umělé inteligence slibuje proměnu společnosti, musíme zajistit, aby odpovědnost byla v budoucnu základním principem umělé inteligence. Odpovědné postupy v oblasti umělé inteligence mají zásadní význam pro zachování důvěry uživatelů, ochranu soukromí a vytváření dlouhodobých přínosů pro společnost.

Dodržování vlastních etických standardů při využívání AI

Abychom si udrželi náskok před nově vznikajícími bezpečnostními hrozbami, musíme jít příkladem a investovat do výzkumu a vývoje. Společnost Microsoft se zavázala zajistit, aby všechny její produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence.

Žena, která přemýšlí na schůzce

10 let aktivních zásad AI

Společnost Microsoft se zavázala zajistit, aby všechny naše produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence. Zároveň spolupracujeme s partnery z oboru na vývoji standardů a technologií, které umožní transparentní a ověřitelné informace o původu a pravosti digitálního obsahu, aby se zvýšila důvěryhodnost online.  

Po celém světě roste zájem o regulační pokyny týkající se odpovědného vývoje a používání umělé inteligence a mnoho zemí připravuje dokumentaci nabízející pokyny pro řízení vznikajících rizik spojených s technologiemi umělé inteligence. Tento trend trvá již více než deset let a stále nabírá na síle.  

An infographic displaying numbers of AI policies by country since 2014, and still active as of July 2023.
Aktivní zásady podle subjektu a roku zavedení. Zdroj: OECD AI Policy Observatory (OECD.AI) a interní sledování společnosti Microsoft pro rok 2023, leden–⁠červen.

Prozkoumejte další kapitoly Microsoft Digital Defense Report.

Úvod

Síla partnerství, důležitá pro posílení obrany a pohnání kyberzločinců k odpovědnosti, je klíčem k překonání nepříznivého stavu.

Stav v oblasti kybernetických trestných činů

Zatímco kyberzločinci pokračují ve svých aktivitách, veřejný a soukromý sektor spojují síly, aby narušily jejich technologie a podpořily oběti kyberkriminality.

Hrozby ze strany státních aktérů

Kybernetické operace na státní úrovni spojují vlády a hráče z technologického průmyslu s cílem vybudovat odolnost proti hrozbám pro online bezpečnost.

Kritické výzvy kyberbezpečnosti

Pohyb v neustále se měnícím prostředí kybernetické bezpečnosti si žádá vybudování komplexní obrany pro odolné organizace, dodavatelské řetězce a infrastrukturu.

Inovace v zájmu bezpečnosti a odolnosti

Moderní umělá inteligence činí obrovský skok vpřed a bude hrát zásadní roli při obraně a zajišťování odolnosti podniků a společnosti.

Kolektivní obrana

S ohledem na neustálý vývoj kybernetických hrozeb platí, že spolupráce rozšiřuje stav vědomostí a zmírňuje dopady napříč globálním bezpečnostním ekosystémem.

Další informace o zabezpečení

Náš závazek k získání důvěry

Microsoft se zavázal k odpovědnému používání umělé inteligence, ochraně soukromí a rozvoji digitální bezpečnosti a kybernetické ochrany.

Kybernetické signály

Čtvrtletní zpravodajství o kybernetických hrozbách založené na nejnovějších datech a výzkumech Microsoftu. Kybernetické signály poskytují analýzu trendů a pokyny, které pomáhají posílit první linii obrany.

Sestavy o národním stavu

Půlroční zprávy o konkrétních národních aktérech, které slouží k varování našich zákazníků a globální komunity před hrozbami, jež představují vlivové operace a kybernetické aktivity, a identifikují konkrétní odvětví a regiony se zvýšeným rizikem.

Microsoft Digital Defense Report archiv

Prozkoumejte předchozí Microsoft Digital Defense Report a zjistěte, jak se za několik krátkých let změnilo prostředí hrozeb a bezpečnost online.

Sledujte zabezpečení od Microsoftu