Inovace pro zabezpečení a odolnost
Vzhledem k tomu, že v odvětví kybernetické bezpečnosti dochází ke změně paradigmatu, nabízí umělá inteligence potenciál pro zvýšení odolnosti a posílení dovedností, rychlosti a znalostí specialistů na zabezpečení.
Reagování na hrozby pomocí průlomových inovací
Ve stále složitějším kybernetickém ekosystému má umělá inteligence (AI) potenciál změnit bezpečnostní prostředí díky zlepšení dovedností, zvýšení rychlosti a posílení znalostí specialistů na zabezpečení.
Umělá inteligence může také přinášet nové možnosti, jako je využívání rozsáhlých jazykových modelů (LLM) pro generování přehledů a doporučení v přirozeném jazyce ze složitých dat, a nabízet analytikům možnost učit se z nových příležitostí.
Ve zprávě Microsoft Digital Defense Report 2023 se zabýváme některými průlomovými objevy v oblasti umělé inteligence, které transformují kybernetickou bezpečnost, riziky spojenými s umělou inteligencí a modely LLM a tím, jak můžeme zajistit jejich využití k vytvoření bezpečnější a odolnější digitální budoucnosti.
Jak můžeme využít modely LLM k obraně před kybernetickými hrozbami?
-
Analýza hrozeb
Modely LLM mohou pomáhat specialistům na zabezpečení shromažďovat a analyzovat data a díky tomu odhalovat vzorce a trendy kybernetických hrozeb. Mohou také informace o hrozbách doplnit o kontext pomocí informací z různých zdrojů a provádět technické úkoly, jako je zpětná analýza a analýza malwaru.
-
Reakce na bezpečnostní incidenty a následné obnovení
Modely LLM mohou pomáhat specialistům na zabezpečení v podpoře a automatizaci reakce na bezpečnostní incidenty a obnovy, včetně určení priorit, potlačování a eliminování incidentů, jejich analýzy a následné obnovy. Mohou vytvářet souhrny incidentů a skripty pro automatizaci reakce, koordinovat týmy a také dokumentovat podrobnosti o incidentech a opatřeních a informovat o nich. Modely LLM nám také mohou pomoci vyvodit z incidentů závěry a přinášet návrhy na zlepšení v oblasti prevence a zmírňování následků.
-
Monitorování zabezpečení a detekce
Modely LLM mohou monitorovat a zjišťovat bezpečnostní události a incidenty v sítích, systémech, aplikacích a datech. Mohou analyzovat data, generovat prioritizovaná upozornění a poskytovat kontextové informace pro potřeby prošetřování a reakce. Modely LLM mohou také analyzovat stav zabezpečení multicloudových prostředí, vytvářet komplexní mapy prostředků, odhadovat potenciální dopady a nabízet návrhy na zmírnění rizik. Mohou být užitečné pro odhalování phishingu tím, že analyzují obsah e-mailů a identifikují textové vzorce, anomálie a podezřelé jazykové výrazy signalizující pokusy o phishing.
-
Testování a ověřování zabezpečení
Modely LLM mohou automatizovat a vylepšit testování a ověřování zabezpečení, včetně penetračního testování, kontroly ohrožení zabezpečení, analýzy kódu a auditování konfigurace. Generují a provádějí testovací případy, vyhodnocují a hlásí výsledky a nabízejí návrhy nápravy. Modely LLM můžou vytvářet vlastní aplikace a nástroje pro konkrétní scénáře, automatizovat opakující se úlohy a zpracovávat občasné nebo ad hoc úlohy, které vyžadují ruční zásah.
-
Zvyšování povědomí o zabezpečení a vzdělávání
Modely LLM můžou pomáhat specialistům na zabezpečení vytvářet poutavý a přizpůsobený obsah a scénáře pro zvyšování povědomí o zabezpečení a vzdělávání. Mohou posoudit úroveň znalostí a dovedností cílové skupiny v oblasti zabezpečení, poskytnout zpětnou vazbu a pokyny a vytvářet realistická a adaptivní cvičení a simulace zaměřené na kybernetickou bezpečnost pro účely školení a testování.
-
Zásady správného řízení zabezpečení, rizika a dodržování předpisů
Modely LLM mohou pomáhat při automatizaci aktivit v oblasti zásad správného řízení z hlediska zabezpečení, řízení rizik a dodržování předpisů, včetně vývoje a vynucování zásad, vyhodnocování a řízení rizik, auditování a zajištění a dodržování předpisů a také vytváření sestav. Mohou sladit aktivity s obchodními cíli a poskytovat metriky zabezpečení a řídicí panely pro měření výkonu. Mohou také identifikovat nedostatky a problémy a nabídnout doporučení pro zlepšení stavu zabezpečení organizace, určení priorit ohrožení zabezpečení a identifikaci návrhů nápravy.
Spolupráce na utváření odpovědné umělé inteligence
Odpovědnost umělé inteligence jako základní princip
Vzhledem k tomu, že technologie umělé inteligence slibuje proměnu společnosti, musíme zajistit, aby odpovědnost byla v budoucnu základním principem umělé inteligence. Odpovědné postupy v oblasti umělé inteligence mají zásadní význam pro zachování důvěry uživatelů, ochranu soukromí a vytváření dlouhodobých přínosů pro společnost.
Dodržování vlastních etických standardů při využívání AI
Abychom si udrželi náskok před nově vznikajícími bezpečnostními hrozbami, musíme jít příkladem a investovat do výzkumu a vývoje. Společnost Microsoft se zavázala zajistit, aby všechny její produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence.
10 let aktivních zásad AI
Společnost Microsoft se zavázala zajistit, aby všechny naše produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence. Zároveň spolupracujeme s partnery z oboru na vývoji standardů a technologií, které umožní transparentní a ověřitelné informace o původu a pravosti digitálního obsahu, aby se zvýšila důvěryhodnost online.
Po celém světě roste zájem o regulační pokyny týkající se odpovědného vývoje a používání umělé inteligence a mnoho zemí připravuje dokumentaci nabízející pokyny pro řízení vznikajících rizik spojených s technologiemi umělé inteligence. Tento trend trvá již více než deset let a stále nabírá na síle.
Prozkoumejte další kapitoly Microsoft Digital Defense Report.
Úvod
Síla partnerství, důležitá pro posílení obrany a pohnání kyberzločinců k odpovědnosti, je klíčem k překonání nepříznivého stavu.
Stav v oblasti kybernetických trestných činů
Zatímco kyberzločinci pokračují ve svých aktivitách, veřejný a soukromý sektor spojují síly, aby narušily jejich technologie a podpořily oběti kyberkriminality.
Hrozby ze strany státních aktérů
Kybernetické operace na státní úrovni spojují vlády a hráče z technologického průmyslu s cílem vybudovat odolnost proti hrozbám pro online bezpečnost.
Kritické výzvy kyberbezpečnosti
Pohyb v neustále se měnícím prostředí kybernetické bezpečnosti si žádá vybudování komplexní obrany pro odolné organizace, dodavatelské řetězce a infrastrukturu.
Inovace v zájmu bezpečnosti a odolnosti
Moderní umělá inteligence činí obrovský skok vpřed a bude hrát zásadní roli při obraně a zajišťování odolnosti podniků a společnosti.
Kolektivní obrana
S ohledem na neustálý vývoj kybernetických hrozeb platí, že spolupráce rozšiřuje stav vědomostí a zmírňuje dopady napříč globálním bezpečnostním ekosystémem.
Další informace o zabezpečení
Náš závazek k získání důvěry
Microsoft se zavázal k odpovědnému používání umělé inteligence, ochraně soukromí a rozvoji digitální bezpečnosti a kybernetické ochrany.
Kybernetické signály
Čtvrtletní zpravodajství o kybernetických hrozbách založené na nejnovějších datech a výzkumech Microsoftu. Kybernetické signály poskytují analýzu trendů a pokyny, které pomáhají posílit první linii obrany.
Sestavy o národním stavu
Půlroční zprávy o konkrétních národních aktérech, které slouží k varování našich zákazníků a globální komunity před hrozbami, jež představují vlivové operace a kybernetické aktivity, a identifikují konkrétní odvětví a regiony se zvýšeným rizikem.
Microsoft Digital Defense Report archiv
Prozkoumejte předchozí Microsoft Digital Defense Report a zjistěte, jak se za několik krátkých let změnilo prostředí hrozeb a bezpečnost online.
Sledujte zabezpečení od Microsoftu