Inovácie pre zabezpečenie a odolnosť
V rámci zmeny paradigmy odvetvia kybernetickej umelá inteligencia ponúka potenciál na zvýšenie odolnosti a posilnenie zručností, rýchlosti a znalostí obrancov.
Reagovanie s prelomovými inováciami
V porovnaní s čoraz zložitejším kybernetickým ekosystémom ponúka umelá inteligencia (AI) potenciál zmeniť prostredie zabezpečenia rozšírením zručností, rýchlosti a vedomostí obrancov.
Umelá inteligencia takisto dokáže poskytovať nové možnosti, ako napríklad používanie veľkých jazykových modelov (LLM) na generovanie poznatkov a odporúčaní v prirodzenom jazyku z komplexných údajov a poskytovanie nových možností učenia analytikom.
V Microsoft Správe o digitálnej ochrane správe za rok 2023 skúmame niektoré prelomové objavy v oblasti umelej inteligencie, ktoré menia kybernetickú bezpečnosť, riziká spojené s umelou inteligenciou a LLM a spôsob, akým môžeme zabezpečiť ich využitie na vytvorenie bezpečnejšej a odolnejšej digitálnej budúcnosti.
Ako môžeme využívať LLM na kybernetickú obranu?
-
Analýza kybernetických hrozieb
LLM dokážu pomôcť kybernetickým obrancom zhromažďovať a analyzovať údaje na vyhľadávanie vzorov a trendov v kybernetických hrozbách. Dokážu tiež pridať kontext k analýze hrozieb pomocou informácií z rôznych zdrojov a vykonávať technické úlohy, sú je napríklad spätná analýza a analýza malvéru.
-
Odozva na incidenty zabezpečenia a obnovenie po incidente
LLM dokážu pomôcť kybernetickým obrancom podporovať a automatizovať činnosti odozvy na incidenty zabezpečenia a obnovenia po incidente vrátane triedenia, obmedzenia, eliminácie a analýzy incidentov a obnovy po incidentoch. Dokážu sumarizovať incidenty a generovať skripty automatizácie odozvy, koordinovať tímy a dokumentovať a informovať o podrobnostiach incidentov a následných akciách. LLM nám tiež dokážu pomôcť poučiť sa z incidentov a poskytovať návrhy na zlepšenie ochrany a zmierňovanie.
-
Monitorovanie a detekcia zabezpečenia
LLM dokážu monitorovať a zisťovať udalosti a incidenty zabezpečenia v sieťach, systémoch, aplikáciách a údajoch. Dokážu analyzovať údaje, generovať prioritné upozornenia a poskytovať kontextové informácie na skúmanie a odozvu. LLM tiež dokážu analyzovať stav multicloudových prostredí, vytvárať komplexné mapy zdrojov, odhadovať potenciálne vplyvy a ponúkať návrhy na zmiernenie rizík. Dokážu byť užitočné pri odhaľovaní neoprávneného získavania údajov tým, že analyzujú obsah e-mailov a identifikujú textové vzory, anomálie a podozrivý jazyk, ktorý naznačuje pokusy o neoprávnené získavanie údajov.
-
Testovanie a overovanie zabezpečenia
LLM dokážu automatizovať a zlepšovať testovanie a overovanie zabezpečenia vrátane penetračného testovania, skenovania zraniteľností, analýzy kódu a auditu konfigurácie. Vytvárajú a vykonávajú testovacie prípady, vyhodnocujú a oznamujú výsledky a ponúkajú návrhy na nápravu. LLM dokážu vytvárať vlastné aplikácie a nástroje pre špecifické scenáre, automatizovať opakujúce sa úlohy a riešiť príležitostné alebo ad hoc úlohy, ktoré si vyžadujú manuálny zásah.
-
Povedomie a vzdelávanie o zabezpečení
LLM dokážu pomôcť kybernetickým obrancom vytvárať pútavý a personalizovaný obsah a scenáre na zvyšovanie povedomia a vzdelávania o zabezpečení. Dokážu posúdiť úroveň znalostí a zručností cieľového publika v oblasti zabezpečenia, poskytnúť spätnú väzbu a usmernenia a vytvoriť realistické a adaptívne kybernetické cvičenia a simulácie na školenie a testovanie.
-
Riadenie, riziká a dodržiavanie súladu v oblasti zabezpečenia
LLM dokážu pomôcť pri automatizácii činností riadenia, rizík a dodržiavania súladu v oblasti zabezpečenia vrátane tvorby a presadzovania zásad, hodnotenia/riadenia rizík, auditu a zaistenia, dodržiavania predpisov a vykazovania. Dokážu zosúladiť činnosti s obchodnými cieľmi a poskytovať metriky a informačné panely zabezpečenia na meranie výkonnosti. Dokážu tiež identifikovať nedostatky a problémy a ponúkať odporúčania na zlepšenie pozície organizácie v oblasti zabezpečenia, určiť priority zraniteľností a identifikovať návrhy na nápravu.
Spolupráca na tvarovaní zodpovednej umelej inteligencie
Zodpovedná umelá inteligencia už v štádiu návrhu
Vzhľadom na to, že technológia umelej inteligencie sľubuje transformáciu spoločnosti, musíme zabezpečiť budúcnosť zodpovednej umelej inteligencie už v štádiu návrhu. Zodpovedné postupy v oblasti umelej inteligencie sú kľúčové pre zachovanie dôvery používateľov, ochranu súkromia a vytváranie dlhodobých prínosov pre spoločnosť.
Dodržiavanie našich vlastných etických štandardov v umelej inteligencii
Musíme ísť príkladom a investovať do výskumu a vývoja, aby sme mali náskok pred vznikajúcimi hrozbami zabezpečenia. V spoločnosti Microsoft sa zaväzujeme zabezpečiť, že všetky naše produkty a služby využívajúce umelú inteligenciu budú vyvíjané a používané spôsobom, ktorý dodržiava naše politiky pre umelú inteligenciu.
10 rokov aktívnych politík pre umelú inteligenciu
V spoločnosti Microsoft sa zaväzujeme zabezpečiť, že všetky naše produkty a služby využívajúce umelú inteligenciu budú vyvíjané a používané spôsobom, ktorý dodržiava naše politiky pre umelú inteligenciu. Zároveň spolupracujeme s partnermi z odvetvia na vývoji noriem a technológií, ktoré umožňujú transparentné a overiteľné informácie o pôvode a pravosti digitálneho obsahu s cieľom zvýšiť dôveru v online prostredie.
Po celom svete rastie záujem o regulačné usmernenia týkajúce sa zodpovedného vývoja a používania umelej inteligencie a mnohé krajiny pripravujú dokumentáciu s usmerneniami na riadenie vznikajúcich rizík spojených s technológiami umelej inteligencie. Tento trend sa vyvíja už viac ako desať rokov a len naberá na obrátkach.
Preskúmať ďalšie kapitoly Microsoft Správy o digitálnej ochrane
Úvod
Sila partnerstiev je kľúčom k prekonaniu nepriaznivej situácie posilnením obrany a vyvodením zodpovednosti voči počítačovým zločincom.
Stav počítačovej kriminality
Zatiaľ čo počítačoví zločinci naďalej usilovne pracujú, verejný a súkromný sektor sa spájajú, aby narušili ich technológie a podporili obete počítačovej kriminality.
Hrozby na celoštátnej úrovni
Kybernetické operácie na celoštátnej úrovni spájajú vlády a hráčov z technologického odvetvia s cieľom vybudovať odolnosť voči hrozbám pre online bezpečnosť.
Kritické výzvy v oblasti kybernetickej bezpečnosti
Keďže sa pohybujeme v neustále sa meniacom prostredí kybernetickej bezpečnosti, komplexná obrana je nevyhnutnosťou pre odolné organizácie, dodávateľské reťazce a infraštruktúru.
Inovácie pre zabezpečenie a odolnosť
Keďže moderná umelá inteligencia výrazne napreduje, bude zohrávať dôležitú úlohu pri ochrane a zabezpečení odolnosti podnikov a spoločnosti.
Kolektívna obrana
Zároveň s rozvojom kybernetických hrozieb spolupráca posilňuje poznatky a zmierňuje následky v rámci globálneho ekosystému zabezpečenia.
Ďalšie informácie o zabezpečení
Náš záväzok získať dôveru
Spoločnosť Microsoft sa zaväzuje zodpovedne používať umelú inteligenciu, chrániť súkromie a rozvíjať digitálnu bezpečnosť a kybernetickú bezpečnosť.
Kybernetické signály
Štvrťročné stručné informácie o kybernetických hrozbách založené na najnovších údajoch o hrozbách a výskume spoločnosti Microsoft. Kybernetické signály poskytujú analýzu trendov a usmernenia na posilnenie prvej línie obrany.
Správy o hrozbách na celoštátnej úrovni
Polročné správy o konkrétnych aktéroch pracujúcich pre vlády, ktoré slúžia na varovanie našich zákazníkov a globálnej komunity pred hrozbami, ktoré predstavujú vplyvové operácie a kybernetické aktivity, pričom identifikujú konkrétne odvetvia a regióny so zvýšeným rizikom.
Archív Microsoft Správ o digitálnej ochrane
Preskúmajte predchádzajúce Microsoft Správy o digitálnej ochrane a zistite, ako sa prostredie hrozieb a online bezpečnosť zmenili za niekoľko krátkych rokov.
Sledujte zabezpečenie od spoločnosti Microsoft