Trace Id is missing

Inovácie pre zabezpečenie a odolnosť

V rámci zmeny paradigmy odvetvia kybernetickej umelá inteligencia ponúka potenciál na zvýšenie odolnosti a posilnenie zručností, rýchlosti a znalostí obrancov.

Počítačový programátor pracuje neskoro v kancelárii.
„Hoci ľudský dôvtip a odborné znalosti budú vždy cennou a nenahraditeľnou súčasťou kybernetickej obrany, technológie majú potenciál rozšíriť tieto jedinečné schopnosti o zručnosti, rýchlosť spracovania a rýchle učenie modernej umelej inteligencie.“ 
 
 –  Bret Arsenault, riaditeľ spoločnosti Microsoft pre informačnú bezpečnosť 

Reagovanie s prelomovými inováciami

V porovnaní s čoraz zložitejším kybernetickým ekosystémom ponúka umelá inteligencia (AI) potenciál zmeniť prostredie zabezpečenia rozšírením zručností, rýchlosti a vedomostí obrancov.   

Umelá inteligencia takisto dokáže poskytovať nové možnosti, ako napríklad používanie veľkých jazykových modelov (LLM) na generovanie poznatkov a odporúčaní v prirodzenom jazyku z komplexných údajov a poskytovanie nových možností učenia analytikom. 

V Microsoft Správe o digitálnej ochrane správe za rok 2023 skúmame niektoré prelomové objavy v oblasti umelej inteligencie, ktoré menia kybernetickú bezpečnosť, riziká spojené s umelou inteligenciou a LLM a spôsob, akým môžeme zabezpečiť ich využitie na vytvorenie bezpečnejšej a odolnejšej digitálnej budúcnosti.  

Dekoratívny obrázok: Abstraktný dizajn s pásmi svetla modrej a zelenej farby.

Ako môžeme využívať LLM na kybernetickú obranu?

LLM majú potenciál výrazne vylepšiť kybernetickú obranu. Výskumníci a vedci spoločnosti Microsoft skúmajú a experimentujú s týmito a ďalšími scenármi:
  • Analýza kybernetických hrozieb

    LLM dokážu pomôcť kybernetickým obrancom zhromažďovať a analyzovať údaje na vyhľadávanie vzorov a trendov v kybernetických hrozbách. Dokážu tiež pridať kontext k analýze hrozieb pomocou informácií z rôznych zdrojov a vykonávať technické úlohy, sú je napríklad spätná analýza a analýza malvéru. 

  • Odozva na incidenty zabezpečenia a obnovenie po incidente

    LLM dokážu pomôcť kybernetickým obrancom podporovať a automatizovať činnosti odozvy na incidenty zabezpečenia a obnovenia po incidente vrátane triedenia, obmedzenia, eliminácie a analýzy incidentov a obnovy po incidentoch. Dokážu sumarizovať incidenty a generovať skripty automatizácie odozvy, koordinovať tímy a dokumentovať a informovať o podrobnostiach incidentov a následných akciách. LLM nám tiež dokážu pomôcť poučiť sa z incidentov a poskytovať návrhy na zlepšenie ochrany a zmierňovanie. 

  • Monitorovanie a detekcia zabezpečenia

    LLM dokážu monitorovať a zisťovať udalosti a incidenty zabezpečenia v sieťach, systémoch, aplikáciách a údajoch. Dokážu analyzovať údaje, generovať prioritné upozornenia a poskytovať kontextové informácie na skúmanie a odozvu. LLM tiež dokážu analyzovať stav multicloudových prostredí, vytvárať komplexné mapy zdrojov, odhadovať potenciálne vplyvy a ponúkať návrhy na zmiernenie rizík. Dokážu byť užitočné pri odhaľovaní neoprávneného získavania údajov tým, že analyzujú obsah e-mailov a identifikujú textové vzory, anomálie a podozrivý jazyk, ktorý naznačuje pokusy o neoprávnené získavanie údajov. 

  • Testovanie a overovanie zabezpečenia

    LLM dokážu automatizovať a zlepšovať testovanie a overovanie zabezpečenia vrátane penetračného testovania, skenovania zraniteľností, analýzy kódu a auditu konfigurácie. Vytvárajú a vykonávajú testovacie prípady, vyhodnocujú a oznamujú výsledky a ponúkajú návrhy na nápravu. LLM dokážu vytvárať vlastné aplikácie a nástroje pre špecifické scenáre, automatizovať opakujúce sa úlohy a riešiť príležitostné alebo ad hoc úlohy, ktoré si vyžadujú manuálny zásah. 

  • Povedomie a vzdelávanie o zabezpečení

    LLM dokážu pomôcť kybernetickým obrancom vytvárať pútavý a personalizovaný obsah a scenáre na zvyšovanie povedomia a vzdelávania o zabezpečení. Dokážu posúdiť úroveň znalostí a zručností cieľového publika v oblasti zabezpečenia, poskytnúť spätnú väzbu a usmernenia a vytvoriť realistické a adaptívne kybernetické cvičenia a simulácie na školenie a testovanie. 

  • Riadenie, riziká a dodržiavanie súladu v oblasti zabezpečenia

    LLM dokážu pomôcť pri automatizácii činností riadenia, rizík a dodržiavania súladu v oblasti zabezpečenia vrátane tvorby a presadzovania zásad, hodnotenia/riadenia rizík, auditu a zaistenia, dodržiavania predpisov a vykazovania. Dokážu zosúladiť činnosti s obchodnými cieľmi a poskytovať metriky a informačné panely zabezpečenia na meranie výkonnosti. Dokážu tiež identifikovať nedostatky a problémy a ponúkať odporúčania na zlepšenie pozície organizácie v oblasti zabezpečenia, určiť priority zraniteľností a identifikovať návrhy na nápravu. 

Žena v okuliaroch drží tablet.

Zníženie vstupných požiadaviek na využívanie moderných inovácií umelej inteligencie

Hoci riešenia založené na LLM majú veľký potenciál pre kybernetickú bezpečnosť, nenahrádzajú ľudských expertov na kybernetickú bezpečnosť. Správne odborné znalosti sú kľúčové, pokiaľ ide o spojenie LLM a kybernetickej bezpečnosti. Jedným z riešení je spojenie zručností odborníkov na umelú inteligenciu a odborníkov na kybernetickú bezpečnosť s cieľom zvýšiť produktivitu.  

Využívanie LLM v operáciách kybernetickej bezpečnosti sa našťastie neobmedzuje len na veľké organizácie s ohromnými zdrojmi. Tieto modely boli trénované na obrovskom množstve údajov, vďaka čomu kybernetickej bezpečnosti už rozumejú. 

LLM vynikajú v syntéze zložitých informácií a ich prezentovaní jasným a stručným jazykom, čo pomáha analytikom vybrať najlepšie kybernetické analýzy pre rôzne scenáre. Keďže sa prostredie hrozieb vyvíja a techniky analýzy sa rozširujú, aj skúsení analytici môžu mať problém držať krok a LLM môžu fungovať ako osobní asistenti, ktorí navrhujú možnosti analýzy a zmiernenia.  

Spolupráca na tvarovaní zodpovednej umelej inteligencie

Počítačový programátor sa pozerá na dve obrazovky.

Zodpovedná umelá inteligencia už v štádiu návrhu

Vzhľadom na to, že technológia umelej inteligencie sľubuje transformáciu spoločnosti, musíme zabezpečiť budúcnosť zodpovednej umelej inteligencie už v štádiu návrhu. Zodpovedné postupy v oblasti umelej inteligencie sú kľúčové pre zachovanie dôvery používateľov, ochranu súkromia a vytváranie dlhodobých prínosov pre spoločnosť.

Dodržiavanie našich vlastných etických štandardov v umelej inteligencii

Musíme ísť príkladom a investovať do výskumu a vývoja, aby sme mali náskok pred vznikajúcimi hrozbami zabezpečenia. V spoločnosti Microsoft sa zaväzujeme zabezpečiť, že všetky naše produkty a služby využívajúce umelú inteligenciu budú vyvíjané a používané spôsobom, ktorý dodržiava naše politiky pre umelú inteligenciu.

Žena premýšľa na schôdzi.

10 rokov aktívnych politík pre umelú inteligenciu

V spoločnosti Microsoft sa zaväzujeme zabezpečiť, že všetky naše produkty a služby využívajúce umelú inteligenciu budú vyvíjané a používané spôsobom, ktorý dodržiava naše politiky pre umelú inteligenciu. Zároveň spolupracujeme s partnermi z odvetvia na vývoji noriem a technológií, ktoré umožňujú transparentné a overiteľné informácie o pôvode a pravosti digitálneho obsahu s cieľom zvýšiť dôveru v online prostredie.  

Po celom svete rastie záujem o regulačné usmernenia týkajúce sa zodpovedného vývoja a používania umelej inteligencie a mnohé krajiny pripravujú dokumentáciu s usmerneniami na riadenie vznikajúcich rizík spojených s technológiami umelej inteligencie. Tento trend sa vyvíja už viac ako desať rokov a len naberá na obrátkach.  

An infographic displaying numbers of AI policies by country since 2014, and still active as of July 2023.
Aktívne politiky podľa entity a roku implementácie. Zdroj: OECD AI Policy Observatory (OECD.AI) a interné sledovanie spoločnosti Microsoft za rok 2023, január – jún.

Preskúmať ďalšie kapitoly Microsoft Správy o digitálnej ochrane

Úvod

Sila partnerstiev je kľúčom k prekonaniu nepriaznivej situácie posilnením obrany a vyvodením zodpovednosti voči počítačovým zločincom.

Stav počítačovej kriminality

Zatiaľ čo počítačoví zločinci naďalej usilovne pracujú, verejný a súkromný sektor sa spájajú, aby narušili ich technológie a podporili obete počítačovej kriminality.

Hrozby na celoštátnej úrovni

Kybernetické operácie na celoštátnej úrovni spájajú vlády a hráčov z technologického odvetvia s cieľom vybudovať odolnosť voči hrozbám pre online bezpečnosť.

Kritické výzvy v oblasti kybernetickej bezpečnosti

Keďže sa pohybujeme v neustále sa meniacom prostredí kybernetickej bezpečnosti, komplexná obrana je nevyhnutnosťou pre odolné organizácie, dodávateľské reťazce a infraštruktúru.

Inovácie pre zabezpečenie a odolnosť

Keďže moderná umelá inteligencia výrazne napreduje, bude zohrávať dôležitú úlohu pri ochrane a zabezpečení odolnosti podnikov a spoločnosti.

Kolektívna obrana

Zároveň s rozvojom kybernetických hrozieb spolupráca posilňuje poznatky a zmierňuje následky v rámci globálneho ekosystému zabezpečenia.

Ďalšie informácie o zabezpečení

Náš záväzok získať dôveru

Spoločnosť Microsoft sa zaväzuje zodpovedne používať umelú inteligenciu, chrániť súkromie a rozvíjať digitálnu bezpečnosť a kybernetickú bezpečnosť.

Kybernetické signály

Štvrťročné stručné informácie o kybernetických hrozbách založené na najnovších údajoch o hrozbách a výskume spoločnosti Microsoft. Kybernetické signály poskytujú analýzu trendov a usmernenia na posilnenie prvej línie obrany.

Správy o hrozbách na celoštátnej úrovni

Polročné správy o konkrétnych aktéroch pracujúcich pre vlády, ktoré slúžia na varovanie našich zákazníkov a globálnej komunity pred hrozbami, ktoré predstavujú vplyvové operácie a kybernetické aktivity, pričom identifikujú konkrétne odvetvia a regióny so zvýšeným rizikom.

Archív Microsoft Správ o digitálnej ochrane

Preskúmajte predchádzajúce Microsoft Správy o digitálnej ochrane a zistite, ako sa prostredie hrozieb a online bezpečnosť zmenili za niekoľko krátkych rokov.

Sledujte zabezpečenie od spoločnosti Microsoft