Trace Id is missing

Inovacije za varnost in odpornost

Ker panogi kibernetske varnosti grozi premik paradigme, UI ponuja možnost za izboljšanje zaščite pred grožnjami in izboljšanje znanja o spretnostih, hitrosti in znanju za elemente obrambe.

Računalniški programer dela pozno v pisarni.
»Čeprav bosta človeška iznajdljivost in strokovno znanje vedno dragocena in nenadomestljiva komponenta kibernetske obrambe, lahko tehnologija te edinstvene zmogljivosti poveča z nabori znanj, hitrostmi obdelave in hitrim učenjem sodobne UI.« 
 
 - Bret Arsenault, direktor za informacijsko varnost pri Microsoftu 

Odgovor na grožnje s prelomnimi inovacijami

Umetna inteligenca (UI) v vedno bolj zapletenem kibernetskem ekosistemu ponuja možnost za spreminjanje varnostnega okolja z izboljšanjem znanja, hitrosti in za elemente obrambe.   

UI lahko omogoči tudi nove zmogljivosti, na primer uporabo velikih jezikovnih modelov (LLM), za ustvarjanje vpogledov v naravni jezik in priporočila iz zapletenih podatkov ter analitikom omogoči nove priložnosti za učenje. 

V poročilu o Microsoftovi digitalni obrambi iz leta 2023 raziskujemo nekatere izboljšave umetne inteligence, ki preoblikujejo kibernetsko varnost, tveganja, povezana z UI in modeli LLM, ter kako lahko zagotovimo, da se uporabljajo za ustvarjanje varnejše in odpornejše digitalne prihodnosti.  

Okrasno: Abstraktna zasnova z listi svetlobe v modri in zeleni barvi.

Kako lahko izkoristimo modele LLM za kibernetsko obrambo?

Modeli LLM imajo potencial za odlično izboljšanje kibernetske varnosti. Microsoftovi strokovnjaki in znanstveniki raziskujejo ter eksperimentirajo s temi in drugimi scenariji:
  • Obveščanje o grožnjah in analiza

    Z modeli LLM lahko kibernetski strokovnjaki zbirajo in analizirajo podatke za iskanje vzorcev in trendov v kibernetskih grožnjah. Prav tako lahko dodajo kontekst za obveščanje o grožnjah tako, da uporabljajo informacije iz različnih virov in izvajajo tehnična opravila, kot sta obratno inženirstvo in analiza zlonamerne programske opreme. 

  • Odzivanje na dogodke, ki vplivajo na varnost, in obnovitev

    Modeli LLM lahko dejavnikom, ki skrbijo za kibernetsko varnost podpirajo in avtomatizirajo odziv na varnostne dogodke in obnovitev, vključno s triažami dogodkov, hranjenjem, izbrisom, analizami in obnovitvijo. Lahko povzamejo dogodke in ustvarijo skripte za avtomatizacijo odzivov, uskladijo ekipe ter dokumentirajo ter sporočijo podrobnosti in dejanja dogodka. Z modeli LLM se lahko tudi naučimo iz dogodkov in ponudimo predloge izboljšanja za preprečevanje in ublažitev posledic. 

  • Nadzor in zaznavanje varnosti

    Modeli LLM lahko nadzorujejo in zaznavajo varnostne dogodke in dogodke v omrežjih, sistemih, aplikacijah in podatkih. Analizirajo lahko podatke, ustvarijo prednostna opozorila in zagotovijo kontekstne informacije za preiskavo in odzive. Z modeli LLM lahko prav tako analizirate stanje okolij z več oblaki, ustvarite obsežne zemljevide virov, ocenite morebitne vplive in ponudite predloge za zmanjšanje tveganja. Uporabijo se lahko za zaznavanje lažnega predstavljanja z analiziranjem vsebine e-pošte in prepoznavanjem besedilnih vzorcev, anomalij in sumljivega jezika, ki kaže na poskuse lažnega predstavljanja. 

  • Preskušanje in preverjanje veljavnosti

    Modeli LLM lahko avtomatizirajo in izboljšajo preskušanje varnosti in preverjanje veljavnosti, vključno s preskušanjem udorov, pregledovanjem ranljivosti, analizo kode in revizijo konfiguracije. Ustvarijo in izvajajo primere preskusa, ocenijo rezultate in poročajo o rezultatih ter ponudijo predloge za odpravljanje težav. Modeli LLM lahko ustvarijo aplikacije in orodja po meri za določene scenarije, avtomatizirajo ponavljajoča se opravila in obdelajo občasna ali začasna opravila, ki zahtevajo ročno posredovanje. 

  • Ozaveščenost o varnosti in izobraževanje

    Z modeli LLM lahko dejavniki, odgovorni za kibernetsko obrambo, ustvarijo privlačno in prilagojeno vsebino ter scenarije za ozaveščenost o varnosti in izobrazbi. Ocenijo lahko raven znanja o varnosti in podučenosti ciljnega občinstva, zagotovijo povratne informacije in smernice ter ustvarijo realistične in prilagodljive kibernetske vaje in simulacije za usposabljanje in preskušanje. 

  • Upravljanje varnosti, tveganje in skladnost s predpisi

    Modeli LMS lahko pomagajo pri avtomatizaciji varnostnega upravljanja, tveganja in skladnosti s predpisi, vključno z razvojem in uveljavljanjem pravilnika, oceno/upravljanjem tveganja, revizijo in zaščito ter skladnostjo in poročanjem. Dejavnosti lahko uskladijo s poslovnimi cilji ter zagotovijo varnostne metrike in nadzorne plošče za merjenje učinkovitosti delovanja. Prepoznajo lahko tudi vrzeli in težave ter ponudijo priporočila za izboljšanje varnostnega položaja organizacije, določanje prioritete ranljivosti in prepoznavanje predlogov za odpravljanje težav. 

Ženska z očali, ki drži tablični računalnik.

Zmanjšanje vnosne vrstice za uporabo sodobnih inovacij z UI

Čeprav rešitve, ki temeljijo na modelih LLM, kažejo velik potencial za kibernetsko varnost, niso nadomestilo za strokovnjake za kibernetsko varnost. Pravo strokovno znanje je ključno pri združevanju modelov LLM in kibernetske varnosti. Ena od rešitev je, da združite spretnosti strokovnjakov umetne inteligence in strokovnjakov za kibernetsko varnost za izboljšanje storilnosti.  

Na srečo uporaba navideznih računalnikov v postopkih kibernetske varnosti ni omejena na velike organizacije z obsežnimi viri. Ti modeli so bili naučeni za ogromno količino podatkov, kar jim daje predhodno razumevanje kibernetske varnosti. 

Modeli LLM se odlično izkažejo pri sintetiziranju kompleksnih informacij in predstavitvi v jasnem ter jedrnatem jeziku – analitiki tako lahko izberejo najboljšo kibernetsko analitiko za različne scenarije. Ker se okolje groženj razvija in se širijo tehnike analize, se lahko celo izkušeni analitiki trudijo ohraniti stik z novostmi, modeli LLMs pa lahko delujejo kot osebni pomočniki, kar predlaga možnosti analize in ublažitve posledic.  

Sodelovanje z drugimi pri oblikovanju odgovorne UI

Programer računalniške programske opreme gleda na dva zaslona.

Odgovorna UI po načrtu

S tehnologijo UI, ki jo želimo preoblikovati, moramo zaščititi prihodnost odgovorne UI. Prakse za odgovorno UI so ključnega pomena za ohranjanje zaupanja uporabnikov, zaščito zasebnosti in ustvarjanje dolgoročne prednosti za družbo.

V UI si lahko omislimo lastne standarde varnosti

Če želimo biti korak pred novimi varnostnimi grožnjami, moramo biti vodilni na primeru in vlagati v raziskave in razvoj. Microsoft si prizadeva zagotoviti, da bodo vsi njegovi izdelki in storitve za UI razviti in uporabljeni na način, ki podpira naša načela UI.

Ženska razmišlja na sestanku.

10 let aktivnih pravilnikov za UI

Microsoft si prizadeva zagotoviti, da bodo vsi njegovi izdelki in storitve za UI razviti in uporabljeni na način, ki podpira naša načela UI. Hkrati s panožnimi partnerji razvijamo standarde in tehnologije, ki omogočajo pregledne in preverljive informacije o izvoru in pristnosti digitalne vsebine za izboljšanje zaupanja v spletu.  

Po vsem svetu postajajo vse bolj zahtevni za regulativne smernice za odgovorni razvoj in uporabo UI, pri tem pa so v številnih državah na voljo navodila za upravljanje novih tveganj, povezanih s tehnologijami UI. Ta trend se razvija že več kot desetletje in je v vse večjem porastu.  

An infographic displaying numbers of AI policies by country since 2014, and still active as of July 2023.
Aktivni pravilniki po entiteti in letu uvedbe. Vir: Observatorij za pravilnike o UI OECD in Microsoftovo notranje sledenje za 2023, januar–junij.

Raziščite druga poglavja Poročila o digitalni obrambi Microsoft

Uvod

Zmogljivost partnerstev je ključna za premagovanje težav z izboljšanjem obrambe in zaščito pred kibernetskim kriminalom.

Stanje kibernetskega kriminala

Medtem ko kibernetski kriminalci še naprej razvijajo nove tehnike, se javni in zasebni sektor združujeta, da bi onemogočila njihove tehnologije in podprla žrtve kibernetskega kriminala.

Grožnje na državni ravni

Kibernetski postopki na državni ravni povezujejo vladne ustanove in tehnične panoge za namene izboljšanja odpornosti proti grožnjam in zagotavljanja spletne varnosti.

Pomembni izzivi na področju kibernetske varnosti

V nenehno spreminjajočem se okolju kibernetske varnosti je celovita obramba nujna za zagotovitev odpornih organizacij, dobavnih verig in infrastrukture.

Inovacije na področju varnosti in odpornosti

Sodobna umetna inteligenca ima zaradi svojega velikega napredka ključno vlogo pri obrambi ter zagotavljanju odpornosti podjetij in družbe.

Skupna obramba

Z razvojem kibernetskih groženj je sodelovanje tisto, kar krepi znanje in ublaži posledice v globalnem varnostnem ekosistemu.

Več informacij o varnosti

Naša zavezanost pridobivanju zaupanja

Microsoft si prizadeva zagotoviti odgovorno uporabo umetne inteligence, zaščito zasebnosti ter spodbujanje digitalne varnosti in kibernetske zaščite.

Kibernetski signali

Četrtletni povzetek obveščanja o kibernetskih grožnjah, ki temelji na najnovejših Microsoftovih podatkih in raziskavah o grožnjah. Poročilo »Kibernetski signali« vključuje analizo trendov in smernice za krepitev prve obrambne linije.

Poročila na državni ravni

Polletna poročila o določenih državnih akterjih, ki vključujejo opozorila za stranke in svetovno skupnost glede groženj, ki jih predstavljajo vplivne operacije in kibernetske dejavnosti, ter prepoznavajo določene panoge in regije s povečanim tveganjem.

Arhiv s Poročili o digitalni obrambi Microsoft

Raziščite prejšnja Poročila o digitalni obrambi Microsoft in si oglejte, kako so se v nekaj letih spremenili groženje in spletna varnost.

Spremljajte Microsoftovo varnost