Propaganda u digitalno doba: Kako operacije kibernetičkog uticaja narušavaju poverenje
Današnje operacije stranog uticaja koriste nove metode i tehnologije, što njihove kampanje čini dizajniranim tako da efikasnije i efektnije urušavaju pouzdanost.
Nacionalne države sve više koriste sofisticirane operacije uticaja da distribuiraju propagandu i utiču na javno mnjenje kako na domaćem tako i na međunarodnom nivou. Ove kampanje narušavaju poverenje, povećavaju polarizaciju i ugrožavaju demokratske procese.
Vešti napredni uporni manipulatori koriste tradicionalne medije zajedno sa internetom i društvenim mrežama, kako bi znatno povećali obim, opseg i efikasnost svojih kampanja, kao i ogroman uticaj koji imaju na globalni informacioni ekosistem.
Sintetički mediji postaju sve rasprostranjeniji zbog proliferacije alatki koje lako kreiraju i šire veoma realistične veštačke slike, video zapise i audio zapise. Tehnologija digitalnog porekla koja potvrđuje poreklo medijskog materijala obećava borbu protiv zloupotrebe.
Potreban je holistički pristup zaštiti rešenja od operacija sa kibernetičkim uticajem. Microsoft se oslanja na svoju već zrelu infrastrukturu obaveštajnih podataka o kibernetičkim pretnjama za borbu protiv kibernetičkih operacija uticaja. Naša strategija je da otkrijemo, ometamo, branimo i odvraćamo od propagandnih kampanja stranih agresora.
Postepeno povećavanje proliferacije dipfejka od 900% u odnosu na 2019.1
Operacije kibernetičkog uticaja postaju sve sofisticiranije kako se tehnologija ubrzano razvija. Vidimo preklapanje i povećanje broja alatki koje se koriste u tradicionalnim kibernetičkim napadima koji se primenjuju na kibernetičke operacije uticaja. Pored toga, primetili smo povećanu koordinaciju i porast među nacionalnim državama.
Autoritarni režimi širom sveta zajedno rade na zagađivanju informacionog ekosistema na obostranu korist. Podržavajući jedni druge, državni mediji stvaraju ekosistem u kojem negativno izveštavanje o demokratijama – ili pozitivno izveštavanje o saveznicima – koje proizvodi jedan državni medij, pojačavaju drugi.
Da bi se povećao izazov, tehnološki subjekti u privatnom sektoru mogu nesvesno omogućiti takve kampanje. Oni mogu da obuhvate kompanije koje registruju internet domene, hostuju veb sajtove, promovišu materijal na društvenim mrežama i sajtovima za pretragu, kanališu saobraćaj i pomažu u plaćanju vežbi putem digitalnog oglašavanja.
Organizacije moraju biti svesne alatki i metoda koje koriste autoritarni režimi za operacije kibernetičkog uticaja kako bi mogle da otkriju, a zatim da spreče širenje kampanja.
Takođe postoji rastuća potreba da se pomogne potrošačima da razviju sofisticiraniju sposobnost da identifikuju operacije stranog uticaja i ograniče angažman sa njihovim narativima ili sadržajem.
Potrebna je povećana koordinacija i razmena informacija između vlade, privatnog sektora i civilnog društva kako bi se povećala transparentnost i razotkrile i ometale kampanje uticaja.
- Strane operacije kibernetičkog uticaja uvode propagandu – ponekad uključujući lažne narative – u javni domen na internetu i, ponekad, putem događaja ili provokacija u stvarnom svetu. Lažni narativi koji leže neprimećeni na internetu mogu učiniti da naknadne reference izgledaju verodostojnije.
1. primer
Rano u pandemiji, rubni zaverenički veb sajtovi povezani sa ruskim i iranskim državnim medijima objavili su intervju sa profesorom prava koji je sugerisao da je COVID-19 biološko oružje koje su stvorile Sjedinjene Američke Države.
2. primer
Dana 7. marta, Rusija je u podnesku Ujedinjenim nacijama (UN) unapred iznela narativ da je porodilište u Mariupolju, u Ukrajini, ispražnjeno i da se koristi kao vojna lokacija.
- Pokreće se koordinisana kampanja za propagiranje narativa kroz medijske kuće i kanale društvenih mreža koje podržava vlada i na njih utiče.
1. primer
U februaru 2020, PRESSTV, medijska kuća koju sponzoriše iranska vlada, objavila je priču na engleskom jeziku o intervjuu, a ruski državni mediji i nalozi kineske vlade ubrzo su počeli da komentarišu članak.2. primer
Rusija je 9. marta bombardovala bolnicu. Kada je došlo do vesti o bombardovanju, ruski predstavnik u UN je tvitovao da je izveštavanje o bombardovanju „lažna vest“ i citirao ranije tvrdnje Rusije o njegovoj navodnoj upotrebi kao vojnoj lokaciji. - Konačno, mediji i zastupnici pod kontrolom nacionalne države pojačavaju narative unutar ciljane publike. Često, nesvesni tehnološki omogućioci proširuju domet narativa.
1. primer
Russia Today (RT) – državna medijska kuća – takođe je objavila najmanje jednu priču koja je promovisala izjave iranskih zvaničnika u kojima se tvrdi da bi COVID-19 mogao biti „proizvod ’biološkog napada SAD’ usmerenog na Iran i Kinu“ i izbacila objavu na društvenim mrežama.2. primer
Rusija je potom širila ovu priču na veb sajtovima pod kontrolom Rusije dve nedelje nakon napada na bolnicu. Pojačavanje ovih priča na mreži pruža Rusiji mogućnost da odbaci krivicu na međunarodnoj sceni i izbegne odgovornost.
Sintetički mediji
Ulazimo u zlatnu eru za kreiranje i manipulaciju medija uz pomoć veštačke inteligencije. Microsoft analitičari napominju da je ovo vođeno uz dva ključna trenda: širenjem alatki i usluga lakih za korišćenje za veštačko kreiranje visokorealističnih sintetičkih slika, video zapisa, zvuka i teksta, kao i mogućnošću brzog širenja sadržaja optimizovanog za određenu publiku.
Oblast sintetičkog teksta i medija napreduje neverovatno brzo, a mi smo veoma blizu dostizanja tačke u kojoj svako može da napravi sintetički video na kome bilo ko govori ili radi bilo šta.
Dipfejk: Tehnike korišćenja sintetičkog teksta i medija
Ove tehnike se mogu koristiti za pokušaj ucene pojedinca, kompanije ili institucije, odnosno za postavljanje pojedinaca na neugodne lokacije ili u neprijatne situacije. Takve napredne tehnike zasnovane na veštačkoj inteligenciji danas se još uvek ne koriste široko u kibernetičkim kampanjama uticaja, ali očekujemo da će problem rasti kako alatke postaju lakše za korišćenje i sve dostupnije.
- Zamena jednog lica u video zapisu drugim
- Korišćenje video zapisa za animiranje statične slike ili drugog video zapisa
- Porodica tehnika za generisanje fotorealističnih slika
- Pravljenje bogatih slika na osnovu tekstualnih opisa
Upotreba informacionih operacija za nanošenje štete ili širenje uticaja nije nova. Međutim, brzina kojom se informacije mogu širiti i naša nesposobnost da brzo razdvojimo činjenice od fikcije znače da uticaj i šteta uzrokovani lažnim i drugim sintetički generisanim zlonamernim medijima može biti mnogo veća.
Postoji nekoliko kategorija štete koje razmatramo: manipulacija tržištem, prevara u plaćanju, lažno predstavljanje, oštećenje brenda, oštećenje reputacije i mreže robota. Mnoge od ovih kategorija imaju dosta prijavljenih primera iz stvarnog sveta, koji bi mogli da potkopaju našu sposobnost da odvojimo činjenice od fikcije.
Dugoročna i još podmuklija pretnja usmerena je na naše razumevanje toga šta je istina ako više ne možemo da verujemo onome što vidimo i čujemo. Zbog toga se svaka kompromitujuća slika, audio ili video snimak javne ili privatne ličnosti može odbaciti kao lažni – što je rezultat poznat kao „dividenda lažova“.2
U toku su napori u industriji, vladi i akademskoj zajednici da se razviju bolji načini za otkrivanje i ublažavanje posledica sintetičkih medija i vraćanje poverenja. Postoji nekoliko obećavajućih puteva napred, kao i barijere koje zahtevaju razmatranje.
Strateški okvir korporacije Microsoft ima za cilj da pomogne međusektorskim zainteresovanim stranama da otkriju, ometaju, odbrane i odvrate od propagande – posebno od kampanja stranih agresora.
Otkrivanje
Kao i kod kibernetičke odbrane, prvi korak u suprotstavljanju stranim kibernetičkim operacijama uticaja jeste razvoj kapaciteta za njihovo otkrivanje. Nijedna pojedinačna kompanija ni organizacija ne može se nadati da će samostalno ostvariti napredak koji je potreban. Nova, šira saradnja u tehnološkom sektoru biće od ključnog značaja, a napredak u analizi i izveštavanju o kibernetičkim operacijama uticaja u velikoj meri će se oslanjati na ulogu civilnog društva, uključujući akademske institucije i neprofitne organizacije.
Kao i kod kibernetičke odbrane, prvi korak u suprotstavljanju stranim kibernetičkim operacijama uticaja jeste razvoj kapaciteta za njihovo otkrivanje. Nijedna pojedinačna kompanija ni organizacija ne može se nadati da će samostalno ostvariti napredak koji je potreban. Nova, šira saradnja u tehnološkom sektoru biće od ključnog značaja, a napredak u analizi i izveštavanju o kibernetičkim operacijama uticaja u velikoj meri će se oslanjati na ulogu civilnog društva, uključujući akademske institucije i neprofitne organizacije.
Odbrana
Drugi strateški stub jeste jačanje demokratske odbrane, što je dugogodišnji prioritet kom su potrebne investicije i inovacije. Trebalo bi uzeti u obzir izazove koje je tehnologija stvorila za demokratska društva – posebno ometanje novinarstva i lokalnih vesti – i mogućnosti koje tehnologija pruža za efikasniju odbranu demokratskog društva.
Drugi strateški stub jeste jačanje demokratske odbrane, što je dugogodišnji prioritet kom su potrebne investicije i inovacije. Trebalo bi uzeti u obzir izazove koje je tehnologija stvorila za demokratska društva – posebno ometanje novinarstva i lokalnih vesti – i mogućnosti koje tehnologija pruža za efikasniju odbranu demokratskog društva.
Ovo zahteva stalna ulaganja i inovacije koje moraju odražavati lokalne potrebe različitih zemalja i kontinenata. Ova pitanja nisu laka i zahtevaju pristup sa više zainteresovanih strana, što Microsoft i druge tehnološke kompanije sve više podržavaju
Ometanje
Poslednjih godina, Microsoft jedinica za digitalne zločine (DCU) usavršila je taktiku i razvila alatke za ometanje kibernetičkih pretnji u rasponu od ransomvera do mreža robota i napada nacionalnih država. Naučili smo mnoge kritične lekcije, počevši od uloge aktivnog ometanja u suzbijanju širokog spektra kibernetičkih napada.
Poslednjih godina, Microsoft jedinica za digitalne zločine (DCU) usavršila je taktiku i razvila alatke za ometanje kibernetičkih pretnji u rasponu od ransomvera do mreža robota i napada nacionalnih država. Naučili smo mnoge kritične lekcije, počevši od uloge aktivnog ometanja u suzbijanju širokog spektra kibernetičkih napada.
Dok razmišljamo o suprotstavljanju operacijama kibernetičkog uticaja, poremećaji mogu igrati još važniju ulogu, a najbolji pristup ometanju postaje sve jasniji. Najefikasniji lek za široku prevaru je transparentnost. Zbog toga je Microsoft povećao svoj kapacitet da otkrije i ometa operacije uticaja nacionalnih država tako što je kupio Miburo Solutions, vodeću kompaniju za analizu i istraživanje kibernetičkih pretnji specijalizovanu za otkrivanje stranih kibernetičkih operacija uticaja i reagovanje na njih. Kombinujući ove analitičare sa Microsoft analitičarima konteksta pretnji, Microsoft je formirao Centar za analizu digitalnih pretnji (DTAC). DTAC analizira i izveštava o pretnjama nacionalnih država, uključujući i kibernetičke napade i operacije uticaja, kombinujući informacije i obaveštajne podatke o pretnjama sa geopolitičkom analizom kako bi pružio uvid i informisao efikasan odgovor i zaštitu.
Odvraćanje
Naposletku, ne možemo očekivati da nacije promene ponašanje ukoliko ne postoji odgovornost za kršenje međunarodnih pravila. Sprovođenje takve odgovornosti isključivo je odgovornost vlade. Ipak, sprovođenje radnji sa više zainteresovanih strana ima važnu ulogu u jačanju i proširenju međunarodnih normi.
Naposletku, ne možemo očekivati da nacije promene ponašanje ukoliko ne postoji odgovornost za kršenje međunarodnih pravila. Sprovođenje takve odgovornosti isključivo je odgovornost vlade. Ipak, sprovođenje radnji sa više zainteresovanih strana ima važnu ulogu u jačanju i proširenju međunarodnih normi.
Više od 30 platformi na mreži, oglašivača i izdavača – uključujući Microsoft – nedavno je potpisalo ažurirani Kodeks o praksi Evropske komisije o dezinformacijama, čime su pristali na pojačanu obavezu da se uhvate u koštac sa ovim rastućim problemom. Poput nedavnog Pariskog poziva, Poziva iz Krajstčerča i Deklaracije o budućnosti interneta, multilateralne akcije i akcije više zainteresovanih strana mogu da okupe vlade i javnost među demokratskim nacijama. Vlade tada mogu da se oslanjaju na ove norme i zakone kako bi unapredile odgovornost koju svetske demokratije zaslužuju i koja im je potrebna.
Putem brze i radikalne transparentnosti, demokratske vlade i društva mogu efikasno da se odbrane od uticaja kampanja tako što će izvore napada pripisati nacionalnoj državi, informisati javnost i graditi poverenje u institucije.
Izvor: Microsoft izveštaj o digitalnoj bezbednosti, novembar 2022.
- [1]
Deepfakes 2020: The Tipping Point, Johanes Tamekand, Džon Tomas i Kristjan Peterson, oktobar 2020 – https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Dipfejk: stalni izazov za privatnost https://go.microsoft.com/fwlink/?linkid=2262673