Η προπαγάνδα στην ψηφιακή εποχή: Πώς οι επιχειρήσεις επιρροής στον κυβερνοχώρο διαβρώνουν την εμπιστοσύνη
Οι σημερινές επιχειρήσεις εξωτερικής επιρροής χρησιμοποιούν νέες μεθόδους και τεχνολογίες, καθιστώντας τις εκστρατείες τους σχεδιασμένες να διαβρώνουν την εμπιστοσύνη πιο αποτελεσματικά.
Τα εθνικά κράτη χρησιμοποιούν όλο και περισσότερο εξελιγμένες επιχειρήσεις επιρροής για να διανέμουν προπαγάνδα και να επηρεάζουν την κοινή γνώμη τόσο στο εσωτερικό όσο και διεθνώς. Αυτές οι εκστρατείες διαβρώνουν την εμπιστοσύνη, αυξάνουν την πόλωση και απειλούν τις δημοκρατικές διαδικασίες.
Οι έμπειροι χειριστές προηγμένης επίμονης μορφής (Skilled Advanced Persistent Manipulator) χρησιμοποιούν συνδυαστικά τα παραδοσιακά μέσα ενημέρωσης μαζί με το διαδίκτυο και τα κοινωνικά μέσα για να αυξήσουν κατακόρυφα το εύρος, την κλίμακα και την αποτελεσματικότητα των εκστρατειών τους, καθώς και τον τεράστιο αντίκτυπο που έχουν στο παγκόσμιο οικοσύστημα πληροφοριών.
Τα συνθετικά μέσα γίνονται όλο και πιο διαδεδομένα λόγω του πολλαπλασιασμού των εργαλείων που δημιουργούν και διαδίδουν εύκολα εξαιρετικά ρεαλιστικές τεχνητές εικόνες, βίντεο και ήχο. Η τεχνολογία ψηφιακής προέλευσης που πιστοποιεί την προέλευση των πόρων των μέσων ενημέρωσης υπόσχεται να καταπολεμήσει την κατάχρηση.
Απαιτείται μια ολιστική προσέγγιση για την προστασία των λύσεων από επιχειρήσεις επιρροής στον κυβερνοχώρο. Η Microsoft αξιοποιεί την ήδη ώριμη υποδομή πληροφοριών σχετικά με τις απειλές στον κυβερνοχώρο για την καταπολέμηση των επιχειρήσεων επιρροής στον κυβερνοχώρο. Η στρατηγική μας είναι να εντοπίζουμε, να αναχαιτίζουμε, να υπερασπιζόμαστε και να αποτρέπουμε εκστρατείες προπαγάνδας από ξένους εισβολείς.
900% ετήσια αύξηση του πολλαπλασιασμού των τεχνητών βίντεο deepfake από το 20191
Οι δραστηριότητες επιρροής στον κυβερνοχώρο εξελίσσονται ολοένα και περισσότερο, καθώς η τεχνολογία εξελίσσεται με ταχύτατους ρυθμούς. Βλέπουμε μια επικάλυψη και επέκταση των εργαλείων που χρησιμοποιούνται στις παραδοσιακές επιθέσεις στον κυβερνοχώρο να εφαρμόζονται σε επιχειρήσεις επιρροής στον κυβερνοχώρο. Επιπλέον, έχουμε παρατηρήσει αυξημένο συντονισμό και ενίσχυση μεταξύ των εθνικών κρατών.
Τα αυταρχικά καθεστώτα σε όλο τον κόσμο συνεργάζονται για να μολύνουν το οικοσύστημα της πληροφορίας προς αμοιβαίο όφελος. Ενισχύοντας το ένα το άλλο, τα κρατικά μέσα ενημέρωσης δημιουργούν ένα οικοσύστημα στο οποίο η αρνητική κάλυψη των δημοκρατιών—ή η θετική κάλυψη των συμμάχων—που παράγεται από ένα κρατικό μέσο ενημέρωσης, ενισχύεται από άλλα.
Επιπλέον, οι τεχνολογικές οντότητες του ιδιωτικού τομέα ενδέχεται να επιτρέψουν άθελά τους αυτές τις εκστρατείες. Στους συντελεστές μπορεί να περιλαμβάνονται εταιρείες που καταχωρούν διαδικτυακούς τομείς, φιλοξενούν τοποθεσίες web, προωθούν υλικό στα κοινωνικά μέσα και στις ιστοσελίδες αναζήτησης, διοχετεύουν την κυκλοφορία και συμβάλλουν στην χρηματοδότηση αυτών των δραστηριοτήτων μέσω της ψηφιακής διαφήμισης.
Οι οργανισμοί πρέπει να γνωρίζουν τα εργαλεία και τις μεθόδους που χρησιμοποιούν τα αυταρχικά καθεστώτα για επιχειρήσεις επιρροής στον κυβερνοχώρο, ώστε να μπορούν να εντοπίζουν και, στη συνέχεια, να αποτρέπουν την εξάπλωση των εκστρατειών.
Υπάρχει επίσης αυξανόμενη ανάγκη να βοηθηθούν οι καταναλωτές να αναπτύξουν μια πιο εξελιγμένη ικανότητα να αναγνωρίζουν τις επιχειρήσεις επιρροής του εξωτερικού και να περιορίζουν την εμπλοκή τους με τις αφηγήσεις ή το περιεχόμενό τους.
Απαιτείται αυξημένος συντονισμός και ανταλλαγή πληροφοριών μεταξύ της κυβέρνησης, του ιδιωτικού τομέα και της κοινωνίας των πολιτών για την αύξηση της διαφάνειας και για την αποκάλυψη και αναχαίτιση αυτών των εκστρατειών επιρροής.
- Οι ξένες επιχειρήσεις επιρροής στον κυβερνοχώρο εισάγουν προπαγάνδα – μερικές φορές συμπεριλαμβανομένων ψευδών αφηγήσεων – στον δημόσιο τομέα στο internet και, ενίοτε, μέσω γεγονότων ή προκλήσεων στον πραγματικό κόσμο. Οι ψευδείς αφηγήσεις που βρίσκονται απαρατήρητες στο internet μπορούν να κάνουν τις επόμενες αναφορές να φαίνονται πιο αξιόπιστες.
Παράδειγμα 1
Στις αρχές της πανδημίας, περιθωριακές ιστοσελίδες συνωμοσίας που συνδέονταν με ρωσικά και ιρανικά κρατικά μέσα ενημέρωσης δημοσίευσαν μια συνέντευξη με έναν καθηγητή νομικής, ο οποίος ισχυριζόταν ότι το COVID-19 είναι ένα βιολογικό όπλο που δημιουργήθηκε από τις Ηνωμένες Πολιτείες.
Παράδειγμα 2
Στις 7 Μαρτίου, η Russa προετοίμασε μια αφήγηση μέσω της κατάθεσης στα Ηνωμένα Έθνη (ΟΗΕ) ότι ένα μαιευτήριο στη Μαριούπολη της Ουκρανίας είχε αδειάσει και χρησιμοποιούνταν ως στρατιωτικός χώρος.
- Ξεκινά συντονισμένη εκστρατεία για τη διάδοση των αφηγήσεων από τα μέσα ενημέρωσης που υποστηρίζονται και επηρεάζονται από την κυβέρνηση, καθώς και μέσω καναλιών κοινωνικής δικτύωσης.
Παράδειγμα 1
Τον Φεβρουάριο του 2020, το PRESSTV, ένα κανάλι που χρηματοδοτείται από την ιρανική κυβέρνηση, δημοσίευσε ένα αγγλόφωνο ρεπορτάζ σχετικά με τη συνέντευξη και σύντομα ρωσικά κρατικά μέσα ενημέρωσης και λογαριασμοί της κινεζικής κυβέρνησης άρχισαν να σχολιάζουν το άρθρο.Παράδειγμα 2
Στις 9 Μαρτίου, η Ρωσία βομβάρδισε το νοσοκομείο. Όταν μαθεύεται η είδηση του βομβαρδισμού, ο εκπρόσωπος της Ρωσίας στον ΟΗΕ γράφει στο Twitter ότι η κάλυψη του βομβαρδισμού είναι "ψεύτικες ειδήσεις" και επικαλείται τους προηγούμενους ισχυρισμούς της Ρωσίας σχετικά με την υποτιθέμενη χρήση του ως στρατιωτικού χώρου. - Τέλος, τα ελεγχόμενα από το κράτος μέσα ενημέρωσης και οι πληρεξούσιοι ενισχύουν τις αφηγήσεις στο εσωτερικό των στοχευμένων ακροατηρίων. Συχνά, οι αθέλητοι τεχνολογικοί υποστηρικτές επεκτείνουν την εμβέλεια των αφηγήσεων.
Παράδειγμα 1
Το Russia Today (RT) – κρατικό κανάλι – δημοσίευσε επίσης τουλάχιστον μια ιστορία που προωθούσε δηλώσεις Ιρανών αξιωματούχων που ισχυρίζονταν ότι το COVID-19 μπορεί να είναι "προϊόν βιολογικής επίθεσης των ΗΠΑ με στόχο το Ιράν και την Κίνα" και έστειλε μια ανάρτηση στα κοινωνικά μέσα που υπονοούσε κάτι τέτοιο.Παράδειγμα 2
Στη συνέχεια, η Ρωσία προώθησε αυτή την αφήγηση ευρέως σε ρωσικά ελεγχόμενους τοποθεσίες web για δύο εβδομάδες μετά την επίθεση στο νοσοκομείο. Η ενίσχυση αυτών των ιστοριών στο διαδίκτυο παρέχει στη Ρωσία τη δυνατότητα να αποσείσει την ευθύνη στη διεθνή σκηνή και να αποφύγει τη λογοδοσία.
Συνθετικά πολυμέσα
Εισερχόμαστε σε μια χρυσή εποχή για τη δημιουργία και τη χειραγώγηση των μέσων ενημέρωσης με τη βοήθεια της τεχνητής νοημοσύνης. Οι αναλυτές της Microsoft σημειώνουν ότι αυτό οφείλεται σε δύο βασικές τάσεις: τη διάδοση εύχρηστων εργαλείων και υπηρεσιών για την τεχνητή δημιουργία εξαιρετικά ρεαλιστικών συνθετικών εικόνων, βίντεο, ήχου και κειμένου και τη δυνατότητα γρήγορης διάδοσης περιεχομένου βελτιστοποιημένου για συγκεκριμένο κοινό.
Ο τομέας των συνθετικών κειμένων και μέσων εξελίσσεται απίστευτα γρήγορα και βρισκόμαστε πολύ κοντά στο σημείο όπου ο καθένας μπορεί να δημιουργήσει ένα συνθετικό βίντεο με οποιονδήποτε να λέει ή να κάνει οτιδήποτε.
Βίντεο Deepfake: Τεχνικές συνθετικού κειμένου και πολυμέσων
Αυτές οι τεχνικές μπορούν να χρησιμοποιηθούν για την απόπειρα εκβιασμού ενός ατόμου, μιας εταιρείας ή ενός ιδρύματος ή για να τοποθετηθούν άτομα σε ενοχλητικές τοποθεσίες ή καταστάσεις. Τέτοιες προηγμένες τεχνικές βασισμένες στην τεχνητή νοημοσύνη δεν χρησιμοποιούνται ακόμη ευρέως σε εκστρατείες επιρροής στον κυβερνοχώρο σήμερα, αλλά αναμένουμε ότι το πρόβλημα θα αυξηθεί καθώς τα εργαλεία γίνονται ευκολότερα στη χρήση και ευρύτερα διαθέσιμα.
- Αντικατάσταση ενός προσώπου σε ένα βίντεο με ένα άλλο
- Χρήση ενός βίντεο για την προσθήκη κίνησης σε μια ακίνητη εικόνα ή σε ένα άλλο βίντεο
- Μια συλλογή τεχνικών για τη δημιουργία φωτορεαλιστικών εικόνων
- Δημιουργία εμπλουτισμένων εικόνων από περιγραφές κειμένου
Η χρήση επιχειρήσεων πληροφοριών για την πρόκληση βλάβης ή την επέκταση της επιρροής δεν είναι καινούργια. Ωστόσο, η ταχύτητα με την οποία μπορούν να διαδοθούν οι πληροφορίες και η αδυναμία μας να ξεχωρίσουμε γρήγορα τα γεγονότα από τη μυθοπλασία, σημαίνει ότι ο αντίκτυπος και η ζημιά που προκαλούν οι απομιμήσεις και άλλα συνθετικά παραγόμενα κακόβουλα μέσα ενημέρωσης μπορεί να είναι πολύ μεγαλύτερος.
Υπάρχουν διάφορες κατηγορίες βλάβης που εξετάζουμε: χειραγώγηση της αγοράς, απάτη πληρωμών, ηλεκτρονικό "ψάρεμα" μέσω τηλεφώνου, πλαστοπροσωπίες, βλάβη του εμπορικού σήματος, βλάβη της φήμης και botnet. Πολλές από αυτές τις κατηγορίες έχουν ευρέως αναφερόμενα παραδείγματα από τον πραγματικό κόσμο, τα οποία θα μπορούσαν να υπονομεύσουν την ικανότητά μας να διαχωρίζουμε την πραγματικότητα από τη φαντασία.
Μια πιο μακροπρόθεσμη και πιο ύπουλη απειλή είναι η κατανόησή μας για το τι είναι αληθινό, αν δεν μπορούμε πλέον να εμπιστευόμαστε αυτά που βλέπουμε και ακούμε. Εξαιτίας αυτού, οποιαδήποτε συμβιβαστική εικόνα, ήχος ή βίντεο ενός δημόσιου ή ιδιωτικού προσώπου μπορεί να απορριφθεί ως ψεύτικο—ένα αποτέλεσμα γνωστό ως "Το μέρισμα του ψεύτη" (The Liar’s Dividend).2
Η βιομηχανία, η κυβέρνηση και η ακαδημαϊκή κοινότητα καταβάλλουν προσπάθειες για την ανάπτυξη καλύτερων τρόπων ανίχνευσης και μετριασμού των συνθετικών μέσων και για την αποκατάσταση της εμπιστοσύνης. Υπάρχουν αρκετές ελπιδοφόρες προοπτικές για το μέλλον, καθώς και εμπόδια που αξίζουν προσοχής.
Το πλαίσιο στρατηγικής της Microsoft αποσκοπεί στο να βοηθήσει τους ενδιαφερόμενους φορείς από διάφορους τομείς να εντοπίσουν, να αναχαιτίσουν, να αμυνθούν και να αποτρέψουν την προπαγάνδα—ιδιαίτερα τις εκστρατείες από ξένους εισβολείς.
Όπως και με την άμυνα στον κυβερνοχώρο, το πρώτο βήμα για την αντιμετώπιση των ξένων επιχειρήσεων επιρροής στον κυβερνοχώρο είναι η ανάπτυξη της ικανότητας εντοπισμού τους. Καμία εταιρεία ή οργανισμός δεν μπορεί να ελπίζει ότι θα πετύχει μόνη της την απαιτούμενη πρόοδο. Η νέα, ευρύτερη συνεργασία σε ολόκληρο τον τεχνολογικό τομέα θα είναι ζωτικής σημασίας, ενώ η πρόοδος στην ανάλυση και αναφορά των επιχειρήσεων επιρροής στον κυβερνοχώρο εξαρτάται σε μεγάλο βαθμό από τον ρόλο της κοινωνίας των πολιτών, συμπεριλαμβανομένων των ακαδημαϊκών ιδρυμάτων και των μη κερδοσκοπικών οργανισμών.
Ο δεύτερος στρατηγικός πυλώνας είναι η ενίσχυση της δημοκρατικής άμυνας, μια μακροχρόνια προτεραιότητα που χρειάζεται επενδύσεις και καινοτομία. Θα πρέπει να λαμβάνει υπόψη τις προκλήσεις που έχει δημιουργήσει η τεχνολογία για τις δημοκρατικές κοινωνίες—ιδιαίτερα την αναστάτωση της δημοσιογραφίας και των τοπικών ειδήσεων—και τις ευκαιρίες που έχει δημιουργήσει η τεχνολογία για την αποτελεσματικότερη υπεράσπιση των δημοκρατικών κοινωνιών.
Αυτό απαιτεί συνεχείς επενδύσεις και καινοτομία που πρέπει να αντικατοπτρίζουν τις τοπικές ανάγκες των διαφόρων χωρών και ηπείρων. Τα ζητήματα αυτά δεν είναι εύκολα και απαιτούν προσεγγίσεις με πολλούς εμπλεκόμενους φορείς, τις οποίες η Microsoft και άλλες εταιρείες τεχνολογίας υποστηρίζουν όλο και περισσότερο
Τα τελευταία χρόνια, η Μονάδα Ψηφιακών Εγκλημάτων (DCU) της Microsoft έχει τελειοποιήσει τις τακτικές της και έχει αναπτύξει εργαλεία για την αντιμετώπιση απειλών στον κυβερνοχώρο, από ransomware έως botnet και επιθέσεις εθνικών κρατών. Αποκομίσαμε πολλά κρίσιμα διδάγματα, αρχής γενομένης από τον ρόλο της ενεργητικής αναχαίτισης στην αντιμετώπιση ενός ευρέος φάσματος επιθέσεων στον κυβερνοχώρο.
Καθώς σκεφτόμαστε την αντιμετώπιση των επιχειρήσεων επιρροής στον κυβερνοχώρο, η αναχαίτιση μπορεί να διαδραματίσει ακόμη πιο σημαντικό ρόλο, και η καλύτερη προσέγγιση για την αναχαίτιση γίνεται όλο και πιο σαφής. Το πιο αποτελεσματικό αντίδοτο στην εκτεταμένη παραπληροφόρηση είναι η διαφάνεια. Γι' αυτόν τον λόγο η Microsoft αύξησε την ικανότητά της να ανιχνεύει και να αναχαιτίζει τις επιχειρήσεις επιρροής εθνικών κρατών, μέσω της εξαγοράς της Miburo Solutions, μιας κορυφαίας εταιρείας ανάλυσης και έρευνας στον κυβερνοχώρο, η οποία ειδικεύεται στον εντοπισμό και την αντιμετώπιση ξένων επιχειρήσεων επιρροής στον κυβερνοχώρο. Συνδυάζοντας αυτούς τους αναλυτές με τους αναλυτές της Microsoft για το περιβάλλον απειλών, η Microsoft δημιούργησε το Κέντρο Ανάλυσης Ψηφιακών Απειλών (DTAC). Το Κέντρο Ψηφιακής Ανάλυσης Απειλών (DTAC) αναλύει και δημοσιεύει εκθέσεις για απειλές από κράτη-έθνη, οι οποίες περιλαμβάνουν τόσο επιθέσεις στον κυβερνοχώρο όσο και επιχειρήσεις επιρροής, συνδυάζοντας γνώσεις και πληροφορίες για απειλές με γεωπολιτική ανάλυση, για να παρέχει γνώσεις και να πληροφορεί για αποτελεσματικές αντιδράσεις και μέτρα προστασίας.
Τέλος, δεν μπορούμε να περιμένουμε από τα έθνη να αλλάξουν συμπεριφορά εάν δεν υπάρχει ευθύνη για την παραβίαση διεθνών κανόνων. Η επιβολή αυτής της λογοδοσίας αποτελεί αποκλειστικά κρατική ευθύνη. Ωστόσο, όλο και περισσότερο, η δράση πολλών ενδιαφερομένων διαδραματίζει σημαντικό ρόλο στην ενίσχυση και επέκταση των διεθνών κανόνων.
Περισσότερες από 30 διαδικτυακές πλατφόρμες, διαφημιζόμενοι και εκδότες—συμπεριλαμβανομένης της Microsoft— υπέγραψαν τον πρόσφατα ενημερωμένο Κώδικα Πρακτικής της Ευρωπαϊκής Επιτροπής για την Παραπληροφόρηση, συμφωνώντας σε ενισχυμένες δεσμεύσεις για την αντιμετώπιση αυτής της αυξανόμενης πρόκλησης. Όπως το πρόσφατο Κάλεσμα του Παρισιού, το Κάλεσμα του Κράισττσερτς και η Διακήρυξη για το Μέλλον του Διαδικτύου, η πολυμερής δράση μπορεί να φέρει κοντά τις κυβερνήσεις και το κοινό μεταξύ των δημοκρατικών εθνών. Οι κυβερνήσεις μπορούν στη συνέχεια να βασιστούν σε αυτούς τους κανόνες και τους νόμους για να προωθήσουν τη λογοδοσία που χρειάζονται και αξίζουν οι δημοκρατίες του κόσμου.
Μέσω της ταχείας ριζοσπαστικής διαφάνειας, οι δημοκρατικές κυβερνήσεις και κοινωνίες μπορούν να αμβλύνουν αποτελεσματικά τις εκστρατείες, αποδίδοντας την πηγή των επιθέσεων σε εθνικό επίπεδο, ενημερώνοντας το κοινό και δημιουργώντας εμπιστοσύνη στους θεσμούς.
Πηγή: Αναφορά ψηφιακής ασφάλειας της Microsoft, Νοέμβριος 2022
- [1]
Deepfake 2020: Το Σημείο Καμπής, Johannes Tammekänd, John Thomas και Kristjan Peterson, Οκτώβριος 2020 - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: Μια διαφαινόμενη πρόκληση για την προστασία των προσωπικών δεδομένων https://go.microsoft.com/fwlink/?linkid=2262673