Ψευδείς ειδήσεις και παραπληροφόρηση: Η συνεισφορά του ευρωπαϊκού προγράμματος FANDANGO

Των Πέτρου Δάρα* και Θεοδώρου Σεμερτζίδη**

Η πρόκληση των ψευδών ειδήσεων σήμερα

Στο νέο αυτό σκηνικό, η αξιολόγηση της είδησης ως αληθούς ή ψευδούς καθίσταται πολύ πιο δύσκολη αλλά και πολύ πιο σημαντική. Μεγάλος αριθμός καναλιών και χρηστών των κοινωνικών δικτύων, διαμοιράζουν εσκεμμένα ψευδείς ειδήσεις, κάποιες μάλιστα κατασκευασμένες με προηγμένα τεχνολογικά εργαλεία (π.χ. deep-fakes), οι οποίες και διαταράσουν την κοινωνική συνοχή, επηρεάζουν ψηφοφόρους και χειραγωγούν τις αγορές.

Ψευδείς ειδήσεις και η αναγκαιότητα στήριξης των δημοσιογράφων και λοιπών επαγγελματιών του χώρου

Στη νέα αυτή συγκυρία, οι δημοσιογράφοι και λοιποί επαγγελματίες του χώρου έχουν ανάγκη από εργαλεία, που τους βοηθούν να αναγνωρίσουν ψευδείς ή αληθείς ειδήσεις και αρθρογράφους ή κανάλια εμπιστοσύνης, ώστε να αποφευχθεί η μετάδοση εσφαλμένων πληροφοριών.

Οι λύσεις που ανέπτυξε το έργο FANDANGO

Το έργο FANDANGO, το οποίο χρηματοδοτείται από την Ευρωπαϊκή Ένωση μέσω του προγράμματος Horizon 2020, προτάθηκε και υλοποιείται από το Ινστιτούτο Τεχνολογιών Πληροφορικής και Επικοινωνιών (ΙΠΤΗΛ) του Εθνικού Κέντρου Έρευνας και Τεχνολογικής Ανάπτυξης (ΕΚΕΤΑ) μαζί με μία κοινοπραξία Ευρωπαϊκών εταιριών και πανεπιστημίων, παρέχει ένα σύνολο εργαλείων που στοχεύουν στο πρόβλημα των ψευδών ειδήσεων.

Το FANDANGO αποτελεί ουσιαστικά μία πλατφόρμα λογισμικού, που συλλέγει και αναλύει αυτόματα ειδήσεις, οι οποίες εμφανίζονται σε μια λίστα μέσων (domains, news sites) ενώ στη συνέχεια, παρουσιάζονται τα αποτελέσματα σε μια διεπαφή web για τους επαγγελματίες. Η πλατφόρμα παρέχει τα παρακάτω εργαλεία κάνοντας χρήση τεχνητής νοημοσύνης και μηχανικής μάθησης:

• Ανάλυση κειμένου και βαθμολόγηση της πιθανότητας ψευδούς είδησης
• Ανάλυση προφίλ του συγγραφέα και του καναλιού με βάση προηγούμενες δημοσιεύσεις και αλληλεπιδράσεις με άλλα μέσα ή συγγραφείς
• Ανάλυση εικόνας για αλλαγές και επεξεργασία (copy-move, image manipulation, κλπ)
• Ανάλυση βίντεο για τον εντοπισμό deep-fakes και άλλων αλλαγών στο οπτικό περιεχόμενο
• Ανάλυση ήχου κάθε βίντεο για την εξαγωγή ομιλιών και συσχετισμό με το κείμενο του άρθρου.
• Αυτοματοποιημένη συλλογή δεδομένων (hard facts) από βάσεις δεδομένων εμπιστοσύνης (π.χ. Eurostat) και συσχέτιση με το άρθρο.
• Αυτοματοποιημένη συλλογή αναλυμένων άρθρων από άλλες έμπιστες πηγές (πχ snopes.com) και συσχέτιση με το άρθρο.
• Διεπαφή για τον συσχετισμό άρθρων και συγγραφέων για εις βάθος δημοσιογραφική έρευνα

Το έργο, που ολοκληρώθηκε τον Μάρτιο του 2021, είναι στην φάση των πιλοτικών δοκιμών στην Ιταλία (ANSA), Ισπανία (CIVIO), Βέλγιο (VRT), όπου δημοσιογράφοι και ερευνητές δεδομένων (fact checkers) αξιολογούν τις επιδόσεις της πλατφόρμας σε θέματα ειδήσεων σχετικά με την πολιτική (politics), το μεταναστευτικό (migration) και την αλλαγή του κλίματος (climate change).

Ο ρόλος του Εθνικού Κέντρου Έρευνας και Τεχνολογικής Ανάπτυξης

Η ερευνητική ομάδα του Εργαστηρίου Οπτικής Υπολογιστικής (http://vcl.iti.gr) του ΕΚΕΤΑ/ΙΠΤΗΛ (www.iti.gr), ως βασικός τεχνολογικός εταίρος του έργου, προσφέρει τεχνολογίες αιχμής στην ανάλυση πολυμεσικών δεδομένων (εικόνας και βίντεο), που είναι προϊόν έρευνας δημοσιευμένης σε έγκυρα διεθνή ακαδημαϊκά περιοδικά και συνέδρια. Πιο συγκεκριμένα, η ομάδα του ΕΚΕΤΑ ερευνά μεθόδους τεχνητής νοημοσύνης και μηχανικής μάθησης για:

• Τον εντοπισμό εικόνων που έχουν αλλοιωθεί με διαφορετικές τεχνικές είτε με αυτοματοποιημένες μεθόδους είτε όχι (image tampering, copy-move detection).
• Τον εντοπισμό χρήσης εικόνων από παρελθοντικές ειδήσεις σε νέες (out of context)
• Τον εντοπισμό βίντεο κατασκευασμένων με τεχνικές deep-fakes ή άλλες επιθέσεις / αλλοιώσεις
• Την εξαγωγή υποτίτλων και επεξηγήσεων για τα video ώστε να είναι αναζητήσιμα με την χρήση κειμένου
• Την ανάλυση ήχου και γλώσσας από τα video για τον συσχετισμό με το περιεχόμενο του δημοσιευμένου άρθρου και την εξαγωγή βαθμολογίας
• Την ενδυνάμωση των μεθόδων deep learning ώστε να μπορούν να ανταπεξέλθουν σε κυβερνο-επιθέσεις τύπου adversarial attacks
• Τον συγκερασμό πληροφοριών από τα διάφορα εργαλεία για τον υπολογισμό δείκτη ψεύδους και την εξαγωγή επεξηγήσεων (explainable AI) των αποτελεσμάτων των μεθόδων

Στις παρακάτω φωτογραφίες μπορεί να δει κανείς την διεπαφή του εργαλείου FANDANGO τη στιγμή που αυτό αναλύει ένα βίντεο κατασκευασμένο με deep-fakes, καθώς και εικόνες από παραδείγματα αλλοιωμένων εικόνων και τα αποτελέσματα των αλγορίθμων ανίχνευσης.

Παραδείγματα αλλοιωμένων εικόνων παρουσιάζονται παρακάτω:

H κοινοπραξία του έργου αποτελείται από τις παρακάτω εταιρείες και οργανισμούς:

1. ENGINEERING - INGEGNERIA INFORMATICA SPA (Italy)
2. LIVE TECH SRL (Italy)
3. DE VLAAMSE RADIO EN TELEVISIEOMROEPORGANISATIE NV (Belgium)
4. CENTRE FOR RESEARCH AND TECHNOLOGY HELLAS (Greece)
5. SINDICE LIMITED (Ireland)
6. FUNDACION CIUDADANA CIVIO (Spain)
7. UNIVERSIDAD POLITECNICA DE MADRID (Spain)
8. AGENZIA ANSA - AGENZIA NAZIONALE STAMPA ASSOCIATA – SOCIETA COOPERATIVA (Italy)

Περισσότερες πληροφορίες μπορείτε να βρείτε στην ιστοσελίδα του έργου:

https://fandango-project.eu/ & https://vcl.iti.gr/project/fandango/

* Ο Πέτρος Δάρας είναι διευθυντής Ερευνών ΕΚΕΤΑ/ΙΠΤΗΛ - Εργαστήριο Οπτικής Υπολογιστικής

** Ο Θεόδωρος Σεμερτζίδης είναι μετα-διδακτορικός Ερευνητής ΕΚΕΤΑ/ΙΠΤΗΛ - Εργαστήριο Οπτικής Υπολογιστικής