Ένα νέο είδος περιεχομένου εξαπλώνεται στα social media, εκμεταλλευόμενο ένα από τα ισχυρότερα «κουμπιά» συναισθηματικής αντίδρασης του κοινού: ένα ζώο που βρίσκεται σε κίνδυνο και ένας άνθρωπος που γίνεται ήρωας μέσα σε λίγα δευτερόλεπτα.
Ο οργανισμός fact-checking Lead Stories κατέγραψε σειρά από viral videos που εμφανίζουν σκύλους να κινδυνεύουν πάνω σε γραμμές τρένων ή μετρό και ανθρώπους να επιχειρούν δραματικές διασώσεις δευτερόλεπτα πριν περάσει ο συρμός.
Το πρόβλημα είναι ότι πολλά από αυτά τα περιστατικά δεν είναι πραγματικά. Έχουν δημιουργηθεί με εργαλεία generative AI.
Η έρευνα της Lead Stories για τα ψεύτικα videos διάσωσης
Σύμφωνα με την έρευνα που δημοσιεύθηκε στις 22 Αυγούστου, στα videos επαναλαμβάνεται ένα σχεδόν κινηματογραφικό μοτίβο.
Ένας άνθρωπος βρίσκεται μαζί με τον σκύλο του σε αποβάθρα. Το ζώο καταλήγει ξαφνικά στις γραμμές. Ο άνθρωπος πηδά για να το σώσει, ενώ στο βάθος εμφανίζεται το τρένο. Ακολουθούν λίγα δευτερόλεπτα αγωνίας και, την τελευταία στιγμή, άνθρωπος και σκύλος επιστρέφουν σώοι στην αποβάθρα.
Υπάρχουν παραλλαγές: σε ορισμένα videos εμφανίζονται υπάλληλοι σταθμών, σε άλλα γυναίκες ως «διασώστριες», ενώ έχουν εντοπιστεί ακόμη και clips όπου ζώα παρουσιάζονται δεμένα πάνω στις γραμμές.
Η Lead Stories βρήκε παρόμοιο υλικό σε TikTok, X και άλλες πλατφόρμες, ενώ σε κάποιες περιπτώσεις οι ίδιοι οι λογαριασμοί που το δημοσίευαν αποκάλυπταν —είτε με σχετική ένδειξη είτε ακόμη και με την ονομασία τους— ότι χρησιμοποιούσαν AI.
@user7030585695653 MashAllah ☝🏻😇 Great Save Caught On Camera 😍 #allah #shorts #status #respect_SQ2HOMGuRiE ♬ original sound – user7030585695653
Ένα βίντεο είχε ήδη αποκαλυφθεί ως ψεύτικο
Το φαινόμενο δεν εμφανίστηκε ξαφνικά τον Αύγουστο.
Τον Μάρτιο η Lead Stories είχε ελέγξει συγκεκριμένο viral video που υποτίθεται ότι έδειχνε έναν άνδρα να πηδά στις γραμμές του μετρό για να σώσει τον σκύλο του από επερχόμενο συρμό.
Η έρευνα οδήγησε σε λογαριασμό στο YouTube που είχε δημοσιεύσει το video τον Ιανουάριο. Η ίδια η ταυτότητα του account παρέπεμπε σε περιεχόμενο AI, ενώ στο clip υπήρχαν και χαρακτηριστικές ασυνέχειες: για παράδειγμα, μία λευκή τσάντα που κρατά ο άνδρας εξαφανίζεται στη συνέχεια της σκηνής.
Ακριβώς τέτοιες μικρές ασυνέχειες μπορούν ακόμη να προδώσουν ένα συνθετικό video.
Τι είναι το «AI-slop»
Ο όρος AI-slop χρησιμοποιείται για μαζικά παραγόμενο περιεχόμενο χαμηλής ποιότητας που δημιουργείται με εργαλεία τεχνητής νοημοσύνης και σχεδιάζεται κυρίως για να συγκεντρώνει views, reactions και shares.
Δεν σημαίνει ότι κάθε AI-generated video είναι παραπλανητικό. Το κρίσιμο πρόβλημα εμφανίζεται όταν ένα συνθετικό περιστατικό παρουσιάζεται ή ανακυκλώνεται σαν πραγματικό γεγονός.
Τα ζώα αποτελούν ιδανικό υλικό για αυτή τη «βιομηχανία προσοχής», επειδή φόβος, συμπόνια και ανακούφιση μπορούν να συμπυκνωθούν σε ένα video διάρκειας μερικών δευτερολέπτων.
Αντίστοιχο κύμα έχει ήδη καταγραφεί με ψεύτικες εικόνες άγριας ζωής, «διασώσεις» πολικών αρκούδων και ανύπαρκτες αλληλεπιδράσεις ζώων. Ερευνητές έχουν προειδοποιήσει μάλιστα ότι το fabricated animal footage μπορεί να αλλοιώνει ακόμη και την αντίληψή μας για την πραγματική συμπεριφορά των ζώων.
Γιατί είναι τόσο εύκολο να τα πιστέψουμε
Η τεχνική δεν στηρίζεται μόνο στην ποιότητα της τεχνητής νοημοσύνης.
Στηρίζεται κυρίως στο συναίσθημα.
Ο θεατής βλέπει:
σκύλος σε κίνδυνο → τρένο πλησιάζει → άνθρωπος επεμβαίνει → διάσωση την τελευταία στιγμή → συγκινητικό τέλος.
Μέχρι να αναρωτηθεί εάν αυτό που είδε είναι πραγματικό, πιθανότατα έχει ήδη κάνει like, comment ή share.
Οργανώσεις προστασίας ζώων επισημαίνουν ότι τα AI-generated animal scams συχνά κατασκευάζονται ακριβώς για να προκαλούν άμεσες αντιδράσεις όπως σοκ, θυμό ή συμπόνια, πριν ο χρήστης προλάβει να αξιολογήσει την αυθεντικότητα του περιεχομένου.
