Έρευνα WSJ: Το προσωπικό της Meta εντόπισε κενά στην ασφάλεια των ανηλίκων – Τα μέτρα που πήρε η εταιρεία κρίθηκαν ανεπαρκή

Δύο ομάδες εντός της Meta σήμαναν συναγερμό με εσωτερικές εκθέσεις τους.

Το προσωπικό ασφαλείας της Meta προειδοποίησε πέρυσι ότι τα νέα εργαλεία για τις επί πληρωμή συνδρομές στο Facebook και στο Instagram χρησιμοποιούνταν από ενήλικες που προσπαθούσαν να βγάλουν κέρδος από τα ίδια τους τα παιδιά, όπως αναφέρει η Wall Street Journal.

Η Meta θεσμοθέτησε πέρυσι μια υπηρεσία «φιλοδωρήματος» και επί πληρωμή συνδρομής στο πλαίσιο μιας προσπάθειας να προσελκύσει τους influencers να επιλέγουν τις πλατφόρμες της για να παράγουν περιεχόμενο. Για να μπορέσεις να παράγεις περιεχόμενο επί πληρωμή και να λαμβάνεις χρήματα από αυτό θα πρέπει να είσαι ενήλικος. Ωστόσο η πλατφόρμα επέτρεπε να υπάρχουν και λογαριασμοί ανηλίκων αν ο γονέας ήταν διαχειριστής.

Για να ενθαρρύνουν την παραγωγή περιεχομένου στις πλατφόρμες τους, η Meta και άλλα μέσα κοινωνικής δικτύωσης έχουν ενθαρρύνει τους επίδοξους δημιουργούς να ζητούν χρηματοδότηση από τους οπαδούς τους, είτε μέσω χρηματικών «φιλοδωρημάτων» και «δώρων» είτε μέσω επαναλαμβανόμενων πληρωμών για συνδρομές. Οι πλατφόρμες διακρατούν γενικά ένα μερίδιο από αυτές τις πληρωμές.

Δύο ομάδες εντός της Meta σήμαναν συναγερμό με εσωτερικές εκθέσεις τους. Οι συγκεκριμένες ομάδες διαπίστωσαν ότι εκατοντάδες λογαριασμοί «ανηλίκων που διαχειρίζονται από γονείς» ανέβαζαν περιεχόμενο που δεν θα ήταν διαθέσιμο σε όσους δεν πληρώνουν. Όπως μπορείτε να φανταστείτε το περιεχόμενο δεν ήταν αστεία βίντεο αλλά υλικό που θα μπορούσε να πέσει ακόμη στα χέρια παιδεραστών.

Σύμφωνα με την WSJ, το περιεχόμενο που συχνά παρουσίαζε μικρά κορίτσια με μαγιό, ήταν διαθέσιμο σε συνδρομητές που στην πλειοψηφία τους ήταν ενήλικοι άνδρες. Μάλιστα σε ορισμένες περιπτώσεις, οι συγκεκριμένοι χρήστες έδειχναν ανοιχτά σεξουαλικό ενδιαφέρον για παιδιά με σχόλια ή αναρτήσεις όταν επικοινωνούσαν με τους γονείς.

Οι επίμαχες εικόνες δεν έδειχναν γυμνό ή άλλο παράνομο περιεχόμενο, όμως οι άνθρωποι της Meta εντόπισαν ότι ορισμένοι γονείς γνώριζαν καλά ότι βγάζουν χρήματα από υλικό που ενδεχομένως να κέντριζε το ενδιαφέρον χρηστών που είχαν επιδείξει «ιδιαίτερες» προτιμήσεις.

Πως ξεκίνησε η έρευνα

Οι λογαριασμοί ανηλίκων κέντρισαν το ενδιαφέρον των ενηλίκων. Μια μητέρα από τον Καναδά, η Σάρα Άνταμς παρατήρησε ότι υπήρχαν λογαριασμοί στο Instagram που πουλούσαν φωτογραφίες κοριτσιών με μπικίνι. Η Meta ερεύνησε το ζήτημα και επιβεβαίωσε ότι συχνά τους λογαριασμούς ανηλίκων που διαχειρίζονταν ενήλικοι τους ακολουθούσαν χρήστες με παιδοφιλικά ενδιαφέροντα. Σύμφωνα με τις έρευνες, ο αλγόριθμος της Meta δεν λειτούργησε σωστά και προωθούσε λογαριασμούς ανήλικων σε χρήστες που ήταν ύποπτοι για ανάρμοστη συμπεριφορά απέναντι σε παιδιά στο διαδίκτυο.

Οι εργαζόμενοι της Meta διαπίστωσαν ότι σε ορισμένες περιπτώσεις, οι γονείς συζητούσαν με τους πιθανούς παιδόφιλους για την πώληση επιπλέον περιεχομένου σε άλλες πλατφόρμες. Δεν μπορεί κανείς να ξέρει τι περιεχόμενο προσπαθούσαν να πουλήσουν.

Τι δεν έκανε η Meta

Για να αντιμετωπίσει το πρόβλημα, η Meta θα μπορούσε να έχει απαγορεύσεις τις συνδρομές σε λογαρισμούς ανηλίκων, όπως κάνει το TikTok αλλά και άλλες πλατφόρμες με περιεχόμενο επί πληρωμή όπως το Patreon και το OnlyFans, σύμφωνα με τους εργαζόμενους. Οι ίδιοι συνέστησαν στη Meta να ζητήσει από τους χρήστες να δηλώνουν ότι παράγουν περιεχόμενο με παιδιά, προκειμένου η πλατφόρμα να μπορεί να παρακολουθεί τους λογαριασμούς αυτούς.

Η Meta αγνόησε όλες τις προειδοποιήσεις και τελικά επέλεξε να δημιουργήσει ένα αυτοματοποιημένο σύστημα για να αποτρέψει τους ύποπτους να κάνουν εγγραφή σε λογαριασμούς παιδιών που διαχειρίζονται γονείς. Η συγκεκριμένη τεχνολογία δεν δούλευε πάντα και η απαγόρευση μπορούσε εύκολα να παρακαμφθεί με τη δημιουργία νέου λογαριασμού.

Παρά τις ανησυχίες που είχαν εκφραστεί και το γεγονός ότι το αυτοματοποιημένο σύστημα ήταν ακόμα υπό κατασκευή, η Meta επέκτεινε το πρόγραμμα των συνδρομών και των δώρων σε νέες αγορές. Στην έρευνα που έκανε η WSJ παρατήρησε ότι υπήρχαν περιπτώσεις κατάχρησης που αφορούσαν τα δώρα που μπορούσε να κάνει ένας χρήστης στους δημιουργούς περιεχομένου.

Από την πλευρά της, η Meta δήλωσε ότι τέτοια προγράμματα παρακολουθούνται σωστά και υπερασπίστηκε την απόφασή της να προχωρήσει στην επέκταση της υπηρεσίας προτού να είναι έτοιμα τα συστήματα ασφαλείας. Η εταιρεία δήλωσε ότι δεν παίρνει προμήθεια από τα χρήματα των συνδρομών και έτσι δεν έχει κανένα οικονομικό κίνητρο να παροτρύνει τους χρήστες να κάνουν εγγραφή. Ωστόσο η εταιρεία εισπράττει προμήθεια από τα δώρα που κάνουν οι χρήστες στους δημιουργούς.

«Ξεκινήσαμε τα εργαλεία με ισχυρά μέτρα ασφαλείας και πολλαπλούς ελέγχους τόσο για τους δημιουργούς, όσο και για το περιεχόμενό τους», δήλωσε ο εκπρόσωπος της Meta, Άντι Στόουν. Χαρακτήρισε τα σχέδια της εταιρείας να περιορίσει τους πιθανούς παιδόφιλους «μέρος της συνεχιζόμενης εργασίας μας για την ασφάλεια».

«Μπαναρισμένοι» λογαριασμοί επιστρέφουν στις πλατφόρμες

Έρευνα της WSJ στους πιο γνωστούς λογαριασμούς παιδιών τους οποίους διαχειρίζονται οι γονείς τους αποκάλυψε τις προφανείς αδυναμίες της Meta να προστατέψει τα ανήλικα. Ένας λογαριασμός παιδιού που είχε κλείσει πέρυσι, επέστρεψε στις πλατφόρμες της Meta, έλαβε τη σχετική πιστοποίηση και άρχισε να έχει και πάλι συνδρομητές. Ένα άλλο πρόβλημα που εντοπίστηκε είναι ότι πολλοί λογαριασμοί δέχονταν ban από το Instagram αλλά εξακολουθούσαν να είναι ενεργοί στο Facebook παρά το γεγονός ότι μιλάμε για κοινωνικά μέσα δικτύωσης της ίδιας πλατφόρμας.

Σε δύο περιπτώσεις, η Wall Street Journal διαπίστωσε ότι οι λογαριασμοί που διαχειρίζονταν οι γονείς διασταύρωναν φωτογραφίες παιδιών σε μια σελίδα στο Facebook με 200.000 ακόλουθους, προσανατολισμένη στο σεξ.

Η Meta αναγνώρισε το λάθος της

Η Meta κατέβασε αυτούς τους λογαριασμούς και αναγνώρισε τα λάθη όταν η εφημερίδα επισήμανε τις δραστηριότητές τους. Η εταιρεία δεν κατάφερε να αφαιρέσει «εφεδρικά» προφίλ σε Instagram και Facebook τα οποία βρίσκονταν στα βιογραφικά των λογαριασμών. Αυτοί οι λογαριασμοί συνέχιζαν στη συνέχεια να προωθούν ή να πωλούν περιεχόμενο το οποίο η Meta είχε επιδιώξει να απαγορεύσει μέχρι που η Wall Street Journal ρώτησε γι' αυτούς.

Ορισμένοι από τους λογαριασμούς που διαχειρίζονται οι γονείς στο Instagram και εξέτασε η εφημερίδα έχουν τραβήξει το ενδιαφέρον σε πλατφόρμες και σε φόρουμ εκτός της Meta. Στιγμιότυπα από αυτά τα φόρουμ που δόθηκαν στη Wall Street Journal από έναν συνήγορο κάποιων παιδιών, δείχνουν ότι οι άνδρες αναδημοσίευαν τακτικά εικόνες των κοριτσιών στο Instagram και συζητούσαν αν οι συγκεκριμένοι γονείς ήταν πρόθυμοι να πουλήσουν πιο τολμηρό περιεχόμενο ιδιωτικά.

Σε αρκετές περιπτώσεις, οι χρήστες αντάλλασσαν συμβουλές για το πώς να εντοπίσουν πού ζουν συγκεκριμένα κορίτσια. «Ορκίζομαι ότι πρέπει να τη βρω με κάποιον τρόπο», έγραψε ένας χρήστης αφού περιέγραψε μια σεξουαλική φαντασίωση που αφορούσε μια 14χρονη.

Η Meta καταβάλει προσπάθειες να εντοπίσει και να αποτρέψει τους κινδύνους για την ασφάλεια των παιδιών στις πλατφόρμες της. Όταν η WSJ αποκάλυψε πέρυσι ότι οι αλγόριθμοι της εταιρείας συνδέουν και προωθούν ένα τεράστιο δίκτυο λογαριασμών που είναι ανοιχτά αφιερωμένοι σε σεξουαλικό περιεχόμενο με ανηλίκους, τον περασμένο Ιούνιο δημιούργησε μια ειδική ομάδα εργασίας για να αποτρέψει τα παιδιά να αντιμετωπίζονται σεξουαλικά.

Προσπάθειες δίχως αποτέλεσμα

Όπως διαπίστωσε η εφημερίδα η αποτελεσματικότητα της προσπάθειας αυτής δεν ήταν επαρκής. Ενώ η Meta προσπάθησε να περιορίσει την κυκλοφορία παιδοφιλικού περιεχομένου και να το συνδέσει σε ενήλικες που τα συστήματά της τους θεωρούσαν ύποπτους, οι δοκιμές έδειξαν ότι οι πλατφόρμες της συνέχισαν να συνιστούν όρους αναζήτησης όπως «παιδικά εσώρουχα», όπως και μεγάλες ομάδες στις οποίες συζητούνταν θέματα με παιδικό σεξουαλικό περιεχόμενο.

Η αναποτελεσματικότητα αυτή, μοιραία έκανε τις αρχές να ασχοληθούν με το θέμα αυτό.

Μια περιήγηση σε λογαριασμούς παιδιών διαπίστωσε ότι πολλοί είχαν ρητά σεξουαλικά ονόματα ως χρήστες. Όσοι είχαν δημόσιους λογαριασμούς φάνηκε να παρακολουθούν κυρίως κινούμενα σχέδια με σεξ και άλλο περιεχόμενο για ενήλικες.

Η εφημερίδα διαπίστωσε επίσης ότι το πρόγραμμα δώρων της Meta, που είναι διαθέσιμο σε λογαριασμούς με τουλάχιστον χίλιους ακόλουθους, παρουσίαζε επίσης περίεργη δραστηριότητα. Ορισμένοι δημοφιλείς λογαριασμοί ζητούσαν δωρεές για την επιμέλεια βίντεο με νεαρά κορίτσια που πόζαραν ή χόρευαν, εκθέτοντας τα παιδιά αυτά σε ένα κοινό που απαντούσε τις αναρτήσεις με περίεργα emojis και σεξουαλικά σχόλια. Σε αρκετές περιπτώσεις, το κουμπί «αποστολή δώρου» εμφανιζόταν σε αναρτήσεις που προωθούσαν συνδέσμους σε βίντεο που υποδείκνυαν ότι ήταν βίντεο σεξουαλικής κακοποίησης παιδιών.

Εκτός από τους προβληματικούς λογαριασμούς ανηλίκων που διαχειρίζονται οι γονείς, η εφημερίδα βρήκε πολλά παραδείγματα άλλων λογαριασμών που προσέφεραν συνδρομές και δώρα για περιεχόμενο ενάντια στους κανόνες της Meta. Ένας με τίτλο «sex porn video xvideos xnxx xxx girl sexy» δήλωνε ότι έκανε livestreaming βίντεο με ενήλικες. Μια ισπανόφωνη ομάδα 500.000 χρηστών με την ονομασία «School Girls» προσέφερε περιεχόμενο επί συνδρομή.

Το εργαλείο Macsa

Αφού η WSJ υπέδειξε τους λογαριασμούς αυτούς, η Meta τους αφαίρεσε και τους δύο και δήλωσε ότι πρόσφατα άρχισε να ελέγχει λογαριασμούς που πωλούν συνδρομές για ενδείξεις ύποπτης δραστηριότητας που αφορούν παιδιά χρησιμοποιώντας ένα εργαλείο που ονομάζεται Macsa, συντομογραφία για του «Malicious Child Safety Actor». Η εταιρεία λέει ότι θα ελέγχει επίσης όσους αγοράζουν περίεργης φύσης περιεχόμενο, όμως αυτή η εργασία δεν έχει ακόμη ολοκληρωθεί.

Άλλα παραδείγματα παραβατικών λογαριασμών που τους επιτρέπεται να ζητούν πληρωμές δημοσίευσαν εικόνες πεζών που συνθλίβονται από οχήματα και μια σεξουαλική σκηνή που υπονοεί βιασμό. Αυτά τα βίντεο είχαν σε ορισμένες περιπτώσεις εκατομμύρια προβολές.

Ο Στόουν της Meta δήλωσε ότι η παρουσία του κουμπιού αποστολής δώρου δεν αποδεικνύει ότι η εταιρεία είχε πράγματι καταβάλει χρήματα στους λογαριασμούς που ζητούσαν συμβουλές. Τα βίντεο που αποσπούν με επιτυχία δώρα σε μετρητά υπόκεινται σε ένα πρόσθετο επίπεδο ελέγχου.

Η Meta έχει δηλώσει ότι δεν θα αποκομίζει κάποιο μερίδιο από τις συνδρομές τουλάχιστον μέχρι το τέλος του 2024. Η εταιρεία εισπράττει προμήθειες από τις πληρωμές δώρων προς τους δημιουργούς.

Αυτού του είδους οι πληρωμές προς τους δημιουργούς συνιστούν μια σημαντική απόκλιση από το σκεπτικό της διαφημιστικής δραστηριότητας των μεγάλων κοινωνικών μέσων δικτύωσης, φέρνοντάς τα σε ανταγωνισμό με πιο εξειδικευμένες πλατφόρμες δημιουργίας και πώλησης περιεχομένου, όπως το Patreon και το OnlyFans.

Και οι δύο αυτές πλατφόρμες έχουν υιοθετήσει πολιτικές που περιορίζουν τις συνδρομές και τα φιλοδωρήματα στο περιεχόμενο που αφορά παιδιά με τρόπους που δεν ισχύουν για τη Meta. Το Patreon απαιτεί οι ανήλικοι να έχουν την άδεια ενός ενήλικου κηδεμόνα για να ανοίξουν λογαριασμό και απαγορεύει τους λογαριασμούς ανήλικων.

Η ιστοσελίδα OnlyFans, η οποία απευθύνεται τόσο σε δημιουργούς περιεχομένου για ενήλικες όσο και σε εκείνους που δεν ενδιαφέρονται για σεξουαλικό περιεχόμενο, απαγορεύει τους ανηλίκους από την πλατφόρμα της εξ ολοκλήρου για λόγους ασφαλείας, χρησιμοποιώντας τόσο την τεχνητή νοημοσύνη όσο και χειροκίνητη διαδικασία για να αφαιρεί ακόμη και υγιείς εικόνες στις οποίες εμφανίζονται παιδιά. Σύμφωνα με τις πολιτικές της εταιρείας, σε μια influencer μαγειρικής θα απαγορευόταν να δείχνει την οικογένειά της στην κουζίνα της.

Το TikTok δήλωσε ότι απαγορεύει την πώληση περιεχομένου με ανήλικους τόσο στo marketplace του TikTok όσο και μέσω των υπηρεσιών δημιουργίας περιεχόμενου. Εκπρόσωπος του YouTube δήλωσε ότι η πλατφόρμα δεν θα απαγόρευε εγγενώς τις συνδρομές σε περιεχόμενο με παιδιά, όμως σημείωσε ότι δεν επιτρέπει την επικοινωνία μεταξύ των λογαριασμών και των ακολούθων τους, κάτι που η Meta προωθεί ως βασικό χαρακτηριστικό της συνδρομητικής της υπηρεσίας.