Η πρόληψη της παιδικής εκμετάλλευσης είναι μία από τις σημαντικότερες προκλήσεις που αντιμετωπίζει ο κλάδος μας σήμερα. Τα διαδικτυακά αρπακτικά είναι αποφασισμένοι εγκληματίες που χρησιμοποιούν πολλές εφαρμογές και ιστότοπους για να στοχεύσουν νέους. Δοκιμάζουν επίσης τις άμυνες κάθε πλατφόρμας και μαθαίνουν να προσαρμόζονται γρήγορα. Γι’ αυτό τώρα, όσο ποτέ άλλοτε, εργαζόμαστε σκληρά για να παραμείνουμε μπροστά. Εκτός από την ανάπτυξη τεχνολογίας που εκριζώνει τους θηρευτές, προσλαμβάνουμε ειδικούς αφοσιωμένους στην ασφάλεια των παιδιών στο διαδίκτυο και μοιραζόμαστε πληροφορίες με τους συναδέλφους μας στον κλάδο και τις αρχές επιβολής του νόμου.
Λαμβάνουμε πολύ σοβαρά υπόψη τους πρόσφατους ισχυρισμούς σχετικά με την αποτελεσματικότητα του έργου μας και δημιουργήσαμε μια ειδική ομάδα για την αναθεώρηση των υφιστάμενων πολιτικών. να εξετάσουμε την τεχνολογία και τα συστήματα επιβολής που έχουμε σε εφαρμογή· και να κάνουμε αλλαγές που ενισχύουν την προστασία μας για τους νέους, απαγορεύουν τα αρπακτικά και αφαιρούν τα δίκτυα που χρησιμοποιούν για να συνδέονται μεταξύ τους. Η ειδική ομάδα έλαβε άμεσα μέτρα για να ενισχύσει τις προστασίες μας και οι ομάδες μας για την ασφάλεια των παιδιών συνεχίζουν να εργάζονται για πρόσθετα μέτρα. Σήμερα, μοιραζόμαστε μια επισκόπηση των προσπαθειών της ομάδας εργασίας μέχρι σήμερα.
Μια επισκόπηση της ομάδας εργασίας για την ασφάλεια των παιδιών της Meta
Η Task Force για την ασφάλεια των παιδιών της Meta επικεντρώθηκε σε τρεις τομείς: Συστάσεις και ανακάλυψη, περιορισμός των πιθανών αρπακτικών και κατάργηση των δικτύων τους και ενίσχυση της επιβολής μας.
Συστάσεις και Ανακάλυψη
Κάνουμε συστάσεις σε μέρη όπως το Reels και το Instagram Explore για να βοηθήσουμε τους ανθρώπους να ανακαλύψουν νέα πράγματα στις εφαρμογές μας και οι χρήστες χρησιμοποιούν λειτουργίες όπως η Αναζήτηση και τα Hashtags για να βρουν πράγματα που μπορεί να τους ενδιαφέρουν. Δεδομένου ότι κάνουμε προτάσεις σε άτομα σε αυτά τα μέρη, διαθέτουμε προστατευτικά μέτρα που θα μας βοηθήσουν να διασφαλίσουμε ότι δεν προτείνουμε κάτι που μπορεί να ενοχλεί ή να παραβιάζει τους κανόνες μας. Διαθέτουμε εξελιγμένα συστήματα που προληπτικά βρίσκουν, αφαιρούν ή δεν προτείνουν περιεχόμενο, ομάδες και σελίδες, μεταξύ άλλων, που παραβιάζουν τους κανόνες μας ή που μπορεί να είναι ακατάλληλο να προτείνουμε σε άλλους. Η Task Force για την Ασφάλεια των Παιδιών βελτίωσε αυτά τα συστήματα συνδυάζοντάς τα και επεκτείνοντας τις δυνατότητές τους. Αυτή η εργασία βρίσκεται σε εξέλιξη και αναμένουμε να τεθεί σε ισχύ πλήρως τις επόμενες εβδομάδες.
Να τι κάναμε:
- Επεκτείναμε την υπάρχουσα λίστα όρων, φράσεων και emoji που σχετίζονται με την ασφάλεια των παιδιών για να βρουν τα συστήματά μας. Έχουμε πολλές πηγές για αυτούς τους όρους, συμπεριλαμβανομένων μη κερδοσκοπικών οργανισμών και ειδικών στην ασφάλεια στο διαδίκτυο, των εξειδικευμένων ομάδων μας για την ασφάλεια των παιδιών που ερευνούν τα ληστρικά δίκτυα για να κατανοήσουν τη γλώσσα που χρησιμοποιούν και τη δική μας τεχνολογία που εντοπίζει ορθογραφικά λάθη ή ορθογραφικές παραλλαγές αυτών των όρων.
- Αρχίσαμε επίσης να χρησιμοποιούμε νέες τεχνικές για να βρούμε νέους όρους. Για παράδειγμα, χρησιμοποιούμε την τεχνολογία μηχανικής εκμάθησης για να βρούμε σχέσεις μεταξύ όρων που ήδη γνωρίζουμε ότι μπορεί να είναι επιβλαβείς ή που παραβιάζουν τους κανόνες μας και άλλους όρους που χρησιμοποιούνται ταυτόχρονα. Αυτοί θα μπορούσαν να είναι όροι που αναζητήθηκαν στην ίδια περίοδο σύνδεσης με τους όρους παράβασης ή άλλα hashtag που χρησιμοποιούνται σε μια λεζάντα που περιέχει ένα hashtag που παραβιάζει.
- Συνδυάσαμε τα συστήματά μας έτσι ώστε, καθώς οι νέοι όροι προστίθενται στην κεντρική μας λίστα, θα ενεργοποιούνται ταυτόχρονα στο Facebook και στο Instagram. Για παράδειγμα, μπορεί να στείλουμε λογαριασμούς Instagram, Ομάδες Facebook, Σελίδες και Προφίλ σε αναθεωρητές περιεχομένου, να περιορίσουμε αυτούς τους όρους από την παραγωγή αποτελεσμάτων στην Αναζήτηση Facebook και Instagram και να αποκλείσουμε hashtags που περιλαμβάνουν αυτούς τους όρους στο Facebook και το Instagram.
Περιορισμός πιθανών αρπακτικών και αφαίρεση των δικτύων τους
Έχουμε αναπτύξει τεχνολογία που προσδιορίζει δυνητικά ύποπτους ενήλικες, και εξετάζουμε περισσότερα από 60 διαφορετικά σήματα για να βρούμε αυτούς τους ενήλικες, όπως εάν ένας έφηβος μπλοκάρει ή αναφέρει έναν ενήλικα ή εάν κάποιος αναζητά επανειλημμένα όρους που μπορεί να υποδηλώνουν ύποπτη συμπεριφορά. Χρησιμοποιούμε ήδη αυτήν την τεχνολογία για να περιορίσουμε τους δυνητικά ύποπτους ενήλικες να βρίσκουν, να ακολουθούν ή να αλληλεπιδρούν με εφήβους και την έχουμε επεκτείνει για να αποτρέψουμε αυτούς τους ενήλικες από το να βρίσκουν, να ακολουθούν ή να αλληλεπιδρούν μεταξύ τους.
Να τι κάναμε:
- Στο Instagram, οι δυνητικά ύποπτοι ενήλικες θα αποτρέπονται από το να ακολουθούν ο ένας τον άλλον, δεν θα συστήνονται ο ένας στον άλλον σε μέρη όπως το Explore και το Reels και δεν θα εμφανίζονται σχόλια ο ένας από τον άλλο σε δημόσιες αναρτήσεις, μεταξύ άλλων.
- Στο Facebook, χρησιμοποιούμε αυτήν την τεχνολογία για την καλύτερη εύρεση και αντιμετώπιση συγκεκριμένων Ομάδων, Σελίδων και Προφίλ. Για παράδειγμα, οι Ομάδες Facebook με ένα ορισμένο ποσοστό μελών που παρουσιάζουν δυνητικά ύποπτη συμπεριφορά δεν θα προτείνονται σε άλλους σε μέρη όπως οι Ομάδες στις οποίες πρέπει να εγγραφείτε. Επιπλέον, οι Ομάδες των οποίων η ιδιότητα μέλους συμπίπτει με άλλες Ομάδες που καταργήθηκαν λόγω παραβίασης των πολιτικών μας για την ασφάλεια των παιδιών δεν θα εμφανίζονται στην Αναζήτηση. Ως αποτέλεσμα αυτής της εργασίας, από την 1η Ιουλίου 2023, αφαιρέσαμε περισσότερες από 190.000 Ομάδες από την Αναζήτηση.
- Προσλαμβάνουμε επίσης ειδικούς με υπόβαθρο στην επιβολή του νόμου και την ασφάλεια των παιδιών στο διαδίκτυο για να βρουν ληστρικά δίκτυα και να τα αφαιρέσουν. Αυτοί οι ειδικοί παρακολουθούν τις εξελισσόμενες συμπεριφορές που παρουσιάζουν αυτά τα δίκτυα – όπως η νέα κωδικοποιημένη γλώσσα – όχι μόνο για να τις αφαιρέσουν, αλλά και για να ενημερώσουν την τεχνολογία που χρησιμοποιούμε για να τα βρούμε προληπτικά. Μεταξύ 2020 και 2023, οι ομάδες μας διέκοψαν 32 καταχρηστικά δίκτυα και αφαίρεσαν περισσότερους από 160.000 λογαριασμούς που σχετίζονται με αυτά τα δίκτυα.
Ενίσχυση της επιβολής μας
Η ομάδα εργασίας έκανε επίσης μια σειρά ενημερώσεων για να ενισχύσει τα συστήματα αναφοράς και επιβολής μας και βρήκε νέους τρόπους για να εξαλείψει και να απαγορεύσει πιθανούς ληστρικούς λογαριασμούς. Μόνο τον Αύγουστο του 2023, απενεργοποιήσαμε περισσότερους από 500.000 λογαριασμούς για παραβίαση των πολιτικών μας για τη σεξουαλική εκμετάλλευση παιδιών.
- Ανακοινώσαμε τη συμμετοχή μας στο Lantern, ένα νέο πρόγραμμα από την Tech Coalition που επιτρέπει στις εταιρείες τεχνολογίας να μοιράζονται διάφορα μηνύματα σχετικά με λογαριασμούς και συμπεριφορές που παραβιάζουν τις πολιτικές τους για την ασφάλεια των παιδιών. Οι συμμετέχοντες στο Lantern μπορούν να χρησιμοποιήσουν αυτές τις πληροφορίες για να διεξάγουν έρευνες στις δικές τους πλατφόρμες και να αναλάβουν δράση.
- Ελέγξαμε τα συστήματά μας και διορθώσαμε τεχνικά ζητήματα που εντοπίσαμε, συμπεριλαμβανομένου ενός ζητήματος που έκλεισε απροσδόκητα αναφορές χρηστών.
- Βελτιώσαμε τα συστήματα που χρησιμοποιούμε για να δίνουμε προτεραιότητα στις αναφορές για τους αναθεωρητές περιεχομένου. Για παράδειγμα, χρησιμοποιούμε τεχνολογία που έχει σχεδιαστεί για να βρίσκουμε εικόνες εκμετάλλευσης παιδιών για να δώσουμε προτεραιότητα στις αναφορές που μπορεί να τις περιέχουν.
- Παρουσιάσαμε πρόσθετους τρόπους για την προληπτική εύρεση και κατάργηση λογαριασμών που ενδέχεται να παραβιάζουν τις πολιτικές μας για την ασφάλεια των παιδιών. Για παράδειγμα, στέλνουμε λογαριασμούς Instagram που παρουσιάζουν δυνητικά ύποπτη συμπεριφορά στους αναθεωρητές περιεχομένου μας και θα απενεργοποιήσουμε αυτόματα αυτούς τους λογαριασμούς εάν εμφανίζουν αρκετά από τα 60+ σήματα που παρακολουθούμε. Περισσότεροι από 20.000 λογαριασμοί εντοπίστηκαν και καταργήθηκαν αυτόματα τον Αύγουστο του 2023 ως αποτέλεσμα αυτής της μεθόδου.
- Παρέχαμε νέες οδηγίες και εργαλεία για να βοηθήσουμε τους αναθεωρητές περιεχομένου να κατανοήσουν τις πιο πρόσφατες συμπεριφορές και όρους που χρησιμοποιούνται από θηρευτές, σε πολλές διαφορετικές γλώσσες. Για παράδειγμα, οι αναθεωρητές περιεχομένου θα βλέπουν τώρα πληροφορίες σχετικά με κωδικοποιημένους όρους που χρησιμοποιούνται σε αναρτήσεις που εξετάζουν για να κατανοήσουν το υποκείμενο αυτών των όρων και πώς χρησιμοποιούνται από αρπακτικά. Αυτό θα βοηθήσει τους αναθεωρητές περιεχομένου να αναγνωρίσουν καλύτερα αυτήν τη συμπεριφορά και να αναλάβουν δράση.
- Κάναμε βελτιώσεις για την καλύτερη εύρεση και κατάργηση λογαριασμών Instagram και προφίλ Facebook που ενδέχεται να συνδέονται με εκείνα που παραβιάζουν τις πολιτικές μας για την ασφάλεια των παιδιών – και για να τους αποτρέψουμε από τη δημιουργία νέων λογαριασμών από τη συσκευή τους. Από τις αρχές Αυγούστου, Αποκλείσαμε αυτόματα περισσότερες από 250.000 συσκευές στο Instagram για παραβιάσεις των πολιτικών μας για την ασφάλεια των παιδιών και οι βελτιώσεις στον αποκλεισμό συσκευών έχουν οδηγήσει σε περισσότερες από 10.000 πρόσθετες επιβολές στο Instagram και το Facebook την ημέρα.
- Βελτιώσαμε τον προληπτικό εντοπισμό δυνητικά ύποπτων Ομάδων Facebook και ενημερώσαμε τα πρωτόκολλά μας και τα εργαλεία ελέγχου, ώστε οι αναθεωρητές μας να μπορούν να αφαιρέσουν περισσότερες Ομάδες που παραβιάζουν. Από την 1η Ιουλίου 2023, ελέγξαμε και καταργήσαμε 16.000 Ομάδες για παραβιάσεις των πολιτικών μας για την ασφάλεια των παιδιών.
- Μετά την έναρξη μιας νέας αυτοματοποιημένης προσπάθειας επιβολής τον Σεπτέμβριο, είδαμε πέντε φορές περισσότερες αυτοματοποιημένες διαγραφές Instagram Lives που περιείχαν γυμνό ενήλικα και σεξουαλική δραστηριότητα.
- Πραγματοποιήσαμε ενέργειες πάνω από 4 εκατομμύρια τροχούς ανά μήνα, σε όλο το Facebook και το Instagram παγκοσμίως, για παραβίαση των πολιτικών μας.