Ωστόσο, δεν είναι λίγες οι φορές που διακινείται και περιεχόμενο που θεωρείται προσβλητικό για τους χρήστες. Οι πλατφόρμες κοινωνικής δικτύωσης χρησιμοποιούν έναν στρατό από άτομα τα οποία αφαιρούν περιεχόμενο που θεωρείται προσβλητικό με στόχο να μην εκθέτουν το κοινό τους σε βία και άλλα ενοχλητικά υλικά.
Στην Μανίλα των Φιλιππίνων, εκατοντάδες εργαζόμενοι ασχολούνται με αυτό ακριβώς. Να μην συναντάμε τέτοιου είδους υλικό», λέει στο BBC ο ένας από τους διευθυντές των καθαριστών, Μόριτζ Ρίσεγουικ.
«Είναι πραγματικά μία κρυμμένη βιομηχανία στις Φιλιππίνες. Υπάρχουν πολλές εταιρείες εργολάβοι που δουλεύουν για τα μεγάλα κοινωνικά δίκτυα που γνωρίζουμε, Facebook, Instagram, Twitter, YouTube κ.α. Παρακολουθούν όλες τις εικόνες και τα βίντεο που έχουν μαρκαριστεί ως ύποπτα από έναν αλγόριθμο ή τα έχουν αναφέρει οι χρήστες», εξηγεί ο Μόριτς Ρίσεγουκ.
Παράλληλα αναφέρει ότι το πρόβλημα είναι ότι εργάζονται 8 με 10 ώρες την ημέρα «και βλέπουν κάθε είδους σκληρό υλικό, όπως κακοποίηση ανηλίκων, τρομοκρατικά βίντεο, αποκεφαλισμούς. Κάθε είδους βίαιο υλικό που δεν θέλουμε ούτε να φανταστούμε».