Παρά τις πολλές προσπάθειες του Facebook, οι κακοί ηθοποιοί κατά κάποιο τρόπο καταφέρνουν πάντα να διατρέχουν τις διασφαλίσεις και τις πολιτικές του. Το κοινωνικό δίκτυο τώρα πειραματίζεται με έναν νέο τρόπο για να υποστηρίξει τα τείχη του κατά των ανεπιθύμητων μηνυμάτων και να προλάβει κακές συμπεριφορές που θα μπορούσαν ενδεχομένως να παραβιάσουν τις διασφαλίσεις του: Ένας στρατός από ρομπότ.
Το Facebook λέει ότι αναπτύσσει ένα νέο σύστημα bots που μπορεί να προσομοιώσει κακές συμπεριφορές και να δοκιμάσει το άγχος της πλατφόρμας του για να ανακαλύψει τυχόν ελαττώματα και κενά. Αυτά τα αυτοματοποιημένα ρομπότ εκπαιδεύονται και διδάσκονται πώς να ενεργούν σαν ένα πραγματικό άτομο χρησιμοποιώντας τον θησαυρό των μοντέλων συμπεριφοράς που έχει αποκτήσει το Facebook από πάνω από δύο δισεκατομμύρια χρήστες.
Για να διασφαλίσει ότι αυτό το πείραμα δεν παρεμβαίνει σε πραγματικούς χρήστες, το Facebook έχει επίσης δημιουργήσει ένα είδος παράλληλης έκδοσης του κοινωνικού του δικτύου. Εδώ, τα ρομπότ αφήνονται ελεύθερα και επιτρέπεται να τρέχουν ανεξέλεγκτα - μπορούν να αλληλογραφούν, να σχολιάζουν ψεύτικες δημοσιεύσεις, να στέλνουν αιτήματα φίλων, να επισκέπτονται σελίδες και άλλα. Το πιο σημαντικό, αυτά τα A.I. Τα bots είναι προγραμματισμένα για να προσομοιώνουν ακραία σενάρια όπως η πώληση ναρκωτικών και όπλων για να δοκιμάσουν πώς οι αλγόριθμοι του Facebook θα προσπαθούσαν να τους αποτρέψουν.
Το Facebook ισχυρίζεται ότι αυτό το νέο σύστημα μπορεί να φιλοξενήσει «χιλιάδες ή και εκατομμύρια bots». Δεδομένου ότι εκτελείται στον ίδιο κώδικα που βιώνουν οι χρήστες, προσθέτει ότι «οι ενέργειες των bots είναι πιστές στα αποτελέσματα που θα γίνουν μάρτυρες από πραγματικούς ανθρώπους που χρησιμοποιούν την πλατφόρμα».
"Ενώ το έργο βρίσκεται σε στάδιο μόνο για έρευνα, η ελπίδα είναι ότι μια μέρα θα μας βοηθήσει να βελτιώσουμε τις υπηρεσίες μας και να εντοπίσουμε πιθανά ζητήματα αξιοπιστίας ή ακεραιότητας προτού επηρεάσουν τους πραγματικούς ανθρώπους που χρησιμοποιούν την πλατφόρμα." έγραψε ο επικεφαλής του έργου, Mark Harman σε μια ανάρτηση ιστολογίου.
Δεν είναι σαφές αυτή τη στιγμή πόσο αποτελεσματικό θα είναι το νέο περιβάλλον προσομοίωσης του Facebook. Όπως ανέφερε ο Harman, βρίσκεται ακόμη σε αρκετά πρώιμα στάδια και η εταιρεία δεν έχει χρησιμοποιήσει κανένα από τα αποτελέσματά της για ενημέρωση που αντιμετωπίζει το κοινό ακόμα. Τα τελευταία χρόνια, το κοινωνικό δίκτυο έχει επενδύσει ενεργά και υποστηρίζει έρευνα που βασίζεται στην τεχνητή νοημοσύνη για την ανάπτυξη νέων εργαλείων για την καταπολέμηση της παρενόχλησης και του ανεπιθύμητου περιεχομένου. Στην ετήσια διάσκεψη προγραμματιστών της πριν από δύο χρόνια, ο Mark Zuckerberg ανακοίνωσε ότι η εταιρεία κατασκευάζει εργαλεία τεχνητής νοημοσύνης για την αντιμετώπιση αναρτήσεων που περιέχουν τρομοκρατικό περιεχόμενο, ρητορική μίσους, ανεπιθύμητο περιεχόμενο και άλλα.
