Η Meta λανσάρει νέα συστήματα επιβολής περιεχομένου AI, ενώ μειώνει την εξάρτηση από τρίτους προμηθευτές

Μέτα την Πέμπτη ανακοινώθηκε ότι αρχίζει να αναπτύσσει πιο προηγμένα συστήματα τεχνητής νοημοσύνης για τη διαχείριση της επιβολής περιεχομένου, καθώς σχεδιάζει να περικόψει τους τρίτους προμηθευτές. Οι εργασίες που σχετίζονται με την επιβολή περιεχομένου περιλαμβάνουν τη σύλληψη και την αφαίρεση περιεχομένου σχετικά με την τρομοκρατία, την εκμετάλλευση παιδιών, τα ναρκωτικά, την απάτη και τις απάτες.

Η εταιρεία λέει ότι θα αναπτύξει αυτά τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης σε όλες τις εφαρμογές της, μόλις ξεπεράσουν σταθερά τις τρέχουσες μεθόδους επιβολής περιεχομένου. Ταυτόχρονα, θα μειώσει την εξάρτησή της από τρίτους προμηθευτές για την επιβολή περιεχομένου.

«Ενώ θα εξακολουθούμε να έχουμε άτομα που ελέγχουν περιεχόμενο, αυτά τα συστήματα θα μπορούν να αναλάβουν δουλειά που ταιριάζει καλύτερα στην τεχνολογία, όπως επαναλαμβανόμενες κριτικές γραφικού περιεχομένου ή τομείς όπου οι αντίπαλοι παράγοντες αλλάζουν συνεχώς τις τακτικές τους, όπως με τις παράνομες πωλήσεις ναρκωτικών ή τις απάτες», εξήγησε ο Meta σε μια ανάρτηση ιστολογίου.

Η Meta πιστεύει ότι αυτά τα συστήματα τεχνητής νοημοσύνης μπορούν να ανιχνεύσουν περισσότερες παραβιάσεις με μεγαλύτερη ακρίβεια, να αποτρέψουν καλύτερα τις απάτες, να ανταποκρίνονται πιο γρήγορα σε γεγονότα του πραγματικού κόσμου και να μειώσουν την υπερβολική επιβολή.

Η εταιρεία λέει ότι οι πρώιμες δοκιμές των συστημάτων AI ήταν πολλά υποσχόμενες, καθώς μπορούν να ανιχνεύσουν διπλάσιο περιεχόμενο παραβίασης σεξουαλικής παρότρυνσης ενηλίκων από τις ομάδες αναθεώρησής της, ενώ μειώνουν επίσης το ποσοστό σφαλμάτων κατά περισσότερο από 60%. Λέει επίσης ότι τα συστήματα μπορούν να εντοπίσουν και να αποτρέψουν περισσότερους λογαριασμούς πλαστοπροσωπίας που αφορούν διασημότητες και άλλα άτομα υψηλού προφίλ, καθώς και να βοηθήσουν να σταματήσουν οι καταλήψεις λογαριασμών εντοπίζοντας σήματα όπως συνδέσεις από νέες τοποθεσίες, αλλαγές κωδικού πρόσβασης ή επεξεργασίες σε ένα προφίλ.

Επιπλέον, η Meta λέει ότι τα συστήματα μπορούν να εντοπίσουν και να μετριάσουν περίπου 5.000 απόπειρες απάτης την ημέρα, στις οποίες οι απατεώνες προσπαθούν να ξεγελάσουν τους ανθρώπους για να δώσουν τα στοιχεία σύνδεσής τους.

«Οι ειδικοί θα σχεδιάσουν, θα εκπαιδεύσουν, θα επιβλέπουν και θα αξιολογήσουν τα συστήματα τεχνητής νοημοσύνης μας, μετρώντας την απόδοση και λαμβάνοντας τις πιο περίπλοκες αποφάσεις με μεγάλο αντίκτυπο», έγραψε ο Meta στην ανάρτηση του ιστολογίου. «Για παράδειγμα, οι άνθρωποι θα συνεχίσουν να διαδραματίζουν βασικό ρόλο στον τρόπο με τον οποίο λαμβάνουμε τον υψηλότερο κίνδυνο και τις πιο κρίσιμες αποφάσεις, όπως προσφυγές για απενεργοποίηση λογαριασμού ή αναφορές στις αρχές επιβολής του νόμου».

Η κίνηση έρχεται καθώς η Meta έχει χαλαρώσει τους κανόνες ελέγχου περιεχομένου τον περασμένο περίπου χρόνο, καθώς ο πρόεδρος Ντόναλντ Τραμπ ανέλαβε τα καθήκοντά του για δεύτερη φορά. Πέρυσι, η εταιρεία τερμάτισε το πρόγραμμα ελέγχου γεγονότων από τρίτους υπέρ ενός μοντέλου Community Notes τύπου X. Κατάργησε επίσης τους περιορισμούς σχετικά με «θέματα που αποτελούν μέρος του mainstream λόγου» και είπε ότι οι χρήστες θα ενθαρρύνονταν να υιοθετήσουν μια «εξατομικευμένη» προσέγγιση στο πολιτικό περιεχόμενο.

Έρχεται επίσης όπως η Meta και άλλες μεγάλες εταιρείες τεχνολογίας αντιμετωπίζουν αυτήν τη στιγμή αρκετές αγωγές επιδιώκει να ζητήσει από τους γίγαντες των μέσων κοινωνικής δικτύωσης να λογοδοτήσουν για τη βλάβη των παιδιών και των νεαρών χρηστών.

Η Meta ανακοίνωσε επίσης την Πέμπτη ότι λανσάρει έναν βοηθό υποστήριξης Meta AI που θα παρέχει στους χρήστες πρόσβαση σε υποστήριξη 24/7. Ο βοηθός κυκλοφορεί παγκοσμίως στις εφαρμογές Facebook και Instagram για iOS και Android, καθώς και στο Κέντρο βοήθειας στο Facebook και στο Instagram σε επιτραπέζιους υπολογιστές.