Το Instagram απέτυχε επανειλημμένα να αφαιρέσει τα τοξικά σχόλια που απευθύνονταν στην υποψήφια πρόεδρο των ΗΠΑ, Καμάλα Χάρις και σε άλλες κορυφαίες γυναίκες πολιτικούς, την ίδια ώρα που βρίσκονται όλο και πιο κοντά οι εκλογές του 2024, σύμφωνα με έρευνα του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους.
.
Η μη κερδοσκοπική οργάνωση υπεράσπισης αναλύει μεγάλες διαδικτυακές πλατφόρμες για να διαπιστώσει αν παρακολουθούν σωστά τους ιστότοπούς τους για ρητορική μίσους. Η έκθεση βασίστηκε σε ανάλυση 560.000 σχολίων σε αναρτήσεις στο Instagram από πέντε Ρεπουμπλικανές και πέντε Δημοκρατικές γυναίκες πολιτικούς με υψηλά επίπεδα εμπλοκής.
Στις πολιτικούς που εντόπισε η ομάδα περιλαμβάνονταν η Καμάλα Χάρις, η βουλευτής Αλεξάντρια Οκάσιο-Κορτέζ και η βουλευτής Τζάσμιν Κρόκετ, καθώς και οι βουλευτές των Ρεπουμπλικανών Μάρτζορι Τέιλορ Γκριν από τη Τζόρτζια και Λόρεν Μπόιμπερτ από το Κολοράντο.
Από τα σχόλια που αναρτήθηκαν μεταξύ 1ης Ιανουαρίου και 7ης Ιουνίου, οι ερευνητές εντόπισαν πάνω από 20.000 που θεωρήθηκαν «τοξικά» από το Google Perspective AI εργαλείο μετριασμού περιεχομένου. Στη συνέχεια, οι ερευνητές διεξήγαγαν χειροκίνητη ανάλυση και ανακάλυψαν 1.000 σχόλια που «παραβίαζαν σαφώς τους όρους του Instagram», δήλωσε ο διευθύνων σύμβουλος του CCDH Imran Ahmed κατά τη διάρκεια ενημέρωσης των μέσων ενημέρωσης την Τρίτη.
«Οι συστάσεις μας μπορούν να συνοψιστούν πολύ απλά στο ότι το Instagram πρέπει να επιβάλει τις πολιτικές του που έχουν σχεδιαστεί για την προστασία των γυναικών στη δημόσια ζωή», δήλωσε ο Ahmed κατά τη διάρκεια της ενημέρωσης. «Οι οργανισμοί πρέπει να είναι καλύτερα εξοπλισμένοι για να υποστηρίζουν τις υποψήφιες γυναίκες που βιώνουν κακοποίηση και να τους παρέχουν τις βέλτιστες πρακτικές για την αντιμετώπισή της αρκετά συχνά».
Remaining Time-0:20
Fullscreen
Unmute
Η Meta, έχει επανειλημμένα δεχτεί πυρά από τους νομοθέτες για την αποτυχία της να αντιμετωπίσει τη διάδοση της ρητορικής μίσους σε όλη την «οικογένεια» εφαρμογών της και για την αδυναμία ή την απροθυμία της να πατάξει την επιβλαβή συμπεριφορά. Ο γενικός εισαγγελέας του Νέου Μεξικού έχει ισχυριστεί σε μια συνεχιζόμενη αγωγή κατά της Meta ότι η εταιρεία αποτυγχάνει να προστατεύσει τους ανήλικους χρήστες από τους επιτήδειους και τη σεξουαλική εκμετάλλευση.
Σε προηγούμενους εκλογικούς κύκλους, το Facebook υπήρξε επίσης κόμβος για τη διάδοση παραπληροφόρησης και τοξικού περιεχομένου που απευθυνόταν σε πολιτικούς υποψηφίους. Μερικά από τα προβληματικά σχόλια που κατέγραψε το CCDH περιλάμβαναν δηλώσεις όπως «κάντε τον βιασμό νόμιμο» και «δεν θέλουμε μαύρους γύρω μας, όποιοι κι αν είναι», ανέφερε η έκθεση. Ένα σχόλιο που απευθυνόταν στην Καμάλα Χάρις χλεύαζε το φυλετικό της υπόβαθρο, ενώ ένα άλλο σχόλιο ζητούσε σεξουαλική επίθεση εναντίον της από τον πρόεδρο Τζο Μπάιντεν.
Οι ερευνητές του CCDH χρησιμοποίησαν στη συνέχεια τα εργαλεία αναφοράς περιεχομένου του Instagram για να επισημάνουν τα 1.000 προσβλητικά σχόλια που ανακάλυψαν χειροκίνητα. Μια εβδομάδα αργότερα, «το Instagram δεν είχε λάβει κανένα μέτρο κατά 926 από αυτά, που ισοδυναμεί με αποτυχία να δράσει στο 93% αυτών», αναφέρει η έκθεση.
Η Meta ανέφερε σε δήλωσή της ότι θα επανεξετάσει τα παραδείγματα που ανέδειξε το CCDH και θα αφαιρέσει τα σχόλια που παραβιάζουν τις πολιτικές της εταιρείας, αλλά πρόσθεσε ότι κάποιο περιεχόμενο μπορεί να είναι προσβλητικό αλλά να μην παραβιάζει τους κανόνες της. Η εταιρεία δήλωσε επίσης ότι το εργαλείο τεχνητής νοημοσύνης της Google στο οποίο βασίστηκε το CCDH για μέρος της έρευνάς του δεν είναι πάντα ακριβές.
«Παρέχουμε εργαλεία ώστε ο καθένας να μπορεί να ελέγχει ποιος μπορεί να σχολιάζει τις αναρτήσεις του, να φιλτράρει αυτόματα τα προσβλητικά σχόλια, φράσεις ή emojis και να αποκρύπτει αυτόματα τα σχόλια από άτομα που δεν τον ακολουθούν», ανέφερε σε δήλωσή της η Cindy Southworth, επικεφαλής της Meta για την ασφάλεια των γυναικών. «Συνεργαζόμαστε με εκατοντάδες συνεργάτες ασφάλειας σε όλο τον κόσμο για να βελτιώνουμε συνεχώς τις πολιτικές μας, τα εργαλεία, την ανίχνευση και την επιβολή και θα επανεξετάσουμε την έκθεση του CCDH και θα αναλάβουμε δράση για κάθε περιεχόμενο που παραβιάζει τις πολιτικές μας».
Η έκθεση βασίστηκε σε ανάλυση 560.000 σχολίων σε αναρτήσεις στο Instagram από πέντε Ρεπουμπλικανές και πέντε Δημοκρατικές γυναίκες πολιτικούς με υψηλά επίπεδα εμπλοκής.