Jak wynika z badań Centrum Zwalczania Nienawiści Cyfrowej, Instagram nie usunął ze swojej aplikacji toksycznych komentarzy skierowanych pod adresem wiceprezydent Kamali Harris i innych czołowych polityczek w obliczu zbliżających się wyborów w 2024 r.

Ta non-profitowa grupa rzecznicza analizuje duże platformy internetowe, aby sprawdzić, czy właściwie monitorują swoje witryny pod kątem mowy nienawiści. Raport w środę opierał się na analizie 560 000 komentarzy na postach na Instagramie od pięciu republikańskich i pięciu demokratycznych kobiet-polityczek o wysokim poziomie zaangażowania.

Politycy, których śledziła grupa, to m.in. Harris, która jest obecnie kandydatką Demokratów na prezydenta, Rep. Alexandria Ocasio-Cortez, DN.Y. i Rep. Jasmine Crockett, D-Texas, a także republikańskie członkinie Izby Reprezentantów Marjorie Taylor Greene z Georgii i Lauren Boebert z Kolorado.

Spośród komentarzy zamieszczonych między 1 stycznia a 7 czerwca badacze zidentyfikowali ponad 20 000, które uznali za „toksyczne” Google’a Narzędzie do moderowania treści Perspective AI. Następnie badacze przeprowadzili ręczną analizę i odkryli 1000 komentarzy, które „wyraźnie naruszały warunki Instagrama” — powiedział Imran Ahmed, dyrektor generalny CCDH, podczas briefingu prasowego we wtorek.

„Nasze zalecenia można podsumować dość prosto: Instagram musi egzekwować swoje zasady mające na celu ochronę kobiet w życiu publicznym” – powiedział Ahmed podczas briefingu. „Organizacje muszą być lepiej przygotowane do wspierania kandydatek doświadczających przemocy i zapewnienia im najlepszych praktyk w zakresie radzenia sobie z nią dość często”.

Meta, spółka macierzysta Instagrama, wielokrotnie była krytykowana przez prawodawców za brak reakcji na rozprzestrzenianie się treści pełnych nienawiści w swojej rodzinie aplikacji oraz za niezdolność lub niechęć do zwalczania szkodliwych zachowań. Prokurator generalny Nowego Meksyku zarzucił w trwającym procesie przeciwko Meta, że ​​firma nie chroni nieletnich użytkowników przed drapieżnikami i wykorzystywaniem seksualnym.

W poprzednich cyklach wyborczych Facebook był również ośrodkiem rozpowszechniania dezinformacji i toksycznych treści skierowanych przeciwko kandydatom politycznym.

Niektóre z problematycznych komentarzy ujętych przez CCDH obejmowały stwierdzenia takie jak „uczynić gwałt legalnym” i „nie chcemy czarnoskórych wokół nas, bez względu na to, kim są” – czytamy w raporcie. Jeden komentarz skierowany do Harris wyśmiewał jej pochodzenie rasowe, podczas gdy inny komentarz wzywał do napaści seksualnej na nią przez prezydenta Joe Bidena.

Następnie badacze CCDH użyli własnych narzędzi Instagrama do zgłaszania treści, aby oznaczyć 1000 obraźliwych komentarzy, które ręcznie wykryli. Tydzień później „Instagram nie podjął żadnych działań w stosunku do 926 z nich, co odpowiadało brakowi reakcji w przypadku 93% z nich” – czytamy w raporcie.

Meta w oświadczeniu stwierdził, że przejrzy przykłady, które CCDH wskazało, i usunie komentarze naruszające zasady firmy, ale dodał, że niektóre treści mogą być obraźliwe, ale nie naruszać jej zasad. Firma stwierdziła również, że narzędzie Google AI, na którym CCDH polegało w części swoich badań, nie zawsze jest dokładne, powołując się na stronę zasobów Google.

„Udostępniamy narzędzia, dzięki którym każdy może kontrolować, kto może komentować jego posty, automatycznie filtrować obraźliwe komentarze, frazy lub emotikony i automatycznie ukrywać komentarze przed osobami, które ich nie obserwują” – powiedziała w oświadczeniu Cindy Southworth, szefowa ds. bezpieczeństwa kobiet w Meta. „Współpracujemy z setkami partnerów ds. bezpieczeństwa na całym świecie, aby stale ulepszać nasze zasady, narzędzia, wykrywanie i egzekwowanie, a także przejrzymy raport CCDH i podejmiemy działania w przypadku wszelkich treści naruszających nasze zasady”.

Jeśli chodzi o rasistowski komentarz skierowany do Harrisa, jeden z badaczy CCDH ostatecznie otrzymał powiadomienie na Instagramie, że post „nie narusza naszych Zasad społeczności” – czytamy w raporcie. W raporcie napisano również, że ponad jedna piąta z 1000 obraźliwych komentarzy oznaczonych przez badaczy pochodziła od „recydywistów”, którzy opublikowali obraźliwe treści co najmniej dwa razy”.

Raport na Instagramie pojawił się kilka miesięcy po tym, jak federalny sędzia z Kalifornii oddalił pozew przeciwko CCDH złożony przez X Elona Muska. Pozew został złożony wkrótce po tym, jak grupa opublikowała badania pokazujące wzrost mowy nienawiści w następstwie przejęcia przez Muska witryny znanej wcześniej jako Twitter.

Z powodu całej negatywnej uwagi, jaka ostatnio spłynęła na Muska, Meta i jej dyrektor generalny Mark Zuckerberg uniknęli ostatnio krytyki, a panuje przekonanie, że Instagram „stał się platformą, na której ludzie czują się bezpiecznie”, powiedział Ahmed.

„Mark Zuckerberg grał strategią polegającą na trzymaniu głowy nisko, podczas gdy X działa jak piorunochron dla większości gniewu na toksyczność w życiu publicznym i dyskursie politycznym” – powiedział Ahmed. „Chcieliśmy przyjrzeć się konkretnie tej platformie, aby sprawdzić, czy faktycznie popierają część swojego triumfu nad nieszczęściami X swoimi własnymi działaniami”.