Kiedy Sophie Szew po raz pierwszy pobrała Instagram na swoich 10. Powiedziała, że ​​w wieku 15 lat przestrzegała „każdego schematu głodówki zalecanego” na stronie „eksploruj” na Instagramie.

Szew, obecnie 20-letni, przemawiał w Sacramento na przesłuchaniu w Senacie w kwietniu, popierając ekspansywną ustawę przechodzącą przez legislaturę. Pociągnęłoby to firmy do odpowiedzialności prawnej za używanie algorytmów i funkcji projektowych, które uzależniają młodych ludzi.

„Stoi dziś ze mną pokolenie, które aż za dobrze wie, jak to jest być poszkodowanym przez wadliwe systemy” – powiedziała.

W ciągu ostatnich kilku lat można było zaobserwować stały strumień badań i raportów na temat wpływu mediów społecznościowych na nastolatków. Przełożyło się to na strumień działań legislacyjnych w całym kraju, a kilka stanów uchwaliło lub rozważyło przepisy regulujące sposób prowadzenia działalności przez firmy z branży mediów społecznościowych.

W 2022 roku, kiedy badacze z organizacji non-profit stworzyli profile TikTok udające 13-letnie dziewczynki w Stanach Zjednoczonych, Wielkiej Brytanii, Australii i Kanadzie, przeglądali udostępniane im filmy, zatrzymując się, aby obejrzeć i polubić filmy o zaburzeniach odżywiania, obrazie ciała i zdrowie psychiczne. Okazało się, że TikTok polecał treści samobójcze w ciągu 2,6 minuty, a treści dotyczące zaburzeń odżywiania w ciągu 8 minut.

W 2021 r., po ujawnieniu dokumentów przez sygnalistę, dziennik „Wall Street poinformowali, że badacze z Meta, wcześniej znanej jako Facebook, odkryli, że 32% nastolatek powiedziało, że kiedy źle się czują w swoim ciele, Instagram sprawia, że ​​czują się gorzej. Meta jest właścicielem Instagrama…

CalMatters skontaktował się z Twitterem, Reddit, Mastodon, TikTok i Meta, która jest również właścicielem WhatsApp, w celu uzyskania komentarza. Prasowa skrzynka odbiorcza Twittera odpowiedziała automatycznie emoji kupy. Reddit, Mastodon i TikTok nie odpowiedzieli.

W oświadczeniu, Global Head of Safety Meta, Antigone Davis, napisał, że Meta chce, aby nastolatki były bezpieczne w Internecie: „Nie zezwalamy na treści promujące samobójstwo, samookaleczanie lub zaburzenia odżywiania, a także treści, które usuwamy lub podejmujemy działania włączony, identyfikujemy ponad 99% z nich, zanim zostaną nam zgłoszone”.

Rachel Holland, rzeczniczka Meta, przedstawiła informacje na temat różnych funkcji, z których mogą korzystać nastolatki i rodzice, aby kształtować to, co widzą młodzi ludzie, na przykład ustawienie, które sprawia, że ​​nowi nastoletni użytkownicy są mniej narażeni na kontakt z wrażliwymi treściami, oraz funkcja, która zachęca nastolatków, gdy „ od jakiegoś czasu przewijam ten sam rodzaj treści.

Co robi ustawa kalifornijska

Ustawa ma na celu sprawdzenie, w jaki sposób firmy mediów społecznościowych udostępniają treści młodym ludziom poniżej 18 roku życia. W szczególności zabrania firmom mediów społecznościowych korzystania z projektu, algorytmu, funkcji lub praktyki, o których firmy wiedzą (lub powinny wiedzieć), co powoduje, że młodzi ludzie:

• Rozwinąć zaburzenia odżywiania, wyrządzić krzywdę sobie lub innym lub uzależnić się od platformy mediów społecznościowych;
• Otrzymuj treści ułatwiające zakup substancji kontrolowanych, takich jak opioidy; które ułatwiają samobójstwo, oferując informacje o tym, jak umrzeć w wyniku samobójstwa; lub ułatwia nielegalną sprzedaż broni.

Obejmuje firmy mediów społecznościowych, które zarabiają ponad 100 milionów dolarów rocznie i mają użytkowników w Kalifornii. Firmy, które naruszają prawo, mogą zostać pozwane przez adwokatów publicznych i grozić im kary w wysokości nawet 250 000 USD za każde naruszenie.
Ale ustawa tworzy również sposób, w jaki firmy mogą chronić się przed procesami sądowymi: poprzez audyt ich projektów, algorytmów, funkcji i więcej co najmniej raz na kwartał pod kątem ich potencjalnego spowodowania szkód wymienionych w ustawie i naprawianie problemów w ciągu 30 dni.

Kalifornia nie jest jedynym stanem, w którym ustawodawcy dążą do uregulowania platform mediów społecznościowych. W marcu gubernator Utah podpisał podobną ustawę, a także inną ustawę, która wprowadza godzinę policyjną w mediach społecznościowych dla nastolatków poniżej 18 roku życia i wymaga od nastolatków uzyskania zgody rodziców na zakładanie kont w mediach społecznościowych. Arkansas uchwalił również ustawę wymagającą zgody rodziców dla nastolatków na zakładanie kont w mediach społecznościowych. Stanowi ustawodawcy w New Jersey rozważają ustawę, która zabrania firmom mediów społecznościowych korzystania z funkcji, które uzależniają dzieci, a prawodawcy w Minnesocie również zastanawiają się nad ustawą o mediach społecznościowych. Są też ustawy, które regulowałyby media społecznościowe w innym celu: w Teksasie uchwalono prawo, które zabraniało banowania użytkowników na podstawie ich „punktów widzenia”, a na Florydzie uchwalono również prawo ograniczające możliwość blokowania użytkowników przez platformy.

Oprócz wszystkich nowych propozycji, przez sądy toczy się mnóstwo procesów sądowych, które mogą zmienić przepisy dotyczące mediów społecznościowych. Prawa Teksasu i Florydy zostały zakwestionowane za naruszenie Pierwszej Poprawki; o ich losie zadecyduje Sąd Najwyższy. Ponad 80 spraw zostało połączonych w jeden ogromny proces sądowy, w którym powodowie twierdzą, że platformy mediów społecznościowych są zasadniczo wadliwymi produktami – jak eksplodujący toster – ponieważ uzależniają dzieci.

Ustawa z Kalifornii może napotkać przeszkody prawne

Gdyby ustawa kalifornijska stała się prawem, czy byłaby w stanie uniknąć i przebrnąć przez wyzwania prawne?

Lobbyści z branży technologicznej, a także niektórzy obrońcy praw cyfrowych i eksperci od prawa internetowego twierdzą, że ustawa natychmiast zderzyłaby się z Pierwszą Poprawką do Konstytucji Stanów Zjednoczonych i prawem federalnym. Oba przewyższają lub „wyprzedzają” prawa kalifornijskie w języku prawniczym.

Ustawa jest sprzeczna z Konstytucją, ponieważ Sąd Najwyższy generalnie zinterpretował Pierwszą Poprawkę jako chroniącą decyzje redakcyjne wydawców, powiedziała Sophie Cope, starszy prawnik w organizacji non-profit Electronic Frontier Foundation, która sprzeciwia się ustawie. Gazety decydują o swoim układzie, o tym, co trafi na pierwszą stronę i jakich obrazów użyć, powiedział Cope. Powiedziała, że ​​platformy mediów społecznościowych robią podobne rzeczy jak wydawcy internetowi, kiedy podejmują decyzje dotyczące sposobu wyświetlania, udostępniania lub promowania treści.

Ta ustawa „idzie bezpośrednio w sedno redakcyjnej dyskrecji tych platform” – powiedział Cope.

„To pierwsza poprawka, która ogranicza zdolność ustawodawców do kontrolowania przepływu informacji u dzieci” w takim stopniu, w jakim ustawodawcy mogliby sobie tego życzyć, zgodził się Eric Goldman, profesor na wydziale prawa Uniwersytetu Santa Clara i ekspert w dziedzinie prawa internetowego. Jego przykład: sprawa Sądu Najwyższego z 1997 r. dotycząca tego, czy prawo zabraniające przekazywania treści pornograficznych lub „obscenicznych lub nieprzyzwoitych” dzieciom naruszyło pierwszą poprawkę. Sąd Najwyższy jednogłośnie zdecydował, że tak.

Ed Howard, starszy doradca w Instytucie Rzecznictwa Dzieci na Wydziale Prawa Uniwersytetu w San Diego i zwolennik projektu ustawy, nie zgadza się z tym i twierdzi, że ustawa nie narusza Pierwszej Poprawki, po części dlatego, że algorytmy ustalające priorytet treści zostanie wyświetlony, nie mają własnych praw wynikających z Pierwszej Poprawki. I, jak powiedział, „nie ma całkowitej odporności na krzywdzenie ludzi poprzez twoje przemówienie”.

Następnie istnieje prawo federalne, które może stanowić problem dla rachunku kalifornijskiego. Sekcja 230 ustawy Communications Decency Act ogólnie chroni firmy technologiczne przed odpowiedzialnością prawną za treści publikowane przez użytkowników na ich platformach. Jeśli, na przykład, ktoś opublikuje zniesławiającą recenzję restauracji na Yelp, właściciel restauracji może pozwać plakat, ale sam Yelp byłby chroniony, powiedział Cope.

Tak więc kluczowe pytanie brzmi, czy kalifornijska ustawa ma na celu funkcje i algorytmy zaprojektowane przez firmę zajmującą się mediami społecznościowymi – dla których może nie być chroniona przez sekcję 230 – czy też naprawdę wymaga od platform odpowiedzialności za treści przesyłane przez użytkowników .

Senator stanowy Nancy Skinner, demokratka z Oakland, która jest autorką projektu ustawy, twierdzi, że ustawa nakłada na firmy odpowiedzialność za ich własne produkty i praktyki, więc nie zostałaby ona wywłaszczona przez sekcję 230. Częścią pracy rządu, powiedziała, jest w celu ochrony konsumentów przed szkodliwymi praktykami biznesowymi. To bardzo klasyczna rola rządu”.

Ale, powiedział Cope z Electronic Frontier Foundation, „jeśli spojrzysz na taki rachunek, sednem problemu jest treść”. Ustawa ma na celu uczynienie platform „odpowiedzialnymi za złe treści docierające do młodych ludzi”, więc prawo federalne powinno to uprzedzić, powiedziała. Innymi słowy, funkcje nie stanowią problemu, gdy pokazują młodym użytkownikom #vanlife i robią na drutach filmy, ale kiedy serwują porady dotyczące diety głodowej, już tak.

Publiczność może pozostać w niepewności

W zeszłym tygodniu ustawa została przesłana do Senackiej Komisji ds. Środków i dodana do specjalnego stosu ustaw, które komisja przeanalizuje pod kątem kosztów i korzyści. Ten stos rachunków – znany jako „akta suspensu” – oficjalnie dotyczy analizy budżetu. Nieoficjalnie jest to również politycznie korzystne miejsce, w którym ustawodawcy mogą zabijać rachunki bez narażania się. Dzieje się tak dlatego, że w przeciwieństwie do innych głosowań, które przeprowadzają ustawodawcy stanowi, głosowanie nad ustawami o zawieszeniu jest utrzymywane w tajemnicy. Jeśli ustawa nigdy nie wydostanie się ze specjalnego stosu, opinia publiczna nie wie, czyje głosy doprowadziły do ​​jej upadku.

Wersja ustawy została przedstawiona w zeszłym roku. Żaden ustawodawca nie głosował przeciwko niemu publicznie, ale ustawa została umieszczona w aktach zawieszenia i tam umarła.

Tegoroczna ustawa „może spotkać ten los”, powiedziała Skinner, „ale mam nadzieję, że ilość zwiększonej świadomości, zwiększonych dowodów i działań ze strony innych stanów, miejmy nadzieję, sprawi, że będzie ona w znacznie lepszym stanie” – powiedziała.