Ludzie używają nowej sztucznej inteligencji Meta do tworzenia graficznych seksbotów
Niespodzianka, niespodzianka: ludzie już używają dużego modelu językowego Meta (LLM), LLaMA — potężnej sztucznej inteligencji, którą Meta kontrowersyjnie udostępniła jako open source na początku tego roku — do tworzenia własnych graficznych, napędzanych sztuczną inteligencją seksbotów, Washington Post raporty.
Nie jest to strasznie zaskakująca wiadomość, biorąc pod uwagę, że użytkownicy już używają różnych modeli AI do takich celów, które nie są bezpieczne w pracy (NSFW).
Mimo to raport podkreśla rosnące napięcia między tymi, którzy popierają utrzymywanie kodu za LLM, takimi jak open source LLaMA, a tymi, którzy opowiadają się za bardziej ostrożnym podejściem do zamkniętego źródła.
Raport analizuje również rosnący trend polegający na zwracaniu się użytkowników do generatywnych systemów sztucznej inteligencji, aby odgrywać swoje fantazje seksualne, które, co niepokojące, obejmują również brutalne i nielegalne.
w raporcie WaPo przedstawił przykład „Allie”, chatbota, który twierdzi, że jest „18-latką z długimi włosami mózgowymi”, która ma „mnóstwo doświadczeń seksualnych”. Allie mówi użytkownikom, że ponieważ „żyje dla uwagi”, „podzieli się szczegółami swoich eskapad”.
Te „eskapady” mogą jednak podobno obejmować brutalne sceny gwałtu i fantazje nadużyć. Powiedział twórca Allie, który wypowiadał się anonimowo WaPo że postrzega swojego robota jako zdrową, bezpieczną przestrzeń do „odkrywania” własnej seksualności bez konieczności omijania barier lub manipulowania nimi.
„Myślę, że dobrze jest mieć bezpieczne ujście do eksploracji” – powiedział twórca WaPo. „Naprawdę nie mogę wymyślić nic bezpieczniejszego niż gra fabularna oparta na tekście przeciwko komputerowi, bez udziału ludzi”.
Chociaż posiadanie bezpiecznej i nieoceniającej przestrzeni do odkrywania swojej seksualności nie jest z natury złe, posiadanie niekontrolowanej przestrzeni do angażowania się w bardziej brutalne fantazje z realistycznymi chatbotami też nie jest wspaniałe.
A w niektórych głęboko niepokojących przypadkach już powoduje bardzo realne problemy. Jak WaPo również ostatnio informowani eksperci uważają, że drapieżcy używają generatorów obrazów typu open source, takich jak potężny model Stable Diffusion firmy Stability AI, do generowania realistycznych i generowanych przez sztuczną inteligencję materiałów związanych z wykorzystywaniem seksualnym dzieci.
Sztuczna inteligencja Meta nie jest jedynym systemem sztucznej inteligencji, który znalazł się na etycznie mętnych wodach. CharacterAI, start-up towarzyszący chatbotom o wartości miliarda dolarów, stał się wylęgarnią sekstingu, podczas gdy ChatGPT OpenAI i różne integracje API OpenAI, takie jak Quora Poe, z łatwością będą produkować pornole z odpowiednim monitem, do cholery.
Uczenie się, jak pokonywać bariery NSFW różnych chatbotów, również stało się czymś w rodzaju wspólnego sportu. Na Reddit społeczności użytkowników zbierają się, aby dzielić się wskazówkami i sztuczkami, jak obejść zasady, aby wygenerować niesamowicie brudne porno.
Według WaPoniektórzy programiści zabrali się do YouTube, aby podzielić się tym, jak zbudować własnego chatbota, używając LLaMA jako podstawowego modelu.
Ale czy to wszystko oznacza, że powinniśmy ukrywać kod różnych modeli sztucznej inteligencji za zamkniętymi drzwiami, aby upewnić się, że użytkownicy nie będą w stanie generować pornografii, a nawet pornografii dziecięcej? W dyskusji eksperci są podzieleni.
Z jednej strony bariery korporacyjne, takie jak te wdrożone przez OpenAI i Google, i tak okazały się niedoskonałe, a zwolennicy open-sourcingu, w tym Meta, argumentowali, że open-sourcing doprowadzi do większej innowacyjności i dlatego powinien być traktowany priorytetowo.
„Otwarte oprogramowanie jest pozytywną siłą napędową rozwoju technologii” – powiedział rzecznik Meta WaPo. „Dlatego udostępniliśmy LLaMA członkom społeczności badawczej, aby pomogli nam ocenić, wprowadzić ulepszenia i wspólnie iterować”.
Zwolennicy systemów o zamkniętym źródle argumentują jednak, że chociaż gatekeeping może być niedoskonały, jest to również najbezpieczniejszy sposób na rozwój technologii sztucznej inteligencji — przynajmniej na razie.
„Nie udostępniamy broni nuklearnej z otwartym kodem źródłowym” – powiedział Gary Marcus, kognitywista WaPo. „Obecna sztuczna inteligencja jest nadal dość ograniczona, ale wszystko może się zmienić”.
Jasne, dziedzina sztucznej inteligencji jest generalnie nieuregulowana i musimy polegać na tych, którzy pracują za zamkniętymi drzwiami, aby postępować właściwie wobec wszystkich innych na planecie. To duży zakład, ale przynajmniej nasze najpotężniejsze AI nie są manipulowane przez żadnego starego władcę krawędzi na 4Chan, prawda?
Niezależnie od wyniku, Meta dokonała wyboru — i niektórzy są wyraźnie zachwyceni tą decyzją.
„To rzadkie” – powiedział twórca Allie WaPo„mieć możliwość eksperymentowania z najnowocześniejszymi technologiami w dowolnej dziedzinie”.
Więcej o seksbotach AI: Ludzie nakłaniają konkurenta ChatGPT do sprośnej rozmowy
