Neil Clarke jest jednym z czołowych redaktorów fantastyki naukowej — a teraz ma do czynienia z bardzo sci-fi problem.

The miesięcznik literacki, który założył w 2006 roku, Clarkesworldpublikuje przesłane przez użytkowników sci-fi i fantasy. Jednak od grudnia Clarke jest zasypywany wpisami, które najwyraźniej zostały napisane za pomocą narzędzi wykorzystujących GPT-3, oprogramowanie języka maszynowego opracowane przez firmę OpenAI.

Wzrost zbiegł się z wydaniem ChatGPT, chatbota wydanego przez OpenAI w listopadzie. ChatGPT i narzędzia, takie jak kreator obrazów cyfrowych DALL-E ponownie rozpaliły debatę publiczną na temat interakcji ludzi i technologii, a także etyki korzystania ze sztucznej inteligencji praca domowa w szkole, dziennikarstwoi nawet profesjonalna sztuka.

Dla Clarke’a problem jest tak poważny, że musiał wstrzymać otwarte zgłoszenia do swojego magazynu, który zazwyczaj zbiera 1100 zgłoszeń miesięcznie. On musiał zbanować ponad 500 osób z jego platformy składania wniosków tylko w lutym, wskazując w kierunku tendencja wzrostowa.

Clarke rozmawiał z Quartzem o pojawieniu się generatywnej sztucznej inteligencji io tym, jak próbuje wykorzenić problem w Clarkesworld i ponownie otworzyć zgłoszenia.

Ten wywiad został zredagowany pod kątem jasności i długości.

Kiedy zacząłeś zauważać, że Twoja skrzynka odbiorcza jest zalewana zgłoszeniami pisanymi maszynowo?

Na początku pandemii zaczęliśmy dostrzegać pewne dziwactwa związane z plagiatami. Ludzie używali programów opartych na sztucznej inteligencji do przepisywania rzeczy innych ludzi, aby zamaskować, że zostały zmienione. Widzieliśmy wzrost pod koniec zeszłego roku, tuż przed ogłoszeniem ChatGPT. Thaki odebrane w grudniuw styczniu wzrosła o wiele bardziej, a teraz luty właśnie przeszedł przez dach.

Istnieje wiele narzędzi antyplagiatowych, ale żadne z nich nie jest dobre. Wypróbowaliśmy wszystkie znane nam sposoby i łatwo je przechytrzyć. Dochodziło do punktu, w którym przeszkadzało nam to w przetwarzaniu rzeczy, o które faktycznie prosiliśmy. Więc zamykanie zgłoszeń było jedyną drogą, jaką mogliśmy obrać.

Jakie są te dziwactwa, które zauważasz? Co wskazuje na to, że ta fikcja nie została napisana przez ludzi?

Cóż, nie precyzujemy dokładnie, co zauważamy w tych zgłoszeniach, ponieważ są to rzeczy, które można łatwo naprawić – i nie chcemy im tego ułatwiać ani utrudniać dla nas. Ale są to rzeczy, na które każdy, kto czytał zgłoszenia przez jakiś czas, spojrzałby na nie i powiedział: „To nie ma sensu”. Istnieją pewne rodzaje błędów, których ludzie nie popełniają, nie mówiąc już o ilości, z jaką je obserwujemy. Wiele z tych zgłoszeń AI jest naprawdę więcej niż złych — szkoda, że ​​nie mogę podać dokładnych przykładów, ponieważ od razu byłoby to dla ciebie jasne.

Wyobrażam sobie problemy ze składnią, dziwną pisownią wielkich liter lub…

Ale AI nie robi takich rzeczy! Może tworzyć niezgrabne zdania, ale nie psuje rzeczy, takich jak pisownia. Są inne rzeczy. Mam dostęp do wszystkich danych stojących za każdym zgłoszeniem i wiem, że na przykład trzy kraje stanowią lwią część fałszywych zgłoszeń. Ale mamy też legalnych autorów pochodzących z tych krajów, więc bardzo ostrożnie nie wymieniam nazw tych trzech krajów, ponieważ nie chcę zatruwać basenu.

Czy uważasz, że użycie tej technologii jest aktem plagiatu, ponieważ wszystko prawdopodobnie pochodzi ze słów innych ludzi?

My nie wiemy dokładnie, jak te rzeczy są generowane, ale wiemy, że w przypadku programów graficznych AI prawie na pewno dochodzi do kradzieży. Niektóre z rzeczy, które wyszły są absurdalnie blisko pracy ludzi. I wierzę, że są to firmy aktywnie pozywany. Czuję, że to podejrzane, co jest Dlaczego nie przyjmiemy zgłoszeń, które go posiadają. Z etycznego punktu widzenia nie jesteśmy gotowi powiedzieć: „Hej, to jest całkowicie do zaakceptowania”, ponieważ nie rozumiemy, skąd to się bierze. W listopadzie zmieniliśmy nasze umowy, aby zakazać korzystania z generatywnej sztucznej inteligencji.

Czy uważasz, że narzędzia do pisania oparte na sztucznej inteligencji mogą służyć ważnemu, pomocnemu celowi?

W przyszłości być może. Ale musimy jasno powiedzieć, że jest to coś, czego nie można zamieść pod dywan. Gdyby ktoś pracował z człowiekiem, uznałby go za współautora, ale jeśli pracuje z sztuczną inteligencją, jest jedynym autorem. Z drugiej strony, jeśli wymyślę imiona postaci za pomocą sztucznej inteligencji, nie różni się to niczym od włożenia palca do książki telefonicznej. Nie uznalibyśmy książki telefonicznej, więc nie uznalibyśmy sztucznej inteligencji za wybranie nazwiska. Nadal jest to bardzo szara strefa, ale chcemy pozostać po tej stronie linii, dopóki branża nie będzie miała większej szansy, aby to rozgryźć.

Napisałeś w A post na blogu, „Jeśli branża nie znajdzie sposobu na zaradzenie tej sytuacji, wszystko zacznie się psuć”. Co przez to rozumiesz?

W science fiction i fantasy krótka fikcja jest sercem tej dziedziny. To stąd pochodzi wiele nowych pomysłów i nowych głosów. To wymaga otwartości na nowych ludzi. Wiele rozwiązań, które widziałem, proponowanych w celu rozwiązania naszego problemu, polega na zamianie ludzi, którzy naprawdę przesuną igłę. Więc gdybyśmy powiedzieli: „Zapomnij, nie będziemy już wysyłać zgłoszeń, będziemy tylko rozmawiać z autorami, których już znamy”, wtedy popadniemy w stagnację. Kiedy nie pojawiają się nowe głosy, jest to szkodliwe dla pola. Długoterminowy zdrowie pola zależy od tego, czy sprowadzimy świeżą krew.

Co robisz w najbliższej przyszłości, aby rozwiązać problem?

Niektórzy z naszych czytelników zaoferowali pomoc — pracują w różnych dziedzinach, które są styczne z tym problemem, takich jak zapobieganie oszustwom i rozwój sztucznej inteligencji. Prawdopodobnie dokonamy pewnych zmian w naszym oprogramowaniu do przesyłania zgłoszeń, otworzymy je ponownie i zobaczymy, co się stanie. Wiele osób, które przesyłają te rzeczy, zablokowało pliki cookie, wyłączyło JavaScript lub zrobiło coś, by ukryć to, kim są. Więc jeśli potrzebujemy tych rzeczy, może się okazać, że nie chcą się nami przejmować. Jest wiele małych eksperymentów, które możemy wykonać.

Zwykle płacimy lepiej niż większość i działamy już od jakiegoś czasu, więc trafiliśmy na pewne listy, z których korzystają ludzie, którzy chcą się szybko wzbogacić. Moją wielką nadzieją jest to, że albo ChatGPT zacznie pobierać opłaty od ludzi, co natychmiast to zamknie, albo ci szybko bogacący się ludzie przejdą do innego pobocznego zgiełku.

To jest problem bardzo science fiction. Prawdopodobnie przeczytałeś i zredagowałeś więcej science-fiction niż ja kiedykolwiek w życiu. Czy coś z literatury przychodzi ci na myśl?

Wiesz, nie mogłem wymyślić żadnego scenariusza, w którym to się zgadza. Chyba nikt nie przewidywał wykorzystania robotów do tworzenia sztuki. To jedna z tych zabawnych sytuacji, kiedy wszyscy myślą: „Hej, czy ktoś powinien był o tym napisać?” I nie — no jeden zrobił. Może wymyślimy to za jakieś trzy miesiące, jakaś historyjka z lat 40-tych schowana z tyłu jakiegoś niskonakładowego czasopismo. Ktoś to w końcu znajdzie.

Myślałem o trzech prawach robotyki Issaca Asimova, zgodnie z którymi roboty z jego powieści są zaprogramowane tak, by przede wszystkim unikać krzywdzenia ludzi. W tej chwili jesteśmy daleko od martwienia się o roboty próbujące nas zabić.

To jest myśl! Nie próbują nas zabić. Po prostu niechcący zakopują nas w swoich śmieciach. Nie sądzę, aby sztuczna inteligencja kiedykolwiek była lepsza od naszego najlepszego pisarza. Problemem nie jest jakość. Problem polega na tym, jak szybko może to wyprodukować. To zagłusza inne prace, tylko objętością. To jest właśnie to, co uważam za główny problem, którego teraz doświadczamy. To problem z ilością.