Kredyty obrazkowe: sompong_tom / Getty Images

W ciągu 17-letniej historii Clarkesworld, renomowanego magazynu literackiego science fiction i fantasy, autorzy spekulowali na temat tego, jak ewoluująca, futurystyczna technologia wpłynie na nasz świat. Teraz redaktor i wydawca Neil Clarke przeżywa klęskę, która sama w sobie mogłaby być historią science-fiction: jego magazyn jest niekontrolowanie zalewany krótkimi opowiadaniami stworzonymi za pomocą narzędzi AI.

„To ironiczne, tyle powiem” — powiedział Clarke TechCrunch. Clarkesworld ma reputację tego, że zawsze jest otwarty na przesyłanie historii, podczas gdy wielu wydawców opowiadań przyjmuje zgłoszenia tylko w określonych krótkich oknach. Ale po raz pierwszy liczba zgłoszeń wymknęła się spod kontroli do tego stopnia, że ​​Clarke podjął coś, co nazywa „pod wpływem chwili”, aby zamknąć portal do przesyłania zgłoszeń (w przeszłości Clarkesworld był zamykany tylko na krótko podczas aktualizacji swojej strony internetowej lub oprogramowanie).

„Dzięki tym narzędziom łatwo jest wyprodukować setki tysięcy prac w czasie, w którym ludzki autor stworzyłby może jedną lub dwie” – powiedział TechCrunch Clarke. „Więc zasadniczo mamy pokój pełen wrzeszczących małych dzieci i nie słyszymy ludzi, których próbujemy słuchać”.

Clarke nie dramatyzuje. W poście na blogu udostępnił wykres obejmujący okres od czerwca 2019 r. do lutego 2023 r., który pokazuje, ile miesięcznych zgłoszeń jego pracownicy oznaczyli jako spam. Do początku tego roku liczba zgłoszeń spamowych nigdy nie przekraczała 25 miesięcznie, podczas gdy przez wiele miesięcy nie było żadnego spamu. Przed zamknięciem zgłoszeń w poniedziałek Clarkesworld otrzymało ponad 500 zgłoszeń spamowych tylko w lutym. Dla kontekstu, Clarkesworld otrzymał około 11 500 zgłoszeń w 2022 roku na blogu Clarke’a.

Kredyty obrazkowe: Neila Clarke’a (otwiera się w nowym oknie)

(otwiera się w nowym oknie)

Podobnie jak wiele kontrowersji wokół sztuk wizualnych generowanych przez sztuczną inteligencję, tego rodzaju opowiadania budzą pytania o plagiat. Mówiąc ogólnie, modele OpenAI, takie jak ChatGPT i GPT-3, są zasadniczo przeszkolone w zakresie tekstu w Internecie — w tym chronionych prawem autorskim historii z publikacji takich jak Clarkesworld.

Gdyby historia wygenerowana przez sztuczną inteligencję zasługiwała na publikację w Clarkesworld, publikacja musiałaby dotyczyć pewnych kwestii etycznych. Ale Clarke mówi, że te historie nie są nawet dobre. Te algorytmy generujące tekst nie zostały stworzone, aby nas bawić ani zaskakiwać; analizują wzorce w ogromnych zbiorach danych, aby odpowiedzieć na żądania i określić, jaki jest najbardziej pożądany wynik.

DALL-E, W połowie podróży i inne generatory obrazów AI mogą tworzyć wizualnie interesujące, jeśli nie pochodne, prace — ale kiedy przewiniesz obok znajomego Awatar wygenerowany przez sztuczną inteligencję na Instagramie nie spędzasz dużo czasu w pracy. Jeśli czytasz powieść na 5000 słów, będziesz musiał poświęcić około 15 minut lub więcej na historię, która zasadniczo ma być tak przewidywalna i nudna, jak to tylko możliwe.

Decyzja Clarke’a o zamknięciu zgłoszeń naruszyła zabezpieczenia, uciekając z wyspiarskiej społeczności science fiction, by wywołać kolejną rundę internetowej debaty na temat tego, czy sztuczna inteligencja może tworzyć dobrą sztukę.

„Nigdy nie miałem ćwierkać stało się tak wirusowe” – powiedział Clarke. „Są ludzie, którzy postrzegają to jako realizację planu — sztuczna inteligencja jest zła lub sztuczna inteligencja jest fantastyczna i powinniśmy to przyjąć… Dużo tego rozumiem. Najwyraźniej chcę tylko dowiedzieć się, jak się dowiedzieć, czy pracuję z kimś, kto jest tutaj poważny.

Dla Clarke’a, jego personelu i kandydatów, którzy przesyłają swoje historie, ten zalew zgłoszeń oznacza, że ​​jest mniej czasu, który można poświęcić na pracę z prawdziwymi, wschodzącymi pisarzami science fiction, którzy są naprawdę zainteresowani ulepszaniem swojego pisarstwa. Zamiast tego Clarke utknęła w przedzieraniu się przez banalną prozę.

„To zasadniczo stara historia wszystkich pracujących małp, które pewnego dnia będą replikować Szekspira” – powiedział TechCrunch Clarke. „Ale musimy je wszystkie przeczytać, aby dowiedzieć się, który z nich jest właściwie Szekspirem”.

Niektóre programy twierdzą, że są w stanie wykryć, kiedy zgłoszenie jest plagiatem lub kiedy jest generowane przez narzędzia takie jak ChatGPT. Ale Clarke nie stwierdził, że te kosztowne programy są bardzo dokładne. Kyle Wiggers z TechCrunch przetestował siedem różnych detektorów tekstu AI, stwierdzając, że żaden z nich nie był szczególnie skuteczny. OpenAI szacuje nawet, że jego własne narzędzie do wykrywania tekstu syntetycznego pomija 74% tekstu generowanego przez AI.

Jest to trudny problem do rozwiązania dla firm finansowanych z funduszy wysokiego ryzyka, których wyceny sięgają wielu miliardów dolarów, nie mówiąc już o niezależnym wydawcy science fiction.

Clarke jest szczególnie zainteresowany publikowaniem autorów międzynarodowych, ale zauważył, że autorzy, którzy nie są rodzimymi użytkownikami języka angielskiego, byli czasami oznaczani przez te detektory jako spam.

„Jesteśmy świadomi faktu, że to, co może wyglądać podejrzanie, może w rzeczywistości być dziwactwem sposobu, w jaki nauczyli się angielskiego” — powiedział Clarke. To jeszcze bardziej utrudnia korzystanie z jakiegokolwiek oprogramowania do automatycznego skanowania w celu przeszukiwania historii.

Ten zalew zgłoszeń nie pochodzi od botów — Clarke uważa, że ​​to prawdziwi ludzie, którzy próbują zarobić szybką gotówkę przy minimalnym wysiłku. Nawet Amazon odnotował gwałtowny wzrost liczby samodzielnie publikowanych e-booków generowanych przez sztuczną inteligencję.

„Większość z tych zgłoszeń, które do nas napływają, nie pochodzi od społeczności science fiction” – powiedział. „Pochodzą od ludzi, którzy śledzą różne poboczne blogi, kanały YouTube lub TikToks, i po prostu coś wymyślają i wysyłają w nadziei na szybki zarobek”.

Clarke powiedział, że niektóre publikacje science-fiction napotykają te same problemy, szczególnie te, które są zawsze otwarte lub płacą wyższe stawki. Trudno powiedzieć, dlaczego magazyny science fiction ponoszą ciężar potopu napędzanego przez sztuczną inteligencję – pomijając ironię tego wszystkiego, może to być spowodowane tym, że publikacje science fiction zwykle płacą więcej. Aby zostać uznanym przez Stowarzyszenie Pisarzy Science Fiction & Fantasy za „profesjonalny” rynek krótkich powieści, publikacje muszą płacić co najmniej osiem centów za słowo. To może nie wydawać się dużo, ale publikacje drukujące beletrystykę lub poezję innego gatunku nie mają tych samych przepisów, co oznacza, że ​​często płacą jeszcze mniej lub nie płacą wcale. Tak więc wysyłający spam mogą uznać, że te rynki nie są warte ich czasu.

„Znaleźliśmy kilka głównych źródeł list, na których znajdujemy się jako miejsce do wysyłania zgłoszeń, do których prowadzą guru chatbotów, mówiący ludziom, jak zarabiać pieniądze” – dodał Clarke. „Monitorowaliśmy ruch pochodzący z tych stron, więc wiemy, jakie jest ich źródło, a potem mam mojego przyjaciela, który jest w innym magazynie, który również jest na tej liście. I wyraźnie widzimy, że są niżej na liście i oboje otrzymujemy zgłoszenia od tej samej osoby, i to zawsze kilka minut później. Więc idą w dół listy.

Clarke nie ujawnił, kiedy ponownie otworzy swój magazyn do przesyłania zgłoszeń, ale na razie bada sposoby powstrzymania spamu.

„Masz bardzo szarą strefę. Jest to nowy problem, z którym boryka się branża, i zajmie trochę czasu, zanim wytrząśniesz te szczegóły” – powiedział Clarke. „Więc moja ogólna rada dla autorów brzmi: jeśli uważasz, że to może być podejrzane, nie rób tego”.