Zaktualizowano 7 czerwca 2023, 15:38 EDT

Górna linia

Nowe badanie wykazało, że detektor sztucznej inteligencji opracowany przez University of Kansas może wykrywać treści generowane przez sztuczną inteligencję w artykułach akademickich z 99% dokładnością, co jest jednym z niewielu detektorów na rynku specjalnie ukierunkowanych na pisanie akademickie.

Kluczowe fakty

Tangens

Według ankiety przeprowadzonej przez Study.com, 89% studentów przyznało się do używania ChatGPT do pomocy w zadaniach, podczas gdy 34% nauczycieli uważa, że ​​oprogramowanie to powinno zostać zakazane, chociaż 66% wspiera uczniów w uzyskaniu dostępu.

Kluczowy cytat

„Obecnie istnieją dość rażące problemy z pisaniem AI” – powiedziała w oświadczeniu główna autorka Heather Desaire. „Jednym z największych problemów jest to, że składa tekst z wielu źródeł i nie ma żadnej kontroli dokładności – to trochę jak w grze Dwie prawdy i kłamstwo”.

kontra

Detektory AI nie okazały się w 100% dokładne. Studentka Uniwersytetu Kalifornijskiego w Davis twierdzi, że została fałszywie oskarżona przez swój uniwersytet o ściąganie z AI. Po przesłaniu artykułu na jeden z jej zajęć otrzymała e-mail od swojego profesora, w którym twierdził, że część została oznaczona w programie Turnitin jako wygenerowana przez sztuczną inteligencję. Jej sprawa została natychmiast przekazana do Biura Obsługi Studenta i Spraw Sądowych, które zajmuje się dyscyplinowaniem za wykroczenia akademickie. Studentka broniła swojej sprawy i ostatecznie wygrała, używając znaczników czasu, aby udowodnić, że napisała artykuł. Nie był to jedyny przypadek, gdy nauczyciele fałszywie oznaczyli zadania jako wygenerowane przez sztuczną inteligencję. Profesor handlu z Texas A&M próbował oblać ponad połowę swojej ostatniej klasy po tym, jak użył ChatGPT do sprawdzenia, czy uczniowie używają chatbota do pisania swoich prac. Skopiował i wkleił dokumenty do ChatGPT i zapytał, czy je napisał, na co odpowiedział „tak”. To spowodowało, że uczelnia wstrzymała ich dyplomy, chociaż profesor zaoferował możliwość ponownego wykonania zadania. Jednak uniwersytet potwierdził Insiderowi, że żaden student nie został oblany ani nie otrzymał zakazu ukończenia studiów.

Kluczowe tło

Chatbot OpenAI, ChatGPT, został udostępniony publicznie w listopadzie 2022 r. iw niecały tydzień przekroczył granicę miliona użytkowników, a ludzie używają go do tworzenia kodu i pisania esejów. Inteligencja sztucznej inteligencji doprowadziła do tego, że kilka szkół na czas nieokreślony lub tymczasowo zakazało korzystania z oprogramowania, w tym New York Public Schools, Seattle Public Schools i Los Angeles Unified School District.

Styczna 2

Istnieje już wiele programów i usług, które obiecują zidentyfikować treści napisane przez sztuczną inteligencję.

• TurnitIn wydała narzędzie do wykrywania AI dla dokumentów. Wcześniej miał tylko możliwość sprawdzenia plagiatu. Funkcja została dodana do raportu podobieństwa i pokazuje ogólny procent ilości pracy, jaką oprogramowanie AI wygenerowało w dokumencie. Firma twierdzi, że jej narzędzie do wykrywania sztucznej inteligencji jest w 98% dokładne w wykrywaniu pracy napisanej przez sztuczną inteligencję. Jego model wykrywania jest wyszkolony do wykrywania treści z modeli językowych GPT-3 i GPT-3.5, w tym ChatGPT. Twierdzi jednak, że ponieważ charakterystyka pisania GPT-4 jest podobna do wcześniejszych modeli, może wykrywać treści z tej wersji „przez większość czasu”.
• Copyleaks twierdzi, że ma wskaźnik dokładności wykrywania AI na poziomie 99%. Jego oprogramowanie może wykrywać tekst generowany przez sztuczną inteligencję w kilku modelach, w tym w GPT-4 i wcześniejszych wersjach, oraz w treści utworzonej za pomocą Jasper AI. Mówi również, że może wykrywać treści AI w wielu językach, w tym hiszpańskim, rosyjskim, francuskim, holenderskim i niemieckim.
• Sztuczna inteligencja Winstona uruchomiony w lutym i twierdzi, że wykonuje to zadanie z 99% dokładnością. Obsługuje wykrywanie tylko w języku angielskim i francuskim, chociaż firma planuje wkrótce rozszerzyć to na hiszpański i niemiecki. Może wykrywać treści utworzone przy użyciu ChatGPT, Bard, Bing Chat, GPT-4 i innych narzędzi do generowania tekstu.
• Klasyfikator OpenAI uruchomiony w styczniu, aby odróżnić tekst pisany przez AI od tekstu pisanego przez człowieka. Chociaż za ChatGPT stoją ci sami twórcy, narzędzie to nie jest zbyt dokładne. Ma wskaźnik sukcesu wynoszący około 26% i błędnie określa pracę ludzką jako pracę AI w 9% przypadków. Jednak OpenAI twierdzi, że dokładność wzrasta wraz ze wzrostem długości tekstu. Jest „bardzo niewiarygodny” w przypadku tekstów o długości nieprzekraczającej 1000 znaków, a OpenAI zaleca używanie oprogramowania tylko w dokumentach napisanych w języku angielskim. Firma ostrzega również przed używaniem Klasyfikatora jako podstawowego narzędzia do podejmowania decyzji i sugeruje użycie go jako uzupełnienia innych metod wykrywania.
• Sprawdzanie pisania AI został opracowany przez firmę Quill i CommonLit, aby pomóc nauczycielom w sprawdzaniu zadań tworzonych przez sztuczną inteligencję. Jego twórcy przewidują, że jego dokładność wynosi od 80% do 90%. Umożliwia wykrywanie tekstu o długości do 400 słów na raz, a przy dłuższych tekstach użytkownicy muszą podzielić go na sekcje. Oprogramowanie do wykrywania zostało stworzone przez OpenAI i jest w stanie zidentyfikować wzorce składniowe języka w tekście, które nie są całkiem podobne do ludzkich.

Dalsza lektura

ChatGPT w szkołach: Oto, gdzie jest zabroniony — i jak może potencjalnie pomóc uczniom (Forbes)

Oto, co warto wiedzieć o ChatGPT OpenAI — co przeszkadza i jak z niego korzystać (Forbes)

Obserwuj mnie na Świergot lub LinkedInie. Wyślij mi bezpieczną wskazówkę.