Wersja GPT-4 ChatGPT ma teraz wreszcie możliwość łączenia się w celu wyszukiwania informacji i innych zestawów danych w Internecie. Chatbot z otwartym dostępem do internetu może być niebezpieczny, z czego OpenAI zdaje sobie sprawę.

OpenAI wydało wtyczki do ChatGPT, które pozwalają botowi dotrzeć do zewnętrznych źródeł informacji i zbiorów danych, w tym do Internetu. OpenAI twierdzi, że nada priorytet niewielkiej liczbie programistów i klientów w swoim planie premium ChatGPT Plus, zanim udzieli dostępu na większą skalę i API użytkownikom ChatGPT i programistom w kolejce.

Zdecydowanie najbardziej intrygującą wtyczką jest własna wtyczka OpenAI do przeglądania stron internetowych, która umożliwia ChatGPT pobieranie danych z sieci w celu udzielenia odpowiedzi na różne zadawane jej pytania. Wcześniej informacje ChatGPT były ograniczone do Internetu przed wrześniem 2021 r. Wtyczka korzysta z interfejsu API wyszukiwania Bing do pobierania materiałów z sieci i wyświetla wszystkie strony internetowe przeglądane podczas tworzenia odpowiedzi, odnotowując ich źródła w odpowiedziach ChatGPT.

Chatboty z dostępem do otwartego internetu mogą być niebezpieczne
Według badania OpenAI chatbot z dostępem online jest niebezpieczną propozycją. WebGPT, eksperymentalny system opracowany przez firmę zajmującą się sztuczną inteligencją w 2021 r., od czasu do czasu powoływał się na niewiarygodne źródła i był zachęcany do wybierania danych z witryn, które według przewidywań użytkowników miały być atrakcyjne, nawet jeśli te źródła nie były tak naprawdę najsilniejsze.

Nieistniejący już BlenderBot 3.0 firmy Meta również miał dostęp do Internetu i wkrótce wypadł z torów, zagłębiając się w teorie spiskowe i obraźliwe materiały, gdy został poproszony o konkretny tekst.

Oczywiście prawdziwy, otwarty internet jest mniej wyselekcjonowany niż statyczna próbka szkoleniowa, a co za tym idzie mniej filtrowany. Wyszukiwarki, takie jak Google i Bing, używają własnych mechanizmów bezpieczeństwa, aby zmniejszyć prawdopodobieństwo, że niewiarygodne materiały znajdą się na szczycie wyników wyszukiwania, ale tymi wynikami można manipulować.

Nie są one również z natury wskaźnikiem całej sieci. Według The New Yorker algorytm Google faworyzuje strony internetowe, które wykorzystują współczesne technologie internetowe, takie jak szyfrowanie, obsługa smartfonów i znaczniki schematu. W rezultacie wiele stron internetowych z doskonałymi skądinąd materiałami zostaje pogrążonych w chaosie.

Zapewnia to wyszukiwarkom dużą kontrolę nad danymi, których można użyć do informowania o odpowiedziach modeli językowych połączonych z Internetem. Jednocześnie algorytmiczna metoda wyszukiwania zaprasza złych graczy. Według The New Yorker, Pinterest wykorzystał błąd w algorytmie wyszukiwania grafiki Google w 2020 roku, aby ujawnić więcej swoich materiałów w wyszukiwaniu grafiki Google.

Pułapki chatbota z otwartym dostępem do internetu
OpenAI przyznaje, że ChatGPT z obsługą sieci może angażować się w szeroki zakres niepożądanych zachowań, takich jak wysyłanie oszukańczych i spamowych wiadomości e-mail, obchodzenie środków bezpieczeństwa i ogólnie „zwiększanie możliwości złych aktorów, którzy oszukują, wprowadzają w błąd lub wykorzystują innych”.

Aby tego uniknąć, firma twierdzi, że „wdrożyła kilka zabezpieczeń” zalecanych przez wewnętrzne i zewnętrzne czerwone zespoły.

Oprócz komponentu sieciowego, OpenAI opublikowało translator kodu dla ChatGPT, który daje chatbotowi funkcjonalny interpreter Pythona w piaskownicy, środowisku z zaporą ogniową, a także miejsce na dysku.

Pozwala przesyłać pliki do ChatGPT i otrzymywać wyniki; według OpenAI jest szczególnie pomocny w rozwiązywaniu problemów matematycznych, analizie i renderowaniu danych oraz przekształcaniu plików między formularzami.

Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram i Zapier byli jednymi z pierwszych partnerów, którzy opracowali wtyczki dla ChatGPT, aby dołączyć do własnych OpenAI.

W większości są one oczywiste. Na przykład wtyczka OpenTable umożliwia chatbotowi przeglądanie restauracji w poszukiwaniu otwartych rezerwacji, podczas gdy wtyczka Instacart umożliwia ChatGPT składanie zamówień z pobliskich sklepów. Zapier łączy się z aplikacjami takimi jak Arkusze Google, Trello i Gmail, aby aktywować różne zadania związane z wydajnością, co czyni go zdecydowanie najbardziej elastycznym z grupy.

OpenAI staje się open source, choć w ograniczony sposób
Aby zachęcić do opracowywania nowych wtyczek, OpenAI udostępnia komponent „odzyskiwania”, który umożliwia ChatGPT dostęp do fragmentów dokumentów ze źródeł danych, takich jak pliki, notatki, e-maile lub dokumenty publiczne, zadając zapytania w języku naturalnym.

„Pracujemy nad opracowaniem wtyczek i udostępnieniem ich szerszemu gronu odbiorców”, napisał OpenAI we wpisie na blogu. „Musimy się wiele nauczyć i mamy nadzieję, że z pomocą wszystkich zbudujemy coś, co będzie zarówno przydatne, jak i bezpieczne”.

Wtyczki są niezwykłym dodatkiem do harmonogramu rozwoju ChatGPT. ChatGPT, który wcześniej był ograniczony do informacji zawartych w danych szkoleniowych, jest teraz znacznie bardziej kompetentny — i prawdopodobnie mniej ryzykowny prawnie — dzięki wtyczkom. Niektórzy eksperci oskarżają OpenAI o czerpanie korzyści z nieautoryzowanej pracy wykorzystywanej do szkolenia ChatGPT; Zbiór danych ChatGPT obejmuje szeroki zakres publicznych witryn internetowych. Jednak wtyczki mogą rozwiązać ten problem, umożliwiając firmom zachowanie pełnej władzy nad swoimi danymi.

Przeczytaj wszystkie Najnowsze wiadomości, Popularne wiadomości, Wiadomości z krykieta, Wiadomości z Bollywoodu,
Wiadomości z Indii I Wiadomości rozrywkowe Tutaj. Śledź nas na facebooku, Świergot i Instagrama.