Google i Microsoft mają misję usunięcia harówki z informatyki, wprowadzając narzędzia sztucznej inteligencji nowej generacji jako dodatki do istniejących usług.

16 marca Microsoft ogłosił, że oparty na sztucznej inteligencji system o nazwie Copilot zostanie wkrótce wprowadzony do aplikacji pakietu 365, w tym Word, Excel, PowerPoint, Outlook i Teams.

Wiadomość pojawiła się dwa dni po opublikowaniu przez Google bloga wyjaśniającego plany osadzenia sztucznej inteligencji w aplikacjach Workspace, takich jak Dokumenty, Arkusze, Prezentacje, Meet i Chat.

Łącznie miliony ludzi korzystają z tych aplikacji każdego dnia. Wzmocnienie ich sztuczną inteligencją może zapewnić znaczny wzrost produktywności – o ile bezpieczeństwo nie jest kwestią do przemyślenia.

Generatywna sztuczna inteligencja

Do niedawna sztuczna inteligencja była wykorzystywana głównie do zadań kategoryzacji i identyfikacji, takich jak rozpoznawanie tablicy rejestracyjnej za pomocą kamery drogowej.

Generatywna sztuczna inteligencja pozwala użytkownikom tworzyć nowe treści, stosując algorytmy głębokiego uczenia się do dużych zbiorów danych. Między innymi ChatGPT i DALL-E szturmem podbiły już świat.

Teraz Microsoft i Google znalazły bardziej konkretny sposób na wprowadzenie generatywnej sztucznej inteligencji do naszych biur i klas.

Podobnie jak inne generatywne narzędzia AI, Copilot i Workspace AI są zbudowane na dużych modelach językowych wytrenowanych na ogromnych ilościach danych. Dzięki temu szkoleniu systemy „nauczyły się” wielu zasad i wzorców, które można zastosować do nowych treści i kontekstów.

Copilot firmy Microsoft jest testowany z zaledwie 20 klientami, a szczegóły dotyczące dostępności i cen mają zostać ujawnione „w nadchodzących miesiącach”.

Copilot zostanie zintegrowany z aplikacjami, aby przyspieszyć żmudne lub powtarzalne zadania. Na przykład:

• pomagaj użytkownikom pisać, edytować i streszczać dokumenty programu Word
• zamień pomysły lub streszczenia w pełne prezentacje programu PowerPoint
• identyfikuj trendy danych w Excelu i szybko twórz wizualizacje
• „syntetyzuj i zarządzaj” swoją skrzynką odbiorczą programu Outlook
• dostarczać podsumowania spotkań w usłudze Teams w czasie rzeczywistym
• gromadzą dane z różnych dokumentów, prezentacji, wiadomości e-mail, kalendarza, notatek i kontaktów, aby pomóc w pisaniu wiadomości e-mail i podsumowywaniu rozmów.

Zakładając, że skutecznie wykona te zadania, Copilot będzie ogromną aktualizacją oryginalnego Asystenta pakietu Microsoft Office, Clippy.

Google Workspace AI będzie oferować podobne możliwości płacącym subskrybentom.

Obawy związane z danymi

Microsoft opisał Copilota jako

wyrafinowany silnik przetwarzania i orkiestracji działający za kulisami, aby połączyć moc LLM, w tym GPT-4 […].

Nie wiemy dokładnie, na jakich danych sam GPT-4 został przeszkolony, ale według OpenAI było to dużo danych pobranych z Internetu i licencjonowanych.

Sztuczna inteligencja Google Workspace jest oparta na modelu PaLM (Pathways Language Model), który został przeszkolony na podstawie kombinacji książek, artykułów z Wikipedii, artykułów z wiadomościami, kodów źródłowych, przefiltrowanych stron internetowych i rozmów w mediach społecznościowych.

Oba systemy są zintegrowane z istniejącą infrastrukturą chmurową. Oznacza to, że wszystkie dane, do których są stosowane, będą już dostępne online i przechowywane na serwerach firmy.

Narzędzia będą wymagały pełnego dostępu do odpowiednich treści, aby zapewnić kontekstowe odpowiedzi. Na przykład Copilot nie może przekształcić 16-stronicowego dokumentu programu Word w jedną stronę wypunktowaną bez uprzedniej analizy tekstu.

Rodzi to pytanie: czy informacje o użytkownikach będą wykorzystywane do uczenia podstawowych modeli?

W odniesieniu do tego punktu Microsoft powiedział:

Duże modele językowe Copilot nie są szkolone w zakresie treści klienta ani indywidualnych monitów.

Google powiedział:

[…] prywatne dane są prywatne i nie są używane w szerszym korpusie szkoleniowym modelu podstawowego.

Te stwierdzenia sugerują, że sam 16-stronicowy dokument nie będzie używany do uczenia algorytmów. Zamiast tego Copilot i Workspace AI będą przetwarzać dane w czasie rzeczywistym.

Biorąc pod uwagę pośpiech w opracowywaniu takich narzędzi sztucznej inteligencji, w przyszłości może pojawić się pokusa szkolenia takich narzędzi na „prawdziwych” danych specyficznych dla klienta. Na razie jednak wydaje się, że jest to wyraźnie wykluczone.

Obawy dotyczące użyteczności

Jak wiele osób zauważyło po wydaniu ChatGPT, tekstowe generatywne narzędzia sztucznej inteligencji są podatne na stronniczość algorytmiczną. Obawy te obejmą nowe narzędzia Google i Microsoft.

Wyniki generatywnych narzędzi sztucznej inteligencji mogą być pełne nieścisłości i uprzedzeń. Własny chatbot Microsoftu Bing, który również działa na GPT-4, znalazł się pod ostrzałem na początku tego roku za wysuwanie oburzających twierdzeń.

Obciążenie występuje, gdy duże ilości danych są przetwarzane bez odpowiedniej selekcji lub zrozumienia danych treningowych oraz bez odpowiedniego nadzoru nad procesami szkoleniowymi.

Na przykład większość treści online jest napisana w języku angielskim – który jest prawdopodobnie głównym językiem, którym posługują się (głównie biali i mężczyźni) ludzie opracowujący narzędzia AI. To leżące u podstaw uprzedzenie może wpływać na styl pisania i konstrukcje językowe rozumiane, a następnie replikowane przez systemy oparte na sztucznej inteligencji.

Na razie trudno dokładnie powiedzieć, jak mogą wyglądać problemy z uprzedzeniami w Copilot lub Workspace AI. Na przykład systemy mogą po prostu nie działać tak skutecznie w przypadku osób w krajach nieanglojęzycznych lub osób posługujących się różnymi stylami języka angielskiego.

Względy bezpieczeństwa

Jedną z głównych luk w narzędziach sztucznej inteligencji Microsoftu i Google jest to, że mogą znacznie ułatwić cyberprzestępcom wykrwawienie ofiar.

Podczas gdy wcześniej przestępca musiał przeszukiwać setki plików lub wiadomości e-mail, aby znaleźć określone dane, teraz może korzystać z funkcji wspomaganych przez sztuczną inteligencję, aby szybko zestawiać i wydobywać to, czego potrzebuje.

Ponadto, ponieważ jak dotąd nic nie wskazuje na udostępnienie wersji offline, każdy, kto chce korzystać z tych systemów, będzie musiał przesłać odpowiednie treści online. Dane przesyłane online są bardziej narażone na naruszenie niż dane przechowywane tylko na komputerze lub telefonie.

Wreszcie, z punktu widzenia prywatności, nie jest szczególnie inspirujące obserwowanie kolejnych możliwości, dzięki którym największe korporacje na świecie mogą gromadzić i syntetyzować nasze dane.

Mohiuddin Ahmed jest starszym wykładowcą cyberbezpieczeństwa na Uniwersytecie Edith Cowan. Paul Haskell-Dowland jest profesorem praktyki cyberbezpieczeństwa na Uniwersytecie Edith Cowan.

Ten artykuł pojawił się po raz pierwszy w The Conversation.