Firma Microsoft wkrótce wprowadzi nową funkcję przywracania opartą na sztucznej inteligencji, która tworzy zrzuty ekranu wszystkiego, co robisz na komputerze. Recall jest częścią nowych komputerów Copilot Plus, które zadebiutują 18 czerwca, ale eksperci, którzy przetestowali tę funkcję, już ostrzegają, że Recall może być „katastrofą” dla cyberbezpieczeństwa.

Aplikacja Recall została zaprojektowana tak, aby wykorzystywać lokalne modele sztucznej inteligencji do tworzenia zrzutów ekranu wszystkiego, co widzisz lub robisz na komputerze, a następnie umożliwia wyszukiwanie i pobieranie czegokolwiek w ciągu kilku sekund. Dostępna jest nawet przejrzysta oś czasu, którą możesz przewijać. Wszystko w Recall zaprojektowano tak, aby pozostawało lokalne i prywatne na urządzeniu, więc żadne dane nie są wykorzystywane do uczenia modeli sztucznej inteligencji firmy Microsoft.

Pomimo obietnic Microsoftu dotyczących bezpiecznego i szyfrowanego przywracania oprogramowania, ekspert ds. cyberbezpieczeństwa Kevin Beaumont odkrył, że funkcja oparta na sztucznej inteligencji ma pewne potencjalne luki w zabezpieczeniach. Beaumont, który w 2020 r. przez krótki czas pracował w firmie Microsoft, w zeszłym tygodniu testował funkcję Recall i odkrył, że funkcja ta przechowuje dane w bazie danych w postaci zwykłego tekstu. Dzięki temu wykorzystanie złośliwego oprogramowania do wyodrębnienia bazy danych i jej zawartości może być dla osoby atakującej banalne.

„Co kilka sekund wykonywane są zrzuty ekranu. Są one automatycznie rozpoznawane przez technologię Azure AI działającą na Twoim urządzeniu i zapisywane w bazie danych SQLite w folderze użytkownika” – wyjaśnia Beaumont w szczegółowym poście na blogu. „Ten plik bazy danych zawiera zapis wszystkiego, co kiedykolwiek oglądałeś na swoim komputerze, w postaci zwykłego tekstu”.

Beaumont udostępnił przykład bazy danych w formacie zwykłego tekstu w X, zbeształ Microsoft za informowanie mediów, że haker nie może zdalnie wydobyć aktywności Recall. Baza danych jest przechowywana lokalnie na komputerze PC, ale jeśli jesteś administratorem komputera, możesz uzyskać do niej dostęp z folderu AppData. Dwóch inżynierów firmy Microsoft zademonstrowało to niedawno podczas Build, a Beaumont twierdzi, że baza danych jest dostępna nawet dla osób, które nie są administratorami.

Istnieje obawa, że ​​Recall ułatwi złośliwemu oprogramowaniu i atakującym kradzież informacji. Istnieją już trojany InfoStealer, które kradną dane uwierzytelniające i informacje z komputerów, a hakerzy obecnie rozpowszechniają tego typu złośliwe oprogramowanie w celu kradzieży i sprzedaży informacji. „Recall umożliwia cyberprzestępcom zautomatyzowanie pobierania wszystkiego, co kiedykolwiek przeglądałeś, w ciągu kilku sekund” – mówi Beaumont.

Beaumont wydobył własną bazę danych Recall i stworzył stronę internetową, na której można przesłać bazę danych i natychmiast ją przeszukiwać. „Celowo wstrzymuję szczegóły techniczne do czasu dostarczenia tej funkcji przez Microsoft, ponieważ chcę dać im czas na zrobienie czegoś” – mówi.

Firma Microsoft planuje obecnie domyślne włączenie funkcji Recall na komputerach Copilot Plus. Z moich własnych testów na przedpremierowej wersji Recall wynika, że ​​ta funkcja jest domyślnie włączona podczas konfigurowania nowego komputera Copilot Plus PC i nie ma możliwości jej wyłączenia podczas procesu instalacji, chyba że zaznaczysz opcję, która następnie otworzy panel Ustawienia . Według doniesień Microsoft rozważa jednak zmianę procesu instalacji.

Reakcja na ogłoszenie firmy Microsoft o wycofaniu produktów była szybka – działacze na rzecz ochrony prywatności nazwali to potencjalnym „koszmarem prywatności”, a brytyjskie Biuro Komisarza ds. Informacji wkroczyło do firmy Microsoft, aby zapytać firmę Microsoft w sprawie korzystania przez nią z funkcji opartej na sztucznej inteligencji.

Firma Microsoft utrzymuje, że funkcja Recall jest opcjonalna i że wbudowała w nią mechanizmy kontroli prywatności. Możesz wyłączyć niektóre adresy URL i aplikacje, a Recall nie będzie przechowywać żadnych materiałów chronionych za pomocą narzędzi do zarządzania prawami cyfrowymi. „Recall nie wykonuje również migawek niektórych rodzajów treści, w tym sesji przeglądania sieci InPrivate w Microsoft Edge, Firefox, Opera, Google Chrome ani innych przeglądarkach opartych na Chromium” – podaje Microsoft na swojej stronie z często zadawanymi pytaniami.

Jednak Recall nie moderuje treści, więc nie ukryje na zrzutach ekranu informacji takich jak hasła czy numery kont finansowych. „Te dane mogą znajdować się w migawkach przechowywanych na Twoim urządzeniu, zwłaszcza gdy witryny nie korzystają ze standardowych protokołów internetowych, takich jak maskowanie wprowadzania hasła” – ostrzega Microsoft.

Strona z często zadawanymi pytaniami firmy Microsoft nie opisuje jednak możliwości, jakie złośliwe oprogramowanie może próbować ukraść bazę danych Recall. „Migawki Recall są przechowywane na samych komputerach Copilot Plus, na lokalnym dysku twardym i są chronione przy użyciu szyfrowania danych na Twoim urządzeniu oraz (jeśli masz system Windows 11 Pro lub korporacyjną wersję SKU Windows 11) przez funkcję BitLocker” – mówi Microsoft.

Jak wskazuje Beaumont, szyfrowanie dysku jest dobre tylko w niektórych scenariuszach. „Kiedy jesteś zalogowany na komputerze i uruchamiasz oprogramowanie, wszystko zostaje odszyfrowane” – wyjaśnia Beaumont. „Szyfrowanie w stanie spoczynku pomaga tylko wtedy, gdy ktoś przychodzi do Twojego domu i fizycznie kradnie Twój laptop — tego nie robią hakerzy-kryminaliści”.

Być może Microsoft będzie musiał przerobić Recall lub wycofać go, jeśli chcesz. Wyraźnie istnieją pewne oczywiste luki w sposobie przechowywania danych, którymi należy się zająć, a aktywizacja tej opcji w formie rezygnacji niepokoi działaczy na rzecz ochrony prywatności. Premiera oprogramowania Recall następuje zaledwie kilka tygodni po tym, jak dyrektor generalny Microsoft, Satya Nadella, wezwał pracowników, aby uczynili bezpieczeństwo „najwyższym priorytetem” firmy Microsoft, nawet jeśli oznacza to przedkładanie go nad nowe funkcje.

„Jeśli stoisz przed kompromisem między bezpieczeństwem a innym priorytetem, twoja odpowiedź jest jasna: Zadbaj o bezpieczeństwo”, powiedział Nadella (podkreślenie swoje) w wewnętrznej notatce otrzymanej przez Krawędź. „W niektórych przypadkach będzie to oznaczać priorytetowe traktowanie bezpieczeństwa ponad inne rzeczy, którymi się zajmujemy, takie jak udostępnianie nowych funkcji lub zapewnianie ciągłego wsparcia dla starszych systemów”.

Krawędź skontaktował się z firmą Microsoft, aby skomentować obawy dotyczące bezpieczeństwa i prywatności związane z Recall, ale firma nie odpowiedziała na czas przed publikacją.