Wszechstronne prawo, które Zgromadzenie Narodowe Francji ma przyjąć 28 marca, przed Igrzyskami Olimpijskimi w Paryżu w 2024 r., pozwoli na otwieranie sklepów w niedziele, utworzenie ośrodka zdrowia w departamencie Seine-Saint-Denis (położonym na północny wschód od Paryż) i zezwolić państwu francuskiemu na zbadanie przyszłych akredytowanych osób. Szczególnie kontrowersyjny jest jednak art. 7 tej ustawy, który stanowi, że nadzór wideo AI może być wykorzystany na próbę w celu zapewnienia bezpieczeństwa igrzysk olimpijskich. Organizacje praw człowieka twierdzą, że użycie tej technologii stworzy niebezpieczny precedens.

W fazie wstępnej artykuł 7 został przyjęty przez prezydencką większość, prawicową partię Francji Republikanie i skrajnie prawicowe Zgromadzenie Narodowe. Sprzeciwił się temu Nowy Ekologiczno-Społeczny Związek Ludowy (NUPES), koalicja partii lewicowych. Pozwoli to na wypróbowanie opartej na algorytmach technologii monitoringu wideo w celu zapewnienia bezpieczeństwa „wydarzeń sportowych, rekreacyjnych lub kulturalnych” na dużą skalę.

„Ogólny atak na prawo do prywatności”

„Algorytmiczny nadzór wideo to nowa forma technologii, która wykorzystuje oprogramowanie komputerowe do analizowania obrazów zarejestrowanych przez kamery monitorujące w czasie rzeczywistym” — wyjaśnia Arnaud Touati, prawnik specjalizujący się w prawie cyfrowym. „Algorytmy zastosowane w oprogramowaniu są w szczególności oparte na technologii uczenia maszynowego, która z czasem umożliwia monitorowanie wideo AI na dalsze doskonalenie i dostosowywanie się do nowych sytuacji”.

Zwolennicy tej technologii twierdzą, że są w stanie przewidzieć ruchy tłumu i wykryć porzucony bagaż lub potencjalnie niebezpieczne incydenty. W porównaniu z tradycyjnym monitoringiem wideo wszystko jest zautomatyzowane za pomocą algorytmów odpowiedzialnych za analizę – co zdaniem zwolenników tej technologii ogranicza ludzkie błędy.

„Podczas gdy Francja promuje się jako orędownik praw człowieka na całym świecie, jej decyzja o zalegalizowaniu masowej inwigilacji opartej na sztucznej inteligencji podczas igrzysk olimpijskich doprowadzi do totalnego ataku na prawa do prywatności, protestów oraz wolności zgromadzeń i wypowiedzi” – Amnesty International International powiedział w oświadczeniu po przyjęciu artykułu.

Zwiastun przyszłego nadzoru wideo w całej Europie?

Katia Roux, specjalista ds. technologii i praw człowieka w organizacji pozarządowej, wyjaśnia, że ​​ta technologia może budzić wiele obaw. „Zgodnie z prawem międzynarodowym ustawodawstwo musi respektować surowe zasady konieczności i proporcjonalności. W tym przypadku jednak ustawodawca tego nie wykazał” – mówi. „Mówimy o technologii oceny, która musi oceniać zachowania i kategoryzować je jako zagrożone, aby później można było podjąć środki”.

„Ta technologia nie jest dziś legalna. We Francji przeprowadzono eksperymenty, ale nie w ramach prawnych, które ta ustawa proponuje stworzyć” – powiedziała. „Nie jest to również legalne na poziomie europejskim. Jest nawet poruszane podczas dyskusji w Parlamencie Europejskim na temat technologii i regulacji systemów sztucznej inteligencji. Ustawodawstwo może zatem naruszać również obecnie opracowywane rozporządzenie europejskie”.

„Przyjmując to prawo, Francja stałaby się mistrzem monitoringu wideo w UE i ustanowiłaby niezwykle niebezpieczny precedens. Byłby to bardzo niepokojący sygnał dla krajów, które mogłyby ulec pokusie wykorzystania tej technologii przeciwko własnej ludności” – kontynuowała.

Dyskryminacyjny?

Istnieje obawa, że ​​pozornie zimny i nieomylny algorytm może w rzeczywistości zawierać dyskryminujące uprzedzenia. „Algorytmy te będą trenowane przy użyciu zestawu danych, który został ustalony i zaprojektowany przez ludzi. Dzięki temu będą w stanie uwzględniać dyskryminujące uprzedzenia ludzi, którzy je wymyślili i zaprojektowali” – mówi Roux.

„Nadzór wideo AI był już wykorzystywany do celów rasistowskich, zwłaszcza przez Chiny, w wyłącznej inwigilacji Ujgurów, muzułmańskiej mniejszości obecnej w tym kraju” – mówi Touati. „Ponieważ mniejszości etniczne są niedostatecznie reprezentowane w danych dostarczanych algorytmom do celów edukacyjnych, istnieją znaczne uprzedzenia dyskryminacyjne i rasistowskie. Według badania MIT, podczas gdy błąd rozpoznawania twarzy wynosi 1% dla białych mężczyzn, jest to 34% dla czarnych kobiet”.

Touati chce jednak widzieć szklankę jako do połowy pełną. „Korzystanie z monitoringu wideo AI podczas wydarzeń o takiej skali może również uwypuklić algorytm dyskryminujące, mizoginistyczne i rasistowskie uprzedzenia poprzez identyfikowanie, zbyt często, aby było dokładne, osób z mniejszości etnicznych jako potencjalnych podejrzanych” – wyjaśnia.

Francuski minister spraw wewnętrznych Gérald Darmanin zapytany przez członków lewicowej koalicji opozycyjnej NUPES, jakiego rodzaju ludzie będą celem monitoringu wideo AI, powiedział: „Nie [ones wearing] bluzy z kapturem.” Francuski rząd uważa, że ​​ograniczenia ustanowione przez prawo – brak rozpoznawania twarzy, ochrona danych – wystarczą, aby zapobiec praktykom dyskryminacyjnym.

„Wprowadziliśmy zabezpieczenia, aby przetargi były zarezerwowane tylko dla firm, które przestrzegają określonej liczby zasad, w tym hostingu danych na terytorium kraju, przestrzegania CNIL [National Commission on Informatics and Liberty; an independent French administrative regulatory body responsible for ensuring that data privacy law is applied to the collection, storage and use of personal data] i RODO [General Data Protection Regulation ; a data protection law introduced by the EU]– mówi poseł Philippe Latombe, członek proeuropejskiej i centroprawicowej partii Ruch Demokratyczny. Podpisał wraz ze Zjednoczeniem Narodowym poprawkę, aby w przetargu pierwszeństwo miały europejskie firmy. nie chcę, aby to była chińska firma, która przetwarza dane w Chinach i wykorzystuje dane do czegoś innego”.

„Gwarancje rządowe nas nie uspokajają. W rzeczywistości żadna realna zmiana nie jest możliwa, a ta technologia sama w sobie jest problematyczna i niebezpieczna dla praw człowieka” – mówi Roux. „Pozostanie tak do czasu przeprowadzenia poważnej oceny, wykazania konieczności i proporcjonalności jego stosowania oraz przeprowadzenia prawdziwej debaty z różnymi podmiotami społeczeństwa obywatelskiego na ten temat”.

Wydarzenia sportowe i eksperymenty technologiczne

Chociaż igrzyska olimpijskie są wyraźnie wydarzeniem docelowym, ten eksperyment technologiczny może rozpocząć się, gdy tylko prawo zostanie wdrożone, i zakończy się 31 grudnia 2024 r., cztery miesiące po zakończeniu igrzysk paraolimpijskich. Można go zatem zastosować do szerokiej gamy wydarzeń, począwszy od Pucharu Świata w Rugby od 8 września do 28 października.

Przeciwnicy nadzoru wideo opartego na sztucznej inteligencji obawiają się, że jego początkowo wyjątkowe zastosowanie stanie się w końcu powszechne. W końcu wydarzenia sportowe są często wykorzystywane jako poligon doświadczalny dla policji, bezpieczeństwa i nowych technologii. Na przykład Igrzyska Olimpijskie w Londynie w 2012 r. doprowadziły do ​​powszechnego stosowania nadzoru wideo w stolicy Wielkiej Brytanii.

„Boimy się, że ten wyjątkowy okres stanie się normą” – wyjaśnia Roux, dodając, że technologia rozpoznawania głosu, która została wdrożona eksperymentalnie podczas Mistrzostw Świata 2018 w Rosji, jest od tego czasu wykorzystywana do represjonowania opozycji.

Wreszcie, Amnesty International obawia się, że nadzór wideo doprowadzi ostatecznie do nadzoru biometrycznego lub głosowego. „Rozpoznawanie twarzy to tylko funkcja, która czeka na aktywację” – mówi Roux.

Ustawa o igrzyskach olimpijskich w 2024 r. nie zakończyła jeszcze procesu legislacyjnego. Po wtorkowym formalnym głosowaniu w Zgromadzeniu Narodowym tekst zostanie poddany kilku zmianom i będzie wielokrotnie przemieszczał się między Zgromadzeniem a Senatem, które wcześniej go poprawiały, dopóki obie izby nie zgodzą się go przyjąć.

Peter O’Brien z Tech 24 przyczynił się do powstania tego artykułu.

Ten artykuł został przetłumaczony z oryginału w języku francuskim.