Świat

Inicjatywy Pentagonu w zakresie sztucznej inteligencji przyspieszają decyzje dotyczące śmiercionośnej broni autonomicznej

  • 25 listopada, 2023
  • 11 min read
Inicjatywy Pentagonu w zakresie sztucznej inteligencji przyspieszają decyzje dotyczące śmiercionośnej broni autonomicznej


NATIONAL HARBOR, Maryland (AP) – Sztuczna inteligencja wykorzystywana przez armię amerykańską pilotowała małe drony obserwacyjne w misjach sił specjalnych i pomogła Ukraina w swojej wojnie z Rosją. Śledzi kondycję żołnierzy, przewiduje, kiedy samoloty Sił Powietrznych wymagają konserwacji i pomaga mieć oko na rywali w kosmosie.

Teraz Pentagon zamierza wystawić wiele tysięcy stosunkowo niedrogich, jednorazowych egzemplarzy Pojazdy autonomiczne wyposażone w sztuczną inteligencję do 2026 r., aby dotrzymać kroku Chinom. Ambitna inicjatywa – nazwana Replikator – ma na celu „pobudzić postęp w zbyt powolnym przechodzeniu w innowacje wojskowe USA w celu wykorzystania platform, które są małe, inteligentne, tanie i liczne” – powiedziała zastępca sekretarza obrony Kathleen Hicks w Sierpień.

Choć jego finansowanie jest niepewne, a szczegóły niejasne, oczekuje się, że Replicator przyspieszy podejmowanie trudnych decyzji dotyczących tego, która technologia sztucznej inteligencji jest na tyle dojrzała i godna zaufania, że ​​można ją wdrożyć – w tym w systemach uzbrojonych.

(Ilustracja AP/Peter Hamlin)
Na tym zdjęciu dostarczonym przez rząd Korei Północnej przywódca Korei Północnej Kim Dzong Un obserwuje stan satelity w centrum kontroli satelitów w Pjongjangu w Korei Północnej, środa, 22 listopada 2023 r., po tym, jak północnokoreańska agencja kosmiczna ogłosiła, że ​​jej nowa „Chollima” Rakieta nośna o średnicy 1” dokładnie umieściła satelitę Malligyong-1 na orbicie we wtorek wieczorem.  Niezależni dziennikarze nie mieli dostępu do relacjonowania wydarzenia przedstawionego na zdjęciu rozpowszechnianym przez rząd Korei Północnej.  Treść tego obrazu jest zgodna z treścią i nie może być niezależnie zweryfikowana.  Znak wodny w języku koreańskim na obrazku, zgodnie ze źródłem, brzmi: "KCNA" co jest skrótem od Koreańskiej Centralnej Agencji Informacyjnej.  (Koreańska Centralna Agencja Informacyjna/Koreański Serwis Informacyjny za pośrednictwem AP)

Wśród naukowców, ekspertów branżowych i urzędników Pentagonu nie ma dyskusji co do tego, że Stany Zjednoczone w ciągu najbliższych kilku lat będą dysponować w pełni autonomiczną śmiercionośną bronią. I chociaż urzędnicy twierdzą, że to ludzie zawsze będą sprawować kontrolę, eksperci twierdzą, że postęp w szybkości przetwarzania danych i komunikacji między maszynami nieuchronnie spowoduje sprowadzenie ludzi do ról nadzorczych.

Jest to szczególnie prawdziwe, jeśli zgodnie z oczekiwaniami śmiercionośna broń zostanie rozmieszczona masowo roje dronów. Wiele krajów nad nimi pracuje – ale nie podpisały ich ani Chiny, Rosja, Iran, Indie, ani Pakistan zobowiązanie zainicjowane przez USA odpowiedzialnego korzystania z wojskowej sztucznej inteligencji.

Longshot, wystrzeliwany z powietrza bezzałogowy statek powietrzny, opracowywany przez General Atomics we współpracy z Agencją Zaawansowanych Projektów Badawczych Obrony do użytku w tandemie z pilotowanymi odrzutowcami Sił Powietrznych, zostanie zaprezentowany podczas konferencji Air, Space & Cyber ​​Association Sił Powietrznych i Kosmicznych, która odbędzie się w środę, września 13 grudnia 2023 r. w Oxon Hill w stanie Maryland Planiści Pentagonu przewidują użycie takich dronów w "współpraca człowiek-maszyna" pokonać przeciwnika.  Jednak aby zostać wystawionym, programiści będą musieli udowodnić, że technologia sztucznej inteligencji jest wystarczająco niezawodna i godna zaufania.  (AP Photo/Alex Brandon)

Longshot, wystrzeliwany z powietrza bezzałogowy statek powietrzny, opracowywany przez General Atomics we współpracy z Agencją Zaawansowanych Projektów Badawczych Obrony do użytku w tandemie z pilotowanymi odrzutowcami Sił Powietrznych, zostanie zaprezentowany podczas konferencji Air, Space & Cyber ​​Association Sił Powietrznych i Kosmicznych, która odbędzie się w środę, września 13 grudnia 2023 r. w Oxon Hill w stanie Maryland Planiści Pentagonu przewidują wykorzystanie takich dronów w „współpracy człowiek-maszyna” w celu pokonania przeciwnika. Jednak aby zostać wystawionym, programiści będą musieli udowodnić, że technologia sztucznej inteligencji jest wystarczająco niezawodna i godna zaufania. (AP Photo/Alex Brandon)

Nie jest jasne, czy Pentagon formalnie ocenia obecnie możliwość rozmieszczenia jakiegokolwiek w pełni autonomicznego systemu śmiercionośnej broni, zgodnie z wymogami dyrektywy z 2012 roku. Rzeczniczka Pentagonu nie powiedziała.

Zmiana paradygmatu

Replikator podkreśla ogromne wyzwania technologiczne i personalne stojące przed zaopatrzeniem i rozwojem Pentagonu, ponieważ rewolucja sztucznej inteligencji obiecuje zmienić sposób prowadzenia wojen.

„Departament Obrony ma trudności z przyjęciem osiągnięć sztucznej inteligencji z ostatniego przełomu w zakresie uczenia maszynowego” – powiedział Gregory Allen, były czołowy urzędnik Pentagonu ds. sztucznej inteligencji, obecnie pracujący w ośrodku doradczym Centrum Studiów Strategicznych i Międzynarodowych.

Warto przeczytać!  Kanada i USA osiągają porozumienie w sprawie obejścia zaległości w aplikacji Nexus, zgadzają się na umowę rakietową dla Ukrainy

W portfolio Pentagonu znajduje się ponad 800 niesklasyfikowanych projektów związanych ze sztuczną inteligencją, z których większość jest nadal w fazie testów. Zazwyczaj uczenie maszynowe i sieci neuronowe pomagają ludziom zdobywać wiedzę i zwiększać efektywność.

„Sztuczna inteligencja, którą mamy obecnie w Departamencie Obrony, jest w dużym stopniu wykorzystywana i zwiększa możliwości ludzi” – powiedziała Missy Cummings, dyrektor centrum robotyki na Uniwersytecie George’a Masona i była pilot myśliwca Marynarki Wojennej. „Żadna sztuczna inteligencja nie działa sama. Ludzie używają go, aby lepiej zrozumieć mgłę wojny.

Przestrzeń, nowa granica wojny

Jedną z dziedzin, w której narzędzia wspomagane sztuczną inteligencją śledzą potencjalne zagrożenia, jest przestrzeń kosmiczna, która stanowi najnowszą granicę rywalizacji wojskowej.

Chiny przewidują wykorzystanie sztucznej inteligencji, w tym na satelitach, do „podejmowania decyzji o tym, kto jest, a kto nie przeciwnikiem” – powiedziała na konferencji internetowej Lisa Costa, dyrektor ds. technologii i innowacji Sił Kosmicznych Stanów Zjednoczonych, Lisa Costa.

USA chcą dotrzymać kroku.

Prototyp operacyjny o nazwie Machina, używany przez Siły Kosmiczne, autonomicznie monitoruje ponad 40 000 obiektów w kosmosie, co noc koordynując tysiące zbiorów danych za pomocą globalnej sieci teleskopów.

Algorytmy Machiny, czujniki teleskopu marszałkowego. Wizja komputerowa i duże modele językowe mówią im, jakie obiekty należy śledzić. Choreografie AI natychmiast czerpią ze zbiorów danych astrodynamicznych i fizycznych, powiedział pułkownik Wallace „Rhet” Turnbull z Dowództwa Systemów Kosmicznych konferencja w sierpniu.

Inny projekt sztucznej inteligencji w Siłach Kosmicznych analizuje dane radarowe w celu wykrywania zbliżającego się wystrzelenia rakiet przeciwnika – powiedział.

Utrzymanie samolotów i żołnierzy

W innych miejscach zdolności predykcyjne sztucznej inteligencji pomagają Siłom Powietrznym utrzymać flotę w powietrzu, przewidując potrzeby konserwacyjne ponad 2600 samolotów, w tym bombowców B-1 i helikopterów Blackhawk.

Modele uczenia maszynowego identyfikują możliwe awarie na dziesiątki godzin przed ich wystąpieniem, powiedział Tom Siebel, dyrektor generalny C3 AI z Doliny Krzemowej, z którą ma kontrakt. Technologia C3 modeluje także trajektorie pocisków dla amerykańska Agencja Obrony Przeciwrakietowej i identyfikuje zagrożenia wewnętrzne u pracowników federalnych Agencja Kontrwywiadu Obronnego i Bezpieczeństwa.

Wśród działań związanych ze zdrowiem znajduje się projekt pilotażowy monitorujący kondycję całej 3. Dywizji Piechoty armii — liczącej ponad 13 000 żołnierzy. Modelowanie predykcyjne i sztuczna inteligencja pomagają zmniejszyć liczbę kontuzji i zwiększyć wydajność, powiedział mjr Matt Visser.

Pomoc Ukrainie

Na Ukrainie sztuczna inteligencja zapewniana przez Pentagon i jego sojuszników z NATO pomaga udaremnić rosyjską agresję.

Sojusznicy NATO dzielą się informacjami wywiadowczymi na podstawie danych zebranych przez satelity, drony i ludzi, niektóre zagregowane z oprogramowaniem amerykańskiego wykonawcy Palantir. Niektóre dane pochodzą z Mavenapionierski projekt sztucznej inteligencji Pentagonu, obecnie zarządzany głównie przez Narodową Agencję Wywiadu Geoprzestrzennego, mówią urzędnicy, w tym emerytowany gen. Jack Shanahan, inauguracyjny dyrektor AI Pentagonu,

Warto przeczytać!  Gdy liczba ofiar trzęsienia ziemi przekroczyła 25 000 w Turcji i Syrii, nadal ratowano ocalałych

Działalność Maven rozpoczęła się w 2017 r. od próby przetwarzania wideo z dronów na Bliskim Wschodzie – zainspirowana przez amerykańskie siły specjalne walczące z ISIS i Al-Kaidą – a obecnie agreguje i analizuje szeroki wachlarz danych pochodzących z czujników i ludzi.

Sztuczna inteligencja pomogła także stworzeniu w USA Grupa Pomocy Bezpieczeństwa – Ukraina pomóc w organizacji logistyki pomocy wojskowej z koalicji 40 krajów, mówią urzędnicy Pentagonu.

Dowodzenie i kontrola w całej domenie

Aby w dzisiejszych czasach przetrwać na polu bitwy, jednostki wojskowe muszą być małe, w większości niewidoczne i szybko się poruszać, ponieważ wykładniczo rosnące sieci czujników pozwalają każdemu „widzieć w dowolnym miejscu na świecie w dowolnym momencie” – zauważył ówczesny przewodniczący Joint Chiefs, gen. Mark Milley w książce czerwcowe przemówienie. „A co widzisz, możesz strzelić”.

Aby szybciej łączyć bojowników, Pentagon potraktował priorytetowo rozwój powiązanych sieci bojowych – zwanych Joint All-Domain Command and Control – w celu automatyzacji przetwarzania danych optycznych, podczerwonych, radarowych i innych w siłach zbrojnych. Wyzwanie jest jednak ogromne i obciążone biurokracją.

Christian Brose, były dyrektor personelu Senackiej Komisji ds. Sił Zbrojnych, obecnie w firmie Anduril zajmującej się technologiami obronnymi, należy do zwolenników reformy armii, którzy mimo to uważają, że „mogą tu w pewnym stopniu zwyciężyć”.

„Argument może nie dotyczyć tego, czy jest to właściwe postępowanie, a coraz bardziej tego, jak faktycznie to robimy i w wymaganym krótkim czasie” – powiedział. Książka Brose’a z 2020 r. „The Kill Chain” wzywa do pilnego przezbrojenia, aby dorównać Chinom w wyścigu o opracowanie inteligentniejszych i tańszych sieciowych systemów uzbrojenia.

W tym celu armia amerykańska ciężko pracuje nad „łączeniem ludzi i maszyn”. Dziesiątki samolotów bez załogi i pojazdy morskie obecnie obserwuj Działalność Iranu. Amerykańscy żołnierze piechoty morskiej i siły specjalne również korzystają z autonomicznego systemu Anduril Minikopter Duchwieże czujnikowe i technologia przeciwdronowa do ochrony sił amerykańskich.

Postęp w branży w zakresie widzenia komputerowego był niezbędny. Shield AI pozwala dronom działać bez GPS, komunikacji, a nawet zdalnych pilotów. To klucz do niego Nova, quadkopterktórych amerykańskie jednostki operacji specjalnych używały na obszarach objętych konfliktem do rozpoznania budynków.

Na horyzoncie: program „lojalnych skrzydłowych” Sił Powietrznych ma na celu łączenie pilotowanych statków powietrznych z autonomicznymi. Pilot F-16 może na przykład wysłać drony na zwiad, ściągnąć ogień wroga lub zaatakować cele. Liderzy Sił Powietrznych dążą do debiutu później w tej dekadzie.

Wyścig do pełnej autonomii

Oś czasu „lojalnego skrzydłowego” nie do końca pokrywa się z harmonogramem Replikatora, który wielu uważa za zbyt ambitny. W międzyczasie niejasności Pentagonu w sprawie Replikatora mogą częściowo mieć na celu pozostawienie rywali w niepewności, choć planiści mogą również nadal wyczuć cele związane z funkcjami i misjami, powiedział Paul Scharre, wojskowy ekspert ds. sztucznej inteligencji i autor książki „Four Battlegrounds”.

Warto przeczytać!  Rocznica Auschwitz naznaczona pokojem ponownie zburzonym wojną

Anduril i Shield AI, każda z nich wspierana przez setki milionów funduszy venture capital, należą do firm ubiegających się o kontrakty.

Nathan Michael, dyrektor ds. technologii w Shield AI, szacuje, że w ciągu roku, korzystając z jego technologii, będzie gotowy autonomiczny rój co najmniej trzech samolotów bez załogi. Dron powietrzny V-BAT. Według firmy armia amerykańska używa obecnie V-BAT – bez umysłu sztucznej inteligencji – na statkach marynarki wojennej, w misjach antynarkotykowych oraz do wsparcia morskich jednostek ekspedycyjnych.

Michael powiedział, że minie trochę czasu, zanim będzie można bezpiecznie rozmieścić większe roje. „Wszystko polega na czołganiu się, chodzeniu i bieganiu – chyba że skazujesz się na porażkę”.

Jedyne systemy uzbrojenia, którym Shanahan, inauguracyjny szef AI Pentagonu, powierza obecnie autonomiczne działanie, mają charakter całkowicie defensywny, jak systemy przeciwrakietowe Phalanx na statkach. Mniej martwi się autonomiczną bronią podejmującą samodzielne decyzje, niż systemami, które nie działają zgodnie z reklamą lub zabijają osoby niewalczące lub przyjazne siły.

Obecny dyrektor ds. cyfryzacji i sztucznej inteligencji w departamencie, Craig Martell, jest zdeterminowany, aby do tego nie dopuścić.

„Niezależnie od autonomii systemu, zawsze znajdzie się odpowiedzialny agent, który rozumie ograniczenia systemu, dobrze go przeszkolił, ma uzasadnioną pewność co do tego, kiedy i gdzie można go wdrożyć – i zawsze weźmie na siebie odpowiedzialność.” powiedział Martell, który wcześniej kierował uczeniem maszynowym w LinkedIn i Lyft. „To nigdy nie będzie nieprawdą.”

Jeśli chodzi o to, kiedy sztuczna inteligencja będzie wystarczająco niezawodna, aby zapewnić śmiertelną autonomię, Martell stwierdził, że nie ma sensu generalizować. Na przykład Martell ufa adaptacyjnemu tempomatowi swojego samochodu, ale nie technologii, która ma zapobiegać zmianie pasa ruchu. „Jako odpowiedzialny agent nie stosowałbym tego, chyba że w bardzo ograniczonych sytuacjach” – powiedział. „Teraz ekstrapoluj to na wojsko”.

Biuro Martella ocenia potencjalne przypadki użycia generatywnej sztucznej inteligencji – dysponuje m.in specjalna grupa zadaniowa do tego – ale skupia się bardziej na testowaniu i ocenie sztucznej inteligencji w fazie rozwoju.

Jedno pilne wyzwanie, mówi Jane Pinelis, główny inżynier AI w Laboratorium Fizyki Stosowanej Uniwersytetu Johnsa Hopkinsa i były szef działu kontroli sztucznej inteligencji w biurze Martella, rekrutuje i zatrzymuje talenty potrzebne do testowania technologii sztucznej inteligencji. Pentagon nie może konkurować pod względem wynagrodzeń. Doktoranci z informatyki posiadający umiejętności związane ze sztuczną inteligencją mogą zarabiać więcej niż najwyżsi rangą generałowie i admirałowie w wojsku.

Standardy testowania i oceny są również niedojrzałe, a niedawno Narodowa Akademia Nauk Podkreślono raport na temat sztucznej inteligencji Sił Powietrznych.

Czy może to oznaczać, że pewnego dnia Stany Zjednoczone wystawią pod przymusem autonomiczną broń, która nie przejdzie w pełni zbiórki?

„Nadal działamy, zakładając, że mamy czas, aby zrobić to tak rygorystycznie i sumiennie, jak to tylko możliwe” – powiedział Pinelis. „Myślę, że jeśli nie będziemy jeszcze gotowi i nadejdzie czas na podjęcie działań, ktoś będzie zmuszony do podjęcia decyzji”.




Źródło