15 października 2020 w magazynie The Guardian ukazał się długi, niezwykle ciekawy i trzeźwy artykuł, dotyczący zagrożeń ze strony AI i technologii AI stosowanej w wojsku. Artykuł nosi tytuł „Maszyny spuszczone by dokonać rzezi: niebezpieczny rozwój wojskowej sztucznej inteligencji” i stanowi przekrój przez dylematy, przed którymi stoją naukowcy, cywile i organizacje z całego świata. Poniżej umieszczam tłumaczenie tego artykułu, z własnymi dopiskami i przypisami. Zapraszam do lektury i przemyśleń.
Wideo jest wymowne. Dwóch groźnych mężczyzn stoi obok białej furgonetki na polu, trzymając w rękach piloty. Otwierają tylne drzwi furgonetki i rozbrzmiewa jęczący dźwięk dronów quadkopterów crescendo. Wciskają przełącznik, a drony wylatują jak nietoperze z jaskini. Za kilka sekund przechodzimy do sali wykładowej na uczelni. Zabójcze roboty wlewają się przez okna i otwory wentylacyjne. Uczniowie krzyczą z przerażenia, uwięzieni w środku, gdy drony atakują ze śmiercionośną siłą. Lekcja, jaką stara się przekazać film Slaughterbots, jest jasna: malutkie zabójcze roboty albo już są wśród nas, albo w niewielkiej odległości. Terroryści mogliby je łatwo rozmieścić. A istniejące mechanizmy obronne są słabe lub nie istnieją wcale.
Niektórzy eksperci wojskowi twierdzą, że film „Slaughterbots”, stworzony przez Future of Life Institute, organizację badającą egzystencjalne zagrożenia dla ludzkości (wg mnie, jest to organizacja buforowa, sądząc po jej członkach i opisie ich działalności; nawet nie starają się specjalnie ukrywać swoich technokratycznych i transhumanistycznych zainteresowań, a „przyszłość życia” w opisach działalności poszczególnych członków i sponsorów wygląda raczej jako zniszczenie życia biologicznego i zastąpienie go życiem syntetycznym; do tej organizacji jeszcze wrócimy ) – wywołuje sensację, podsycając strach tam, gdzie wymagana jest spokojna refleksja. Ale jeśli chodzi o przyszłość wojny, granica między science fiction a faktami jest często niewyraźna. Siły powietrzne USA przewidziały przyszłość, w której „zespoły Swat wyślą mechaniczne owady wyposażone w kamery wideo, aby wkradły się do budynku podczas akcji odbijania zakładników”. Jeden z „współpracujących mikrosystemów” wypuścił już Octoroach, „niezwykle małego robota z kamerą i nadajnikiem radiowym, który może pokonać do 100 metrów nad ziemią”. To tylko jedna z wielu broni „biomimetycznych”, czyli imitujących naturę (Nicanor Perlas, Filipińczyk zajmujący się systemami ludzkimi, sztuczną inteligencją i antropozofią, w swojej książce „Humanity’s Last Stand” wskazuje na główną strategię sztucznej inteligencji w jej wysiłku przejęcia rzeczywistości analogowej, która polega na zastępowaniu[i])
Kto wie, ile innych stworzeń jest obecnie wzorami dla awangardowych teoretyków wojskowości. Niedawna powieść PW Singera i Augusta Cole’a, której akcja rozgrywa się w niedalekiej przyszłości, w której Stany Zjednoczone toczą wojnę z Chinami i Rosją, przedstawia kalejdoskopową wizję autonomicznych dronów, laserów i uprowadzonych satelitów. Książki nie można uznać za fantazję techno-wojskową: zawiera setki przypisów dokumentujących rozwój poszczególnych sprzętów i oprogramowania.
Postępy w modelowaniu robotów zabójców są równie niepokojące. Rosyjska opowieść science fiction z lat 60. „Kraby na wyspie” opisuje rodzaj Igrzysk Śmierci dla SI, w których roboty walczą ze sobą o zasoby. Przegrani są usuwani, a zwycięzcy rozrastają się stają się najlepszymi maszynami do zabijania. Kiedy czołowy informatyk naszych czasów, Pedro Domingos (autor książki „Naczelny Algorytm”) wspomniał o podobnym scenariuszu amerykańskiej Agencji Zaawansowanych Projektów Badawczych Obrony (DARPA), nazywając go „parkiem jurajskim robotów”, jeden z tamtejszych liderów nazwał to „wykonalnym” scenariuszem. Nie potrzeba wiele refleksji, aby zdać sobie sprawę, że taki eksperyment może wymknąć się spod kontroli. Koszt jest główną przeszkodą w eksperymentowaniu z takimi potencjalnie niszczycielskimi maszynami. Modelowanie oprogramowania może wyeliminować tę barierę, pozwalając wirtualnym symulacjom zainspirować przyszłe inwestycje wojskowe.
W przeszłości państwa narodowe gromadziły się i obradowały, aby zakazać szczególnie makabrycznej lub przerażającej nowej broni. W połowie XX wieku międzynarodowe konwencje zakazały broni biologicznej i chemicznej. Społeczność narodów (zgromadzona wokół Czerwonego Krzyża- przyp. U.K.) również zakazała używania oślepiającej technologii laserowej (więcej). Solidna sieć organizacji pozarządowych z powodzeniem wezwała ONZ (z powodzeniem wezwała do zwołania spotkania, jednak uzgodnienie jakichkolwiek regulacji w tej sprawie nadal nie miało miejsca ) by zwołano państwa członkowskie, by te uzgodniły podobny zakaz używania zabójczych robotów i innej broni, która może działać samodzielnie, bez bezpośredniej kontroli człowieka, w celu zniszczenia celu (zwanej śmiercionośnymi autonomicznymi systemami uzbrojenia – LAWS). I chociaż toczyła się debata na temat definicji takiej technologii, wszyscy możemy sobie wyobrazić szczególnie przerażające rodzaje broni, których żadne państwa nigdy nie powinny zgodzić się wytwarzać i rozmieszczać. Dron, który stopniowo podgrzewa żołnierzy wroga na śmierć, naruszyłby międzynarodowe konwencje przeciwko torturom (analiza tej broni) broń dźwiękowa zaprojektowana do niszczenia słuchu lub równowagi wroga powinna zostać potraktowana jednakowo. Kraj, który projektuje i używa takiej broni, powinien zostać wygnany ze społeczności międzynarodowej.