Wybrane Problemy Etyczne w Regulacji Autonomicznych Systemów Bojowych

Kierownik projektu: dr Maciej Zając
Data rozpoczęcia: 23. 09. 2022
Data zakończenia: 22. 09. 2025
Finansowanie Narodowe Centrum Nauki, konkurs SONATINA 6
numer projektu: 2022/44/C/HS1/00051

Opis projektu:

Autonomiczne roboty bojowe to drony albo inne roboty wojskowe, które potrafią same rozpoznać i zaatakować cele takie jak czołgi, okręty czy żołnierze przeciwnika. Zbudowanie takiego robota mogło się w przeszłości wydawać niezwykle trudne, ale na obecnym poziomie technologicznym nawet państwa, których nie kojarzymy jako technologicznych gigantów, są w stanie je zbudować. Użycie takich robotów budziło i budzi wiele kontrowersji. Czy będą one w stanie przestrzegać tych samych zasad moralnych co ludzie? Czy nie ma czegoś z natury złego w ich użyciu? Co stanie się, kiedy każdy kraj zacznie uzbrajać swoją armię w takie roboty? Takie pytania padają od kilkunastu lat debatach prawników, informatyków czy filozofów. Trudno w tej kwestii o konsensus, natomiast naukowcy zgadzają się co do konieczności rozwijania istniejących regulacji w zakresie techniki wojskowej, żeby zapobiec intencjonalnemu bądź nieintencjonalnemu użyciu takich maszyn przeciwko ludności cywilnej i obiektom chronionym prawem wojennym. Choć niektórzy postulują, że takiej broni warto by zupełnie zakazać, kwestie praktyczne i polityczne, jak również argumenty moralne, nakazują skupić się na stworzeniu łatwiej osiągalnych i egzekwowalnych, choć mniej restrykcyjnych regulacji.

Historia regulacji użycia broni, w przeciwieństwie do historii zakazywania jej użycia, jest generalnie historią sukcesów. Sposób, w jaki większość krajów prowadzi dzisiaj wojnę, znacząco zmienił się od mrocznych czasów II Wojny Światowej czy Zimnej Wojny; barbarzyńska postawa sił zbrojnych Rosji, Syrii czy Państwa Islamskiego to wyjątki, które podkreślają regułę. Zamiast min przeciwpiechotnych, zabijających bawiące się dzieci dziesiątki lat po wygaśnięciu konfliktu, dziś używa się min przeciwczołgowych, których żadne dziecko nie będzie w stanie odpalić; zamiast niszczących wszystko nawał artyleryjskich, precyzyjnych pocisków niszczących cele z dokładnością do metra. Warto, by reformy w tym duchu objęły także młodą technologię autonomicznych robotów bojowych, będących w pewnym sensie kolejną generacją amunicji precyzyjnej.

Nie wystarczy jednak stwierdzić, że chcemy mądrych regulacji – trzeba opracować je w szczegółach, które musza się okazać akceptowalne dla rozmaitych interesariuszy i z punktu widzenia rozmaitych wartości. Tę trudną, ale wartościową pracę będzie podejmował mój projekt. Chciałbym pochylić się w nim nad propozycjami konkretnych regulacji dotyczących trzech wyjątkowo trudnych do rozwiązania kwestii: 1) jak powinien wyglądać test, który zweryfikuje, ze robot będzie się na polu bitwy zachowywał zgodnie z obowiązującymi standardami moralnymi i prawnymi? 2) jak powinna wyglądać procedura poddawania się robotowi bojowemu przez ludzkiego żołnierza? 3) jaką postać powinno przyjąć podporządkowanie się przez roboty zasadzie proporcjonalności w działaniach wojennych?

Pytanie nr 1 jest podstawowym pytaniem, bez odpowiedzi na które żaden zestaw regulacji nie będzie możliwy. Niestety, jest też szczególnie trudne – autonomiczne roboty bojowe są i będą oparte na technikach uczenia maszynowego, co oznacza, że bardziej hodujemy lub wychowujemy je niż projektujemy. Ich zachowania potrafią być nieprzewidywalne i nieintuicyjne, a testy weryfikujący ich przydatność nie mogą ciągnąc się w nieskończoność. Jak w skończonej liczbie procedur testowych udowodnić, że robot zachowa się poprawnie w praktycznie nieskończonej liczbie scenariuszy, które może napotkać – to dylemat naprawdę godny wytężonej analizy filozoficznej.

Międzynarodowe prawo wojenne nakazuje branie do niewoli poddających się przeciwników, ale dostosowuje ten przepis do realiów walki za pomocą różnych maszyn. Trudno machać białą flagą z kokpitu naddźwiękowego myśliwca. Dostosowanie autonomicznych robotów bojowych do tego wymogu, a wymogu tego do realiów walki przy pomocy takich robotów to wyzwanie, ale też szansa. Poddawanie się jest nawet dzisiaj procesem pełnym napięcia i niepewności. Być może przystosowując go do potrzeb maszyn ulepszymy go.

Tak prawo, jak i moralność zabraniają atakowania cywili i celów niewojskowych. Co więcej, zabraniają atakowania celów wojskowych, jeśli przyniesie to także nieproporcjonalne zniszczenia uboczne. Algorytmy maja ogromny problem z oceną moralną takich przypadków, gdyż wymaga to ogólnego zrozumienia świata, którego nie posiadają. Jasne jest więc, że tego typu odpowiedzi powinni ręcznie programować im ludzie. Żeby to umożliwić, należy uściślić nasze standardy oceny takich wyborów, które są obecnie bardzo luźne. W ramach projektu podejmę się tego zadania.
Oprócz podjęcia się tych trzech szczegółowych zadań będę w ramach projektu śledzić i oceniać szczegółowe propozycje innych autorów dotyczące regulacji autonomicznych robotów bojowych. Istnieje duże prawdopodobieństwo, że technologia ta wkrótce stanie się powszechna we wszystkich obszarach działalności wojskowej. Uregulowanie jej jest zatem pilną sprawą o ogromnych konsekwencjach praktycznych. Mam nadzieję, że mój projekt się do tego przyczyni.

classic-editor-remember:

block-editor