Zwolennicy podkreślają jej potencjał w zakresie zwiększenia efektywności i bezpieczeństwa operacji militarnych, podczas gdy przeciwnicy obawiają się eskalacji konfliktów i autonomicznego podejmowania decyzji, np. o użyciu broni atomowej.
Niebezpieczna skłonność do eskalacji
Badanie przeprowadzone przez Maxa Lampartha i Jacquelyn Schneider z Centrum Bezpieczeństwa Międzynarodowego i Współpracy (CISAC) na Uniwersytecie Stanforda wykazało, że duże modele językowe (LLM), takie jak ChatGPT, wykorzystywane przez wojsko USA do gier wojennych, planowania wojskowego i zadań administracyjnych, mogą stanowić zagrożenie w sytuacjach wysokiego ryzyka.
Badacze symulowali gry wojenne z udziałem LLM-ów od wiodących firm z Doliny Krzemowej, takich jak Anthropic, Meta i OpenAI. Odkryli, że niezależnie od wersji i danych treningowych, wszystkie LLM-y decydowały się na eskalację konfliktu, a nawet użycie broni atomowej.
Autorzy badania ostrzegają, że LLM-y nie potrafią abstrahować ani rozumować jak ludzie, a jedynie naśladują język i wyciągają korelacje z danych. To uniemożliwia im dokonywanie bezpiecznych i etycznych wyborów w sytuacjach krytycznych.
Podkreślają oni również, że trudno jest przewidzieć, jak LLM zachowa się w obliczu decyzji o wysokim ryzyku. Z tego powodu siły zbrojne korzystające z modeli językowych powinny dokładnie rozumieć ich działanie i znaczenie różnic w ich projektowaniu.
Zastosowania AI w wojsku: od planowania do logistyki
Jednocześnie LLM-y mogą być wykorzystywane do zadań wymagających przetwarzania dużych ilości danych w krótkim czasie. Może to znacznie usprawnić proces decyzyjny i funkcje biurokratyczne. Autorzy badania sugerują, że obiecujące zastosowania LLM-ów w wojsku obejmują planowanie wojskowe, dowodzenie i wywiad, a także automatyzację zadań logistycznych i ewaluację.
Debata o wykorzystaniu AI w wojsku będzie z pewnością trwała. Należy dokładnie rozważyć zarówno potencjalne korzyści, jak i zagrożenia związane z tą technologią, aby zapewnić jej odpowiedzialne i bezpieczne stosowanie.
Chcesz podzielić się newsem lub zaproponować temat artykułu? Zapraszam do kontaktu! Zuzanna@radiobp.org
Przełam swoje bariery, dołącz do nas, mamy świetne narzędzia do niwelowania różnic i doświadczenie w kształceniu osobowości. Jesteśmy Organizacją Pożytku Publicznego. Razem pokonamy trudności a ty zostaniesz świetnym dziennikarzem. Walcz razem z nami o lepsze jutro takich jak TY i MY. kontakt@radiobp.org
Zespół Portalu Informacyjnego Bezpieczna Podróż
, takie jak ChatGPT, mogą stanowić zagrożenie w sytuacjach wysokiego ryzyka.){kind=link}