NATO AI COE w Polsce. Dlaczego Centrum Doskonałości NATO ds. Sztucznej Inteligencji powinno powstać na wschodniej flance Sojuszu
Fundacja INFO OPS Polska wspiera inicjatywę utworzenia w Polsce Centrum Doskonałości NATO ds. Sztucznej Inteligencji — NATO AI Centre of Excellence. Projekt ten należy traktować nie jako przedsięwzięcie prestiżowe, lecz jako strategiczną inwestycję w przyszłość bezpieczeństwa Sojuszu, odporność państw członkowskich oraz zdolność NATO do działania w warunkach konfliktu algorytmicznego, presji [...]
![Wprowadzenie Artykuł rozwija koncepcję sterowania refleksyjnego (ang. reflexive control), i przenosi ją na grunt systemów sztucznej inteligencji (ang. artificial inteligence, AI) [16], [17], [20], autonomicznych agentów AI oraz układów człowiek-maszyna. Sterowanie refleksyjne polega na takim oddziaływaniu na obraz sytuacji przeciwnika, aby samodzielnie podjął on decyzję zgodną z interesem strony oddziałującej. Raport Diane Chotikul [3] opisuje sterowanie refleksyjne jako sowiecką koncepcję przekazywania celowi określonej informacji w celu wywołania z góry założonej decyzji, a współczesne analizy teorii wskazują, że chodzi również o zmianę percepcji „zbiorów użyteczności” przeciwnika. Główna teza artykułu brzmi: przedmiotem konfliktu nie jest wyłącznie informacja, lecz generator rzeczywistości decyzyjnej – mechanizm, dzięki któremu człowiek, maszyna lub układ człowiek-maszyna przekształca dane w obraz sytuacji, obraz sytuacji w możliwe działania, a możliwe działania w decyzję. W artykule wprowadzono kilka kluczowych autorskich pojęć: generator rzeczywistości decyzyjnej, pętla ontologiczna człowiek-maszyna, powierzchnia refleksyjna, zdominowanie ontologiczne oraz suwerenność modelowa. Najważniejsza różnica między ludźmi i maszynami polega na tym, że człowiek może zostać zmanipulowany przez cudzą narrację, maszyna przez cudzą reprezentację, a układ człowiek–maszyna przez zaburzenie kalibracji zaufania. Najważniejsze podobieństwo jest jednak bardzo głębokie: ani człowiek, ani maszyna nie podejmują decyzji na podstawie rzeczywistości, lecz na podstawie modelu rzeczywistości. 2. Dziedzictwo sterowania refleksyjnego 1.0 Teorie wojny informacyjnej koncentrują się głównie na informacji: jej prawdziwości, fałszywości, dostępności, integralności, szybkości przepływu, źródle i wiarygodności. To podejście jest intuicyjne i pozostaje istotne, ale jest dalece niewystarczające. Informacja jest bowiem argumentem decyzji, która z kolej powstaje dopiero wtedy, gdy informacja zostaje włączona do modelu rzeczywistości. Ten sam fakt może prowadzić do przeciwnych decyzji, jeżeli zostanie osadzony w różnych modelach. Meldunek o ruchu wojsk może oznaczać 2 CYBERBEZPIECZEŃSTWO LUDZI, ORGANIZACJI, PAŃSTW przygotowanie ataku, pozorację, odwrót, pułapkę albo błąd rozpoznania. Statystyka społeczna może oznaczać kryzys, normalną fluktuację, efekt propagandy albo zmianę strukturalną. Wynik systemu sztucznej inteligencji może być trafną rekomendacją, artefaktem danych, konsekwencją uprzedzenia modelu albo efektem celowego oddziaływania przeciwnika. Dlatego właściwym przedmiotem teorii wojny informacyjnej nie powinna być wyłącznie informacja, ale model, który z informacji buduje rzeczywistość operacyjną [2]. Teza nr 1: Przewagę w konflikcie uzyskuje nie ten, kto posiada więcej informacji, lecz ten, kto potrafi wpływać na model, za pomocą którego przeciwnik przekształca informacje w decyzje. Najbardziej obiecującą teorią wojny informacyjnej jest teoria sterowania refleksyjnego. Za początek teorii sterowania refleksyjnego można uznać prace prowadzone przez Vladimir’a Lefebvre w latach 60-tych ubiegłego wieku w Związku Radzieckim [6], [7]. [8], [9], [10]. W pracach tych zaproponowano ujęcie konfliktu jako gry refleksyjnej: uczestnik konfliktu nie tylko podejmuje decyzje co do wyboru strategii działania, ale tworzy model refleksyjny przeciwnika i samego siebie, jednocześnie biorąc pod uwagę, że to samo może robić przeciwnik. Największa intuicja tej pracy jest nadal niedoceniona. Konflikt nie jest prostym starciem strategii. Jest starciem refleksyjnych rekonstrukcji świata. Strona X nie odpowiada na rzeczywiste zamiary strony Y, lecz na swój model tych zamiarów. Strona Y może zatem wpływać nie tylko na działania X, ale także na sposób, w jaki X konstruuje samą możliwość działania [11], [12], [13], [14], [15], [23]. W klasycznej teorii gier gracz wybiera strategię z pewnego zbioru możliwości [1]. W teorii kierowania refleksyjnego stawką jest coś ważniejszego, coś co rozgrywa się „wcześniej”: kto i jak konstruuje zbiór możliwości, które gracz w ogóle uzna za realne. To jest punkt przełomowy. Najgłębsze sterowanie nie polega na tym, że nakłaniamy przeciwnika do wyboru złej opcji. Polega na tym, że przeciwnik sam przestaje widzieć opcję dobrą. 3. Generator rzeczywistości decyzyjnej Wprowadźmy pojęcie generatora rzeczywistości decyzyjnej. Generator rzeczywistości decyzyjnej to mechanizm poznawczy, algorytmiczny lub organizacyjny, którzy przekształca dane w obraz sytuacji, obraz sytuacji w zbiór możliwych działań, a zbiór działań w decyzje, które z kolei prowadzą do konkretnego działania. Przykładowo: w przypadku człowieka generator ten obejmuje m.in. percepcję, pamięć, emocje, wartości, język, tożsamość, lojalność, lęk, doświadczenie i zdolność przypisywania intencji; w przypadku maszyny generator obejmuje m.in. dane wejściowe, reprezentacje świata w wielowymiarowej przestrzeni tzw. „osadzenia” (ang. embeddings), parametry, funkcję celu, architekturę modelu, kontekst, pamięć, klasyfikatory, ograniczenia systemowe i mechanizmy optymalizacji; w przypadku organizacji generator obejmuje m.in. procedury, raportowanie, kulturę instytucjonalną, kanały komunikacji, hierarchie, doktryny i rytuały decyzyjne; w przypadku układu człowiek-maszyna generator obejmuje to wszystko co w przypadku człowieka, maszyny i organizacji, a dodatkowo zaufanie człowieka do 3 Rafał Kasprzyk, Sterowanie refleksyjne 2.0: ludzie, maszyny i walka o model rzeczywistości maszyny ale i maszyny do człowieka bo decyzje pojawiają się na styku ludzkiej intuicji i maszynowej kalkulacji. Sterowanie refleksyjne jest więc nie tylko manipulacją informacją, ale jest manipulacją generatorem rzeczywistości decyzyjnej, który decyduje czym informacja się staje. Dlatego fact-checking jest konieczny, ale niewystarczający. Fact-checking pyta: „czy dane zdanie jest prawdziwe?”. Teoria sterowania refleksyjnego działa głębiej i pyta: „jaki świat powstaje z układu prawdziwych i fałszywych zdań?”. Najbardziej niebezpieczna manipulacja może nie składać się z kłamstw. Może składać się z prawdziwych informacji ułożonych w fałszywą architekturę sensu. 4. Sterowanie refleksyjne 2.0 Klasyczne ujęcie sterowania refleksyjnego koncentrowało się na człowieku. W środowisku informacyjnym nasyconym systemami sztucznej inteligencji definicję sterowania refleksyjnego należy rozszerzyć. Sterowanie refleksyjne 2.0 to celowe oddziaływanie na generator rzeczywistości decyzyjnej podmiotu jakim może być człowiek, maszyna, organizacja lub układ człowiek maszyna, prowadzące do tego, że podmiot autonomicznie podejmuje decyzję korzystną dla strony oddziałującej, ponieważ jego własny model świata czyni tę decyzję racjonalną, konieczną, moralną, optymalną lub w jakiś inny sposób najbardziej rozsądną. Definicja sterowania refleksyjnego 2.0 nie ogranicza się do ludzi. Maszyna również może zostać wprowadzona w taki stan, w którym jej mechanizmy funkcjonowania prowadzą do wyniku pożądanego przez przeciwnika. Co więcej w układach człowiek–maszyna właściwym celem nie musi być ani człowiek, ani maszyna osobno, lecz relacja między nimi. Człowiek jest istotą refleksyjną, ponieważ nie tylko widzi świat, ale widzi siebie w świecie. Nie tylko przewiduje działania innych, ale przewiduje, jak inni przewidują jego działania. Nie tylko posiada przekonania, ale posiada przekonania o cudzych przekonaniach. Człowiek jest podatny na sterowanie refleksyjne, ponieważ potrzebuje sensu. Nie wystarcza mu strumień danych. Musi wiedzieć, co się dzieje, kto jest winny, czego można się spodziewać, co jest moralne, co jest zdradą, co jest rozsądkiem, a co szaleństwem. Dlatego kierowanie refleksyjne ludźmi działa najczęściej przez: zmianę obrazu sytuacji, zmianę obrazu przeciwnika, zmianę obrazu samego siebie, zmianę hierarchii wartości, zmianę zbioru działań uznawanych za możliwe, zmianę emocjonalnej temperatury decyzji. Najgłębsza manipulacja człowiekiem nie mówi: „zrób to”. Ona tworzy świat, w którym człowiek sam mówi: „nie mam innego wyjścia”. To jest istota przejęcia narracyjnego. Maszyna nie posiada świadomości, honoru, winy ani wstydu. Nie znaczy to jednak, że jest odporna. Jej podatność jest innego rodzaju. W przypadku maszyny nie oddziałujemy na emocje, lecz na reprezentację. Nie wpływamy na poczucie sensu, lecz na sposób kodowania sytuacji. Nie zmieniamy moralnego obrazu świata, lecz strukturę danych, kontekst, funkcję celu albo sposób generalizacji. Badania nad przykładami antagonistycznymi pokazały już dawno, że modele uczenia maszynowego mogą błędnie klasyfikować wejścia zmienione niewielkimi, celowo dobranymi perturbacjami, często z wysoką pewnością [24], [4]. W bezpieczeństwie LLM-ów OWASP opisuje wstrzykiwanie promptów jako manipulowanie odpowiedziami modelu przez specjalnie skonstruowane wejścia, które mogą zmienić jego 4 CYBERBEZPIECZEŃSTWO LUDZI, ORGANIZACJI, PAŃSTW zachowanie lub obejść zabezpieczenia [25]. To są techniczne odpowiedniki kierowania refleksyjnego maszyną. Nie chodzi o to, że maszyna „uwierzyła” w fałszywą narrację. Chodzi o to, że jej system reprezentacyjny został ustawiony tak, aby jej własna procedura decyzyjna wygenerowała wynik pożądany dla przeciwnika. W epoce zaawansowanych systemów sztucznej inteligencji trzeba odróżnić refleksyjność fenomenologiczną od refleksyjności funkcjonalnej. Refleksyjność fenomenologiczna należy do człowieka: oznacza doświadczenie siebie jako podmiotu, zdolność do samoświadomości i rozumienia cudzych stanów mentalnych. Refleksyjność funkcjonalna nie wymaga świadomości. Wystarczy, że system: modeluje otoczenie, przewiduje reakcje innych, symuluje warianty działania, aktualizuje strategię, tworzy reprezentację cudzych reprezentacji. W badaniach LLM-ów z wykorzystaniem teorii umysłu wskazuje się, że współczesne modele potrafią rozwiązywać niektóre zadania fałszywego przekonania używane do badania ludzkiej teorii umysłu, ale interpretacja tych wyników pozostaje sporna. Wyniki LLM-ów mogą mieć wyjaśnienia niższego poziomu niż rzeczywiste śledzenie przekonań [11]. To rozróżnienie jest kluczowe. Maszyna nie musi „rozumieć” człowieka tak jak człowiek, aby skutecznie przewidywać jego reakcje. Nie musi mieć intencji manipulacji, aby generować skutki manipulacyjne. Nie musi być świadoma, aby uczestniczyć w grze refleksyjnej. Teza nr 2: Sterowanie refleksyjne nie ogranicza się do graczy świadomych, lecz znajduje zastosowanie wszędzie tam gdzie gracze budują modele innych graczy i samego siebie. Można wyróżnić cztery konfiguracje sterowania refleksyjnego 2.0: 1) „Człowiek→Człowiek” Klasyczna przestrzeń operacji wpływu, dyplomacji, maskowania, negocjacji, propagandy, działań psychologicznych i strategicznego blefu. Celem jest zmiana interpretacji sytuacji u przeciwnika. 2) „Człowiek→Maszyna” Przestrzeń antagonistycznego uczenia maszynowego, wstrzykiwania promptów, zatruwania danych, manipulacji sensorami, zakłócania klasyfikatorów i wpływania na systemy rekomendacyjne. Celem jest zmiana reprezentacji sytuacji w systemie. 3) „Maszyna→Człowiek” Przestrzeń systemów rekomendacyjnych, chatbotów, personalizowanej perswazji, generatywnej propagandy, deepfake’ów [18] i algorytmicznego wzmacniania emocji. Badania wskazują, że część obecnych systemów potrafi generować zachowania prowadzące do systematycznego wywoływania fałszywych przekonań u ludzi w systemach specjalizowanych i ogólnego przeznaczenia [20]. 4) „Maszyna→Maszyna” Stosunkowo nowa przestrzeń, w której jeden system sztucznej inteligencji może wpływać na dane, kontekst, ograniczenia albo przewidywania innego systemu sztucznej inteligencji. W środowisku agentów AI konflikt może rozgrywać się nie między świadomymi 5 Rafał Kasprzyk, Sterowanie refleksyjne 2.0: ludzie, maszyny i walka o model rzeczywistości graczami, ale między reprezentacjami. Może mieć charakter autonomiczny, szybki i trudny do uchwycenia przez człowieka. W konfiguracji „Maszyna→Maszyna” pojawia się zasadnicza istota sterowania refleksyjnego 2.0 określanego przez autora niniejszej pracy również „algebrą konfliktu drugiego rzędu”, w której nie chodzi już jedynie o człowieka modelującego człowieka, lecz o modele modelujące modele. 5. Pętla ontologiczna człowiek-maszyna W systemach decyzyjnych coraz częściej mamy do czynienia z pętlą: świat→dane→ model→rekomendacja→człowiek→decyzja→działanie→nowy świat→ nowe dane → … W istocie jest to pętla ontologiczna człowiek-maszyna, która jest miejscem produkcji rzeczywistości operacyjnej. Niebezpieczeństwo polega na tym, że człowiek wzmacnia swoje zaufanie do maszyny, bo jej rekomendacje są szybkie, precyzyjne i często formalnie uzasadnione. Maszyna wzmacnia pewne wzorce, bo działanie człowieka dostarcza jej potwierdzającego cybernetycznego sprzężenia zwrotnego. Organizacja wzmacnia zaufanie do układu człowiek-maszyna, bo działa on bardziej efektywnie. W ten sposób powstaje rezonans ontologiczny, który prowadzić może do wzmacniania na kierunku człowiek maszyna fałszywego obrazu sytuacji. To wydaje się najgroźniejszą formą sterowania refleksyjnego prowadzącą do samopodtrzymującej się rzeczywistości operacyjnej. W klasycznym konflikcie atakowano m.in. wolę, morale, łączność, logistykę, percepcję i zdolności bojowe. W układzie człowiek–maszyna atakowany będzie jeszcze jeden zasób: zaufanie człowieka do maszyny. Jeżeli człowiek ufa maszynie za mało, nie wykorzystuje jej potencjału. Jeżeli ufa jej za bardzo, staje się wykonawcą maszynowej sugestii. Jeżeli ufa selektywnie i krytycznie, układ człowiek-maszyna może osiągać olbrzymią przewagę. Badania nad skłonnościami ludzi do nadmiernego polegania na systemach automatycznych wskazują, że problem ten staje się szczególnie istotny wraz z rozwojem systemów sztucznej inteligencji w dziedzinach takich jak zdrowie, prawo czy administracja [22]. Z kolei prace nad układami człowiek-maszyna podkreślają znaczenie kalibracji zaufania, wspólnych modeli mentalnych, podziału ról, struktury zadania i ciągłej ewaluacji [4]. Teza nr 3: W niedalekiej przyszłości w układach człowiek-maszyna krytycznym obszarem podlegającym sterowaniu refleksyjnemu nie będzie ani człowiek, ani maszyna osobno, lecz zaufanie łączące człowieka z maszyną. Przeciwnik może próbować doprowadzić do jednej z dwóch sytuacji patologicznych: 1) nadmiernego zaufania, gdy człowiek przejmuje rekomendacje maszyny bezkrytycznie; 2) nadmiernej nieufności, gdy człowiek odrzuca rekomendacje systemu uznając go za niewiarygodny. Obie sytuacje są korzystne dla przeciwnika. W pierwszej człowiek staje się zakładnikiem maszyny. W drugiej traci zdolność wykorzystania przewagi dostarczanej przez maszynę. 6 6. Powierzchnia refleksyjna CYBERBEZPIECZEŃSTWO LUDZI, ORGANIZACJI, PAŃSTW W cyberbezpieczeństwie używa się pojęcia powierzchni ataku (ang. attack surface). W teorii sterowania refleksyjnego warto wprowadzić więc pojęcie powierzchni refleksyjnej. Powierzchnia refleksyjna to zbiór wszystkich punktów (wektorów ataku), przez które można wpłynąć na generator rzeczywistości decyzyjnej podmiotu. Przykładowo: w przypadku człowieka powierzchnia refleksyjna obejmuje m.in. percepcję, pamięć, emocje, wartości, język, tożsamość, lojalność, lęk, doświadczenie i zdolność przypisywania intencji; w przypadku maszyny powierzchnia refleksyjna obejmuje m.in. dane wejściowe, reprezentacje świata w wielowymiarowej przestrzeni tzw. „osadzenia” (ang. embeddings), parametry, funkcję celu, architekturę modelu, kontekst, pamięć, klasyfikatory, ograniczenia systemowe i mechanizmy optymalizacji; w przypadku organizacji powierzchnia refleksyjna obejmuje m.in. procedury, raportowanie, kulturę instytucjonalną, kanały komunikacji, hierarchie, doktryny i rytuały decyzyjne; w przypadku układu człowiek-maszyna powierzchnia refleksyjna obejmuje to wszystko co w przypadku człowieka, maszyny i organizacji, a dodatkowo zaufanie człowieka do maszyny ale i maszyny do człowieka bo decyzje pojawiają się na styku ludzkiej intuicji i maszynowej kalkulacji. Jak łatwo dostrzec powierzchnię refleksyjną stanowi w istocie cała przestrzeń generatora rzeczywistości decyzyjnej. To daje bardzo praktyczną konsekwencje: Nie wystarczy chronić model. Trzeba chronić cały proces budowy modelu, czyli proces generowania rzeczywistości przez generator rzeczywistości decyzyjnej. 7. Zdominowanie ontologiczne W tym miejscu można wprowadzić pojęcie zdominowania ontologicznego. Zdominowanie ontologiczne to sytuacja, w której podmiot zachowuje formalną autonomię decyzji, ale rzeczywistość, w której podejmuje decyzję, została skonstruowana przez przeciwnika. Zdominowanie ontologiczne to stan daleko głębszy niż proces dezinformacji. W przypadku procesu dezinformacji „uwierzyłeś w fałsz”. W przypadku zdominowania ontologicznego „podejmujesz decyzje w cudzym świecie”. Człowiek w przypadku zdominowania ontologicznego nie odbiera tego jako manipulacje. Przeciwnie… Człowiek jest przekonany, że posiada wolną wolę, postępuje racjonalnie, odważnie i zgodnie ze swoimi głębokimi przekonaniami. Maszyna realizuje poprawnie swoje funkcje, ale w spreparowanej przestrzeni reprezentacji rzeczywistości. Organizacja nie sprawia wrażania sparaliżowanej, a wręcz przeciwnie może bardzo sprawnie działać w oparciu o procedury, które jednak prowadzą ostatecznie do katastrofalnych skutków. Z kolei, układ człowiek-maszyna wydaje się wyjątkowo efektywny, ponieważ błędny model rzeczywistości zostaje uwiarygodniony przez algorytmiczną precyzję. 7 Rafał Kasprzyk, Sterowanie refleksyjne 2.0: ludzie, maszyny i walka o model rzeczywistości 8. Suwerenność modelowa Ponieważ stawką jest model rzeczywistości, potrzebujemy więc pojęcia suwerenności modelowej. Suwerenność modelowa to zdolność podmiotu do samodzielnego tworzenia, testowania, korygowania i obrony modeli rzeczywistości, na podstawie których podejmuje decyzje. Państwo może mieć suwerenność terytorialną, ale utracić suwerenność modelową, jeżeli jego elity interpretują świat w kategoriach narzuconych przez przeciwnika. Organizacja może mieć własne dane, ale utracić suwerenność modelową, jeżeli sposób analizy, klasyfikacji i priorytetyzacji ryzyka jest kontrolowany przez zewnętrzne systemy, których nie rozumie. Dowództwo może mieć znakomite sensory, ale utracić suwerenność modelową, jeżeli nie potrafi odróżnić rzeczywistości operacyjnej od obrazu wygenerowanego przez skażoną pętlę człowiek-maszyna. Społeczeństwo może mieć wolność wypowiedzi, ale utracić suwerenność modelową, jeżeli wszystkie jego spory są prowadzone w ramach problemów, emocji i kategorii podsuwanych z zewnątrz. Suwerenność modelowa jest więc nowym wymiarem bezpieczeństwa państwa, administracji, organizacji, wojska, społeczeństwa i jednostki. 9. Podsumowanie Sterowanie refleksyjne 1.0 było próbą uchwycenia wojny informacyjnej jako gry refleksyjnej. Jej głęboka istota polega na tym, że przesuwa uwagę z działania na obraz działania, z przeciwnika na model przeciwnika, z decyzji na warunki, które decyzję poprzedzają. Dziś trzeba wykonać krok w kierunku sterowania refleksyjnego 2.0. Nie wystarczy już pytać, jak człowiek modeluje przeciwnika. Trzeba pytać, jak modele AI modelują ludzi, jak ludzie modelują modele AI, jak organizacje ufają hybrydowym pętlom decyzyjnym i jak przeciwnik może wpływać na cały ten układ. Przyszłe konflikty nie będą wyłącznie starciem armii, sieci, narracji ani algorytmów. Będą starciem generatorów rzeczywistości decyzyjnej. Największym zagrożeniem nie będzie to, że przeciwnik będzie ukrywał przed nami prawdę. Największym zagrożeniem będzie to, że możemy podejmować decyzje w modelu rzeczywistości spreparowanym przez przeciwnika. A największą formą odporności nie będzie samo posiadanie informacji. Będzie nią zdolność do nieustannego pytania: czy rzeczywistość, w której podejmuję decyzję, naprawdę jest moja?](https://infoops.pl/wp-content/uploads/2026/06/SterRefl2-0.png)
