Sterowanie refleksyjne 2.0. Ludzie, maszyny i walka o model rzeczywistości

Wprowadzenie 

Artykuł rozwija koncepcję sterowania refleksyjnego (ang. reflexive control), i przenosi ją na grunt systemów sztucznej inteligencji (ang. artificial inteligence, AI) [16],  [17], [20], autonomicznych agentów AI oraz układów człowiek-maszyna. Sterowanie refleksyjne polega na takim oddziaływaniu na obraz sytuacji przeciwnika, aby samodzielnie  podjął on decyzję zgodną z interesem strony oddziałującej. Raport Diane Chotikul [3] opisuje sterowanie refleksyjne jako sowiecką koncepcję przekazywania celowi określonej informacji  w celu wywołania z góry założonej decyzji, a współczesne analizy teorii wskazują, że chodzi  również o zmianę percepcji „zbiorów użyteczności” przeciwnika. 

Główna teza artykułu brzmi: przedmiotem konfliktu nie jest wyłącznie informacja, lecz  generator rzeczywistości decyzyjnej – mechanizm, dzięki któremu człowiek, maszyna lub  układ człowiek-maszyna przekształca dane w obraz sytuacji, obraz sytuacji w możliwe  działania, a możliwe działania w decyzję. 

W artykule wprowadzono kilka kluczowych autorskich pojęć: generator  rzeczywistości decyzyjnej, pętla ontologiczna człowiek-maszyna, powierzchnia refleksyjna, zdominowanie ontologiczne oraz suwerenność modelowa. Najważniejsza  różnica między ludźmi i maszynami polega na tym, że człowiek może zostać zmanipulowany przez cudzą narrację, maszyna przez cudzą reprezentację, a układ człowiek–maszyna przez  zaburzenie kalibracji zaufania. Najważniejsze podobieństwo jest jednak bardzo głębokie: ani  człowiek, ani maszyna nie podejmują decyzji na podstawie rzeczywistości, lecz na podstawie  modelu rzeczywistości. 

2. Dziedzictwo sterowania refleksyjnego 1.0 

Teorie wojny informacyjnej koncentrują się głównie na informacji: jej prawdziwości,  fałszywości, dostępności, integralności, szybkości przepływu, źródle i wiarygodności. To podejście jest intuicyjne i pozostaje istotne, ale jest dalece niewystarczające. Informacja jest bowiem argumentem decyzji, która z kolej powstaje dopiero wtedy, gdy informacja zostaje  włączona do modelu rzeczywistości. Ten sam fakt może prowadzić do przeciwnych decyzji,  jeżeli zostanie osadzony w różnych modelach. Meldunek o ruchu wojsk może oznaczać przygotowanie ataku, pozorację, odwrót, pułapkę albo błąd rozpoznania. Statystyka  społeczna może oznaczać kryzys, normalną fluktuację, efekt propagandy albo zmianę strukturalną. Wynik systemu sztucznej inteligencji może być trafną rekomendacją, artefaktem danych, konsekwencją uprzedzenia modelu albo efektem celowego oddziaływania przeciwnika. Dlatego właściwym przedmiotem teorii wojny informacyjnej nie powinna być wyłącznie informacja, ale model, który z informacji buduje rzeczywistość  operacyjną [2]. 

Teza nr 1: Przewagę w konflikcie uzyskuje nie ten, kto posiada więcej  informacji, lecz ten, kto potrafi wpływać na model, za pomocą którego  przeciwnik przekształca informacje w decyzje. 

Najbardziej obiecującą teorią wojny informacyjnej jest teoria sterowania  refleksyjnego. Za początek teorii sterowania refleksyjnego można uznać prace prowadzone  przez Vladimir’a Lefebvre w latach 60-tych ubiegłego wieku w Związku Radzieckim [6],  [7]. [8], [9], [10]. W pracach tych zaproponowano ujęcie konfliktu jako gry refleksyjnej:  uczestnik konfliktu nie tylko podejmuje decyzje co do wyboru strategii działania, ale tworzy  model refleksyjny przeciwnika i samego siebie, jednocześnie biorąc pod uwagę, że to samo  może robić przeciwnik. Największa intuicja tej pracy jest nadal niedoceniona. Konflikt nie  jest prostym starciem strategii. Jest starciem refleksyjnych rekonstrukcji świata. Strona X nie  odpowiada na rzeczywiste zamiary strony Y, lecz na swój model tych zamiarów. Strona Y może zatem wpływać nie tylko na działania X, ale także na sposób, w jaki X konstruuje samą  możliwość działania [11], [12], [13], [14], [15], [23]. W klasycznej teorii gier gracz wybiera  strategię z pewnego zbioru możliwości [1]. W teorii kierowania refleksyjnego stawką jest  coś ważniejszego, coś co rozgrywa się „wcześniej”: kto i jak konstruuje zbiór możliwości,  które gracz w ogóle uzna za realne. To jest punkt przełomowy. Najgłębsze sterowanie nie  polega na tym, że nakłaniamy przeciwnika do wyboru złej opcji. Polega na tym, że  przeciwnik sam przestaje widzieć opcję dobrą. 

3. Generator rzeczywistości decyzyjnej 

Wprowadźmy pojęcie generatora rzeczywistości decyzyjnej. 

Generator rzeczywistości decyzyjnej to mechanizm poznawczy, algorytmiczny lub  organizacyjny, którzy przekształca dane w obraz sytuacji, obraz sytuacji w zbiór możliwych  działań, a zbiór działań w decyzje, które z kolei prowadzą do konkretnego działania. 

Przykładowo: w przypadku człowieka generator ten obejmuje m.in. percepcję, pamięć,  emocje, wartości, język, tożsamość, lojalność, lęk, doświadczenie i zdolność przypisywania  intencji; w przypadku maszyny generator obejmuje m.in. dane wejściowe, reprezentacje  świata w wielowymiarowej przestrzeni tzw. „osadzenia” (ang. embeddings), parametry,  funkcję celu, architekturę modelu, kontekst, pamięć, klasyfikatory, ograniczenia systemowe  i mechanizmy optymalizacji; w przypadku organizacji generator obejmuje m.in. procedury,  raportowanie, kulturę instytucjonalną, kanały komunikacji, hierarchie, doktryny i rytuały  decyzyjne; w przypadku układu człowiek-maszyna generator obejmuje to wszystko co  w przypadku człowieka, maszyny i organizacji, a dodatkowo zaufanie człowieka do maszyny ale i maszyny do człowieka bo decyzje pojawiają się na styku ludzkiej intuicji  i maszynowej kalkulacji. 

Sterowanie refleksyjne jest więc nie tylko manipulacją informacją, ale jest manipulacją  generatorem rzeczywistości decyzyjnej, który decyduje czym informacja się staje. Dlatego  fact-checking jest konieczny, ale niewystarczający. Fact-checking pyta: „czy dane zdanie jest  prawdziwe?”. Teoria sterowania refleksyjnego działa głębiej i pyta: „jaki świat powstaje  z układu prawdziwych i fałszywych zdań?”. Najbardziej niebezpieczna manipulacja może  nie składać się z kłamstw. Może składać się z prawdziwych informacji ułożonych w fałszywą architekturę sensu. 

4. Sterowanie refleksyjne 2.0 

Klasyczne ujęcie sterowania refleksyjnego koncentrowało się na człowieku.  W środowisku informacyjnym nasyconym systemami sztucznej inteligencji definicję  sterowania refleksyjnego należy rozszerzyć. 

Sterowanie refleksyjne 2.0 to celowe oddziaływanie na generator rzeczywistości  decyzyjnej podmiotu jakim może być człowiek, maszyna, organizacja lub układ człowiek maszyna, prowadzące do tego, że podmiot autonomicznie podejmuje decyzję korzystną dla  strony oddziałującej, ponieważ jego własny model świata czyni tę decyzję racjonalną,  konieczną, moralną, optymalną lub w jakiś inny sposób najbardziej rozsądną. 

Definicja sterowania refleksyjnego 2.0 nie ogranicza się do ludzi. Maszyna również  może zostać wprowadzona w taki stan, w którym jej mechanizmy funkcjonowania prowadzą do wyniku pożądanego przez przeciwnika. Co więcej w układach człowiek–maszyna właściwym celem nie musi być ani człowiek, ani maszyna osobno, lecz relacja między nimi. 

Człowiek jest istotą refleksyjną, ponieważ nie tylko widzi świat, ale widzi siebie  w świecie. Nie tylko przewiduje działania innych, ale przewiduje, jak inni przewidują jego  działania. Nie tylko posiada przekonania, ale posiada przekonania o cudzych przekonaniach. Człowiek jest podatny na sterowanie refleksyjne, ponieważ potrzebuje sensu. Nie wystarcza  mu strumień danych. Musi wiedzieć, co się dzieje, kto jest winny, czego można się  spodziewać, co jest moralne, co jest zdradą, co jest rozsądkiem, a co szaleństwem. Dlatego  kierowanie refleksyjne ludźmi działa najczęściej przez: zmianę obrazu sytuacji, zmianę  obrazu przeciwnika, zmianę obrazu samego siebie, zmianę hierarchii wartości, zmianę zbioru  działań uznawanych za możliwe, zmianę emocjonalnej temperatury decyzji. Najgłębsza  manipulacja człowiekiem nie mówi: „zrób to”. Ona tworzy świat, w którym człowiek sam  mówi: „nie mam innego wyjścia”. To jest istota przejęcia narracyjnego. 

Maszyna nie posiada świadomości, honoru, winy ani wstydu. Nie znaczy to jednak, że  jest odporna. Jej podatność jest innego rodzaju. W przypadku maszyny nie oddziałujemy na  emocje, lecz na reprezentację. Nie wpływamy na poczucie sensu, lecz na sposób kodowania  sytuacji. Nie zmieniamy moralnego obrazu świata, lecz strukturę danych, kontekst, funkcję  celu albo sposób generalizacji. Badania nad przykładami antagonistycznymi pokazały już  dawno, że modele uczenia maszynowego mogą błędnie klasyfikować wejścia zmienione  niewielkimi, celowo dobranymi perturbacjami, często z wysoką pewnością [24], [4]. W bezpieczeństwie LLM-ów OWASP opisuje wstrzykiwanie promptów jako manipulowanie  odpowiedziami modelu przez specjalnie skonstruowane wejścia, które mogą zmienić jego zachowanie lub obejść zabezpieczenia [25]. To są techniczne odpowiedniki kierowania  refleksyjnego maszyną. Nie chodzi o to, że maszyna „uwierzyła” w fałszywą narrację.  Chodzi o to, że jej system reprezentacyjny został ustawiony tak, aby jej własna procedura  decyzyjna wygenerowała wynik pożądany dla przeciwnika. 

W epoce zaawansowanych systemów sztucznej inteligencji trzeba odróżnić refleksyjność fenomenologiczną od refleksyjności funkcjonalnej. Refleksyjność  fenomenologiczna należy do człowieka: oznacza doświadczenie siebie jako podmiotu,  zdolność do samoświadomości i rozumienia cudzych stanów mentalnych. Refleksyjność  funkcjonalna nie wymaga świadomości. Wystarczy, że system: modeluje otoczenie, przewiduje reakcje innych, symuluje warianty działania, aktualizuje strategię, tworzy  reprezentację cudzych reprezentacji. 

W badaniach LLM-ów z wykorzystaniem teorii umysłu wskazuje się, że współczesne  modele potrafią rozwiązywać niektóre zadania fałszywego przekonania używane do badania ludzkiej teorii umysłu, ale interpretacja tych wyników pozostaje sporna. Wyniki LLM-ów  mogą mieć wyjaśnienia niższego poziomu niż rzeczywiste śledzenie przekonań [11]. 

To rozróżnienie jest kluczowe. Maszyna nie musi „rozumieć” człowieka tak jak człowiek,  aby skutecznie przewidywać jego reakcje. Nie musi mieć intencji manipulacji, aby  generować skutki manipulacyjne. Nie musi być świadoma, aby uczestniczyć w grze  refleksyjnej.  

Teza nr 2: Sterowanie refleksyjne nie ogranicza się do graczy świadomych, lecz  znajduje zastosowanie wszędzie tam gdzie gracze budują modele innych graczy i samego siebie. 

Można wyróżnić cztery konfiguracje sterowania refleksyjnego 2.0: 

1) „Człowiek→Człowiek” 

Klasyczna przestrzeń operacji wpływu, dyplomacji, maskowania, negocjacji,  propagandy, działań psychologicznych i strategicznego blefu. Celem jest zmiana interpretacji  sytuacji u przeciwnika. 

2) „Człowiek→Maszyna” 

Przestrzeń antagonistycznego uczenia maszynowego, wstrzykiwania promptów,  zatruwania danych, manipulacji sensorami, zakłócania klasyfikatorów i wpływania na  systemy rekomendacyjne. Celem jest zmiana reprezentacji sytuacji w systemie.

3) „Maszyna→Człowiek” 

Przestrzeń systemów rekomendacyjnych, chatbotów, personalizowanej perswazji,  generatywnej propagandy, deepfake’ów [18] i algorytmicznego wzmacniania emocji.  Badania wskazują, że część obecnych systemów potrafi generować zachowania prowadzące  do systematycznego wywoływania fałszywych przekonań u ludzi w systemach  specjalizowanych i ogólnego przeznaczenia [20]. 

4) „Maszyna→Maszyna” 

Stosunkowo nowa przestrzeń, w której jeden system sztucznej inteligencji może  wpływać na dane, kontekst, ograniczenia albo przewidywania innego systemu sztucznej  inteligencji. W środowisku agentów AI konflikt może rozgrywać się nie między świadomymi graczami, ale między reprezentacjami. Może mieć charakter autonomiczny, szybki i trudny  do uchwycenia przez człowieka. 

W konfiguracji „Maszyna→Maszyna” pojawia się zasadnicza istota sterowania  refleksyjnego 2.0 określanego przez autora niniejszej pracy również „algebrą konfliktu  drugiego rzędu”, w której nie chodzi już jedynie o człowieka modelującego człowieka, lecz  o modele modelujące modele.  

5. Pętla ontologiczna człowiek-maszyna  

W systemach decyzyjnych coraz częściej mamy do czynienia z pętlą: świat → dane → model → rekomendacja → człowiek → decyzja → działanie → nowy świat → nowe dane → …

W istocie jest to pętla ontologiczna człowiek-maszyna, która jest miejscem produkcji  rzeczywistości operacyjnej. Niebezpieczeństwo polega na tym, że człowiek wzmacnia swoje  zaufanie do maszyny, bo jej rekomendacje są szybkie, precyzyjne i często formalnie  uzasadnione. Maszyna wzmacnia pewne wzorce, bo działanie człowieka dostarcza jej  potwierdzającego cybernetycznego sprzężenia zwrotnego. Organizacja wzmacnia zaufanie  do układu człowiek-maszyna, bo działa on bardziej efektywnie. W ten sposób powstaje  rezonans ontologiczny, który prowadzić może do wzmacniania na kierunku człowiek maszyna fałszywego obrazu sytuacji. To wydaje się najgroźniejszą formą sterowania  refleksyjnego prowadzącą do samopodtrzymującej się rzeczywistości operacyjnej.  

W klasycznym konflikcie atakowano m.in. wolę, morale, łączność, logistykę,  percepcję i zdolności bojowe. W układzie człowiek–maszyna atakowany będzie jeszcze  jeden zasób: zaufanie człowieka do maszyny. 

Jeżeli człowiek ufa maszynie za mało, nie wykorzystuje jej potencjału. Jeżeli ufa jej za  bardzo, staje się wykonawcą maszynowej sugestii. Jeżeli ufa selektywnie i krytycznie, układ  człowiek-maszyna może osiągać olbrzymią przewagę. Badania nad skłonnościami ludzi do  nadmiernego polegania na systemach automatycznych wskazują, że problem ten staje się  szczególnie istotny wraz z rozwojem systemów sztucznej inteligencji w dziedzinach takich  jak zdrowie, prawo czy administracja [22]. Z kolei prace nad układami człowiek-maszyna podkreślają znaczenie kalibracji zaufania, wspólnych modeli mentalnych, podziału ról,  struktury zadania i ciągłej ewaluacji [4]. 

Teza nr 3: W niedalekiej przyszłości w układach człowiek-maszyna krytycznym  obszarem podlegającym sterowaniu refleksyjnemu nie będzie ani człowiek, ani  maszyna osobno, lecz zaufanie łączące człowieka z maszyną. 

Przeciwnik może próbować doprowadzić do jednej z dwóch sytuacji patologicznych:  1) nadmiernego zaufania, gdy człowiek przejmuje rekomendacje maszyny bezkrytycznie;  2) nadmiernej nieufności, gdy człowiek odrzuca rekomendacje systemu uznając go za  niewiarygodny.  

Obie sytuacje są korzystne dla przeciwnika. W pierwszej człowiek staje się zakładnikiem  maszyny. W drugiej traci zdolność wykorzystania przewagi dostarczanej przez maszynę.

6. Powierzchnia refleksyjna 

W cyberbezpieczeństwie używa się pojęcia powierzchni ataku (ang. attack surface).  W teorii sterowania refleksyjnego warto wprowadzić więc pojęcie powierzchni refleksyjnej. Powierzchnia refleksyjna to zbiór wszystkich punktów (wektorów ataku), przez które  można wpłynąć na generator rzeczywistości decyzyjnej podmiotu. 

Przykładowo: w przypadku człowieka powierzchnia refleksyjna obejmuje m.in.  percepcję, pamięć, emocje, wartości, język, tożsamość, lojalność, lęk, doświadczenie  i zdolność przypisywania intencji; w przypadku maszyny powierzchnia refleksyjna obejmuje  m.in. dane wejściowe, reprezentacje świata w wielowymiarowej przestrzeni tzw. „osadzenia”  (ang. embeddings), parametry, funkcję celu, architekturę modelu, kontekst, pamięć,  klasyfikatory, ograniczenia systemowe i mechanizmy optymalizacji; w przypadku  organizacji powierzchnia refleksyjna obejmuje m.in. procedury, raportowanie, kulturę  instytucjonalną, kanały komunikacji, hierarchie, doktryny i rytuały decyzyjne; w przypadku  układu człowiek-maszyna powierzchnia refleksyjna obejmuje to wszystko co w przypadku  człowieka, maszyny i organizacji, a dodatkowo zaufanie człowieka do maszyny ale  i maszyny do człowieka bo decyzje pojawiają się na styku ludzkiej intuicji i maszynowej  kalkulacji.  

Jak łatwo dostrzec powierzchnię refleksyjną stanowi w istocie cała przestrzeń generatora rzeczywistości decyzyjnej. To daje bardzo praktyczną konsekwencje: Nie  wystarczy chronić model. Trzeba chronić cały proces budowy modelu, czyli proces  generowania rzeczywistości przez generator rzeczywistości decyzyjnej. 

7. Zdominowanie ontologiczne 

W tym miejscu można wprowadzić pojęcie zdominowania ontologicznego. Zdominowanie ontologiczne to sytuacja, w której podmiot zachowuje formalną  autonomię decyzji, ale rzeczywistość, w której podejmuje decyzję, została skonstruowana  przez przeciwnika. 

Zdominowanie ontologiczne to stan daleko głębszy niż proces dezinformacji.  W przypadku procesu dezinformacji „uwierzyłeś w fałsz”. W przypadku zdominowania  ontologicznego „podejmujesz decyzje w cudzym świecie”. Człowiek w przypadku  zdominowania ontologicznego nie odbiera tego jako manipulacje. Przeciwnie… Człowiek  jest przekonany, że posiada wolną wolę, postępuje racjonalnie, odważnie i zgodnie ze swoimi  głębokimi przekonaniami. Maszyna realizuje poprawnie swoje funkcje, ale w spreparowanej  przestrzeni reprezentacji rzeczywistości. Organizacja nie sprawia wrażania sparaliżowanej,  a wręcz przeciwnie może bardzo sprawnie działać w oparciu o procedury, które jednak  prowadzą ostatecznie do katastrofalnych skutków. Z kolei, układ człowiek-maszyna wydaje  się wyjątkowo efektywny, ponieważ błędny model rzeczywistości zostaje uwiarygodniony  przez algorytmiczną precyzję. 

8. Suwerenność modelowa 

Ponieważ stawką jest model rzeczywistości, potrzebujemy więc pojęcia suwerenności  modelowej. 

Suwerenność modelowa to zdolność podmiotu do samodzielnego tworzenia,  testowania, korygowania i obrony modeli rzeczywistości, na podstawie których podejmuje  decyzje. 

Państwo może mieć suwerenność terytorialną, ale utracić suwerenność modelową,  jeżeli jego elity interpretują świat w kategoriach narzuconych przez przeciwnika. Organizacja może mieć własne dane, ale utracić suwerenność modelową, jeżeli sposób  analizy, klasyfikacji i priorytetyzacji ryzyka jest kontrolowany przez zewnętrzne systemy,  których nie rozumie. Dowództwo może mieć znakomite sensory, ale utracić suwerenność  modelową, jeżeli nie potrafi odróżnić rzeczywistości operacyjnej od obrazu  wygenerowanego przez skażoną pętlę człowiek-maszyna. Społeczeństwo może mieć  wolność wypowiedzi, ale utracić suwerenność modelową, jeżeli wszystkie jego spory są  prowadzone w ramach problemów, emocji i kategorii podsuwanych z zewnątrz. 

Suwerenność modelowa jest więc nowym wymiarem bezpieczeństwa państwa, administracji,  organizacji, wojska, społeczeństwa i jednostki. 

9. Podsumowanie 

Sterowanie refleksyjne 1.0 było próbą uchwycenia wojny informacyjnej jako gry  refleksyjnej. Jej głęboka istota polega na tym, że przesuwa uwagę z działania na obraz  działania, z przeciwnika na model przeciwnika, z decyzji na warunki, które decyzję  poprzedzają. Dziś trzeba wykonać krok w kierunku sterowania refleksyjnego 2.0. 

Nie wystarczy już pytać, jak człowiek modeluje przeciwnika. Trzeba pytać, jak modele AI  modelują ludzi, jak ludzie modelują modele AI, jak organizacje ufają hybrydowym pętlom  decyzyjnym i jak przeciwnik może wpływać na cały ten układ. 

Przyszłe konflikty nie będą wyłącznie starciem armii, sieci, narracji ani algorytmów.  Będą starciem generatorów rzeczywistości decyzyjnej. Największym zagrożeniem nie będzie  to, że przeciwnik będzie ukrywał przed nami prawdę. Największym zagrożeniem będzie to,  że możemy podejmować decyzje w modelu rzeczywistości spreparowanym przez  przeciwnika. A największą formą odporności nie będzie samo posiadanie informacji. Będzie  nią zdolność do nieustannego pytania: czy rzeczywistość, w której podejmuję decyzję,  naprawdę jest moja? 

Rafał Kasprzyk – Wojskowa Akademia Techniczna, Wydział Cybernetyki

Fundacja INFO OPS Polska

LITERATURA 

• [1] Ameljańczyk A., Teoria Gier, WAT, Warszawa 1978. 
• [2] Chojnacki A., Modelowanie matematyczne, WAT, Warszawa 1986.
• [3] Chotikul D., The Soviet Theory of Reflexive Control in Historical and Psychocultural  Perspective: A Preliminary Study, Naval Postgraduate School, Monterey 1986.
• [4] Gonzalez C., Donahue K., Goldstein D.G., Heidari H., Jalali M.S., Schelble B., Singh  A., Woolley A.W., „Toward a science of human–AI teaming for decision making:  A complementarity framework”, PNAS Nexus, vol. 5, nr 3, pgag030 (2026). 
• [5] Goodfellow I.J., Shlens J., Szegedy C., „Explaining and Harnessing Adversarial  Examples”, arXiv preprint, arXiv:1412.6572 (2015). 
• [6] Lefebvre V., “Basic ideas of reflexive games logic”, Problemy Issledovania Sistem  i Structur, Moscow, AN USSR Press, 1965. 
• [7] Lefebvre V., Baranov P., Lepsky V., „Internal Currency in Reflexive Games”, Izvestia,  AN USSR, Tekhnicheskaya Kibernetika, No. 4, 1969. 
• [8] Lefebvre V., Algebra of Conscience, Holland: D. Reidel, 1982. 
• [9] Lefebvre V., Algebra of Conscience, (second enlarged edition), Holland: Kluwer, 2001. [10] Lefebvre V., Lectures on reflexive Game Theory, Leaf & Oaks Publisher, Los Angeles,  USA, 2010. 
• [11] Kasprzyk R., „The Essence of Reflexive Control and Diffusion of Information in the  Context of Information Environment Security”, w: Intelligent Systems in Production  Engineering and Maintenance, w serii wydawniczej: Advances in Intelligent Systems  and Computing, vol. 835, pp. 720–728, Springer, Cham 2019. 
• [12] Kasprzyk R., „Mathematical Models of Information Operations”, Procedia  Manufacturing, 44, 663–670 (2020), https://www.sciencedirect.com/science/article/ pii/S2351978920308295. 
• [13] Kasprzyk R., „An Overview of Information Warfare Models”, Proceedings of the 35th  International Business Information Management Association Conference (IBIMA),  1–2 April 2020, Seville, Spain, pp.18602–18609, ISBN: 978-0-9998551-4-0. 
• [14] Kasprzyk R., „Złośliwe sterowanie ludźmi i maszynami w sytuacjach konfliktu  i kooperacji”, [w:] B. Szafrański (red.), Cyberbezpieczeństwo – redefinicja zagrożeń,  s. 157-167, Wojskowa Akademia Techniczna, Warszawa 2023, ISBN 978-83-7938- -423-5; 
• [15] Kasprzyk R., „Lapidarne abecadło modelowania i analizy procesu złośliwego  sterowania ludźmi”, [w:] B. Szafrański (red.), Cyberbezpieczeństwo – współpraca vs.  konfrontacja informacyjna. Informatyka – prawo – zarządzanie, s. 99–116, Wojskowa  Akademia Techniczna, Warszawa 2025, ISBN 978-83-7938-456-3; 
• [16] Kasprzyk R., „Lapidarne abecadło zastosowań sztucznej inteligencji w siłach  zbrojnych”, [w:] B. Szafrański (red.), Cyberbezpieczeństwo vs. sztuczna inteligencja,  Informatyka – prawo – zarządzanie, s. 71–80, Wojskowa Akademia Techniczna,  Warszawa 2024, ISBN 978-83-7938-403-7; 
• [17] Kasprzyk R., „Lapidarne abecadło sztucznej inteligencji”, [w:] A. Miszalski,  J. Jakubowski (red.), Sztuczna inteligencja w technice pomiarowej, s. 33–56,  Wojskowa Akademia Techniczna, Warszawa 2025, ISBN 978-83-7938-449-5; 
• [18] Kasprzyk R., “Digital content manipulation techniques using artificial intelligence  algorithms”, [w:] A. Gryszczyńska, G. Szpor (red.), INTERNET. Hacking, pp. 234– 248, C.H. Beck, Warszawa 2023, ISBN 978-83-8291-863-2; 
• [19] Kosinski M., „Evaluating large language models in theory of mind tasks”, Proceedings  of the National Academy of Sciences of the United States of America, vol. 121, nr 45,  e2405460121 (2024).
• [20] McCarthy J., What is Artificial Intelligence?, Computer Science Department, Stanford  University, 2007 November 12. 
• [21] Park P.S., Goldstein S., O’Gara A., Chen M., Hendrycks D., „AI deception: A survey  of examples, risks, and potential solutions”, Patterns, vol. 5, nr 5, 100988 (2024). [22] Romeo G., Conti D., „Exploring automation bias in human–AI collaboration: a review and implications for explainable AI”, AI & Society, vol. 41, 259–278 (2026). [23] Thomas T., „Russia’s Reflexive Control Theory and the Military”, Journal of Slavic  Military Studies, vol. 17(2), 237–256 (2004). 
• [24] Tymoszuk Ł., Kasprzyk R., „Adversarial Machine Learning as A Forerunner of Future  Wars on Algorithms”, Proceedings of the 37th International Business Information  Management Association (IBIMA), 30–31 May 2021, Cordoba, Spain, s. 11165–11176,  ISBN: 978-0-9998551-6-4. 
• [25] OWASP Foundation, „LLM01:2025 Prompt Injection”, [w:] OWASP Top 10 for Large  Language Model Applications 2025, OWASP Foundation, 2025.