Tomasz P. Michalak

The authors discuss Large Language Models in the context of the security risks associated with their functions and availability. Even though their applications seem to be similar to search engines and internet access, the true danger posed by Large Language Models lies in basic analytical and programming skills they provide to any criminal or terrorist. They assert that accessible Large Language Models not only diminish financial barriers to various criminal activities but also lower the expertise and commitment required by individuals or small groups to commit crimes, and acts of terror in particular. On the other hand, however, law enforcement agencies can also harness the capabilities of these models to stay ahead of emerging threats.

W artykule autorzy omawiają duże modele językowe (ang. Large Language Models, LLMs) w kontekście zagrożeń bezpieczeństwa wynikających z funkcji i dostępności tych modeli. Mimo że pod względem zastosowań LLMs wydają się podobne do wyszukiwarek internetowych, to generują nowe zagrożenia związane z dostarczaniem przez nie przestępcy i terroryście podstawowych umiejętności analitycznych i programistycznych. Autorzy dowodzą, że dostępne modele językowe nie tylko zmniejszają bariery finansowe dla rożnych działań przestępczych, lecz także obniżają poziom wiedzy specjalistycznej i zaangażowania wymagany od jednostek lub małych grup do popełniania przestępstw, w tym aktów terrorystycznych. Z drugiej strony możliwości tych modeli mogą wykorzystać również organy ścigania, aby być przygotowanymi na pojawiające się zagrożenia.

Aktualna sytuacja geopolityczna doprowadziła do wzrostu zagrożeń, z jakimi muszą się mierzyć podmioty odpowiedzialne za bezpieczeństwo w Polsce i Europie. Jednak pomimo zwiększenia czujności, poziomu nakładów i inwestycji zasoby ochrony wciąż pozostają ograniczone w stosunku do dynamicznie rosnących potrzeb. Taka sytuacja sprawia, że stała ochrona każdego potencjalnego celu ataku jest po prostu nieosiągalna. Kluczowe staje się zatem efektywne wykorzystanie już istniejących zasobów ochrony. Przedmiotem niniejszego artykułu jest omówienie zaawansowanych metod, które ułatwiają zautomatyzowane podejmowanie decyzji w zakresie alokacji zasobów bezpieczeństwa. Tego rodzaju metody obejmują wykorzystanie sztucznej inteligencji teorii gier oraz technik optymalizacji. Wdrożenia podobnych rozwiązań w zakresie ochrony wybranych obiektów infrastruktury krytycznej w Stanach Zjednoczonych Ameryki dowodzą ich skuteczności. W artykule został przedstawiony również skrócony przegląd tego obszaru badań oraz rozwiązania i oprogramowanie opracowane przez zespół „AI dla bezpieczeństwa” utworzony w ramach instytutu badawczego IDEAS NCBR w celu ochrony infrastruktury krytycznej w Polsce i Europie.

ABSTRACT

In light of recent geopolitical developments, Europe and Poland are acutely aware of the urgent importance of infrastructure security. Despite heightened interest and increased investments, our security resources remain severely limited, rendering continuous protection for every potential target unattainable. Consequently, the strategic allocation of security resources becomes an ongoing imperative. This paper presents a short introduction to the core principles behind advanced methods that facilitate automated decision-making in security resource allocation. These methods leverage artificial intelligence (AI), game theory, and optimization techniques, and have demonstrated their effectiveness through multiple real-life deployments in the USA. We also provide a concise overview of this exciting body of research and discuss the solutions and software developed by our team, “AI for Security” at the IDEAS NCBR research institute to protect critical infrastructure in Poland and in Europe.

In light of recent geopolitical developments, Europe and Poland are acutely aware of the urgent importance of infrastructure security. Despite heightened interest and increased investments, our security resources remain severely limited, rendering continuous protection for every potential target unattainable. Consequently, the strategic allocation of security resources becomes an ongoing imperative. This paper presents a short introduction to the core principles behind advanced methods that facilitate automated decision-making in security resource allocation. These methods leverage artificial intelligence (AI), game theory, and optimization techniques, and have demonstrated their effectiveness through multiple real-life deployments in the USA. We also provide a concise overview of this exciting body of research and discuss the solutions and software developed by our team, “AI for Security” at the IDEAS NCBR research institute to protect critical infrastructure in Poland and in Europe.