2720-4383 Agencja Bezpieczeństwa Wewnętrznego Duże modele językowe i możliwości ich wykorzystania w terroryzmie dżihadystycznym i przestępczości Large Language Models in jihadist terrorism and crimes Puczyńska Julia author Podhajski Marcin author Wojtasik Karolina author Michalak Tomasz P. author Szkoła Doktorska Technologii Informacyjnych i Biomedycznych Instytutów PAN Rządowe Centrum Bezpieczeństwa Instytut Badawczy IDEAS Uniwersytet Warszawski 039bjqg32 Correspondence to: Julia Puczyńska julia.puczynska@ideas-ncbr.pl Correspondence to: Marcin Podhajski Correspondence to: Karolina Wojtasik karolina.wojtasik@rcb.gov.pl Correspondence to: Tomasz P. Michalak tomasz.michalak@ideas.edu.pl 11 03 2024 Numer 5 (5) 2024 133 164 Copyright © 2024 2024 <p>W artykule autorzy omawiają duże modele językowe (ang. <em>Large Language Models</em>, LLMs) w kontekście zagrożeń bezpieczeństwa wynikających z funkcji i dostępności tych modeli. Mimo że pod względem zastosowań LLMs wydają się podobne do wyszukiwarek internetowych, to generują nowe zagrożenia związane z dostarczaniem przez nie przestępcy i terroryście podstawowych umiejętności analitycznych i programistycznych. Autorzy dowodzą, że dostępne modele językowe nie tylko zmniejszają bariery finansowe dla rożnych działań przestępczych, lecz także obniżają poziom wiedzy specjalistycznej i zaangażowania wymagany od jednostek lub małych grup do popełniania przestępstw, w tym aktów terrorystycznych. Z drugiej strony możliwości tych modeli mogą wykorzystać również organy ścigania, aby być przygotowanymi na pojawiające się zagrożenia.</p> 1 Breakstone J. i in., Students’ Civic Online Reasoning: A National Portrait, „Educational Researcher” 2021, nr 50, s. 505–515. https://doi.org/10.3102/0013189X211017495. 2 Europol, ChatGPT. The impact of Large Language Models on Law Enforcement, Luxembourg 2023. 3 Faesen L. i in., Red Lines &amp; Baselines Towards a European Multistakeholder Approach to Counter Disinformation, The Hague Centre for Strategic Studies 2021. 4 Felson M., Cohen L., Human ecology and crime: A routine activity approach, „Human Ecology” 1980, t. 8, s. 389–406. https://doi.org/10.1007/BF01561001. 5 Fuocco M.A., Trial and error: They had larceny in their hearts but little in their heads, „Pittsburgh Post-Gazette” 1996. 6 GIFCT Red Team Working Group, Considerations of the Impacts of Generative AI on Online Terrorism and Extremism, [bmw] 2023. 7 Ji Z. i in., Survey of Hallucination in Natural Language Generation, „ACM Computing Surveys” 2023, t. 55, nr 12, s. 1–38. https://doi.org/10.1145/3571730. 8 McGrew S. i in., Can Students Evaluate Online Sources? Learning From Assessments of Civic Online Reasoning, „Theory &amp; Research in Social Education” 2018, t. 46, s. 165–193. https://doi.org/10.1080/00933104.2017.1416320. 9 Raman G. i in., How weaponizing disinformation can bring down a city’s power grid, „PloS One” 2020, nr 15. https://doi.org/10.1371/journal.pone.0236517. 10 Vaidhyanathan S., Antisocial media: How Facebook Disconnects Us and Undermines Democracy, New York 2018. 11 Vaswani A. i in., Attention is All you Need, w: Advances in Neural Information Processing Systems 30 (NIPS 2017), I. Guyon i in. (red.), Long Beach 2017, s. 5998–6008. 12 Waniek M. i in., Traffic networks are vulnerable to disinformation attacks, „Scientific Reports” 2021, nr 11. https://doi.org/10.1038/s41598-021-84291-w. 14 [heythereitsbeth], Just came across this sub and thought I’d share mine from the start of the year, Reddit, https://www.reddit.com/r/scambait/comments/17w6vx4/just_came_across_this_sub_and_thought_id_share/?rdt=40738 [dostęp: 8 XI 2023]. 15 AFP Kenya, Fake subtitles added to old clip of Putin talking about Ukraine war, not Israel-Gaza conflict, AFP Fact Check, 17 X 2023 r., https://factcheck.afp.com/doc.afp.com.33YG8TE [dostęp: 8 XI 2023]. 16 Bochyńska N., #CyberMagazyn: Politycy narzędziem w rękach Kremla? „Świadomość jest bardzo niska”, CyberDefence24, 21 X 2023 r., https://cyberdefence24.pl/cyber-bezpieczenstwo/cybermagazyn-politycy-narzedziem-w-rekach-kremla-swiadomosc-jest-bardzo-niska [dostęp: 8 XI 2023]. 17 Borji A., Stochastic Parrots or Intelligent Systems? A Perspective on True Depth of Understanding in LLMs, preprint, SSRN, 20 VII 2023 r., https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4507038 [dostęp: 8 IX 2023]. http://dx.doi.org/10.2139/ ssrn.4507038. 18 Bowman S.R., Eight Things to Know about Large Language Models, preprint, arXiv, 2 IV 2023 r., https://arxiv.org/abs/2304.00612 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2304.00612. 19 Brewster T., Armed With ChatGPT, Cybercriminals Build Malware And Plot Fake Girl Bots, Forbes, 6 I 2023 r., https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/ [dostęp: 9 XI 2023]. 20 Currie R., California man’s business is frustrating telemarketing scammers with chat-bots, The Register, 3 VII 2023 r., https://www.theregister.com/2023/07/03/jolly_roger_telephone_company/ [dostęp: 8 XI 2023]. 21 Derner E., Batistič K., Beyond the Safeguards: Exploring the Security Risks of ChatGPT, arXiv, preprint, 13 V 2023 r., https://arxiv.org/abs/2305.08005 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2305.08005. 22 Goldfarb J., Applying AI to API Security, SecurityWeek, 11 X 2023 r., https://www.securityweek.com/applying-ai-to-api-security/ [dostęp: 8 XI 2023]. 23 Gwozdowska A. i in., Wojna informacyjna 2022–2023. Przebieg i wnioski, NASK, 25 V 2023 r., https://www.nask.pl/pl/raporty/raporty/5204,Raport-quotWojna-informacyjna-20222023-Przebieg-i-wnioskiquot.html [dostęp: 8 XI 2023]. 24 Heiding F. i in., Devising and Detecting Phishing: Large Language Models vs. Smaller Human Models, preprint, arXiv, 23 VII 2023 r., https://arxiv.org/abs/2308.12287 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2308.12287. 25 INFO OPS Poland Foundation, Model dystrybucji informacji w wirtualnym środowisku informacyjnym na bazie rozpoznanego rosyjskiego podstawowego modelu dystrybucji wiadomości manipulacyjnych, Disinfo Digest, 9 VI 2023 r., https://disinfodigest.pl/model-dystrybucji-informacji-w-wirtualnym-srodowisku-informacyjnym-na-bazie-rozpoznanego-rosyjskiego-podstawowego-modelu-dystrybucji-wiadomosci-manipulacyjnych/ [dostęp: 8 XI 2023]. 26 Kelley D., WormGPT – The Generative AI Tool Cybercriminals Are Using to Launch Business Email Compromise Attacks, SlashNext, 13 VII 2023 r., https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/ [dostęp: 22 XI 2023]. 27 Lai T. i in., Psy-LLM: Scaling up Global Mental Health Psychological Services with AI-based Large Language Models, preprint, arXiv, 22 VII 2023 r., https://arxiv.org/abs/2307.11991 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2307.11991. 28 McGuffie K., Newhouse A., The Radicalization Risks of GPT-3 and Advanced Neural Language Models, preprint, arXiv, 15 IX 2020 r., https://arxiv.org/abs/2009.06807 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2009.06807. 29 NASK (@WeryfikacjaNASK), Wraz z postępem technologicznym, rozwój AI staje się coraz bardziej widoczny w różnych dziedzinach naszego życia, X, 26 X 2023 r., https://twitter.com/WeryfikacjaNASK/status/1717487918556594437 [dostęp: 8 XI 2023]. 30 Nowe oszustwo na WhatsAppie, „Kurier Szczeciński”, 5 VIII 2023 r., https://24kurier.pl/aktualnosci/wiadomosci/nowe-oszustwo-na-whatsappie/ [dostęp: 8 XI 2023]. 31 Podolak J. i in., Analyzing the Influence of Language Model-Generated Responses in Mitigating Hate Speech on Social Media Directed at Ukrainian Refugees in Poland, preprint, arXiv, 28 XI 2023 r., https://arxiv.org/abs/2311.16905 [dostęp: 30 XI 2023]. https://doi.org/10.48550/arXiv.2311.16905. 32 Saunders W. i in., Self-critiquing models for assisting human evaluators, preprint, arXiv, 12 VI 2022 r., https://arxiv.org/abs/2206.05802 [dostęp: 9 XI 2023]. https://doi.org/10.48550/arXiv.2206.05802. 33 Simmons A., Vasa R., Garbage in, garbage out: Zero-shot detection of crime using Large Language Models, preprint, arXiv, 4 VII 2023 r., https://arxiv.org/abs/2307.06844 [dostęp: 9 XI 2023]. https://doi.org/10.48550/arXiv.2307.06844. 34 Skąd Polacy czerpią informacje? Badanie IBRIS i IBIMS kwiecień 2021, IBiMS, http://www.ibims.pl/wp-content/uploads/2021/04/IBIMS_media_2021.pdf [dostęp: 8 XI 2023]. 35 Toulas B., Cybercriminals train AI chatbots for phishing, malware attacks, Bleeping Computer, 1 VIII 2023 r., https://www.bleepingcomputer.com/news/security/cyber-criminals-train-ai-chatbots-for-phishing-malware-attacks/ [dostęp: 9 XI 2023]. 36 Vallance C., Rahman-Jones I., Urgent need for terrorism AI laws, warns think tank, BBC News, 3 I 2024 r., https://www.bbc.com/news/technology-67872767 [dostęp: 10 I 2024]. 37 Yin S. i in., A Survey on Multimodal Large Language Models, preprint, arXiv, 23 VI 2023 r., https://arxiv.org/abs/2306.13549 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2306.13549. 38 Zou A. i in., Universal and Transferable Adversarial Attacks on Aligned Language Models, preprint, arXiv, 27 VII 2023 r., https://arxiv.org/