Duże modele językowe i możliwości ich wykorzystania w terroryzmie dżihadystycznym i przestępczości
Wybierz format
RIS BIB ENDNOTEDuże modele językowe i możliwości ich wykorzystania w terroryzmie dżihadystycznym i przestępczości
Data publikacji: 11.03.2024
Terroryzm – studia, analizy, prewencja, 2024, Numer 5 (5), s. 133-164
https://doi.org/10.4467/27204383TER.24.004.19392Autorzy
Duże modele językowe i możliwości ich wykorzystania w terroryzmie dżihadystycznym i przestępczości
W artykule autorzy omawiają duże modele językowe (ang. Large Language Models, LLMs) w kontekście zagrożeń bezpieczeństwa wynikających z funkcji i dostępności tych modeli. Mimo że pod względem zastosowań LLMs wydają się podobne do wyszukiwarek internetowych, to generują nowe zagrożenia związane z dostarczaniem przez nie przestępcy i terroryście podstawowych umiejętności analitycznych i programistycznych. Autorzy dowodzą, że dostępne modele językowe nie tylko zmniejszają bariery finansowe dla rożnych działań przestępczych, lecz także obniżają poziom wiedzy specjalistycznej i zaangażowania wymagany od jednostek lub małych grup do popełniania przestępstw, w tym aktów terrorystycznych. Z drugiej strony możliwości tych modeli mogą wykorzystać również organy ścigania, aby być przygotowanymi na pojawiające się zagrożenia.
Breakstone J. i in., Students’ Civic Online Reasoning: A National Portrait, „Educational Researcher” 2021, nr 50, s. 505–515. https://doi.org/10.3102/0013189X211017495.
Europol, ChatGPT. The impact of Large Language Models on Law Enforcement, Luxembourg 2023.
Faesen L. i in., Red Lines & Baselines Towards a European Multistakeholder Approach to Counter Disinformation, The Hague Centre for Strategic Studies 2021.
Felson M., Cohen L., Human ecology and crime: A routine activity approach, „Human Ecology” 1980, t. 8, s. 389–406. https://doi.org/10.1007/BF01561001.
Fuocco M.A., Trial and error: They had larceny in their hearts but little in their heads, „Pittsburgh Post-Gazette” 1996.
GIFCT Red Team Working Group, Considerations of the Impacts of Generative AI on Online Terrorism and Extremism, [bmw] 2023.
Ji Z. i in., Survey of Hallucination in Natural Language Generation, „ACM Computing Surveys” 2023, t. 55, nr 12, s. 1–38. https://doi.org/10.1145/3571730.
McGrew S. i in., Can Students Evaluate Online Sources? Learning From Assessments of Civic Online Reasoning, „Theory & Research in Social Education” 2018, t. 46, s. 165–193. https://doi.org/10.1080/00933104.2017.1416320.
Raman G. i in., How weaponizing disinformation can bring down a city’s power grid, „PloS One” 2020, nr 15. https://doi.org/10.1371/journal.pone.0236517.
Vaidhyanathan S., Antisocial media: How Facebook Disconnects Us and Undermines Democracy, New York 2018.
Vaswani A. i in., Attention is All you Need, w: Advances in Neural Information Processing Systems 30 (NIPS 2017), I. Guyon i in. (red.), Long Beach 2017, s. 5998–6008.
Waniek M. i in., Traffic networks are vulnerable to disinformation attacks, „Scientific Reports” 2021, nr 11. https://doi.org/10.1038/s41598-021-84291-w.
[heythereitsbeth], Just came across this sub and thought I’d share mine from the start of the year, Reddit, https://www.reddit.com/r/scambait/comments/17w6vx4/just_came_across_this_sub_and_thought_id_share/?rdt=40738 [dostęp: 8 XI 2023].
AFP Kenya, Fake subtitles added to old clip of Putin talking about Ukraine war, not Israel-Gaza conflict, AFP Fact Check, 17 X 2023 r., https://factcheck.afp.com/doc.afp.com.33YG8TE [dostęp: 8 XI 2023].
Bochyńska N., #CyberMagazyn: Politycy narzędziem w rękach Kremla? „Świadomość jest bardzo niska”, CyberDefence24, 21 X 2023 r., https://cyberdefence24.pl/cyber-bezpieczenstwo/cybermagazyn-politycy-narzedziem-w-rekach-kremla-swiadomosc-jest-bardzo-niska [dostęp: 8 XI 2023].
Borji A., Stochastic Parrots or Intelligent Systems? A Perspective on True Depth of Understanding in LLMs, preprint, SSRN, 20 VII 2023 r., https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4507038 [dostęp: 8 IX 2023]. http://dx.doi.org/10.2139/ ssrn.4507038.
Bowman S.R., Eight Things to Know about Large Language Models, preprint, arXiv, 2 IV 2023 r., https://arxiv.org/abs/2304.00612 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2304.00612.
Brewster T., Armed With ChatGPT, Cybercriminals Build Malware And Plot Fake Girl Bots, Forbes, 6 I 2023 r., https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/ [dostęp: 9 XI 2023].
Currie R., California man’s business is frustrating telemarketing scammers with chat-bots, The Register, 3 VII 2023 r., https://www.theregister.com/2023/07/03/jolly_roger_telephone_company/ [dostęp: 8 XI 2023].
Derner E., Batistič K., Beyond the Safeguards: Exploring the Security Risks of ChatGPT, arXiv, preprint, 13 V 2023 r., https://arxiv.org/abs/2305.08005 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2305.08005.
Goldfarb J., Applying AI to API Security, SecurityWeek, 11 X 2023 r., https://www.securityweek.com/applying-ai-to-api-security/ [dostęp: 8 XI 2023].
Gwozdowska A. i in., Wojna informacyjna 2022–2023. Przebieg i wnioski, NASK, 25 V 2023 r., https://www.nask.pl/pl/raporty/raporty/5204,Raport-quotWojna-informacyjna-20222023-Przebieg-i-wnioskiquot.html [dostęp: 8 XI 2023].
Heiding F. i in., Devising and Detecting Phishing: Large Language Models vs. Smaller Human Models, preprint, arXiv, 23 VII 2023 r., https://arxiv.org/abs/2308.12287 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2308.12287.
INFO OPS Poland Foundation, Model dystrybucji informacji w wirtualnym środowisku informacyjnym na bazie rozpoznanego rosyjskiego podstawowego modelu dystrybucji wiadomości manipulacyjnych, Disinfo Digest, 9 VI 2023 r., https://disinfodigest.pl/model-dystrybucji-informacji-w-wirtualnym-srodowisku-informacyjnym-na-bazie-rozpoznanego-rosyjskiego-podstawowego-modelu-dystrybucji-wiadomosci-manipulacyjnych/ [dostęp: 8 XI 2023].
Kelley D., WormGPT – The Generative AI Tool Cybercriminals Are Using to Launch Business Email Compromise Attacks, SlashNext, 13 VII 2023 r., https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/ [dostęp: 22 XI 2023].
Lai T. i in., Psy-LLM: Scaling up Global Mental Health Psychological Services with AI-based Large Language Models, preprint, arXiv, 22 VII 2023 r., https://arxiv.org/abs/2307.11991 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2307.11991.
McGuffie K., Newhouse A., The Radicalization Risks of GPT-3 and Advanced Neural Language Models, preprint, arXiv, 15 IX 2020 r., https://arxiv.org/abs/2009.06807 [dostęp: 8 XI 2023]. https://doi.org/10.48550/arXiv.2009.06807.
NASK (@WeryfikacjaNASK), Wraz z postępem technologicznym, rozwój AI staje się coraz bardziej widoczny w różnych dziedzinach naszego życia, X, 26 X 2023 r., https://twitter.com/WeryfikacjaNASK/status/1717487918556594437 [dostęp: 8 XI 2023].
Nowe oszustwo na WhatsAppie, „Kurier Szczeciński”, 5 VIII 2023 r., https://24kurier.pl/aktualnosci/wiadomosci/nowe-oszustwo-na-whatsappie/ [dostęp: 8 XI 2023].
Podolak J. i in., Analyzing the Influence of Language Model-Generated Responses in Mitigating Hate Speech on Social Media Directed at Ukrainian Refugees in Poland, preprint, arXiv, 28 XI 2023 r., https://arxiv.org/abs/2311.16905 [dostęp: 30 XI 2023]. https://doi.org/10.48550/arXiv.2311.16905.
Saunders W. i in., Self-critiquing models for assisting human evaluators, preprint, arXiv, 12 VI 2022 r., https://arxiv.org/abs/2206.05802 [dostęp: 9 XI 2023]. https://doi.org/10.48550/arXiv.2206.05802.
Simmons A., Vasa R., Garbage in, garbage out: Zero-shot detection of crime using Large Language Models, preprint, arXiv, 4 VII 2023 r., https://arxiv.org/abs/2307.06844 [dostęp: 9 XI 2023]. https://doi.org/10.48550/arXiv.2307.06844.
Skąd Polacy czerpią informacje? Badanie IBRIS i IBIMS kwiecień 2021, IBiMS, http://www.ibims.pl/wp-content/uploads/2021/04/IBIMS_media_2021.pdf [dostęp: 8 XI 2023].
Toulas B., Cybercriminals train AI chatbots for phishing, malware attacks, Bleeping Computer, 1 VIII 2023 r., https://www.bleepingcomputer.com/news/security/cyber-criminals-train-ai-chatbots-for-phishing-malware-attacks/ [dostęp: 9 XI 2023].
Vallance C., Rahman-Jones I., Urgent need for terrorism AI laws, warns think tank, BBC News, 3 I 2024 r., https://www.bbc.com/news/technology-67872767 [dostęp: 10 I 2024].
Yin S. i in., A Survey on Multimodal Large Language Models, preprint, arXiv, 23 VI 2023 r., https://arxiv.org/abs/2306.13549 [dostęp: 8 IX 2023]. https://doi.org/10.48550/arXiv.2306.13549.
Zou A. i in., Universal and Transferable Adversarial Attacks on Aligned Language Models, preprint, arXiv, 27 VII 2023 r., https://arxiv.org/
Informacje: Terroryzm – studia, analizy, prewencja, 2024, Numer 5 (5), s. 133-164
Typ artykułu: Oryginalny artykuł naukowy
Tytuły:
Duże modele językowe i możliwości ich wykorzystania w terroryzmie dżihadystycznym i przestępczości
Large Language Models in jihadist terrorism and crimes
Publikacja: 11.03.2024
Status artykułu: Otwarte
Licencja: CC-BY-NC-SA 4.0
Udział procentowy autorów:
Korekty artykułu:
-Języki publikacji:
PolskiLiczba wyświetleń: 1246
Liczba pobrań: 941
