Методы использования больших языковых моделей с поддержкой рассуждений для анализа безопасности программного кода

Большие языковые модели (БЯМ) с поддержкой рассуждений активно развиваются в последние годы. Наиболее ярким их представителем является семейство моделей DeepSeek-R1. Однако практически не представлены исследования рассуждающих моделей в сфере анализа безопасности и классификации уязвимостей программного кода. Одной из задач, возникающих на практике, является обнаружение и классификация различных типов уязвимостей. В работе представлена оценка возможностей ряда БЯМ с поддержкой режима рассуждений по обнаружению и классификации наиболее опасных типов уязвимостей. Кроме этого, в работе рассмотрены различные методы промпт-инженерии для повышения точности ответов БЯМ, в контексте задачи анализа безопасности программного кода. Приводятся примеры промптов для обнаружения распространенных типов уязвимостей. Представлены риски использования БЯМ в процессе разработки кода программного обеспечения.

Аффилиация авторов

Швыров Вячеслав Владимирович – канд. физ.-мат. наук, доцент, доцент,
Капустин Денис Алексеевич – д-р техн. наук, доцент, заведующий кафедры Информационных образовательных
технологий и систем, Сентяй Роман Николаевич – старший преподаватель,
ФГБОУ ВО «Луганский государственный педагогический университет».
E-mail: slshj@yandex.ru, kap-kapchik@mail.ru, sentyayroman@yandex.ru

Список литературы
1. Hou X., Zhao Y., Liu Y., et al. Large Language Models for Software Engineering: A Systematic Literature Review // ArXiv, abs/2308.10620. 2023.
2. Hu J., Shen Y., Wallis P. et al. Lora: Low-rank adaptation of large language models // ArXiv, abs/2106.09685, 2021.
3. Fan A., Gokkaya B., Harman M. et al. Large language models for software engineering: Survey and open problems // ArXiv, abs/2310.03533. – 2023.
4. Shalaginov A., Banin S., Dehghantanha A., Franke K. Machine Learning Aided Static Malware Analysis: A Survey and Tutorial // ArXiv, abs/1808.01201. – 2018. .
5. Швыров В.В., Капустин Д.А., Сентяй Р.Н., Шулика Т.И. Использование больших языковых моделей для классификации некоторых уязвимостей в программном коде // Программная инженерия. – 2024. – Т. 15, № 9. – С. 465-475.
6. Vaswani A., Shazeer N., Parmar N. et al. Attention is all you need // Advances in Neural Information Processing Systems, 2017, pp. 5998–6008.
7. Guo D. et al. DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning // ArXiv abs/2501.12948 (2025): n. pag.
8. Mamedov V. et al. GigaChat Family: Efficient Russian Language Modeling Through Mixture of Experts Architecture // arXiv preprint arXiv:2506.09440. 2025.
9. Destercke S. Multilabel Prediction with Probability Sets: The Hamming Loss Case // Information Processing and Management of Uncertainty in Knowledge-Based Systems. IPMU 2014. Communications in Computer and Information Science, vol 443. Springer, Cham.