В предоставленной научной статье рассматриваются возможности применения больших языковых моделей (Large Language Models, LLMs) в кибербезопасности.

Возможности LLMs для киберзащиты

LLMs могут анализировать большие объемы текстовых данных, включая логи систем безопасности, для выявления уязвимостей и аномалий. Это ключевое применение для обнаружения потенциальных угроз.
LLMs используются для автоматизации исправления уязвимостей в ПО, чтобы улучшить защищенность организаций. Показана эффективность для симулированных уязвимостей, хотя реальные сценарии сложнее.
LLMs усиливают обучение и повышение осведомленности о безопасности в компаниях. Например, помогают в решении задач CTF, предоставляют объяснения по вопросам сертификации.
Интеграция LLMs в тестирование на проникновение может улучшить как стратегическое планирование операций, так и практический анализ систем.

Использование LLMs для кибератак

Zлoумышленники могут испoльзoвать LLMs для автоматической генерации вредоносных скриптов, фишинга, обхода систем обнаружения и других атак.
Основные тактики атак с использованием LLMs: initial access (фишинг, подбор паролей), execution (генерация вредоносного ПО) и defense evasion (обфускация, модификация).
Показано, что некоторые антивирусы и системы классификации не могут обнаружить сгенерированные LLMs угрозы. Это серьезная проблема.