Тематическая секция
Искусственный интеллект в кибербезопасности: защита будущего или новые угрозы?
В эпоху цифровой трансформации искусственный интеллект (ИИ) становится ключевым инструментом в борьбе с киберугрозами. Однако его использование провоцирует также появление новых вызовов и проблем. В рамках секции мы обсудим, как ИИ помогает выявлять и предотвращать кибератаки, анализировать большие объемы данных для обнаружения аномалий и автоматизировать процессы защиты. А также – в чем уязвимость самого ИИ, как злоумышленники могут им манипулировать и можно ли ему доверять.
- Ведущие
-
Зегжда Дмитрий Петрович
Чл.-корр. РАН, директор Института кибербезопасности и защиты информации СПбПУ Петра Великого
Полтавцева Мария Анатольевна
Д.т.н., профессор, директор Высшей школы кибербезопасности, Санкт-Петербургский Политехнический университет Петра Великого
Список докладов
Противодействие развитию компьютерных атак в гетерогенной сетевой инфраструктуре на основе анализа графов
- Завадский Евгений Владимирович, Высшая школа кибербезопасности СПбПУ Петра Великого
В докладе предложено комплексное решение на основе анализа графов, которое обеспечивает точное определение трассы вторжения за счет внедрения узлов-индикаторов и формирования графов атак, а также динамическое противодействие его дальнейшему развитию за счет перемещения скомпрометированных узлов в изолированную среду с целью сбора сигнатур их поведения для выявления ранее не обнаруженных вредоносных узлов и восстановления цепочек реализации технологических процессов.
Интеллектуальная система адаптивной защиты от сетевых атак на основе реконфигурации сети
- Горецкий Илья Александрович, Высшая школа кибербезопасности СПбПУ Петра Великого
Работа посвящена разработке подхода противодействия сетевым атакам, основанном на реконфигурации сети для исключения возможности успешного завершения атаки злоумышленником. Для реализации подхода предложено использовать механизм рекомендательных систем, обеспечивающий как генерацию возможных сетевых топологий, так и их ранжирование. В основе предложенной интеллектуальной рекомендательной системы лежит алгоритм обучения с подкреплением на основе модели «актер — критик». Проведенные экспериментальные исследования подтвердили эффективность разработанной системы.
Применение мультиагентных систем на базе больших языковых моделей в киберпсихологии
- Богина Василиса Михайловна, Высшая школа кибербезопасности СПбПУ Петра Великого
Мультиагентные системы (Multi Agent Systems, MAS) — это системы взаимодействующих агентов, обладающих автономностью, способностью восприятия окружающей среды и принятия решений, и выполнения действий для достижения индивидуальных целей. В данном докладе рассматриваются мультиагентные системы, построенные на взаимодействии LLM-агентов (Large Language Models, LLM). Исследования последних лет демонстрируют обширные возможности мультиагентных систем на основе LLM в понимании человеческого фактора поведения и эмуляции этого фактора. Настоящий доклад подробно рассматривает современные наработки и возможные пути развития мультиагентных систем на основе больших языковых моделей, а также возможности их применения в киберпсихологии.
Снижение объема испытаний при оценке уровня доверия к ПО на основе методов машинного обучения
- Грибков Никита Андреевич, Высшая школа кибербезопасности СПбПУ Петра Великого
В докладе представлен подход к снижению объема тестовых испытаний ПО за счет исключения фрагментов доверенного кода и потенциально опасных фрагментов. Подход ориентирован на применение к двоичным исполняемым файлам, что позволяет проводить анализ ПО, используя метод «черного ящика».
