С приходом генеративного ИИ и повсеместным распространением LLM-моделей (Large Language Models), кибербезопасность переживает трансформацию. Искусственный интеллект стал одновременно и инструментом защиты, и оружием в руках злоумышленников. В 2025 году это уже не гипотеза, а реальность, с которой сталкиваются как государственные, так и частные структуры.

Согласно MIT Technology Review, в 2025 году уже более 40% фишинговых писем создаются с помощью LLM, что делает их практически неотличимыми от реальных переписок.

Ключевые угрозы, связанные с использованием ИИ:

• 📌 Автоматизация фишинга и социальной инженерии: генерация персонализированных писем, голосовых сообщений и deepfake-видео для атак на сотрудников.
• 📌 Обход традиционных систем защиты: нейросети создают вредоносный код, не распознаваемый классическими сигнатурными антивирусами.
• 📌 Взлом CAPTCHA, MFA и систем аутентификации: с помощью компьютерного зрения и моделей распознавания.
• 📌 Атаки на модели машинного обучения: отравление (data poisoning), инъекции промтов и подмена входных данных.

В ответ на вызовы организации всё чаще интегрируют AI-решения в системы обнаружения и реагирования на инциденты (SOC, SIEM, SOAR).

Наиболее эффективные направления применения ИИ:

• ✅ Анализ аномалий в реальном времени (UEBA): определение нетипичных действий пользователей и устройств.
• ✅ Расширенный threat hunting: выявление атак до их развертывания с помощью поведенческой корреляции.
• ✅ Автоматическая классификация и приоритизация инцидентов: с учётом бизнес-контекста и MITRE ATT&CK.
• ✅ Автогенерация рекомендаций по remediation на основе анализа предыдущих инцидентов.

🔗 Согласно Gartner, к 2026 году более 60% организаций будут использовать ИИ для усиления механизмов обнаружения угроз.

1. Включить ИИ-риски в профиль киберрисков. Промт-инъекции, генерация вредоносных сценариев, компрометация моделей — это реальные угрозы.
2. Контролировать использование LLM внутри организации. Создайте внутренние политики по использованию ChatGPT, Gemini и других моделей.
3. Аудировать все ИИ-сервисы и подключенные API. Особое внимание — к облачным интеграциям и сторонним разработкам.
4. Внедрить инструменты AI Threat Intelligence. Новые платформы позволяют отслеживать злоупотребление публичными LLM для генерации атакующих промтов.
5. Проводить обучение сотрудников. Темы: защита от deepfake, противодействие социальным атакам, осознанное использование ИИ-инструментов.

ИИ в кибербезопасности — это новая реальность. Побеждает тот, кто умеет использовать его на шаг впереди злоумышленников. Компании, которые уже сегодня внедряют AI-Augmented Security, смогут не только защититься, но и создать конкурентное преимущество на фоне глобального роста угроз.

#Astanahub #Cybersecurity #AIsecurity #ИИ #информационнаябезопасность #LLM #MITRE #SOC #SOAR #ZeroTrust #AIinCyber #DataProtection #DigitalKazakhstan