Генеративті AI-нің келуімен және LLM модельдерінің (үлкен тілдік модельдер) кең таралуымен киберқауіпсіздік өзгеріске ұшырайды. Жасанды интеллект қорғаныс құралы да, шабуылдаушылардың қолындағы қару да болды. 2025 жылы бұл енді гипотеза емес, мемлекеттік және жеке құрылымдар тап болатын шындық.

MIT Technology Review мәліметтері бойынша, 2025 жылы фишингтік хаттардың 40% - дан астамы LLM көмегімен жасалады, бұл оларды нақты корреспонденциялардан іс жүзінде ажыратпайды.

Жасанды интеллектті қолданумен байланысты негізгі қауіптер:

• 📌 Фишинг пен әлеуметтік инженерияны автоматтандыру: қызметкерлерге шабуыл жасау үшін жеке хаттарды, дауыстық хабарламаларды және deepfake бейнелерін жасау.
• 📌 Дәстүрлі қорғаныс жүйелерін айналып өту: нейрондық желілер классикалық қолтаңбалы антивирустар танымайтын зиянды кодты жасайды.
• 📌 Captcha, MFA және аутентификация жүйелерін бұзу: компьютерлік көру және тану үлгілері арқылы.
• 📌 Машиналық оқыту үлгілеріне шабуылдар: улану (data poisoning), промт инъекциялары және кірістерді ауыстыру.

Қоңырауларға жауап ретінде ұйымдар AI шешімдерін инциденттерді анықтау және жауап беру жүйелеріне (SOC, SIEM, SOAR) көбірек біріктіруде.

АИ қолданудың ең тиімді бағыттары:

• ✅ Нақты уақыттағы ауытқуларды талдау (UEBA): пайдаланушылар мен құрылғылардың типтік емес әрекеттерін анықтау.
• ✅ Кеңейтілген threat hunting: мінез-құлық корреляциясы арқылы орналастырылғанға дейін шабуылдарды анықтау.
• ✅ Оқиғаларды автоматты түрде жіктеу және басымдық беру: бизнес контекстін және Mitre ATT&CK ескере отырып.
• ✅ Алдыңғы оқиғаларды талдау негізінде Remediation бойынша ұсыныстарды автогенерациялау.

Gartner мәліметтері бойынша, 2026 жылға қарай ұйымдардың 60% - дан астамы қауіп-қатерді анықтау механизмдерін күшейту үшін AI пайдаланады.

1. Киберқауіпсіздік профиліне AI тәуекелдерін қосыңыз. PROMT инъекциясы, зиянды сценарийлерді құру, модельдерді бұзу — бұл нақты қауіптер.
2. Ұйым ішінде LLM пайдалануды бақылау. ChatGPT, Gemini және басқа модельдерді пайдалану үшін ішкі саясаттарды жасаңыз.
3. Барлық AI қызметтерін және қосылған API интерфейстерін тыңдаңыз. Бұлтты интеграциялар мен үшінші тарап әзірлемелеріне ерекше назар аударылады.
4. Ai Threat Intelligence құралдарын енгізу. Жаңа платформалар шабуылдаушы промттарды құру үшін қоғамдық LLM-ді теріс пайдалануды бақылауға мүмкіндік береді.
5. Қызметкерлерді оқытуды жүргізу. Тақырыптар: deepfake-тен қорғау, әлеуметтік шабуылдарға қарсы тұру, AI құралдарын саналы түрде пайдалану.

КИБЕРҚАУІПСІЗДІКТЕГІ AI-бұл жаңа шындық. Оны қаскүнемдерден бір қадам алда қолдана алатын адам жеңеді. Бүгінгі таңда AI-Augmented Security-ті енгізіп жатқан компаниялар өздерін қорғап қана қоймай, қауіптердің жаһандық өсуі аясында бәсекелестік артықшылық жасай алады.

#Astanahub #Cybersecurity #AIsecurity #AI #ақпараттыққауіпсіздік #LLM #MITRE #SOC #SOAR # ZeroTrust #Aiincyber #Dataprotection #DigitalKazakhstan