Kibertəhlükəsizlikdə generativ süni intellektSillabus

Fənn kodu

MS-1406

Kredit

6

Tələbənin iş yükü

135

Semestr

Payız semestri

Akademik il

2

Fənnin tipi

Seçmə

Təhsil forması

Əyani

Tədris dili

Azərbaycan

Auditoriyadaxili saatlar

a) 30 saat - mühazirə b) 15 saat- seminar

Auditoriyadan kənar saatlar

a) sərbəst iş - 80 saat b) hazırlıq - 45 saat

“Kibertəhlükəsizlikdə generativ süni intellekt” fənni kibertəhlükəsizlik sahəsində generativ süni intellekt texnologiyalarının tətbiqi, imkanları və təhlükəsizlik risklərini öyrənir. Fənn çərçivəsində generativ süni intellektin əsas prinsipləri, böyük dil modelləri, mətn və kod generasiyası, süni intellekt əsaslı təhdid aşkarlama, təhlükəsizlik hadisələrinin təhlili və insidentlərə cavab proseslərində AI texnologiyalarının istifadəsi nəzərdən keçirilir. Fənnin əsas məqsədi tələbələrdə generativ süni intellektdən kibertəhlükəsizlik proseslərinin avtomatlaşdırılması, təhlükələrin təhlili və müdafiə mexanizmlərinin təkmilləşdirilməsi üçün təhlükəsiz və effektiv istifadə bacarıqları formalaşdırmaqdır. Həmçinin generativ AI-nin yaratdığı prompt injection, məlumat sızması, model manipulyasiyası, saxta məzmunun yaradılması və AI sistemlərinin sui-istifadəsi kimi yeni kibertəhlükələr araşdırılır. Fənnin sonunda tələbələr generativ süni intellektin kibertəhlükəsizlikdə tətbiq imkanlarını qiymətləndirə, AI əsaslı təhlükəsizlik həllərini təhlil edə, təhlükəsizlik proseslərində AI-dən düzgün və məsuliyyətli istifadə prinsiplərini tətbiq edə və generativ süni intellektdən irəli gələn risklərə qarşı müdafiə yanaşmalarını müəyyənləşdirə bilirlər.

• mühazirə
• interaktiv müzakirə
• seminar
• case study
• təqdimatlar

1. 1

   CLO 1: Generativ süni intellektin əsas anlayışlarını, modellərini və prinsiplərini izah edə bilir.

2. 2

   CLO 2: Generativ süni intellektin kibertəhlükəsizlikdə tətbiq sahələrini müəyyənləşdirə və izah edə bilir.

3. 3

   CLO 3: Kibertəhlükəsizliklə bağlı tapşırıqların yerinə yetirilməsi və problemlərin həlli üçün generativ süni intellekt alətlərindən istifadə edə bilir.

4. 4

   CLO 4: Süni intellekt tərəfindən yaradılan məzmunu, kodu və təhlükəsizliklə bağlı nəticələri kibertəhlükəsizlik baxımından təhlil edə bilir.

5. 5

   CLO 5: Generativ süni intellektlə əlaqəli nəticələrin etibarlılığını, təhlükəsizlik və məxfilik risklərini, həmçinin etik məsələləri qiymətləndirə bilir.

6. 6

   CLO 6: Kibertəhlükəsizlik tapşırıqları üçün effektiv sorğular (promptlar) və süni intellekt əsaslı iş axınları hazırlaya bilir.

7. 7

   CLO 7: Generativ süni intellektin kibertəhlükəsizlikdə təhlükəsiz, məsuliyyətli və etik istifadəsi üçün uyğun yanaşmalar hazırlaya bilir.

1. 1.
   Süni intellekt, maşın təlimi və kibertəhlükəsizlikMühazirə

   Bu mövzu çərçivəsində süni intellektin (Sİ) və maşın təliminin əsas anlayışları, metodları və kibertəhlükəsizlik sahəsində tətbiq imkanları öyrənilir. Nəzarətli, nəzarətsiz və möhkəmləndirici öyrənmə yanaşmaları, verilənlər əsasında modellərin qurulması və şəbəkə trafikində anomaliyaların aşkarlanması prinsipləri araşdırılır. Həmçinin süni intellektin kiberhücumların aşkarlanması, zərərli proqramların təhlili, təhdidlərin proqnozlaşdırılması və təhlükəsizlik proseslərinin avtomatlaşdırılmasında rolu, eləcə də bu texnologiyaların yaratdığı risklər nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə Sİ və maşın təlimi metodlarını kibertəhlükəsizlik problemlərinin həllinə uyğunlaşdırmaq bacarıqlarının formalaşdırılmasına xidmət edir.

2. 2.
   Generativ süni intellektə giriş və generativ modellərMühazirə

   Bu mövzu çərçivəsində generativ süni intellektin mahiyyəti, əsas prinsipləri və mətn, şəkil, audio, video və proqram kodu yaradan modellərin iş mexanizmləri öyrənilir. Böyük dil modelləri, generativ adversarial şəbəkələr (GAN), variativ avtoenkoderlər (VAE) və diffuziya modellərinin əsas xüsusiyyətləri araşdırılır. Modellərin təlimi, nəticələrin yaradılması, kontekstin rolu və generativ sistemlərin imkanları ilə məhdudiyyətləri təhlil edilir. Həmçinin generativ Sİ-nin kibertəhlükəsizlikdə tətbiqi, məlumatların etibarlılığı və yanlış nəticələrin yaranması riskləri nəzərdən keçirilir.

3. 3.
   Böyük dil modelləri və Transformer arxitekturasıMühazirə

   Bu mövzu çərçivəsində böyük dil modellərinin (LLM) quruluşu, iş prinsipləri və təbii dilin emalı üçün istifadə olunan əsas texnologiyalar öyrənilir. Transformer arxitekturasının komponentləri, diqqət mexanizmi (Attention), özünə diqqət (Self-Attention), tokenləşdirmə, embedding-lər və kontekst pəncərəsinin funksiyaları araşdırılır. Modellərin ilkin təlimi, incə tənzimlənməsi (fine-tuning) və insan rəyləri əsasında optimallaşdırılması yanaşmaları nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə böyük dil modellərinin imkanlarını, məhdudiyyətlərini və kibertəhlükəsizlik tapşırıqlarında tətbiq xüsusiyyətlərini anlamaq bacarıqlarını inkişaf etdirir.

4. 4.
   Prompt mühəndisliyi və Sİ ilə qarşılıqlı əlaqəMühazirə

   Bu mövzu çərçivəsində generativ süni intellekt sistemlərindən effektiv və məqsədyönlü istifadə üçün prompt mühəndisliyinin prinsipləri öyrənilir. Promptların strukturlaşdırılması, kontekstin təmin edilməsi, rol əsaslı təlimatların verilməsi, nümunələrdən istifadə və çoxmərhələli sorğuların hazırlanması üsulları araşdırılır. Zero-shot, one-shot və few-shot yanaşmaları, nəticələrin yoxlanılması və model cavablarının keyfiyyətinin qiymətləndirilməsi məsələləri təhlil edilir. Həmçinin prompt injection, sistem təlimatlarının açıqlanması və etibarsız məlumatların model davranışına təsiri kimi risklər nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə kibertəhlükəsizlik tapşırıqları üçün effektiv, təhlükəsiz və yoxlanıla bilən sorğular hazırlamaq bacarıqlarını formalaşdırır.

5. 5.
   Generativ Sİ ilə OSİNT və Threat IntelligenceMühazirə

   Bu mövzu çərçivəsində generativ süni intellektin açıq mənbələrdən kəşfiyyat (OSINT) və kiber təhdidlər haqqında məlumatların toplanması və təhlili proseslərində tətbiqi öyrənilir. Açıq mənbələrdən əldə edilən məlumatların emalı, müxtəlif mənbələr üzrə məlumatların əlaqələndirilməsi, təhdid göstəricilərinin (IOC) müəyyənləşdirilməsi və təhdid hesabatlarının hazırlanması üsulları araşdırılır. MITRE ATT&CK çərçivəsi əsasında hücum edən tərəflərin taktika, texnika və prosedurlarının (TTP) təhlili, eləcə də təhdid kəşfiyyatı məlumatlarının strukturlaşdırılması nəzərdən keçirilir. Mənbələrin etibarlılığının yoxlanılması, yanlış nəticələrin qarşısının alınması, məxfilik və hüquqi məhdudiyyətlərə riayət olunması xüsusi diqqət mərkəzində saxlanılır.

6. 6.
   Generativ Sİ ilə SOC və təhlükəsizlik əməliyyatlarıMühazirə

   Bu mövzu çərçivəsində generativ süni intellektin Təhlükəsizlik Əməliyyatları Mərkəzində (SOC) təhlükəsizlik monitorinqinin, hadisələrin təhlilinin və insidentlərə cavab proseslərinin təkmilləşdirilməsində rolu öyrənilir. SIEM sistemlərindən əldə edilən loqların ümumiləşdirilməsi, xəbərdarlıqların prioritetləşdirilməsi, şübhəli fəaliyyətlərin təhlili və insident hesabatlarının hazırlanması üsulları araşdırılır. Generativ Sİ-nin SOAR platformaları ilə inteqrasiyası, cavab tədbirlərinin planlaşdırılması və analitiklərin qərarvermə prosesinə dəstək imkanları nəzərdən keçirilir. Həmçinin modelin səhv nəticələri, həssas məlumatların açıqlanması və avtomatlaşdırılmış qərarların insan nəzarəti olmadan icrası ilə bağlı risklər təhlil edilir.

7. 7.
   Generativ Sİ ilə zərərli proqram və zərərli kod analiziMühazirə

   Bu mövzu çərçivəsində generativ süni intellektin zərərli proqram təminatının və şübhəli kod nümunələrinin təhlilində tətbiqi öyrənilir. Mənbə kodunun izahı, şübhəli funksiyaların müəyyənləşdirilməsi, proqram davranışının təhlili, zərərli fəaliyyət əlamətlərinin aşkarlanması və texniki hesabatların hazırlanması metodları araşdırılır. Statik və dinamik analiz nəticələrinin generativ modellər vasitəsilə ümumiləşdirilməsi, zərərli proqramların davranış xüsusiyyətlərinin təsnifləşdirilməsi və indikatorların müəyyənləşdirilməsi nəzərdən keçirilir. Təhlilin təcrid olunmuş və təhlükəsiz laboratoriya mühitində aparılması, model nəticələrinin müstəqil yoxlanılması və zərərli kodun yaradılması və ya təkmilləşdirilməsi risklərinin məhdudlaşdırılması prinsipləri izah olunur.

8. 8.
   Generativ Sİ ilə zəifliklərin qiymətləndirilməsi və təhlükəsiz proqram təminatının hazırlanmasıMühazirə

   Bu mövzu çərçivəsində generativ süni intellektin proqram təminatındakı təhlükəsizlik zəifliklərinin müəyyənləşdirilməsi, kodun təhlili və təhlükəsiz proqramlaşdırma proseslərində tətbiqi öyrənilir. Mənbə kodunda potensial zəifliklərin aşkarlanması, kodun nəzərdən keçirilməsi, təhlükəsiz kod nümunələrinin yaradılması və düzəldici tövsiyələrin hazırlanması üsulları araşdırılır. OWASP prinsipləri, təhlükəsiz proqram təminatının hazırlanması həyat dövrü (SSDLC), statik və dinamik analiz vasitələri ilə Sİ əsaslı həllərin inteqrasiyası nəzərdən keçirilir. Həmçinin generativ modellərin buraxdığı səhvlər, etibarsız kitabxana və API tövsiyələri, asılılıqların təhlükəsizliyi və yaradılmış kodun test edilməsi məsələləri təhlil edilir.

9. 9.
   Generativ Sİ-nin kibertəhdidlərdə sui-istifadəsiMühazirə

   Bu mövzu çərçivəsində generativ süni intellektdən kiberhücumların hazırlanması və həyata keçirilməsində sui-istifadə imkanları öyrənilir. Fişinq mesajlarının yaradılması, sosial mühəndislik ssenarilərinin fərdiləşdirilməsi, saxta məzmunun hazırlanması, avtomatlaşdırılmış kəşfiyyat və zərərli fəaliyyətlərin miqyaslandırılması kimi təhdidlər araşdırılır. Generativ modellərdən istifadə edən hücumların aşkarlanması, məzmunun mənşəyinin yoxlanılması, davranış əsaslı müdafiə mexanizmləri və təhlükəsizlik nəzarətlərinin tətbiqi nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə Sİ əsaslı hücum ssenarilərini müəyyənləşdirmək, onların risklərini qiymətləndirmək və müvafiq müdafiə tədbirlərini seçmək bacarıqlarının formalaşdırılmasına xidmət edir.

10. 10.
    Dipfeyk, sintetik media və rəqəmsal etimadMühazirə

    Bu mövzu çərçivəsində dipfeyk texnologiyaları, süni şəkildə yaradılmış və ya dəyişdirilmiş audio, video və təsvirlərin hazırlanma prinsipləri öyrənilir. Sintetik medianın sosial mühəndislik, şəxsiyyət saxtakarlığı, reputasiya hücumları və dezinformasiya məqsədilə istifadəsi ilə bağlı risklər araşdırılır. Saxta məzmunun aşkarlanması, media fayllarının texniki xüsusiyyətlərinin təhlili, mənbənin yoxlanılması, rəqəmsal mənşə məlumatları və məzmunun autentikliyinin qiymətləndirilməsi üsulları nəzərdən keçirilir. Həmçinin rəqəmsal etimadın qorunması, insan faktorunun rolu və dipfeyk hücumlarına qarşı təşkilati və texniki müdafiə tədbirləri izah olunur.

11. 11.
    Böyük dil modelləri əsaslı tətbiqlərin təhlükəsizliyiMühazirə

    Bu mövzu çərçivəsində böyük dil modelləri əsasında qurulan tətbiqlərin arxitekturası, təhlükəsizlik tələbləri və potensial zəiflikləri öyrənilir. Retrieval-Augmented Generation (RAG), xarici məlumat mənbələri ilə inteqrasiya, vektor verilənlər bazaları, plaginlər və alət çağırışlarının təhlükəsizlik xüsusiyyətləri araşdırılır. Prompt injection, həssas məlumatların açıqlanması, etibarsız çıxışların emalı, həddindən artıq səlahiyyətlər və təlim məlumatlarının manipulyasiyası kimi risklər təhlil edilir. Girişə nəzarət, məlumatların filtrlənməsi, çıxışların yoxlanılması, təhlükəsiz API inteqrasiyası və tətbiqlərin sınaqdan keçirilməsi mexanizmləri nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə LLM əsaslı tətbiqlərdə təhlükəsizlik zəifliklərini müəyyənləşdirmək və etibarlı generativ Sİ həlləri layihələndirmək bacarıqlarını inkişaf etdirir.

12. 12.
    Adversarial Sİ və Sİ sistemlərinə hücumlarMühazirə

    Bu mövzu çərçivəsində süni intellekt sistemlərinin giriş məlumatlarının, təlim prosesinin və model nəticələrinin manipulyasiyası ilə bağlı hücum üsulları öyrənilir. Adversarial nümunələr, məlumatların zəhərlənməsi (data poisoning), modelin oğurlanması, modeldən həssas məlumatların çıxarılması və nəticələrin manipulyasiyası kimi təhdidlər araşdırılır. Generativ modellərdə prompt injection, jailbreak cəhdləri və etibar edilməyən məzmun vasitəsilə sistem davranışının dəyişdirilməsi riskləri təhlil edilir. Adversarial testlər, modelin dayanıqlığının qiymətləndirilməsi, giriş məlumatlarının yoxlanılması və müdafiə mexanizmlərinin tətbiqi nəzərdən keçirilir. Mövzunun mənimsənilməsi tələbələrdə Sİ sistemlərinə yönələn hücumları təhlil etmək və modellərin etibarlılığını artıran təhlükəsizlik tədbirlərini müəyyənləşdirmək bacarıqlarını formalaşdırır.

13. 13.
    Süni intellekt təhlükəsizliyi, məxfilik, etika və idarəetməMühazirə

    Bu mövzu çərçivəsində süni intellekt sistemlərinin təhlükəsiz, məsuliyyətli və etik istifadəsinin əsas prinsipləri öyrənilir. Fərdi və məxfi məlumatların qorunması, məlumatların minimallaşdırılması, giriş hüquqlarının idarə edilməsi, model nəticələrinin şəffaflığı və izaholunması məsələləri araşdırılır. Alqoritmik qərəzlilik, ayrı-seçkilik riski, hallüsinasiyalar, hesabatlılıq və insan nəzarətinin təmin edilməsi prinsipləri nəzərdən keçirilir. Həmçinin Sİ sistemləri üçün risklərin idarə edilməsi, təşkilati siyasətlərin hazırlanması, uyğunluğun qiymətləndirilməsi və etibarlı idarəetmə mexanizmlərinin tətbiqi izah olunur. Mövzunun mənimsənilməsi tələbələrdə Sİ həllərini hüquqi, etik və təhlükəsizlik tələbləri baxımından qiymətləndirmək bacarıqlarının formalaşdırılmasına xidmət edir.

14. 14.
    Agentik süni intellekt və kibertəhlükəsizliyin gələcəyiMühazirə

    Bu mövzu çərçivəsində agentik süni intellektin mahiyyəti, məqsədyönlü tapşırıqları planlaşdıran, alətlərdən istifadə edən və çoxmərhələli əməliyyatlar həyata keçirən agent sistemlərinin iş prinsipləri öyrənilir. Agentlərin qərarvermə mexanizmləri, yaddaş və kontekst idarəetməsi, xarici sistemlərlə qarşılıqlı əlaqəsi və digər agentlərlə koordinasiyası araşdırılır. Kibertəhlükəsizlikdə agentik Sİ-nin təhdid kəşfiyyatı, təhlükəsizlik monitorinqi, insidentlərin təhlili və müdafiə proseslərinin avtomatlaşdırılmasında tətbiq imkanları nəzərdən keçirilir. Həmçinin agentlərin həddindən artıq səlahiyyətlər əldə etməsi, yanlış qərarlar verməsi, alətlərin sui-istifadəsi və nəzarətsiz əməliyyatlar həyata keçirməsi riskləri təhlil edilir. Mövzunun mənimsənilməsi tələbələrdə agentik Sİ həllərinin imkanlarını və məhdudiyyətlərini qiymətləndirmək, təhlükəsiz istifadə prinsiplərini müəyyənləşdirmək və gələcək kibertəhlükəsizlik tendensiyalarını təhlil etmək bacarıqlarını inkişaf etdirir.

15. 15.
    Fənnin yekun icmalıMühazirə

    Bu mövzu çərçivəsində fənn boyunca öyrənilmiş süni intellekt, maşın təlimi, generativ modellər və kibertəhlükəsizlik anlayışları sistemləşdirilir və ümumiləşdirilir. Generativ Sİ-nin təhdidlərin aşkarlanması, SOC əməliyyatları, OSINT, zərərli proqramların təhlili və təhlükəsiz proqram təminatının hazırlanmasında tətbiqi müqayisəli şəkildə nəzərdən keçirilir. Sİ sistemlərinə yönələn hücumlar, məxfilik riskləri, etik prinsiplər və təhlükəsizlik nəzarətləri arasındakı əlaqələr təhlil edilir. Tələbələrin fərdi və ya qrup layihələrinin təqdimatı, praktiki tapşırıqların nəticələrinin müzakirəsi və əldə edilmiş biliklərin qiymətləndirilməsi həyata keçirilir. Yekun icmal tələbələrdə süni intellekt texnologiyalarını kibertəhlükəsizlik problemlərinə tətbiq etmək, riskləri əsaslandırılmış şəkildə qiymətləndirmək və təhlükəsiz, məsuliyyətli həllər təklif etmək bacarıqlarının möhkəmləndirilməsinə xidmət edir.

1. Russell, S., Norvig, P. Artificial Intelligence: A Modern Approach. 4th ed. Pearson, 2021.
2. Goodfellow, I., Bengio, Y., Courville, A. Deep Learning. MIT Press, 2016.
3. Géron, A. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow. 3rd ed. O’Reilly Media, 2022.
4. Jurafsky, D., Martin, J. H. Speech and Language Processing. 3rd ed. Draft, 2024.
5. Bishop, C. M., Bishop, H. Deep Learning: Foundations and Concepts. Springer, 2024.
6. Mollick, E. Co-Intelligence: Living and Working with AI. Portfolio, 2024.