GERİ DÖN

Ders Öğretim Planı

Dersin Kodu Dersin Adı Dersin Türü Yıl Yarıyıl AKTS
SGM227 ARTIFICIAL INTELLIGENCE AND CYBER SECURITY Seçmeli Ders Grubu 2 3 5,00

Dersin Seviyesi

Önlisans

Dersin Sunulduğu Dil

İngilizce

Dersin Amacı

Yapay Zeka, siber güvenlik alanında kritik bir rol oynamaktadır ve bu dersin temel amacı, öğrencileri siber güvenlik için önemli olan temel yapay zeka algoritmaları ile tanıştırmaktır. Bu ders, siber güvenlikte yapay zekanın nasıl kullanıldığını öğretmeyi, bilgi teknolojileri ve bilgisayar bilimlerine odaklanarak öğrencileri bu alanda donanımlı hale getirmeyi amaçlamaktadır. Yapay Zeka, Makine Öğrenmesi, Derin Öğrenme kavramları, anomali tespiti, düşman (adversarial) makine öğrenme, güncel problemler ve uygulamalar gibi konular ele alınacaktır. Bu sayede öğrenciler, siber saldırıları anlamak ve siber güvenlik önlemleri geliştirmek için yapay zekaya dayalı yaklaşımları etkin bir şekilde kullanabilme yetkinliği kazanacaklardır.

Dersi Veren Öğretim Görevlisi/Görevlileri

Öğr. Gör. Onat Tanrıöver

Öğrenme Çıktıları

1 Yapay zeka, makine öğrenmesi ve derin öğrenmenin temel kavramlarını, matematiksel temellerini, öğrenme paradigmalarını (gözetimli/gözetimsiz) ve model başarı/performans ölçütlerini açıklayabilme.
2 Görüntü, metin veya zaman serisi verileri üzerinde evrişimsel (CNN), tekrarlı (RNN/LSTM) ve Transformer tabanlı yapay sinir ağı modellerini hiperparametre optimizasyonu ve transfer öğrenme teknikleriyle eğitebilme.
3 Büyük dil modelleri (LLM) ve yapay zeka sistemlerine yönelik saldırı taktiklerini (OWASP LLM Top 10, Prompt Injection, Model Theft, Membership Inference ve Evasion saldırıları) analiz ederek güvenlik açıklarını teşhis edebilme.
4 Yapay zeka altyapılarının güvenliğini, düşman (adversarial) saldırılara karşı dayanıklılığını, veri gizliliği mekanizmalarını ve etik ilkeleri güvenli tasarım standartları çerçevesinde değerlendirebilme.
5 Siber tehditlerin tespiti, anomali yakalama veya zararlı içeriklerin engellenmesine (ör. e-posta spam tespiti, ağ anomalisi) yönelik yapay zeka algoritmalarını kullanan uygulamalı bir savunma çözümü tasarlayabilme ve geliştirebilme.

Öğretim Sistemi

Birinci Öğretim

Dersin Ön Koşulu Olan Dersler

Yok

Ders İçin Önerilen Diğer Hususlar

Yok

Dersin İçeriği

Yapay zekaya giriş, Yapay zekanın tarihçesi, Yapay zeka sistemlerinin kullanım senaryoları ve güvenliği, Yapay zeka için matematik temelleri, Veri görselleştirme, Gözetimli ve gözetimsiz öğrenme, Problem tipleri, Performans ölçütleri, Lineer regresyon örneği, Yetersiz uydurma (Underfitting) ve aşırı uydurma (Overfitting), Yapay sinir ağlarına giriş, Katmanlar, Aktivasyon fonksiyonları, Eğitim ve test, Hiperparametrelerin ayarlanması, Evrişimsel yapay sinir ağları (CNN), Öneğitimli CNN modelleri, Öğrenme aktarımı, Zaman serileri, Tekrarlı yapay sinir ağları (RNN), LSTM modelleri, Doğal dil işleme uygulamaları, Kelimelerin vektörlerle temsili, Transformer modelleri, Büyük dil modelleri, Yapay zeka güvenliğine giriş, Büyük dil modelleri için OWASP listesi, Prompt injection saldırıları, Model theft saldırıları, Membership inference saldırıları, Evasion saldırıları, Güvenlik önlemleri, Yapay zeka sistemlerinin hacklenmesi, Saldırı taktikleri ve teknikleri, Sistem ve altyapı güvenliği, Yapay zeka sistemleri için güvenli tasarım ilkeleri, Veri gizliliği ve yapay zeka etiği, Siber güvenlikte yapay zeka uygulamaları

Haftalık Ayrıntılı Ders İçeriği

Hafta Konular (Teorik) Uygulama Öğretim Yöntem ve Teknikleri Ön Hazırlık
1 Ders işleme şekli ile ilgili bilgilendirme, Yapay zekaya giriş, Yapay zekanın tarihçesi Haftanın konusuyla ilgili sınıf çalışması yapılması Anlatım, Gösterme, Tartışma, Uygulama Taulli (2019) Böl. 1 s. 1-17
2 Yapay zeka sistemlerinin kullanım senaryoları ve güvenliği Haftanın konusuyla ilgili sınıf çalışması yapılması Anlatım, Gösterme, Tartışma, Uygulama Santos, Radanliev (2024) Böl. 1 s. 1-32
3 Yapay zeka için matematik temelleri, Veri görselleştirme Gösterilen matematik konularıyla ilgili örnek soruların çözümü Anlatım, Gösterme, Tartışma, Problem çözme
4 Gözetimli ve gözetimsiz öğrenme, Problem tipleri, Performans ölçütleri, Lineer regresyon örneği, Yetersiz uydurma (Underfitting) ve aşırı uydurma (Overfitting) Gerçek bir veri seti kullanarak yetersiz uydurma ve aşırı uydurma kavramlarının görselleştirilmesi Anlatım, Gösterme, Tartışma, Problem çözme Taulli (2019) Böl. 3 s. 39-67
5 Yapay sinir ağlarına giriş, Katmanlar, Aktivasyon fonksiyonları, Eğitim ve test, Hiperparametrelerin ayarlanması Hiperparametre ayarlamanın uygulamalı olarak gösterimi Anlatım, Gösterme, Tartışma, Problem çözme Taulli (2019) Böl. 4 s. 69-75
6 Evrişimsel yapay sinir ağları (CNN), Öneğitimli CNN modelleri, Öğrenme aktarımı CNN'ler ve gerçek bir veri setiyle bir görüntü sınıflandırma uygulaması yapılması Anlatım, Gösterme, Tartışma, Problem çözme, Quiz Taulli (2019) Böl. 4 s. 76-89
7 Zaman serileri, Tekrarlı yapay sinir ağları (RNN), LSTM modelleri, Doğal dil işleme uygulamaları RNN ve LSTM ile zaman serileri analizi uygulaması Anlatım, Gösterme, Tartışma, Problem çözme Taulli (2019) Böl. 4 s. 76-89
8 Arasınav İlk 7 haftanın konuları
9 Kelimelerin vektörlerle temsili, Transformer modelleri, Büyük dil modelleri Kodlayıcı-kod çözücü mimarisiyle bir makina çevirisi uygulaması yapılması Anlatım, Gösterme, Tartışma, Problem çözme
10 Yapay zeka güvenliğine giriş, Büyük dil modelleri için OWASP listesi, Prompt injection saldırıları, Model theft saldırıları Prompt injection saldırısıyla ilgili lab çözülmesi Anlatım, Gösterme, Tartışma, Uygulama Santos, Radanliev (2024) Böl. 4 s. 105-142
11 Membership inference saldırıları, Evasion saldırıları, Güvenlik önlemleri Membership inference saldırısıyla ilgili lab çözülmesi Anlatım, Gösterme, Tartışma, Uygulama Santos, Radanliev (2024) Böl. 4 s. 105-142
12 Yapay zeka sistemlerinin hacklenmesi, Saldırı taktikleri ve teknikleri Haftanın konusuyla ilgili sınıf çalışması yapılması Anlatım, Gösterme, Tartışma, Uygulama, Quiz Santos, Radanliev (2024) Böl. 5 s. 143-166
13 Sistem ve altyapı güvenliği, Yapay zeka sistemleri için güvenli tasarım ilkeleri Haftanın konusuyla ilgili sınıf çalışması yapılması Anlatım, Gösterme, Tartışma, Uygulama Santos, Radanliev (2024) Böl. 6 s. 167-198
14 Veri gizliliği ve yapay zeka etiği Haftanın konusuyla ilgili sınıf çalışması yapılması Anlatım, Gösterme, Tartışma, Uygulama Santos, Radanliev (2024) Böl. 7-8 s. 199-268
15 Siber güvenlikte yapay zeka uygulamaları Bir email spam filtresi uygulamasının geliştirilmesi Anlatım, Gösterme, Tartışma, Uygulama
16 Final sınavı Bütün dönemin knouları

Ders Kitabı / Malzemesi / Önerilen Kaynaklar

Omar Santos, Petar Radanliev, Beyond the Algorithm: AI, Security, Privacy, and Ethics, Addison Wesley (2024) Alessandro Parisi, (2019), Hands-On Artificial Intelligence for Cybersecurity: Implement smart AI systems for preventing cyber attacks and detecting threats and network anomalies, Packt Publishing.

Planlanan Öğrenme Aktiviteleri ve Metodları

Anlatım, Gösterme, Tartışma, Uygulama, Problem çözme, Quiz

Değerlendirme

Yarıyıl (Yıl) İçi Etkinlikleri Adet Değer
Ara Sınav 1 70
Quiz 2 30
Toplam 100
Yarıyıl (Yıl) Sonu Etkinlikleri Adet Değer
Final Sınavı 1 100
Toplam 100
Yarıyıl (Yıl) İçi Etkinlikleri 40
Yarıyıl (Yıl) Sonu Etkinlikleri 60

Staj Durumu

Yok

İş Yükü Hesaplaması

Etkinlikler Sayısı Süresi (saat) Toplam İş Yükü (saat)
Ara Sınav 1 2 2
Final Sınavı 1 2 2
Quiz 2 1 2
Derse Katılım 14 3 42
Uygulama/Pratik 14 2 28
Bireysel Çalışma 14 3 42
Ara Sınav İçin Bireysel Çalışma 1 8 8
Final Sınavı içiin Bireysel Çalışma 1 15 15
Toplam İş Yükü (saat) 141

Program ve Öğrenme Çıktıları İlişkisi

PÇ 1 PÇ 2 PÇ 3 PÇ 4 PÇ 5 PÇ 6 PÇ 7 PÇ 8 PÇ 9 PÇ 10 PÇ 11 PÇ 12 PÇ 13 PÇ 14 PÇ 15
ÖÇ 1 4 2 1 2 2 1 1 1 3 2 1 3 1 1 1
ÖÇ 2 3 2 3 4 2 2 2 2 3 2 2 2 1 1 1
ÖÇ 3 2 5 3 4 3 3 2 3 4 2 1 3 2 3 2
ÖÇ 4 1 3 4 2 4 2 2 2 3 2 1 2 2 5 4
ÖÇ 5 3 4 4 5 3 4 3 2 3 2 2 2 1 2 1
* Katkı Düzeyi : 1 Çok düşük 2 Düşük 3 Orta 4 Yüksek 5 Çok yüksek