Açıklanabilir Yapay Zeka(ISI 525)
| Ders Kodu | Dersin Adı | Yarıyıl | Teori | Uygulama | Lab | Kredisi | AKTS |
|---|---|---|---|---|---|---|---|
| ISI 525 | Açıklanabilir Yapay Zeka | 2 | 3 | 0 | 0 | 3 | 6 |
| Ön Koşul | |
| Derse Kabul Koşulları |
| Dersin Dili | İngilizce |
| Türü | Seçmeli |
| Dersin Düzeyi | Yüksek Lisans |
| Dersi Veren(ler) | Pınar ULUER puluer@gsu.edu.tr (Email) |
| Dersin Yardımcıları | |
| Dersin Amacı | Bu ders, yapay öğrenme sistemlerinin kararlarını açıklama ve yorumlama üzerine odaklanmaktadır. Dersin temel amacı, öğrencileri açıklanabilir yapay zeka (XAI) yöntemleriyle tanıştırmak ve bu yöntemlerin çeşitli alanlarda nasıl kullanıldığını pratik uygulamalar aracılığıyla göstermektir. |
| İçerik | Bu ders, yapay zeka tabanlı sistemlerin kararlarını, tahminlerini veya çıkarımlarını anlamlandırmak ve bu çıktıların mevcut algoritmalar tarafından neden ve nasıl hesaplandığını takip edebilmek için kullanılan yöntemleri açıklamayı hedefler. Ders kapsamında, sağlıktan finansa farklı alanlarda kullanılan ve “kara kutu” olarak tabir edilen yapay öğrenme modellerinin kararlarının yorumlanması ve bu modellerin güvenilir, şeffaf ve etik normlara uyan yapay zeka sistemleri geliştirmenin kritik yönlerine ilişkin genel bir bakış açısı sunulur. Öğrenciler, derste anlatılan yöntemleri Python programlama dili kullanarak uygulayacak ve elde edilen sonuçlar üzerinde tartışmalar yürütecektir. |
| Dersin Öğrenme Çıktıları |
Bu dersi başarıyla tamamlayan öğrenciler: 1- Açıklanabilirlik ve yorumlanabilirlik arasındaki farkı açıklayabilir ve XAI konusundaki temel kavramlar üzerine bilgi sahibi olurlar. 2- Hangi XAI yöntemini ne zaman nasıl kullanmaları gerektiğini, bu yöntemlerin teorik temellerini, tercih edilen algoritmaları ve güçlü-zayıf yönlerini eleştirel bir şekilde değerlendirebilirler. 3- XAI konusunda yeni yöntemleri uygulamaya veya tasarlamaya hazır olurlar, bu konuda araştırma yürütebilirler. 4- Bu yöntemleri kullanarak güvenilir, şeffaf ve etik yapay zeka sistemleri tasarlayabilir, kullanılan verilere bağlı olarak veya seçilen problem tanımına dayanarak bunları eleştirel bir şekilde değerlendirebilirler. |
| Öğretim Yöntemleri | Teorik ve pratik çalışma, sınıf ortamında ders anlatımı, karşılıklı soru - cevap, tartışma |
| Kaynaklar |
- Mehta, M., Palade, V., & Chatterjee, I. (Eds.). (2023). Explainable AI: Foundations, methodologies and applications (Vol. 232, p. 273). Springer. - Samek, W., Montavon, G., Vedaldi, A., Hansen, L. K., & Müller, K. R. (Eds.). (2019). Explainable AI: interpreting, explaining and visualizing deep learning (Vol. 11700). Springer Nature. - Molnar, C. (2020). Interpretable machine learning. - Hsieh, W., Bi, Z., Jiang, C., Liu, J., Peng, B., Zhang, S., ... & Liu, M. (2024). A comprehensive guide to explainable AI: from classical models to LLMs. arXiv preprint arXiv:2412.00800. |
Teori Konu Başlıkları
| Hafta | Konu Başlıkları |
|---|---|
| 1 | Temel Kavramlar: Açıklanabilirlik, Şeffaflık, Yorumlanabilirlik ve Adalet, Açıklanabilir Yapay Zeka |
| 2 | Açıklanabilir Yapay Zekanın Teorik Temelleri |
| 3 | Geleneksel Makine Öğrenmesi Modellerinin Yorumlanması |
| 4 | Derin Öğrenme Modellerinin Yorumlanması |
| 5 | Açıklanabilir Yapay Zeka Teknikleri |
| 6 | Öznitelik Atama Yöntemleri |
| 7 | Görselleştirme Yöntemleri |
| 8 | Ara Sınav |
| 9 | Zaman ve Sıralı Veriler için Yöntemler |
| 10 | Multimodal Açıklanabilirlik |
| 11 | Açıklanabilir Yapay Zeka Uygulamalarına Örnekler I |
| 12 | Açıklanabilir Yapay Zeka Uygulamalarına Örnekler II |
| 13 | Karşılaşılan Zorluklar |
| 14 | Öğrenci Projeleri |
Uygulama Konu Başlıkları
| Hafta | Konu Başlıkları |
|---|
Başarı Notuna Etki Oranları
| Sayı | Katkı Payı | |
|---|---|---|
| Yarıyıl içi çalışmaların başarı notuna katkısı | 3 | 60 |
| Yarıyıl sonu çalışmaların başarı notuna katkısı | 1 | 40 |
| Toplam | 4 | 100 |
Yarıyıl İçi Çalışmaları
| Sayı | Katkı Payı | |
|---|---|---|
| Ödevler | 0 | 0 |
| Sunum | 1 | 20 |
| Arasınavlar (Hazırlık Süresi Dahil) | 1 | 20 |
| Proje | 1 | 20 |
| Laboratuar | 0 | 0 |
| Diğer Uygulamalar | 0 | 0 |
| Kısa Sınavlar | 0 | 0 |
| Dönem Ödevi / Projesi | 0 | 0 |
| Portfolyo Çalışmaları | 0 | 0 |
| Raporlar | 0 | 0 |
| Öğrenme Günlükleri | 0 | 0 |
| Bitirme Tezi/Projesi | 0 | 0 |
| Seminer | 0 | 0 |
| Diğer | 0 | 0 |
| Bütünleme | 0 | 0 |
| Toplam | 3 | 60 |
| Numara | Program Yeterlilikleri | Puan | ||||
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 1 | Var olan bilimsel veriler arasından, akıllı sistemler mühendislik alanında uzmanlık seviyesinde araştırma yaparak bilgiye genişlemesine ve derinlemesine ulaşır, bilgiyi değerlendirir, yorumlar ve uygular. | X | ||||
| 2 | Akıllı sistemler mühendisliği alanında uygulanan güncel teknik ve yöntemler ile bunların kısıtları hakkında kapsamlı bilgi sahibidir. | X | ||||
| 3 | Akıllı sistemler mühendisliği ile ilgili alanlarda belirsiz, sınırlı ya da eksik verileri kullanarak, bilimsel yöntemlerle bilgiyi tamamlar ve uygular; değişik disiplinlere ait bilgileri bir arada kullanabilir. | X | ||||
| 4 | Akıllı sistemler mühendisliği mesleğinin yeni ve gelişmekte olan uygulamalarının farkında olup, gerektiğinde bunları inceler ve öğrenir. | X | ||||
| 5 | Akıllı sistemler mühendisliği problemlerini kurgular, çözmek için yöntem geliştirir ve çözümlerde yenilikçi yöntemler uygular. | X | ||||
| 6 | Yeni ve/veya özgün fikir ve yöntemler geliştirir; karmaşık akıllı sistem veya süreçleri tasarlar ve tasarımlarında yenilikçi/alternatif çözümler geliştirir. | X | ||||
| 7 | Kuramsal, deneysel ve modelleme esaslı araştırmaları tasarlar ve uygular; bu süreçte karşılaşılan karmaşık problemleri irdeler ve çözümler. | X | ||||
| 8 | Çok disiplinli takımlarda etkin biçimde çalışabilir, bu tür takımlarda liderlik yapabilir ve karmaşık durumlarda proje ve risk yönetimi tekniklerini de kullanarak çözüm yaklaşımları geliştirebilir; bağımsız çalışabilir ve sorumluluk alır. | X | ||||
| 9 | Bir yabancı dili en az Avrupa Dil Portföyü B2 Genel Düzeyinde kullanarak, sözlü ve yazılı iletişim kurar. | X | ||||
| 10 | Çalışmalarının süreç ve sonuçlarını, akıllı sistemler mühendisliği alanındaki veya ilgili alanlardaki ulusal ve uluslararası ortamlarda sistematik ve açık bir şekilde yazılı ya da sözlü olarak aktarır. | |||||
| 11 | Girişimcilik ve yenilikçilik boyutlarını dikkate alarak akıllı sistemler mühendisliği uygulamalarını gerçekleştirebilir. | |||||
| 12 | Verilerin toplanması, yorumlanması, duyurulması aşamalarında ve mesleki tüm etkinliklerde toplumsal, bilimsel ve etik değerleri gözetir. | X | ||||
| Etkinlikler | Sayı | Süre | Toplam İş Yükü |
|---|---|---|---|
| Ders Süresi | 14 | 3 | 42 |
| Sınıf Dışı Çalışma Süresi | 1 | 10 | 10 |
| Ödevler | 0 | 0 | 0 |
| Sunum | 1 | 5 | 5 |
| Arasınavlar (Hazırlık Süresi Dahil) | 1 | 30 | 30 |
| Proje | 1 | 30 | 30 |
| Laboratuar | 0 | 0 | 0 |
| Diğer Uygulamalar | 0 | 0 | 0 |
| Yarıyıl Sonu Sınavı (Hazırlık Süresi Dahil) | 1 | 30 | 30 |
| Kısa Sınavlar | 0 | 0 | 0 |
| Dönem Ödevi / Projesi | 0 | 0 | 0 |
| Portfolyo Çalışmaları | 0 | 0 | 0 |
| Raporlar | 0 | 0 | 0 |
| Öğrenme Günlükleri | 0 | 0 | 0 |
| Bitirme Tezi/Projesi | 0 | 0 | 0 |
| Seminer | 0 | 0 | 0 |
| Diğer | 0 | 0 | 0 |
| Bütünleme | 0 | 0 | 0 |
| Ts Yıl Sonu | 0 | 0 | 0 |
| Hazırlık Yıl Sonu | 0 | 0 | 0 |
| Hazırlık Bütünleme | 0 | 0 | 0 |
| Toplam İş Yükü | 147 | ||
| Toplam İş Yükü / 25 | 5.88 | ||
| Dersin AKTS Kredisi | 6 | ||