Açıklanabilir Yapay Zeka(INF 539)
| Ders Kodu | Dersin Adı | Yarıyıl | Teori | Uygulama | Lab | Kredisi | AKTS |
|---|---|---|---|---|---|---|---|
| INF 539 | Açıklanabilir Yapay Zeka | 2 | 3 | 0 | 0 | 3 | 6 |
| Ön Koşul | |
| Derse Kabul Koşulları |
| Dersin Dili | İngilizce |
| Türü | Seçmeli |
| Dersin Düzeyi | Yüksek Lisans |
| Dersi Veren(ler) | Pınar ULUER puluer@gsu.edu.tr (Email) |
| Dersin Yardımcıları | |
| Dersin Amacı | Bu ders, yapay öğrenme sistemlerinin kararlarını açıklama ve yorumlama üzerine odaklanmaktadır. Dersin temel amacı, öğrencileri açıklanabilir yapay zeka (XAI) yöntemleriyle tanıştırmak ve bu yöntemlerin çeşitli alanlarda nasıl kullanıldığını pratik uygulamalar aracılığıyla göstermektir. |
| İçerik | Bu ders, yapay zeka tabanlı sistemlerin kararlarını, tahminlerini veya çıkarımlarını anlamlandırmak ve bu çıktıların mevcut algoritmalar tarafından neden ve nasıl hesaplandığını takip edebilmek için kullanılan yöntemleri açıklamayı hedefler. Ders kapsamında, sağlıktan finansa farklı alanlarda kullanılan ve “kara kutu” olarak tabir edilen yapay öğrenme modellerinin kararlarının yorumlanması ve bu modellerin güvenilir, şeffaf ve etik normlara uyan yapay zeka sistemleri geliştirmenin kritik yönlerine ilişkin genel bir bakış açısı sunulur. Öğrenciler, derste anlatılan yöntemleri Python programlama dili kullanarak uygulayacak ve elde edilen sonuçlar üzerinde tartışmalar yürütecektir. |
| Dersin Öğrenme Çıktıları |
Bu dersi başarıyla tamamlayan öğrenciler: 1- Açıklanabilirlik ve yorumlanabilirlik arasındaki farkı açıklayabilir ve XAI konusundaki temel kavramlar üzerine bilgi sahibi olurlar. 2- Hangi XAI yöntemini ne zaman nasıl kullanmaları gerektiğini, bu yöntemlerin teorik temellerini, tercih edilen algoritmaları ve güçlü-zayıf yönlerini eleştirel bir şekilde değerlendirebilirler. 3- XAI konusunda yeni yöntemleri uygulamaya veya tasarlamaya hazır olurlar, bu konuda araştırma yürütebilirler. 4- Bu yöntemleri kullanarak güvenilir, şeffaf ve etik yapay zeka sistemleri tasarlayabilir, kullanılan verilere bağlı olarak veya seçilen problem tanımına dayanarak bunları eleştirel bir şekilde değerlendirebilirler. |
| Öğretim Yöntemleri | Teorik ve pratik, sınıf ortamında ders anlatımı, karşılıklı soru - cevap, tartışma |
| Kaynaklar |
- Mehta, M., Palade, V., & Chatterjee, I. (Eds.). (2023). Explainable AI: Foundations, methodologies and applications (Vol. 232, p. 273). Springer. - Samek, W., Montavon, G., Vedaldi, A., Hansen, L. K., & Müller, K. R. (Eds.). (2019). Explainable AI: interpreting, explaining and visualizing deep learning (Vol. 11700). Springer Nature. - Molnar, C. (2020). Interpretable machine learning. - Hsieh, W., Bi, Z., Jiang, C., Liu, J., Peng, B., Zhang, S., ... & Liu, M. (2024). A comprehensive guide to explainable AI: from classical models to LLMs. arXiv preprint arXiv:2412.00800. |
Teori Konu Başlıkları
| Hafta | Konu Başlıkları |
|---|---|
| 1 | Temel Kavramlar: Açıklanabilirlik, Şeffaflık, Yorumlanabilirlik ve Adalet, Açıklanabilir Yapay Zeka |
| 2 | Açıklanabilir Yapay Zekanın Teorik Temelleri |
| 3 | Geleneksel Makine Öğrenmesi Modellerinin Yorumlanması |
| 4 | Derin Öğrenme Modellerinin Yorumlanması |
| 5 | Açıklanabilir Yapay Zeka Teknikleri |
| 6 | Öznitelik Atama Yöntemleri |
| 7 | Görselleştirme Yöntemleri |
| 8 | Ara Sınav |
| 9 | Zaman ve Sıralı Veriler için Yöntemler |
| 10 | Multimodal Açıklanabilirlik |
| 11 | Açıklanabilir Yapay Zeka Uygulamalarına Örnekler I |
| 12 | Açıklanabilir Yapay Zeka Uygulamalarına Örnekler II |
| 13 | Karşılaşılan Zorluklar |
| 14 | Öğrenci Projeleri |
Uygulama Konu Başlıkları
| Hafta | Konu Başlıkları |
|---|
Başarı Notuna Etki Oranları
| Sayı | Katkı Payı | |
|---|---|---|
| Yarıyıl içi çalışmaların başarı notuna katkısı | 3 | 60 |
| Yarıyıl sonu çalışmaların başarı notuna katkısı | 1 | 40 |
| Toplam | 4 | 100 |
Yarıyıl İçi Çalışmaları
| Sayı | Katkı Payı | |
|---|---|---|
| Ödevler | 0 | 0 |
| Sunum | 1 | 20 |
| Arasınavlar (Hazırlık Süresi Dahil) | 1 | 20 |
| Proje | 1 | 20 |
| Laboratuar | 0 | 0 |
| Diğer Uygulamalar | 0 | 0 |
| Kısa Sınavlar | 0 | 0 |
| Dönem Ödevi / Projesi | 0 | 0 |
| Portfolyo Çalışmaları | 0 | 0 |
| Raporlar | 0 | 0 |
| Öğrenme Günlükleri | 0 | 0 |
| Bitirme Tezi/Projesi | 0 | 0 |
| Seminer | 0 | 0 |
| Diğer | 0 | 0 |
| Bütünleme | 0 | 0 |
| Toplam | 3 | 60 |
| Numara | Program Yeterlilikleri | Puan | ||||
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 1 | Bilgisayar mühendisliği alanında bilimsel araştırma yaparak bilgiye genişlemesine ve derinlemesine ulaşır, bilgiyi değerlendirir, yorumlar ve uygular. | X | ||||
| 2 | Bilgisayar mühendisliğinde uygulanan güncel teknik ve yöntemler ile bunların kısıtları hakkında kapsamlı bilgi sahibidir. | X | ||||
| 3 | Bilgisayar mühendisliği ile ilgili alanlarda belirsiz, sınırlı ya da eksik verileri kullanarak, bilimsel yöntemlerle bilgiyi tamamlar ve uygular; değişik disiplinlere ait bilgileri bir arada kullanabilir. | X | ||||
| 4 | Bilgisayar mühendisliği mesleğinin yeni ve gelişmekte olan uygulamalarının farkında olup, gerektiğinde bunları inceler ve öğrenir. | X | ||||
| 5 | Bilgisayar mühendisliği problemlerini kurgular, çözmek için yöntem geliştirir ve çözümlerde yenilikçi yöntemler uygular. | X | ||||
| 6 | Yeni ve/veya özgün fikir ve yöntemler geliştirir; karmaşık donanım ve yazılım tabanlı sistemleri veya süreçleri tasarlar ve tasarımlannda yenilikçi/alternatif çözümler geliştirir. | X | ||||
| 7 | Kuramsal, deneysel ve modelleme esaslı araştırmaları tasarlar ve uygular; bu süreçte karşılaşılan karmaşık problemleri irdeler ve çözümler | X | ||||
| 8 | Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilir, bu tür takımlarda liderlik yapabilir ve karmaşık durumlarda proje ve risk yönetimi tekniklerini de kullanarak çözüm yaklaşımları geliştirebilir; bağımsız çalışabilir ve sorumluluk alır. | X | ||||
| 9 | Bir yabancı dili en az Avrupa Dil Portfoyü B2 Genel Düzeyinde kullanarak, sözlü ve yazılı iletişim kurar. | X | ||||
| 10 | Çalışmalarının süreç ve sonuçlarını, bilgisayar mühendisliği alanındaki veya ilgili alanlardaki ulusal ve uluslararası ortamlarda sistematik ve açık bir sekilde yazılı ya da sözlü olarak aktarır. | |||||
| 11 | Girişimcilik ve yenilikçilik boyutlarını dikkate alarak bilgisayar mühendisliği uygulamalarını gerçekleştirebilir. | |||||
| 12 | Verilerin toplanması, yorumlanması, duyurulması aşamalarında ve mesleki tüm etkinliklerde toplumsal, bilimsel ve etik değerleri gözetir. | X | ||||
| 13 | Bilgisayar mühendisliği uygulamalarının sosyal ve çevresel boyutlarını betimler. | X | ||||
| Etkinlikler | Sayı | Süre | Toplam İş Yükü |
|---|---|---|---|
| Toplam İş Yükü | 0 | ||
| Toplam İş Yükü / 25 | 0.00 | ||
| Dersin AKTS Kredisi | 0 | ||