Optimizasyon

İçerik

Dersin Amacı

Bu dersteki amacımız öncelikle kısıtlar altında, veya kısıt verilmemiş (kısıtsız) optimizasyon problemlerinin matematik inşası ve çözüm yöntemlerini öğrenmektir. İkinci olarak, Veri Biliminde karşılaşılan optimizasyon problemlerini uygulama olarak ele almaktır.

Dersin İçeriği

Matematiksel Tanım ve Kavramlarla Giriş
Dışbükeylik (convexity)
Türev
Taylor polinomları

Kısıtsız Optimizasyon
Lokal vs global problem
Birincil ve ikincil koşullar
Algoritmalar, iki temel strateji: Doğru arama (line search)ve güven bölgesi (trust region)
Küçük kareler Problemleri-Regresyon Uygulama

Kısıtlar Altında Optimizasyon
Olurlu bölge
Eşitlikli kısıt-Eşitliksizli kısıt ve Lagrange metodu
Geometrik Bakış

Doğrusal programlama-Kuadratik Programlama
Simpleks metodu, dual problem
İç noktalar metodu

Uygulama: Yapay Öğrenme Problemleri
Kümeleme-İkili sınıflandırma-Ses işleme-Tavsiye Sistemleri-Lojistik bağlanım-Derin öğrenme-Yapay sinir ağları..vb.

Dersin Öğrenme Çıktıları

Veri Bilimi problemlerini anlamak ve geliştirmek için Matematik, İstatistik, Programlama gibi alanların bilgi ve metodolojilerini özümsemek ve öğrenmek gerekir. Optimizasyon kendi başına çok geniş, çok eski bir çalışma alanıdır hem matematik hem de mühendislikte. Optimizasyon problemlerinin önemli bir kısmı Veri Bilimi problemlerini anlamak için şu iki şekilde kullanılmaktadır.
1) Optimizasyon metotlarını Veri Bilimi problemlerine uygulamak:
Veri Bilimi problemlerinin içinde (bir yerde mutlaka en kısa yol, en az maliyetli iş, tahminler vs) gerektiğinde optimizasyon metotlarına başvururuz. Örnek: Yapay Sinir ağlarını eğitirken.

2) Veriyi optimizasyon problemlerinin girdisi olarak kullanmak:
Modeli veriye adapte etmeye uydurmaya çalışırız ki model simülasyonları gerçek sonucu verebilsin. Örnek: Regresyon

Bu dersi başaran öğrenci
1) Optimizasyonun temellerini hatırlamış olur.
2)Optimizasyon problemlerini sınıflandırmayı öğrenmiş olur, mesela doğrusal/doğrusal olmayan; kesikli/sürekli, konveks/konveks olmayan, kısıtsız/kısıtlar altında.. vb. İçerikteki yöntemleri öğrenmiş olur.
3) Hangi yöntemin hangi Veri Bilimi problemi için uygun şekilde işlediğini öğrenmiş olur.

Öğretim Yöntemleri

Ders, problem ve programlama

Kaynaklar

Numerical Optimization, J. Nocedal& S. J. Wright, Springer, 1999. ve 2. basım: 2006.
Introduction to Global Optimization, R. Horst , P. M.Pardolas&N. V. Thoai, Kluwer Academic Publishers, 1995.

The Princeton Companion to Applied Mathematics, Edited by Nicholas J. Higham, Princeton University Press, 2015

https://nhigham.com/2016/03/29/the-top-10-algorithms-in-applied-mathematics/

Linear Programming and Network Flows, Mokhtar S. Bazaraa, John J. Jarvis, Hanif D. Sherali. John Wiley, 2004. Third edition

A gentle introduction to optimization / B. Guenin , J. Könemann , L. Tunçel Cambridge
University Press

http://www.veridefteri.com/: en güncel kaynaklar, ders notları, haber, bilimsel programlama

Konu Başlıkları

Değerlendirme Sistemi

AKTS - İş Yükü Tablosu