Introduction à l’Intelligence Artificielle Générative
Contenus
Objectif du Cours
L'objectif de ce cours est de permettre aux étudiants de comprendre les principes mathématiques, algorithmiques et d'ingénierie fondamentaux qui sous-tendent les systèmes d'intelligence artificielle générative ; d'enseigner le fonctionnement, l'entraînement, l'évaluation et les modalités d'utilisation dans le monde réel des grands modèles de langage (LLM), des modèles de génération d'images et de texte, ainsi que des architectures génératives modernes.
Contenu du Cours
(Ci-dessous) Cela peut être consulté dans la section des intitulés de sujets.
Acquis d'Apprentissage du Cours
À l'issue de ce cours, les étudiants seront capables de :
1. Expliquer les fondements mathématiques des systèmes d'intelligence artificielle générative,
2. Décrire les architectures des grands modèles de langage (LLM) et des architectures de retrieval/agent,
3. Entraîner et optimiser des systèmes modernes d'IA générative à l'aide de techniques appropriées,
4. Évaluer les performances et la qualité des systèmes d'IA générative à l'aide de métriques et de méthodologies pertinentes.
Méthodes d'Enseignement
Les cours se dérouleront en présentiel. Dans le cadre du cours, les étudiants réaliseront un projet et en feront la présentation.
Ressources
Build a Large Language Model (From Scratch), Sebastian Raschka, September 2024
Intitulés des Sujets
| Semaine | Intitulés des Sujets |
|---|---|
| 1 | Qu'est-ce que l'IA Générative ? |
| 2 | Modélisation du Langage Probabiliste |
| 3 | Apprentissage Profond I |
| 4 | Apprentissage Profond II |
| 5 | Mécanisme d'Attention et Fondements du Transformer |
| 6 | Décodeur Transformer et Architecture LLM |
| 7 | Entraînement des LLM I |
| 8 | Examen Partiel |
| 9 | Entraînement des LLM II |
| 10 | Modèles Instruct et RLHF |
| 11 | Ingénierie du Prompt |
| 12 | Génération Augmentée par Récupération (RAG) |
| 13 | Appel d'Outils et Systèmes Agentiques |
| 14 | Présentations de Projets de Bout en Bout |
Système d'évalution
| Activités | Numéro | Contribution |
|---|---|---|
| Contribution du contrôle continu à la note finale | 0 | 0 |
| Contribution de l'examen final à la note finale | 0 | 0 |
| Total | 0 | 0 |
| Activités | Numéro | Contribution |
|---|---|---|
| Devoir | 0 | 0 |
| Présentation | 0 | 0 |
| Examen partiel (temps de préparation inclu) | 1 | 30 |
| Projet | 1 | 30 |
| Travail de laboratoire | 0 | 0 |
| Autres travaux pratiques | 0 | 0 |
| Quiz | 0 | 0 |
| Devoir/projet de session | 0 | 0 |
| Portefeuille | 0 | 0 |
| Rapport | 0 | 0 |
| Journal d'apprentissage | 0 | 0 |
| Mémoire/projet de fin d'études | 0 | 0 |
| Séminaire | 0 | 0 |
| Autre | 0 | 0 |
| Make-up | 0 | 0 |
| Total | 2 | 60 |
Evalution de la Compétence
| No | Objectifs Pédagogiques du Programme | Contribiton | ||||
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 1 | Matematik, fizik ve mühendislik bilimlerine özgü konularda yeterli bilgi birikimi; bu alanlardaki kuramsal ve uygulamalı bilgileri, mühendislik problemlerinin modellenmesi ve çözümünde kullanabilme becerisi. | X | ||||
| 2 | Karmaşık bilgisayar mühendisliği problemlerini saptama, tanımlama, formüle etme ve çözme becerisi; bu amaçla uygun analiz ve modelleme yöntemlerini seçme ve uygulama becerisi. | X | ||||
| 3 | Yazılımsal veya donanımsal karmaşık bir sistemi, süreci veya donanımı gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlama becerisi; bu amaçla modern tasarım yöntemlerini uygulama becerisi. | X | ||||
| 4 | Mühendislik uygulamalarında karşılaşılan karmaşık problemlerin analizi ve çözümü için gerekli olan modern teknik ve araçları geliştirme, seçme ve kullanma becerisi; bilişim teknolojilerini etkin bir şekilde kullanma becerisi. | X | ||||
| 5 | Analitik düşünce ile bir sistemi, sistem bileşenini ya da süreci analiz etme, modelleme, deney tasarlama ve yapma, veri toplama, çözüm algoritmaları üretebilme, uygulamaya alma ve geliştirme becerileri. | X | ||||
| 6 | Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilme becerisi; bireysel çalışma becerisi. | X | ||||
| 7 | Türkçe sözlü ve yazılı etkin iletişim kurma becerisi; en az iki yabancı dil bilgisi; etkin rapor yazma ve yazılı raporları anlama, yazılım ve donanım tasarımını, gerekirse teknik resim metotları kullanarak raporlayabilme, etkin sunum yapabilme becerisi. | X | ||||
| 8 | Bilgiye erişebilme ve bu amaçla kaynak araştırması yapabilme, veri tabanları ve diğer bilgi kaynaklarını kullanabilme becerisi | X | ||||
| 9 | Yaşam boyu öğrenmenin gerekliliği bilinci; kendini sürekli yenileme becerisi. | X | ||||
| 10 | Mesleki etik ilkelerine uygun davranma, mesleki sorumluluk bilinci; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi. | X | ||||
| 11 | Proje yönetimi, risk yönetimi ve değişiklik yönetimi gibi, iş hayatındaki uygulamalar hakkında bilgi; girişimcilik, yenilikçilik hakkında farkındalık; sürdürülebilir kalkınma hakkında bilgi. | X | ||||
| 12 | Mühendislik uygulamalarının evrensel ve toplumsal boyutlarda sağlık, çevre ve güvenlik üzerindeki etkileri ve çağın mühendislik alanına yansıyan sorunları hakkında bilgi. | X | ||||
| 13 | Bilgisayar mühendisliği uygulamalarının hukuki ve etik boyutları konusunda farkındalık. | X | ||||
Tableau de la Charge de Travail
| Activités | Nombre | Durée | Charge totale de Travail |
|---|---|---|---|
| Durée du cours | 14 | 3 | 42 |
| Préparation pour le cours | 13 | 1 | 13 |
| Devoir | 0 | 0 | 0 |
| Présentation | 1 | 10 | 10 |
| Examen partiel (temps de préparation inclu) | 1 | 10 | 10 |
| Projet | 1 | 30 | 30 |
| Laboratoire | 0 | 0 | 0 |
| Autres travaux pratiques | 0 | 0 | 0 |
| Examen final (temps de préparation inclu) | 1 | 20 | 20 |
| Quiz | 0 | 0 | 0 |
| Devoir/projet de session | 0 | 0 | 0 |
| Portefeuille | 0 | 0 | 0 |
| Rapport | 0 | 0 | 0 |
| Journal d'apprentissage | 0 | 0 | 0 |
| Mémoire/projet de fin d'études | 0 | 0 | 0 |
| Séminaire | 0 | 0 | 0 |
| Autre | 0 | 0 | 0 |
| baclé | 0 | 0 | 0 |
| Yil | 0 | 0 | 0 |
| Yil | 0 | 0 | 0 |
| Yil | 0 | 0 | 0 |
| Charge totale de Travail | 125 | ||
| Charge totale de Travail / 25 | 5.00 | ||
| Crédits ECTS | 5 | ||