| Ders Adı | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| Büyük Dil Modellerine Giriş | SWE 422 | 8 | 3 + 0 | 3 | 5 |
| Ön Koşul Dersleri | |
| Önerilen Seçmeli Dersler | SWE 420 - Natural Language Processing SWE 405 - Deep Learning and Applications |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | Lisans |
| Dersin Türü | Seçmeli |
| Dersin Koordinatörü | Dr.Öğr.Üyesi BEYZA EKEN |
| Dersi Verenler | Dr.Öğr.Üyesi BEYZA EKEN, |
| Dersin Yardımcıları | |
| Dersin Kategorisi | Diğer |
| Dersin Amacı | Gaining an understanding of the architecture of Large Language Models (LLM). Being familiar with practical LLM tasks such as fine-tuning and prompt engineering. |
| Dersin İçeriği |
| Kalkınma Amaçları |
|---|
|
| # | Ders Öğrenme Çıktıları | Öğretim Yöntemleri | Ölçme Yöntemleri |
|---|---|---|---|
| 1 | Büyük Dil Modellerinin (LLM) temel mimarisini ve çalışma prensiplerini açıklar. | ||
| 2 | LLM uyarlama ve kullanım stratejilerini analiz eder. | ||
| 3 | Basit bir LLM tabanlı uygulama geliştirir. | ||
| 4 | LLM çıktılarının doğruluğunu ve sınırlılıklarını değerlendirir. |
| Hafta | Ders Konuları | Ön Hazırlık |
|---|---|---|
| 1 | Büyük dil modellerinin yapıtaşları | |
| 2 | Transformer mimarisi | |
| 3 | Transformer ile eğitim, tokenizasyon, ince ayar (fine-tuning) | |
| 4 | Maskeli dil modelleri | |
| 5 | Metin üretme | |
| 6 | İstem mühendisliği | |
| 7 | Retrieval-Augmented Generation (RAG) | |
| 8 | Vize | |
| 9 | Büyük dil modellerinin değerlendirilmesi | |
| 10 | Büyük dil modellerinde halüsinasyon, anımsama | |
| 11 | Büyük dil modellerinde açıklanabilirlik ve yorumlanabilirlik | |
| 12 | Büyük dil modelleri ajanları, uygulamalarının operasyonları (LLMOps) | |
| 13 | Öğrenci sunumları ve tartışma | |
| 14 | Öğrenci sunumları ve tartışma |
| Kaynaklar | |
|---|---|
| Ders Notu | |
| Ders Kaynakları | Speech and Language Processing, Jurafsky & Martin, 2024. 3rd Edition Draft. Hands-On Large Language Models, Language Understanding and Generation. Alammar & Grootendorst, 2024. O'Reilly Media, Inc. Natural Language Processing with Transformers, Building Language Applications with Hugging Face. Tunstall et al., 2022. O'Reilly Media, Inc. Generative AI on AWS: Building context-aware multimodal reasoning applications. Fregly et al., 2023. O'Reilly Media, Inc. |
| Sıra | Program Çıktıları | Katkı Düzeyi | |||||
|---|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | Matematik, fen bilimleri ve ilgili mühendislik disiplinine özgü konularda yeterli bilgi birikimi; bu alanlardaki kuramsal ve uygulamalı bilgileri, karmaşık mühendislik problemlerinde kullanabilme becerisi. | X | |||||
| 2 | Karmaşık mühendislik problemlerini saptama, tanımlama, formüle etme ve çözme becerisi; bu amaçla uygun analiz ve modelleme yöntemlerini seçme ve uygulama becerisi. | X | |||||
| 3 | Mühendislik uygulamalarında karşılaşılan karmaşık problemlerin analizi ve çözümü için gerekli olan modern teknik ve araçları geliştirme, seçme ve kullanma becerisi; bilişim teknolojilerini etkin bir şekilde kullanma becerisi. | X | |||||
| 4 | Karmaşık bir sistemi, süreci, cihazı veya ürünü gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlama becerisi; bu amaçla modern tasarım yöntemlerini uygulama becerisi. | X | |||||
| 5 | Karmaşık mühendislik problemlerinin veya disipline özgü araştırma konularının incelenmesi için deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama becerisi. | X | |||||
| 6 | Bilişim Teknolojilerinin yönetim, denetim, gelişim ve güvenliği/güvenilirliği hakkında bilgi sahibi olma ve farkındalık. | X | |||||
| 7 | Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilme becerisi; bireysel çalışma becerisi. | X | |||||
| 8 | Türkçe sözlü ve yazılı etkin iletişim kurma becerisi; en az bir yabancı dil bilgisi; etkin rapor yazma ve yazılı raporları anlama, tasarım ve üretim raporları hazırlayabilme, etkin sunum yapabilme, açık ve anlaşılır talimat verme ve alma becerisi. | X | |||||
| 9 | Yaşam boyu öğrenmenin gerekliliği bilinci; bilgiye erişebilme, bilim ve teknolojideki gelişmeleri izleme ve kendini sürekli yenileme becerisi. | X | |||||
| 10 | Etik ilkelerine uygun davranma, mesleki ve etik sorumluluk bilinci; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi. | X | |||||
| 11 | Proje yönetimi, risk yönetimi ve değişiklik yönetimi gibi, iş hayatındaki uygulamalar hakkında bilgi; girişimcilik, yenilikçilik hakkında farkındalık; sürdürülebilir kalkınma hakkında bilgi. | ||||||
| 12 | Mühendislik uygulamalarının evrensel ve toplumsal boyutlarda sağlık, çevre ve güvenlik üzerindeki etkileri ve çağın mühendislik alanına yansıyan sorunları hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık. | X | |||||
| # | Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı | PÇ 1 | PÇ 2 | PÇ 3 | PÇ 4 | PÇ 5 | PÇ 6 | PÇ 7 | PÇ 8 | PÇ 9 | PÇ 10 | PÇ 11 | PÇ 12 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Büyük Dil Modellerinin (LLM) temel mimarisini ve çalışma prensiplerini açıklar. | ||||||||||||
| 2 | LLM uyarlama ve kullanım stratejilerini analiz eder. | ||||||||||||
| 3 | Basit bir LLM tabanlı uygulama geliştirir. | ||||||||||||
| 4 | LLM çıktılarının doğruluğunu ve sınırlılıklarını değerlendirir. |
| Değerlendirme Sistemi | |
|---|---|
| Yarıyıl Çalışmaları | Katkı Oranı |
| 1. Ara Sınav | 36 |
| 1. Ödev | 16 |
| 2. Ödev | 16 |
| 1. Performans Görevi (Seminer) | 32 |
| Toplam | 100 |
| 1. Final | 35 |
| 1. Yıl İçinin Başarıya | 65 |
| Toplam | 100 |
| AKTS - İş Yükü Etkinlik | Sayı | Süre (Saat) | Toplam İş Yükü (Saat) |
|---|---|---|---|
| Ara Sınav | 1 | 10 | 10 |
| Final | 1 | 15 | 15 |
| Ders Süresi (Sınav haftası dahildir: 16x toplam ders saati) | 16 | 3 | 48 |
| Sınıf Dışı Ders Çalışma Süresi(Ön çalışma, pekiştirme) | 16 | 1 | 16 |
| Ödev | 2 | 7 | 14 |
| Performans Görevi (Seminer) | 1 | 10 | 10 |
| Toplam İş Yükü | 113 | ||
| Toplam İş Yükü / 25 (Saat) | 4,52 | ||
| dersAKTSKredisi | 5 | ||