| Ders Adı | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| Büyük Dil Modellerine Giriş | SWE 422 | 8 | 3 + 0 | 3 | 5 |
| Ön Koşul Dersleri | |
| Önerilen Seçmeli Dersler | SWE 420 - Natural Language Processing SWE 405 - Deep Learning and Applications |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | Lisans |
| Dersin Türü | Seçmeli |
| Dersin Koordinatörü | Dr.Öğr.Üyesi BEYZA EKEN |
| Dersi Verenler | Dr.Öğr.Üyesi BEYZA EKEN, |
| Dersin Yardımcıları | |
| Dersin Kategorisi | Alanına Uygun Öğretim |
| Dersin Amacı | Bu dersin amacı, öğrencilerin Büyük Dil Modellerinin temel mimarisini, çalışma prensiplerini ve güncel kullanım alanlarını kavramalarını sağlamaktır. Ders kapsamında öğrencilerin Transformer mimarisi, tokenization, ön eğitim, masked language modeling, decoder tabanlı modeller, instruction tuning, prompt engineering, retrieval-augmented generation ve fine-tuning gibi temel kavram ve yöntemleri öğrenmeleri hedeflenmektedir. Ayrıca öğrencilerin LLM tabanlı uygulamaları değerlendirebilmeleri; yazılım mühendisliği, kod üretimi, ajanlar, akıl yürütme, güvenlik, etik, yanlılık ve eğitim gibi farklı kullanım bağlamlarında ele alabilmeleri amaçlanmaktadır. Ders, öğrencilerin LLM alanındaki güncel gelişmeleri araştırabilmelerini, literatürü ve sektörel uygulamaları takip edebilmelerini ve bu gelişmeleri eleştirel bir bakış açısıyla değerlendirebilmelerini de hedeflemektedir. |
| Dersin İçeriği |
| Kalkınma Amaçları |
|---|
|
| # | Ders Öğrenme Çıktıları | Öğretim Yöntemleri | Ölçme Yöntemleri |
|---|---|---|---|
| 1 | Büyük Dil Modellerinin temel mimarisini, bileşenlerini ve çalışma prensiplerini açıklar. | ||
| 2 | Transformer mimarisi, attention mekanizması, tokenization, embedding, pre-training ve fine-tuning gibi temel LLM kavramlarını açıklar. | ||
| 3 | Prompt engineering, Retrieval-Augmented Generation ve fine-tuning gibi LLM uyarlama ve kullanım stratejilerini analiz eder. | ||
| 4 | Büyük Dil Modellerini metin üretimi, özetleme, soru-cevaplama, sınıflandırma veya kod üretimi gibi pratik görevlerde kullanır. | ||
| 5 | Basit bir Büyük Dil Modeli tabanlı uygulama geliştirir, değerlendirir ve yazılı veya sözlü olarak sunar. | ||
| 6 | Büyük Dil Modeli çıktılarının doğruluğunu, güvenilirliğini, sınırlılıklarını ve hallucination riskini değerlendirir. | ||
| 7 | Büyük Dil Modeli uygulamalarını etik, güvenlik, yanlılık, gizlilik ve sorumlu yapay zekâ kullanımı açısından değerlendirir. | ||
| 8 | Büyük Dil Modelleri alanındaki güncel teorik ve pratik konuları araştırır, analiz eder ve teknik içeriği anlaşılır biçimde sözlü olarak sunar. |
| Hafta | Ders Konuları | Ön Hazırlık |
|---|---|---|
| 1 | Büyük dil modellerine giriş | |
| 2 | Transformer mimarisi, self-attention mekanizması | |
| 3 | Ön-eğitim (pre-training) ve tokenizasyon | |
| 4 | Metin üretiminde deterministiklik ve hallucination riski (sampling, temperature, top-k, top-p) | |
| 5 | Decoder ve encoder mimarileri, maskeli dil modelleri (BERT) | |
| 6 | Ince-ayarlama (fine-tuning), LoRA | |
| 7 | İstem mühendisliği | |
| 8 | Vize | |
| 9 | Retrieval-Augmented Generation (RAG) | |
| 10 | Büyük dil modelleri ajanları | |
| 11 | Öğrenci sunumları ve tartışma (çok ajanlı sistemler, model yönlendirme ve orkestrasyon) | |
| 12 | Öğrenci sunumları ve tartışma (akıl yürütme, halüsinasyon, hafıza yönetimi) | |
| 13 | Öğrenci sunumları ve tartışma (LLMOps, coding agents, LLM4SE) | |
| 14 | Öğrenci sunumları ve tartışma (bias, etik, güvenlik, gizlilik) |
| Kaynaklar | |
|---|---|
| Ders Notu | |
| Ders Kaynakları | Speech and Language Processing, Jurafsky & Martin, 2024. 3rd Edition Draft. Hands-On Large Language Models, Language Understanding and Generation. Alammar & Grootendorst, 2024. O'Reilly Media, Inc. Natural Language Processing with Transformers, Building Language Applications with Hugging Face. Tunstall et al., 2022. O'Reilly Media, Inc. Generative AI on AWS: Building context-aware multimodal reasoning applications. Fregly et al., 2023. O'Reilly Media, Inc. Large Language Models: A Deep Dive. Kamath, U., Keenan, K., Somers, G. and Sorenson, S., 2024. Designing Large Language Model Applications: A Holistic Approach to LLMs. Pai, S., 2025, O’Reilly Media. |
| Sıra | Program Çıktıları | Katkı Düzeyi | |||||
|---|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | Mühendislik Bilgisi: Matematik, fen bilimleri, temel mühendislik, bilgisayarla hesaplama ve ilgili mühendislik disiplinine özgü konularda bilgi; bu bilgileri, karmaşık mühendislik problemlerinin çözümünde kullanabilme becerisi. | X | |||||
| 2 | Problem Analizi: Karmaşık mühendislik problemlerini, temel bilim, matematik ve mühendislik bilgilerini kullanarak ve ele alınan problemle ilgili BM Sürdürülebilir Kalkınma Amaçlarını gözeterek tanımlama, formüle etme ve analiz becerisi. | X | |||||
| 3 | Mühendislik Tasarımı: Karmaşık mühendislik problemlerine yaratıcı çözümler tasarlama becerisi; karmaşık sistemleri, süreçleri, cihazları veya ürünleri gerçekçi kısıtları ve koşulları gözeterek, mevcut ve gelecekteki gereksinimleri karşılayacak biçimde tasarlama becerisi. | X | |||||
| 4 | Teknik ve Araçların Kullanımı: Karmaşık mühendislik problemlerinin analizi ve çözümüne yönelik, tahmin ve modelleme de dahil olmak üzere, uygun teknikleri, kaynakları ve modern mühendislik ve bilişim araçlarını, sınırlamalarının da farkında olarak seçme ve kullanma becerisi. | X | |||||
| 5 | Araştırma ve İnceleme: Karmaşık mühendislik problemlerinin incelenmesi için literatür araştırması, deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama dahil, araştırma yöntemlerini kullanma becerisi. | X | |||||
| 6 | Mühendislik Uygulamalarının Küresel Etkisi: Mühendislik uygulamalarının BM Sürdürülebilir Kalkınma Amaçları* kapsamında, topluma, sağlık ve güvenliğe, ekonomiye, sürdürülebilirlik ve çevreye etkileri hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık. | X | |||||
| 7 | Mühendislik Etiği: Mühendislik meslek ilkelerine* uygun davranma, etik sorumluluk hakkında bilgi; hiçbir konuda ayrımcılık yapmadan, tarafsız davranma ve çeşitliliği kapsayıcı olma konularında farkındalık. | X | |||||
| 8 | Bireysel ve Takım Çalışması: Bireysel olarak ve disiplin içi ve çok disiplinli takımlarda (yüz yüze, uzaktan veya karma) takım üyesi veya lideri olarak etkin biçimde çalışabilme becerisi. | X | |||||
| 9 | Sözlü ve Yazılı İletişim: Hedef kitlenin çeşitli farklılıklarını (eğitim, dil, meslek gibi) dikkate alarak, teknik konularda sözlü, yazılı etkin iletişim kurma becerisi. | X | |||||
| 10 | Proje Yönetimi: Proje yönetimi ve ekonomik yapılabilirlik analizi gibi iş hayatındaki uygulamalar hakkında bilgi; girişimcilik ve yenilikçilik hakkında farkındalık. | ||||||
| 11 | Yaşam Boyu Öğrenme: Bağımsız ve sürekli öğrenebilme, yeni ve gelişmekte olan teknolojilere uyum sağlayabilme ve teknolojik değişimlerle ilgili sorgulayıcı düşünebilmeyi kapsayan yaşam boyu öğrenme becerisi. | X | |||||
| # | Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı | PÇ 1 | PÇ 2 | PÇ 3 | PÇ 4 | PÇ 5 | PÇ 6 | PÇ 7 | PÇ 8 | PÇ 9 | PÇ 10 | PÇ 11 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Büyük Dil Modellerinin temel mimarisini, bileşenlerini ve çalışma prensiplerini açıklar. | |||||||||||
| 2 | Transformer mimarisi, attention mekanizması, tokenization, embedding, pre-training ve fine-tuning gibi temel LLM kavramlarını açıklar. | |||||||||||
| 3 | Prompt engineering, Retrieval-Augmented Generation ve fine-tuning gibi LLM uyarlama ve kullanım stratejilerini analiz eder. | |||||||||||
| 4 | Büyük Dil Modellerini metin üretimi, özetleme, soru-cevaplama, sınıflandırma veya kod üretimi gibi pratik görevlerde kullanır. | |||||||||||
| 5 | Basit bir Büyük Dil Modeli tabanlı uygulama geliştirir, değerlendirir ve yazılı veya sözlü olarak sunar. | |||||||||||
| 6 | Büyük Dil Modeli çıktılarının doğruluğunu, güvenilirliğini, sınırlılıklarını ve hallucination riskini değerlendirir. | |||||||||||
| 7 | Büyük Dil Modeli uygulamalarını etik, güvenlik, yanlılık, gizlilik ve sorumlu yapay zekâ kullanımı açısından değerlendirir. | |||||||||||
| 8 | Büyük Dil Modelleri alanındaki güncel teorik ve pratik konuları araştırır, analiz eder ve teknik içeriği anlaşılır biçimde sözlü olarak sunar. |
| Değerlendirme Sistemi | |
|---|---|
| Yarıyıl Çalışmaları | Katkı Oranı |
| Toplam | 0 |
| Toplam | 0 |
| AKTS - İş Yükü Etkinlik | Sayı | Süre (Saat) | Toplam İş Yükü (Saat) |
|---|---|---|---|
| Ara Sınav | 1 | 10 | 10 |
| Final | 1 | 15 | 15 |
| Ders Süresi (Sınav haftası dahildir: 16x toplam ders saati) | 16 | 3 | 48 |
| Sınıf Dışı Ders Çalışma Süresi(Ön çalışma, pekiştirme) | 16 | 1 | 16 |
| Ödev | 2 | 7 | 14 |
| Performans Görevi (Seminer) | 1 | 10 | 10 |
| Toplam İş Yükü | 113 | ||
| Toplam İş Yükü / 25 (Saat) | 4,52 | ||
| dersAKTSKredisi | 5 | ||