Bu dersin amacı, doktora öğrencilerine Yapay Zeka (AI) güvenliği ile ilgili temel kavramlar, zorluklar ve teknikler hakkında kapsamlı bir anlayış kazandırmaktır. Ders, AI sistemlerindeki güvenlik açıklarını tespit etmeye, düşmanca saldırıları anlamaya ve model sağlamlığını ve güvenilirliğini artırmaya yönelik savunma mekanizmalarını incelemeye odaklanmaktadır. Ders, düşmanca makine öğrenimi, veri zehirleme, model güvenliği, gizliliği koruyan AI, açıklanabilir AI güvenliği ve büyük dil modeli (LLM) güvenliği gibi temel konuları kapsamaktadır. Ayrıca ders, öğrencilerin güncel araştırmaları eleştirel bir bakış açısıyla değerlendirme, AI güvenlik risklerini analiz etme ve AI sistemlerinde ortaya çıkan güvenlik sorunlarına yenilikçi çözümler önerme becerilerini geliştirmeyi amaçlamaktadır.

Bu ders, Yapay Zeka (AI) sistemlerinin temel kavramlarını, güvenlik sorunlarını ve savunma mekanizmalarını ele almaktadır. Konular arasında AI güvenlik ilkeleri, tehdit modelleme, saldırgan makine öğrenimi, kaçırma saldırıları, saldırgan savunma teknikleri, veri zehirleme, arka kapı saldırıları, model çıkarma ve gizlilik saldırıları yer almaktadır. Ders ayrıca gizliliği koruyan AI, açıklanabilir AI (XAI) güvenliği, büyük dil modeli (LLM) güvenliği, komut satırı enjeksiyonu ve geri getirme ile güçlendirilmiş üretme (RAG) ile AI ajanlarındaki güvenlik sorunlarını da ele almaktadır.