PEFT ile Metin Modellerinde İnce Ayar (Fine-tuning)

PEFT ile Metin Modellerinde İnce Ayar (Fine-tuning) kursu; Üretken Yapay Zeka (Generative AI) konusunda yeni olan ancak orta düzey makine öğrenimi bilgisine, temel Python yeterliliğine ve VS Code gibi geliştirme ortamlarına aşinalığa sahip olan, tek bir sağlayıcıya bağımlı kalmadan (vendor lock-in) açık üretken yapay zeka çözümleri tasarlamak, özelleştirmek ve dağıtmak isteyen geliştiriciler, mühendisler ve teknik ürün geliştiriciler için tasarlanmıştır. Kurs, öğrencileri sınırlı donanımlarda büyük dil modellerinin uyarlanmasını sağlayan parametre açısından verimli ince ayar (PEFT) yöntemleriyle tanıştırır. Öğrenciler, PEFT ve Düşük Dereceli Uyarlama (LoRA) gibi temel kavramlarla başlayarak, bunların bellek, maliyet ve esneklik açısından tam ince ayara (full fine-tuning) göre avantajlarını anlarlar. Kurs daha sonra, tüketici sınıfı GPU'larda yüksek performanslı ince ayar için kuantizasyonu LoRA ile birleştiren QLoRA'nın uygulanmasına dalar. Öğrenciler eğitim ortamlarını kurma, veri kümelerini hazırlama, hiperparametreleri optimize etme ve kontrol noktalarını (checkpoints) yönetme pratikleri yaparlar. Son modül; iyileştirmeleri ölçmek için perplexity, BLEU, ROUGE ve BERTScore gibi metrikleri kullanarak değerlendirmeye odaklanır. Sonunda, öğrenciler bir ince ayar boru hattı (pipeline) uygulamış ve alana özel uyarlanmış bir LLM üretmiş olacaklardır.