Deterministik LLM Programlama

AWS Bedrock, yerel çıkarım (inference) araç zincirleri ve sistematik kalite değerlendirmesi kullanarak üretim kalitesinde LLM sistemleri oluşturmayı öğrenin. AWS üzerinde arama-destekli nesil (RAG) süreçlerini, belge tabanlı yanıtlar için S3 veri kaynaklarıyla Bedrock bilgi tabanlarını yapılandırmayı ve Bedrock model API'leri ile etkileşime giren Rust uygulamaları oluşturmayı keşfedeceksiniz. Kurs; tokenizasyon temellerini, istekleri uygun temel modellere yönlendirmek için çoklu model mimarilerini ve veri alımından yanıt üretimine kadar Bedrock bilgi ajanı iş akışını kapsar. Donanıma özel optimizasyon bayraklarıyla llama.cpp derleyecek, kuantize edilmiş model dağıtımı için GGUF dosya formatıyla çalışacak ve AWS GPU örneklerinde yerel bir kodlama asistanı olarak Qwen 2.5 Coder'ı devreye alacaksınız. Yerel LLM araç zinciri modülü, paralel derlemeye uygulanan Amdahl yasasını, özel model kapasitesi için Bedrock tarafından sağlanan aktarım hızını ve Bedrock konsolundaki prompt değerlendirmesini gösterir. LLM projelerinde Python bağımlılık yönetimi için UV paket yöneticisini kullanacak ve yapay zeka destekli kod üretimi ve dokümantasyon için Amazon Q Developer'ı keşfedeceksiniz. Kurs ayrıca kodsuz ML geliştirme için SageMaker Canvas'ı da kapsamaktadır.