Güvenli Yapay Zeka: Red-Teaming ve Güvenlik Filtreleri

Büyük dil modelleri iş operasyonlarında devrim yaratırken, gelişmiş saldırganlar prompt enjeksiyonu, jailbreaking ve içerik manipülasyonu gibi geleneksel güvenlik araçlarının tespit edemediği güvenlik açıklarından yararlanarak yapay zeka sistemlerini suistimal ediyor. Bu yoğun kurs; yapay zeka geliştiricilerine, siber güvenlik profesyonellerine ve BT yöneticilerine, LLM'e özgü tehditleri yayına almadan önce sistematik olarak tanımlama ve azaltma yetkinliği kazandırır. Adversarial (rakip) testler yoluyla gizli güvenlik açıklarını ortaya çıkarmak için PyRIT, NVIDIA Garak ve Promptfoo gibi sektör standardı araçları kullanarak red-teaming metodolojilerinde uzmanlaşın. Sistem işlevselliğini korurken gelişmiş atlatma girişimlerini engelleyen çok katmanlı içerik güvenliği filtreleri tasarlamayı ve uygulamayı öğrenin. Uygulamalı laboratuvarlar aracılığıyla dayanıklılık temel çizgileri oluşturacak, sürekli izleme sistemleri uygulayacak ve zamanla güçlenen uyarlanabilir savunmalar oluşturacaksınız. Bu kurs; yapay zeka mühendisleri, güvenlik profesyonelleri, veri bilimcileri ve yapay zeka modellerinin güvenliğini ve sağlamlığını sağlamakla ilgilenen geliştiriciler için tasarlanmıştır. Ayrıca, kuruluşlarında güvenli ve sorumlu yapay zeka çerçeveleri uygulamak isteyen teknoloji liderleri için de idealdir. Katılımcıların temel düzeyde bilgi sahibi olması beklenmektedir.