01Sorun ve çözüm
LLM fine-tuning, önceden eğitilmiş bir dil modelini sizin hazırladığınız girdi ve doğru çıktı örnekleriyle yeniden eğiterek belirli bir göreve uyarlamaktır. İyi kurgulanmış bir ince ayar, daha küçük bir modelin dar bir işte büyük bir modele yaklaşmasını sağlayabilir; böylece model kendi sunucunuzda, daha düşük maliyetle ve tutarlı biçimde çalışır.
Devamını okuDaha az göster
LLM fine-tuning yaptırmak isteyen ekiplere ilk olarak açık bir soru soruyoruz: sorun gerçekten ince ayarla mı çözülür? Modelin bilmediği güncel bilgiyi vermek için çoğu zaman belge aramalı yanıt (RAG) daha doğru yoldur; ince ayar ise davranışı, biçimi ve görev becerisini değiştirmek için uygundur. Bu ayrımı örnek verileriniz üzerinde yaptığımız kısa bir karşılaştırmayla netleştiriyor, gerekmiyorsa ince ayar önermiyoruz.
02Kimler için
LLM fine-tuning kimler için anlamlı
Elinde kaliteli örnek verisi ve tekrar eden, iyi tanımlı bir dil görevi bulunan ekipler için değerlendirilmelidir.
- Destek taleplerini, şikâyetleri ya da belgeleri kendi kategori ağacına göre yüksek hacimde sınıflandırmak isteyen kurumlar
- Ürün açıklaması, rapor ya da yazışma taslaklarının kurum üslubuyla tutarlı olmasını isteyen içerik ve iletişim ekipleri
- Verisini dışarı göndermemek için açık kaynak bir modeli kendi sunucusunda çalıştıran ve onu göreve uyarlamak isteyen şirketler
- Büyük bir modelle prototiplediği özelliği daha küçük ve ucuz bir modele taşımak isteyen yazılım ekipleri
- Belgelerden belirli alanları kendi formatında çıkarması gereken ve hazır modelin biçim hatalarından yorulan operasyon birimleri
03İhtiyaçlar
İnce ayara karar vermeden önce netleşmesi gerekenler
Fine-tuning projelerinin kaderi çoğu zaman model eğitiminden önceki kararlarda belirlenir.
- 01
Doğru problem mi
Model yanlış bilgi veriyorsa sorun genellikle bilgi eksikliğidir ve ince ayar bunu güvenilir biçimde çözmez. Biçim, üslup, sınıflandırma ve göreve özgü davranış ise ince ayarın iyi sonuç verdiği alanlardır.
- 02
Veri kalitesi ve miktarı
Model, verdiğiniz örneklerdeki hataları da öğrenir. Az sayıda ama tutarlı ve uzmanca doğrulanmış örnek, çok sayıda gelişigüzel örnekten daha değerlidir.
- 03
Başarı ölçütü
Sınıflandırmada doğruluk, alan çıkarımında alan bazında eşleşme, metin üretiminde uzman değerlendirmesi gibi ölçütler eğitimden önce belirlenir. Temel model de aynı ölçütle test edilir ki kazanç görülebilsin.
- 04
Barındırma ve bakım
İnce ayarlı model bir yazılım varlığıdır. Nerede çalışacağı, nasıl güncelleneceği ve temel model yenilendiğinde ne yapılacağı baştan planlanmalıdır.
04Özellikler
LLM fine-tuning projesinde yapılan çalışmalar
Eğitim adımı projenin görünen yüzüdür; çalışmanın büyük kısmı veri ve değerlendirme tarafındadır.
- 01
Veri seti hazırlığı
Mevcut kayıtlarınızdan girdi-çıktı çiftleri çıkarılır, tekrarlar ve çelişkili örnekler ayıklanır, kişisel veriler maskelenir. Eksik kalan görev türleri için uzman kontrolünde sentetik örnek üretilebilir.
- 02
Temel model seçimi
Llama, Mistral, Qwen ya da Gemma gibi açık modeller veya ince ayar hizmeti sunan ticari sağlayıcıların modelleri, görev ve barındırma kısıtlarına göre karşılaştırılır.
- 03
Parametre verimli eğitim
LoRA ve QLoRA gibi yöntemlerle modelin ağırlıkları dondurulup yalnızca küçük ek ağırlık matrisleri (adaptörler) eğitilir. Bu yaklaşım donanım ihtiyacını düşürür ve aynı temel modele farklı görevler için farklı adaptörler takmayı mümkün kılar.
- 04
Tercih eğitimi
Biçim ya da üslup tercihlerinin önemli olduğu işlerde, iyi ve kötü yanıt çiftleriyle DPO gibi tercih tabanlı eğitim yöntemleri uygulanabilir.
- 05
Değerlendirme raporu
İnce ayarlı model; temel model ve istem mühendisliğiyle elde edilen sonuçla aynı test setinde karşılaştırılır, hata türleri örneklerle raporlanır.
05Entegrasyonlar
Eğitim altyapısı ve modelin çalışacağı ortam
Eğitim ve çalıştırma ortamı, verinin nerede durması gerektiğine ve beklenen hacme göre seçilir.
- 01
Bulut GPU ortamları
Eğitim AWS, Azure ya da Google Cloud üzerindeki GPU sunucularında veya kiralık GPU servislerinde yapılabilir; eğitim bitince kaynaklar kapatılır.
- 02
Kurum içi sunucu
Verinin dışarı çıkmaması gereken durumlarda eğitim ve çalıştırma, kendi veri merkezinizdeki GPU'lu sunucuda yapılır.
- 03
Model sunma katmanı
İnce ayarlı model vLLM gibi bir sunma altyapısıyla, uygulamanızın çağırabileceği bir API olarak yayına alınır.
- 04
Sağlayıcıların ince ayar servisleri
OpenAI gibi bazı ticari sağlayıcılar kendi modelleri için ince ayar imkânı sunar; bu yolda altyapı yükü azalır, ancak model sağlayıcının platformunda kalır.
- 05
Uygulama ve izleme
Model mevcut yazılımınıza API ile bağlanır; yanıt kalitesi ve gecikme canlıda izlenir.
06Süreç
LLM fine-tuning hizmeti nasıl ilerler?
Adım 01
Analiz
İş akışınızı, kullanıcılarınızı ve mevcut sistemlerinizi dinleriz; kapsamı, öncelikleri ve kabul ölçütlerini yazılı hâle getiririz.
Adım 02
Tasarım
Ekran akışlarını ve veri modelini çıkarırız. Arayüzü sizinle gözden geçirip onay almadan geliştirmeye geçmeyiz.
Adım 03
Geliştirme
Kısa döngülerle çalışırız; her döngü sonunda çalışan bir sürümü test ortamında görürsünüz.
Adım 04
Test
İşlevsel testler, entegrasyon testleri ve temel güvenlik kontrolleriyle hataları yayından önce yakalarız.
Adım 05
Yayın
Sunucu, alan adı, yedekleme ve izleme ayarlarını yaparak canlıya alırız; ekibinize kısa bir kullanım eğitimi veririz.
Adım 06
Bakım
İsterseniz bakım ve destek anlaşmasıyla güncellemeleri, izlemeyi ve yeni geliştirmeleri sürdürürüz.
07Teknoloji
LLM fine-tuning sürecinde veri güvenliği ve değerlendirme
Eğitim verisi çoğu zaman şirketin en hassas yazışmalarından ve kayıtlarından oluşur. Model bu verideki kişisel bilgileri ezberleyip yanıtlarda tekrarlayabileceği için isim, kimlik numarası ve iletişim bilgileri eğitimden önce maskelenir ya da çıkarılır. Eğitim verisinin nerede tutulduğu, kimin eriştiği ve proje sonunda nasıl imha edileceği yazılı olarak belirlenir.
Devamını okuDaha az göster
İnce ayar, modelin genel yeteneklerinden bazılarını zayıflatabilir; buna literatürde katastrofik unutma (catastrophic forgetting) denir. Bu yüzden test setinde yalnızca hedef görev değil, modelin korunması gereken genel davranışları da yer alır. Eğitim, aşırı uyumu önlemek için ayrılmış bir doğrulama setiyle izlenir; kayıp eğrisinden çok görev ölçütündeki gerçek ilerleme dikkate alınır.
Temel model sağlayıcısı yeni bir sürüm yayımladığında ince ayarın yenilenmesi gerekebilir. Veri seti, eğitim ayarları ve değerlendirme kodu sürümlü olarak saklandığından bu işlem baştan başlamak yerine tekrarlanabilir bir adıma dönüşür. Açık modellerin lisans koşulları da ticari kullanım açısından proje başında kontrol edilir.
08Çalışma modelleri
Bu hizmette çalışma modelleri
- 01
Proje bazlı
Sabit kapsam, sabit fiyat ve belirli teslim tarihi
Kapsamı belli, teslim tarihi olan işler için.
- Yazılı kapsam ve kabul ölçütleri
- Sabit fiyat ve belirli teslim tarihi
- Teslim ve kabul adımları sözleşmede
- 02
Bakım ve destek
Aylık sözleşmeli, SLA'lı bakım, destek ve geliştirme saati
Yayındaki bir sistemin sürekliliği için.
- Aylık sözleşme ve SLA
- İzleme, güncelleme ve hata düzeltme
- Aylık geliştirme saati
09Sık sorulan sorular
LLM fine-tuning hakkında sık sorulan sorular
LLM fine-tuning mi, RAG mı?
Amaç modele güncel ya da kurumsal bilgiyi vermekse RAG genellikle daha doğru, ucuz ve güncellemesi kolay yoldur. Amaç modelin biçimini, üslubunu ya da belirli bir görevdeki becerisini değiştirmekse ince ayar uygundur. Bazı projelerde ikisi birlikte kullanılır.
LLM fine-tuning fiyatları neye göre değişir?
Veri setinin hazır olup olmadığı, temizlik ve etiketleme ihtiyacı, temel modelin boyutu, eğitim ortamı, değerlendirme kapsamı ve modelin nerede barındırılacağı belirleyicidir. GPU kullanımı ayrı bir kalem olarak öngörülür; veri örneklerinizi gördükten sonra yazılı teklif hazırlıyoruz.
Kaç eğitim örneğine ihtiyacımız var?
Görevin zorluğuna bağlıdır. Dar bir biçimlendirme işi birkaç yüz kaliteli örnekle iyileşebilirken karmaşık bir görev çok daha fazlasını gerektirir. Kesin bir sayı vermeden önce küçük bir deneme eğitimi yapıp öğrenme eğrisine bakmayı öneriyoruz.
İnce ayarlı model şirket dışına çıkar mı?
Açık bir modeli kendi sunucunuzda eğitip çalıştırırsanız model ve veri sizde kalır. Ticari bir sağlayıcının ince ayar servisini kullanırsanız veri ve model o sağlayıcının platformunda işlenir; bu durumda sözleşme ve veri koşulları ayrıca değerlendirilmelidir.
Türkçe görevlerde ince ayar işe yarar mı?
Yarar, ancak temel modelin Türkçe yeteneği belirleyicidir. Türkçesi zayıf bir modeli ince ayarla iyi bir Türkçe modele dönüştürmek zordur; bu yüzden aday modelleri önce sizin Türkçe örneklerinizle karşılaştırıyoruz.
Model eğitildikten sonra güncellemek gerekir mi?
İş kurallarınız, kategorileriniz ya da üslubunuz değiştikçe evet. Canlıdaki hatalı yanıtlar toplanıp düzeltilerek yeni eğitim verisine eklenir ve model belirli aralıklarla yeniden eğitilir; bu nedenle bakım ve destek modeliyle birlikte planlamanızı öneririz.
10İlgili hizmetler