Sıfır, Tek ve Az Örnekle İstem: Modele Örnek Vermek Ne Yapıyor?

Bir işi tarif etmek bazen göstermekten zordur.

“Müşteri yorumlarını duygu durumuna göre sınıflandır” diye yazarsınız. Model sınıflandırır — ama kendi kategorileriyle, kendi etiket biçimiyle, kendi ayrıntı seviyesinde. Sizin kafanızdaki sistem değil.

İki örnek gösterirseniz bu sorunun tamamı kaybolur. Kategoriyi de, biçimi de, ayrıntı seviyesini de örnekten okur.

Bu tekniğin adı az örnekle istem ve arkasındaki mekanizma çoğu kişinin sandığından farklı.

Üç seviye

İngilizce karşılıkları sırasıyla zero-shot, one-shot ve few-shot olarak geçer.

Seviye arttıkça prompt uzar ve maliyet artar. Yani “daha çok örnek daha iyi” değil; yeterli örnek yeterli doğru yaklaşım.

Mekanizma: model öğrenmiyor, örüntüyü sürdürüyor

Bu bölüm tekniği doğru kullanmanın anahtarı.

Promptta örnek verdiğinizde model bir şey öğrenmez. Ağırlıkları değişmez, hafızasına bir şey yazılmaz, bir sonraki konuşmada bunu hatırlamaz.

Olan şey daha basit: verdiğiniz örnekler bir örüntü kurar ve model o örüntüyü devam ettirir. Model her adımda “buraya kadar gelen metnin devamı ne olmalı” sorusunu cevaplıyor. Önünde üç kez tekrarlanan bir kalıp varsa, dördüncüsünü aynı kalıpta üretmesi en olası devam olur.

Bu yüzden tekniğin adına bazen “bağlam içi öğrenme” denir — ama buradaki “öğrenme” kalıcı değil, o konuşmaya özgüdür. → 3.1.5.4^yakında

Üç pratik sonucu var:

Örneklerin tutarlılığı sayısından önemli. Çelişen iki örnek, hiç örnek vermemekten kötüdür. Model hangi kalıbı süreceğini bilemez.

Format örnekten okunur. Talimatta format yazmasanız bile, örnekleriniz aynı biçimdeyse model o biçimi sürdürür.

Örnekler gizli kural taşır. Üç örneğinizin üçü de kısa cevaplıysa, model kısa cevap kuralını çıkarır — siz yazmasanız bile.

Bu üçüncüsü hem güç hem tuzak: fark etmediğiniz bir ortak özellik, istemediğiniz bir kurala dönüşebilir. → Örnek Seçimi: Verdiğiniz Örnek Farkında Olmadığınız Kuralı Öğretir

Somut örnek: üç seviyeyi karşılaştırmak

Aynı iş, üç seviyede.

Sıfır örnekle:

Aşağıdaki müşteri yorumunu sınıflandır.

"İki hafta oldu, para hâlâ iade edilmedi. Bankayı aradım."

Model sınıflandırır ama kategori setini kendi seçer. “Olumsuz” mu der, “İade sorunu” mu, “Yüksek öncelikli” mi — bilinmez.

Tek örnekle:

Aşağıdaki müşteri yorumunu sınıflandır.

Yorum: Kargo 3 gündür hareket etmiyor.
Sınıf: Gecikme | Yüksek öfke | Takip bilgisi ver

Yorum: İki hafta oldu, para hâlâ iade edilmedi. Bankayı aradım.
Sınıf:

Artık üç alanlı bir yapı var ve model onu sürdürecek. Ama tek örnek, kategori setinin sınırlarını göstermiyor.

Az örnekle:

Aşağıdaki müşteri yorumunu sınıflandır.

Yorum: Kargo 3 gündür hareket etmiyor.
Sınıf: Gecikme | Yüksek öfke | Takip bilgisi ver

Yorum: Ürün güzelmiş ama kutu ezikti, sorun değil.
Sınıf: Ambalaj | Düşük öfke | Teşekkür ve kısa özür

Yorum: Bedeni büyük geldi, değişim nasıl yapılır?
Sınıf: Beden/Değişim | Nötr | Değişim adımlarını anlat

Yorum: İki hafta oldu, para hâlâ iade edilmedi. Bankayı aradım.
Sınıf:

Üç örnek, üç farklı öfke seviyesi ve üç farklı kategori gösteriyor. Model artık hem yapıyı hem sınırları biliyor.

Kaç örnek gerekli?

Sabit bir sayı yok, ama işleyen bir kural var: her ayrımı en az bir kez gösterin.

Üç kategori arasında ayrım yapılacaksa üç örnek. İki farklı ton varsa ikisi de görünsün. Bir sınır durumu varsa (örneğin “kararsız” hâli), o da örnekte olsun.

Pratikte iki ile beş arası çoğu iş için yeterli. Beşten sonra getiri belirgin biçimde azalır ve prompt maliyeti artar.

Örnek eklemek yerine talimat netleştirmek gerektiği durumlar da var. On örnek verip hâlâ istediğinizi alamıyorsanız, sorun örnek sayısında değil — muhtemelen örnekleriniz tutarsız ya da iş baştan belirsiz. → Belirsizlik: Promptunuzda Söylemediğiniz Her Şey Bir Karardır

Sıfır örnekle ne zaman yeterli?

Örnek eklemek her zaman gerekmiyor. Şu durumlarda gereksiz:

İş çok yaygınsa. Çeviri, özetleme, dil bilgisi düzeltme gibi işlerde model zaten binlerce örnek görmüş.

Format zaten belirtilmişse. Çıktı yapısını talimatla net söylediyseniz, örnek onu tekrarlamaktan başka bir şey yapmaz. → Çıktı Formatını Zorlamak: Talimat Yeter mi, Şema mı Gerekir?

Örnek bulmak zorsa. Uydurma örnek, kötü örnektir. Gerçek bir örneğiniz yoksa talimatı netleştirmek daha güvenli.

Maliyet önemliyse. Ölçekte çalışan bir sistemde her istekte taşınan beş örnek doğrudan faturaya yansır.

Uygulama: konum ve geçiş kararı

Örnekleri nereye koymalı?

Konum, kısa promptlarda önemsiz; uzun girdilerle çalışıyorsanız belirleyici.

Örnekler girdiden sonra gelsin. Uzun bir metni işleyecekseniz sıra şu olmalı: talimat → girdi → örnekler → istenen çıktı. Örnekleri uzun metnin önüne koyarsanız, model üretime başlarken kalıp geride kalmış olur. → Prompt Ne Kadar Uzun Olmalı? Ayrıntının Ters Tepmeye Başladığı Nokta

Örnekleri girdiden görsel olarak ayırın. Ayrım yapılmazsa model örneklerdeki girdileri de işlenecek malzeme sanabilir:

[ÖRNEKLER]
Girdi: ...
Çıktı: ...

Girdi: ...
Çıktı: ...

[İŞLENECEK]
Girdi: ...
Çıktı:

Son satırdaki boş Çıktı: etiketinin işlevi var: modele nereden devam edeceğini gösteriyor ve giriş cümlesi yazma eğilimini azaltıyor.

Sıfırdan aza geçiş kararı

Örnek eklemeden önce şu sırayı deneyin — her adım bir öncekinden pahalı:

1. Talimatı netleştirin. Çoğu durumda örnek gerektiren şey aslında belirsiz bir talimattır. → Belirsizlik: Promptunuzda Söylemediğiniz Her Şey Bir Karardır

2. Formatı yazın. İstediğiniz yapıyı tarif etmek, örnek göstermekten ucuzdur ve çoğu zaman aynı işi görür. → Çıktı Formatını Zorlamak: Talimat Yeter mi, Şema mı Gerekir?

3. Tek örnek verin. Format karmaşıksa bir doldurulmuş örnek, uzun bir tarifin yerini tutar.

4. Az örneğe geçin. Ayırt edilmesi gereken birden fazla durum varsa.

Bu sıra, prompt maliyetini gereksiz artırmadan sonuca gitmenizi sağlıyor. Doğrudan beş örnekle başlamak yaygın ama genellikle gereksiz.

Sık yapılan hatalar

Birbirine benzeyen örnekler seçmek. Örneklerin hangi ayrımları temsil etmesi gerektiği, bu yazının değil kardeşinin konusu — ve tek başına en çok fark yaratan seçim orası → Örnek Seçimi: Verdiğiniz Örnek Farkında Olmadığınız Kuralı Öğretir.

Örneklerde format tutarsızlığı. Birinde iki nokta üst üste, diğerinde tire kullanmak modele iki farklı kalıp gösterir.

En zor örneği koymayı unutmak. Sınır durumları örneklerde yoksa model onlarla karşılaştığında tahmin eder.

Örnek sayısını çözüm sanmak. Üç örnek işe yaramıyorsa on örnek de yaramaz; sorun başka yerdedir.

Örnek mi, kural mı? Bir seçim rehberi

Aynı davranışı hem örnekle hem kuralla elde edebilirsiniz. Hangisinin daha iyi çalıştığı işin türüne bağlı ve bu ayrım pratikte epey zaman kazandırıyor.

Kural daha iyi çalışır — davranış tek cümleyle ifade edilebiliyorsa. “En fazla 80 kelime”, “yalnızca verilen metni kullan”, “tarih yoksa belirtilmemiş yaz”. Bunları örnekle öğretmeye çalışmak hem daha uzun hem daha belirsiz olur; üç kısa örnek verdiğinizde model kısalığın 80 kelime mi 40 kelime mi olduğunu bilemez.

Örnek daha iyi çalışır — davranışın kuralı yazılabilir değilse. Ton, üslup, hangi durumun hangi kategoriye gireceği, bir sınıflandırmanın sınır çizgisi. Bunlar tarif edildiğinde uzayan ve yine de eksik kalan şeylerdir. “Samimi ama abartısız bir dil kullan” cümlesi on kişide on farklı çıktı üretir; iki örnek aynı anlayışı çok daha net aktarır.

İkisi birden gerektiği durum da var: yapı kuralla, içerik anlayışı örnekle. Format talimatını yazıp yanına iki örnek koymak, çoğu sınıflandırma işinin doğru kurulumu.

Bir uyarı: aynı şeyi hem kuralla hem örnekle söylemeyin. İkisi arasında küçük bir tutarsızlık varsa — kural “en fazla 80 kelime” diyorsa ama örnekleriniz 40 kelimeyse — model hangisini uygulayacağına kendi karar verir ve bunu size söylemez. Bir kural bir yerde yazılsın. → Bir Promptun Dört Bileşeni: Bağlam, Talimat, Örnek, Format

Örnek eklemenin görünmeyen maliyeti

Örnekler prompta uzunluk katıyor ve bunun üç sonucu var.

Birincisi doğrudan maliyet: her istekte taşınan beş örnek, ölçekte çalışan bir sistemde faturaya yansır. İkincisi dikkat: uzun bir örnek bloğu, promptun diğer talimatlarının ağırlığını azaltır. → Prompt Ne Kadar Uzun Olmalı? Ayrıntının Ters Tepmeye Başladığı Nokta

Üçüncüsü ve en az fark edileni bakım yükü. Örnekler zamanla eskir. Gerçek girdiler değiştiğinde örnekleriniz bugünkü durumları temsil etmez hâle gelir ve model modası geçmiş bir kalıbı sürdürmeye devam eder. Kuralların bakımı örneklerinkinden kolaydır; bu da, ikisi eşit iş görüyorsa kuralı tercih etmek için bir sebep.

Sınırlar

Örnek bilgi yaratmaz. Model bir konuyu bilmiyorsa örnek göstermek o bilgiyi üretmez. Örnekler nasıl sorusunu cevaplar, ne sorusunu değil. → Promptla Çözülemeyen Problemler: Yedi Belirti ve Doğru Çözümleri

Örnekler bağlam yeri kaplar. Uzun girdilerle çalışıyorsanız örnekler yerden çalar ve maliyeti artırır.

Kalıcı değil. Bir sonraki konuşmada model bu örnekleri hatırlamaz. Sürekli aynı davranış gerekiyorsa şablon veya sistem talimatı kullanılır.

Örnekler yanlılık taşır. Örneklerinizde bir eğilim varsa — hepsi olumsuz, hepsi uzun, hepsi belirli bir sektörden — model o eğilimi sürdürür.

Özet

Promptta örnek vermek modeli eğitmez; o konuşmaya özgü bir örüntü kurar ve model onu sürdürür. Bu yüzden örneklerin tutarlılığı sayısından önemlidir.

Üç seviye var: sıfır örnekle (sadece talimat), tek örnekle (formatı göstermek için), az örnekle (kuralı örnekten okutmak için).

Kaç örnek gerektiğinin kuralı basit: her ayrımı en az bir kez gösterin. Sayı buradan çıkar; peşinen bir rakam tutturmaya çalışmak yanlış soru.

Örnekleriniz fark etmediğiniz ortak özellikler taşıyorsa, model onları da kural sanır. Bu tekniğin hem gücü hem tuzağı burada.

Sık sorulanlar

İlgili yazılar