İçeriğe atla

İstemleri yeniden yazmayı bırakın: şablonlar, kişiler ve birkaç çekimli örnekler

Blog / Yayınlandı 

Bir dil modelini düzenli olarak kullanan herkes aynı arkeoloji sorununu yaşıyor: Sohbet geçmişinin bir yerinde, üç hafta önce tam olarak istediğiniz çıktıyı üreten komut istemi var ve onu bulamıyorsunuz. Böylece, yaklaşık değeri yeniden yazar, yakın bir değer elde eder ve her seferinde aynı yinelenen görev için ayarlama yaparsınız. Düzeltme daha iyi bir hafıza değil. Sakladığınız bir eser olarak çalışan bir bilgi istemini ele alıyor.

Değişenleri değişmeyenlerden ayırın

Haftalık olarak çalıştırdığınız bir komut istemine bakın ve iki bölüm bulacaksınız. Rol, kısıtlamalar, çıktı formatı, kaçınılmasını istediğiniz şeyler gibi sabit bir kısım ve genellikle bir belge ve iki veya üç ayrıntıdan oluşan değişken bir kısım vardır. Kararlı kısmı her seferinde yeniden yazmak, sapmanın geldiği yerdir: her yeniden yazma biraz farklıdır ve girdinizin değişmesi nedeniyle mi yoksa bir talimatı istemeden yeniden yazdığınız için mi çıktının değiştiğini asla bilemezsiniz.

Bunun yerine yer tutucularla bir kez yazın. istem şablonlayıcı ile bir şablon alır {{placeholder}} işaretleyiciler ve bir liste key = value çiftleri ve bunları doldurur. Şablonu saklayın, değerleri sağlayın, sonucu yapıştırın. Kararlı kısım artık her çalıştırmada aynı bayta sahiptir, bu da çıktı farklarınızı anlamlı kılar ve bir yan fayda olarak, önbellekleme değişmeyen bir öneke bağlı olduğundan, sağlayıcının hızlı önbelleğe alma işleminin çalışmasını sağlar.

İhtiyacınız olmadığını düşündüğünüzde bile sahip olmaya değer bazı yer tutucular: hedef kitle, çıktı uzunluğu, format ve üslup. Bunlar tam olarak bir takip mesajında düzelteceğiniz parametrelerdir ve bir takip, tüm konuşmanın ekstra bir gidiş-dönüş maliyetine mal olur.

Kişilik bloğu

Kararlı kısım genellikle modelin kim olması gerektiğinin açıklamasıyla açılır. Rastgele yazıldığında bu, insanların varsaydığından daha az şey yapan üç belirsiz cümleyle sonuçlanır. Kasıtlı olarak yazılan bu bilgi isteminin en yüksek yararlanıcı kısmıdır çünkü daha sonra belirtmeyeceğiniz her şey için varsayılanları belirler.

Aslında yardımcı olan şey: gurur verici bir rol yerine belirli bir rol ("her taslağın %30'unu kesen bir teknik editör", "birinci sınıf bir yazma uzmanını" yener), hedef kitle ve onların seviyesi, açık bir çıktı formatı ve -en çok da küçümsenen- yapılmaması gereken şeylerin kısa bir listesi. Negatif kısıtlamalar pek çekici değildir ve işe yararlar: "Giriş yok, sonunda özet yok, beş maddeden uzun madde imli liste yok" en yaygın üç rahatsızlığı tek satırda ortadan kaldırır.

AI kişisel bilgi istemi oluşturucu bu bloğu birkaç alandan bir araya getirir, böylece sonuç, ne düşündüğünüze bağlı olmak yerine her seferinde aynı yapıya sahip olur. Birleştirilmiş bloğu notlarınızda tutun ve hedef kitleyi paylaşan her şablonun başlığı olarak yeniden kullanın.

Örnekler sıfatları yener

Görev, belirli bir stile sahip bir dönüşüm olduğunda (destek yanıtlarının yeniden yazılması, alanların çıkarılması, destek taleplerinin sınıflandırılması, notların ev formatına dönüştürülmesi), talimatlar hızlı bir şekilde sabitlenir. İstediğiniz tonla ilgili üç paragraf yazabilir ve tam olarak ifade edemediğiniz bir şekilde neredeyse doğru çıktılar alabilirsiniz. Çalışılan iki örnek sorunu hemen düzeltiyor çünkü model, açıklamadan çıkarım yapmak yerine eşlemeyi görebiliyor.

Biçimlendirme burada insanların beklediğinden daha fazla önem taşıyor. Örnekler tutarlı sınırlayıcılara, tutarlı etiketlere ve her seferinde aynı alan sırasına ihtiyaç duyar veya model, içerik yerine kural üzerinde çalışmaya odaklanır. birkaç atışlık istem oluşturucu numaralandırılmış giriş/çıkış bloklarıyla boş bir şablon oluşturur, böylece siz onu doldurmaya başlamadan önce yapı sabitlenir; bu, elle yazılmış örneklerin üçüncüsünde eksik olduğu disiplindir.

Üç pratik kural. İki ila beş örnek kullanın; bunun ötesinde azalan getiriler için jeton ödüyorsunuz. Bir uç durum ekleyin: boş bir alan, belirsiz bir girdi, "Bilmiyorum" cevabını verecek bir şey - çünkü örnekler merkez kadar sınırları da tanımlar. Örnekleri gerçeğe dönüştürün: icat edilenler gerçek verilerinizden daha düzenli olma eğilimindedir ve model, düzenliliği öğrenir.

Giriş pencereden büyük olduğunda

Bir şablon, uzun bir belgeyle temas halinde ancak belge uygunsa hayatta kalır. Böyle olmadığında, cevap bölmek olur ve iyi bölmek bir yığın sınırları meselesidir: cümlenin ortasında biten bir yığın, modeli tahmin etmeye zorlar ve kaydın ortasında biten bir yığın, güvenle tamamlanmış olarak rapor edeceği kısmi bir çıkarma üretir.

istem ayırıcı metni, belirlediğiniz karakter sınırı altında sıralı parçalara böler, makul sınırları aşar ve parçaları numaralandırır, böylece her biri aynı talimat bloğu eklenmiş olarak dışarı çıkabilir. İki şey sonuçları önemli ölçüde daha iyi hale getirir: her bir parçanın talimatında toplamı belirtin ("bölüm 3/7, son kısma kadar özetlemeyin") ve talimatı ilerledikçe düzenlemek yerine parçalar arasında aynı tutun.

Kendi geçmişinizi kazın

En iyi şablon kaynağı, daha önce yazdığınız ve işe yarayan istemlerdir. Bir web arayüzünden kopyalanan sohbet transkriptleri bir karmaşadır - aralıklı roller, kullanıcı arayüzü yapıları, zaman damgaları, başıboş metin olarak işlenen kopyalama düğmeleri - ve bu karışıklık, kimsenin bunlara geri dönmemesinin nedenidir.

AI sohbet günlüğü ayrıştırıcısı yapıştırılan bir ChatGPT veya Claude metnini temizleyerek gerçekten okuyabileceğiniz ve arayabileceğiniz düzenli bir kullanıcı/asistan diyaloğuna dönüştürür. Haftada bir kez, kullandığınız bir şeyi üreten oturumları çalıştırın, işe yarayan istemleri çıkarın ve bunları şablonlara dönüştürün. Bu, herhangi bir hızlı mühendislik tavsiyesinden daha hızlı birleşen on beş dakikalık bir alışkanlıktır.

İstemleri kod gibi ele alın

İnsanların eninde sonunda ulaşacağı ve başlangıçta benimsemesi gereken üç uygulama:

Bunların hiçbiri bir platform gerektirmez. Metin dosyalarından oluşan bir klasör, yer tutuculu bir şablon ve işe yarayanları kaydetme alışkanlığı, yapılandırılmamış bir sohbet geçmişinden süresiz olarak daha iyi performans gösterecektir. Burada bahsedilen her araç, tarayıcınızda yerel olarak çalışır; dolayısıyla, rutin olarak müşteri materyali ve dahili ayrıntıları içeren, düzenlediğiniz istemler ve transkriptler makinenizde kalır.

TextArray'in yaratıcısı — tamamen tarayıcınızda çalışan ücretsiz, gizliliğe öncelik veren araçlar geliştiriyor.