Bir uncensored LLM API'si uygulamanıza nasıl entegre edilir

Neden geliştiriciler filtresiz LLM API'lerine geçiyor

Geliştiriciler, standart modellerin keyfi güvenlik filtrelerine dayanarak geçerli içeriği sıklıkla reddetmesi nedeniyle geçer. Uygulamanızın, kurgusal veya yetişkin temalar için istenmeyen reddieler olmadan modelin ürettiği tam yanıtı döndürmesini istersiniz. API queen, doğrudan yanıt veren tek bir kısıtlanmamış model sağlar. Bu, reddieleri aşmak için karmaşık proxy hilelerine veya yeniden deneme mantığına olan ihtiyacı ortadan kaldırır.

Kodunuz basit kalır. Bir istem gönderirsiniz. Bir yanıt alırsınız. Güvenlik katmanlarını işlemek için ek bir ara yazılıma gerek yoktur. Bu güvenilirlik, tutarlı davranış gerektiren karakter botları veya içerik oluşturucular oluştururken önemlidir. Dün çalışan bir istemi aniden reddeden bir modelin yarattığı hayal kırıklığından kaçınırsınız.

Maliyet başka bir faktördür. Birçok sağlayıcı censorship'siz varyantlar için yüksek primler talep eder veya bağlam pencerelerini sınırlar. Temel fiyatla cömert bir 100.000 tokenlık bağlam penceresi sunuyoruz. Bu, uzun belgeleri işlemenize veya kapsamlı konuşma geçmişlerini sürdürmenize olanak tanır ve genişletilmiş bağlam için ek ücret ödemeden ekstra ücret ödemeden.

Gizlilik de kritiktir. İstemleriniz verileriniz için eğitim amacıyla kullanılmaz. Bu, özel içeriğinizin veya kullanıcı verilerinizin size ait kalmasını sağlar. Uygulamanızın davranışı üzerinde model sağlayıcısının moderasyon ekibinden gelen dış müdahale olmadan tam kontrolü siz elinde tutarsınız.

Açık AI model mimarisini anlama

Model, içerik reddi olmadan yanıt vermek üzere özel olarak ayarlanmış açık ağırlıklı büyük bir dil modelidir. GPT, Claude, Gemini veya başka bir satıcının modeli değildir. Farklı temel modeller arasında geçiş yapabilecek bir yönlendirme sistemi yerine tek bir model olduğu için tutarlı bir deneyim alırsınız.

Metin üretimini verimli şekilde işler. Model, Server-Sent Events aracılığıyla akış (streaming) desteği sunar. Bu, belirteçleri kullanıcılara gerçek zamanlı olarak göstermenizi sağlar ve uygulamanızın algılanan gecikmesini iyileştirir. Yapılandırılmış çıktılar için işlev çağırma ve JSON modunu de kullanabilirsiniz.

Model gömme (embedding) işlemleri, görüntü oluşturma veya ses işleme yapmaz. Sadece metin girişi ve metin çıkışı sağlayan bir hizmettir. Bu odaklanma, altyapının yüksek verimli metin üretimi için optimize edildiği anlamına gelir. Metin tabanlı uygulamalarınız için daha düşük gecikme süresi ve daha öngörülebilir performans elde edersiniz.

Çıktıyı sıcaklık, top_p ve seed gibi parametrelerle kontrol edebilirsiniz. Bu, yanıtların yaratıcılığını veya determinizmini ince ayarlamanıza olanak tanır. Model bu ayarlara güvenilir şekilde saygı duyar, üretim uygulamaları için ihtiyacınız olan kontrolü sağlar.

Ortamınızı OpenAI uyumlu SDK'larla kurmak

Tercih ettiğiniz SDK'yı, örneğin resmi OpenAI Python veya Node.js istemcisini yükleyerek ortamınızı kurarsınız. Özel bir istemciye ihtiyacınız yoktur. API standart OpenAI protokolünü kullanır. Bu, mevcut kodunuzun minimum değişikliklerle büyük olasılıkla çalışacağı anlamına gelir.

Temel URL'yi HTTPS://api.apiqueen.cc/v1'e işaret edecek şekilde yapılandırırsınız. Ayrıca API anahtarınızı ortam değişkeninde veya istemci yapılandırmasında ayarlarsınız. Bu anahtar, kaydolduğunuzda oluşturulur. Google veya e-posta ile kayıt olabilirsiniz. Telefon numarası gerekmez.

İstemci Python'da nasıl başlatılır:

• Paketi yükleyin: pip install openai
• Temel URL'yi API kraliçesi uç noktasına ayarlayın
• API anahtarını istemciye iletin

Bu yapı, herhangi bir OpenAI-uyumlu istemci ile çalışır. LangChain veya LlamaIndex gibi kütüphaneleri modifikasyon olmadan kullanabilirsiniz. Model adı, mesajlar ve sıcaklık gibi standart parametreler desteklenir. İlk isteğinizi hemen göndermeye hazırsınız.

API queen için temel URL'leri ve API anahtarlarını yapılandırma

Temel URL'yi HTTPS://apiqueen.cc/v1 olarak uygulama ayarlarınızda yapılandırırsınız. Bu URL, isteklerinizi doğru sunucuya yönlendirir. Authorization başlığında API anahtarınızı da dahil etmeniz gerekir. Format Bearer YOUR_API_KEY şeklindedir.

Hesap başına bir aktif anahtarınız olur. Yeni bir anahtara ihtiyacınız varsa, yeni bir anahtar oluşturmak eski anahtarı değiştirir. Bu, bir anahtarın sızdırıldığından şüpheleniyorsanız kullanışlıdır. Anahtarınızı panelden oluşturabilirsiniz. Eski anahtar hemen çalışmayı bırakır.

Gönderdiğiniz model kimliği "uncensored"dir. Bu, sunucuya hangi modeli kullanacağını söyler. Diğer modellere yönlendirme yoktur. Her zaman uncensored modeli alırsınız. Bu tutarlılık, uygulamanızda belirli bir ton veya davranışı korumak için önemlidir.

Bağlantınızı basit bir istek göndererek test edebilirsiniz. Model kimliğini içeren yanıtı kontrol edin. "uncensored" döndürmelidir. Bu, yapılandırmanızın doğru olduğunu doğrular. Artık API'yi uygulama mantığınıza entegre etmeye hazırsınız.

Gerçek zamanlı oluşturma için akış yanıtlarını işleme

İsteklerinizde stream parametresini true olarak ayarlayarak akış işlemini yönetirsiniz. Sunucu bir dizi Server-Sent Events gönderir. Her olay bir metin chunkı içerir. Tam yanıtı oluşturmak için bu chunkları birleştirirsiniz.

Akış kullanıcı deneyimini önemli ölçüde iyileştirir. Kullanıcılar tokenlar oluşturuldukça onları görür. Bu, algılanan bekleme süresini azaltır. Son parça token kullanım istatistiklerini içerir. Bu tokenları toplayarak maliyetlerinizi doğru şekilde takip edebilirsiniz.

Node.js'de akış işleme örneği:

Hataları zarifçe yönetmelisiniz. Ağ sorunları veya oran limitleri akışı kesintiye uğratabilir. Tekrarlama mantığı uygulamanız veya kullanıcıya bir hata mesajı göstermeniz gerekir. API, bu sorunları halletmenize yardımcı olacak açık hata kodları sağlar.

Akış davranışını max_tokens gibi parametrelerle de kontrol edebilirsiniz. Bu, akış yanıtının uzunluğunu sınırlar. Bu, kredinizi hızla tüketebilecek aşırı uzun çıktılar önlemek için kullanışlıdır. Gerçek zamanlı oluşturmanın avantajlarından yararlanırken çıktı uzunluğu üzerinde kontrol sağlarsınız.

Belirteç limitleri ve parametreler ile maliyetleri optimize etme

İsteklerinizde bir max_tokens sınırı belirleyerek maliyetleri optimize edersiniz. Belirtilmezse varsayılan değer 2.048 token'dır. Bu değeri istek başına 16.000 tokena kadar artırabilirsiniz. Bu sayede çoklu API çağrıları olmadan daha uzun yanıtlar üretebilirsiniz.

Fiyatlandırma, 1M giriş token'ı başına $0.15 ve 1M çıkış token'ı başına $0.50'dir. Hatalar ve reddetmeler ücretsizdir. Bu, yalnızca başarılı yanıtlar için ödeme yaptığınız anlamına gelir. Hata nedeniyle atılan token'lar için ödeme yapmazsınız. Bu, diğer sağlayıcılara kıyasla önemli bir avantaja sahiptir.

Modelin gereksiz metin üretmesini önlemek için stop parametresini kullanabilirsiniz. Bu, her istekte kullanılan token sayısını azaltabilir. İstenen çıktının sonunu belirten bir dizi tanımlarsınız. Model, bu diziyle karşılaştığında token üretmeyi durdurur.

Kullanımınızı panel üzerinden izleyebilirsiniz. Token tüketiminizi ve kalan kredinizi görebilirsiniz. Bu, API kullanımınızı etkili bir şekilde bütçellemenize yardımcı olur. Bakiyeniz azaldığında bildirim almak isterseniz uyarı kurabilirsiniz. Bu, beklenmedik ücretleri veya hizmet kesintilerini önler.

Örnek istemlerle entegrasyon testi

Entegrasyonunuzu /v1/chat/completions uç noktasına örnek bir istem göndererek test edin. Bağlantıyı doğrulamak için "Merhaba, nasılsın?" gibi basit bir istem kullanın. Beklenen selamlama için yanıtı kontrol edin. Bu, API anahtarınızın ve temel URL'nizin doğru olduğunu doğrular.

stream parametresini etkinleştirerek akış özelliğini de test edebilirsiniz. Gelen metin parçalarını gözlemleyin. Bu, istemcinizin Server-Sent Events'i doğru şekilde işleyip işlemediğini doğrular. Metnin belirteç belirteç görünmesi gerekir.

Sıcaklık ve top_p gibi farklı parametreleri test edin. Bu değerleri ayarlayarak model çıktısını nasıl etkilediklerini görün. Daha yüksek sıcaklıklar daha yaratıcı yanıtlar üretir. Daha düşük sıcaklıklar daha belirleyici çıktılar üretir. Bu, uygulamanız için doğru dengeyi bulmanıza yardımcı olur.

Araç tanımı sağlayarak fonksiyon çağırma özelliğini de test edebilirsiniz. Bir araç çağrısı içeren bir istek gönderin ve modelin doğru araç kullanımını döndürdüğünden emin olun. Bu, uygulamanızın harici API'lere veya veritabanlarına entegre olabildiğini garanti eder. API queen bu özelliği tam olarak destekler.

Diğer sağlayıcılardan sorunsuz geçiş

Yapılandırmanızdaki temel URL'yi ve API anahtarını değiştirerek geçiş yaparsınız. Uç nokta yapısı OpenAI ile özdeştir. İstek mantığınızı yeniden yazmanıza gerek yoktur. Mevcut kodunuzu koruyabilir ve yalnızca bağlantı ayarlarını güncelleyebilirsiniz.

Model adınızı "uncensored" olarak ayarlamanız gerekebilir. Bu, mevcut tek modeldir. Model yönlendirmesi veya sürüm yönetimi ile ilgilenmenize gerek yoktur. Bu, dağıtım hattınızı basitleştirir. Gönül rahatlığıyla üretim ortamına dağıtabilirsiniz.

Mevcut promptlarınızı ve sistem mesajlarınızı içe aktarabilirsiniz. Model standart prompt formatlarını anlar. Verilerinizi yeniden eğitmeniz veya ince ayar yapmanıza gerek yoktur. Mevcut prompt kitaplığınızla API'yi hemen kullanmaya başlayabilirsiniz.

Geçiş testi mevcut test paketinizi çalıştırarak yapabilirsiniz. Eski sağlayıcı ile yeninin çıktılarını karşılaştırın. Ton veya tarzda farklılıklar fark edebilirsiniz. Bu beklenen bir durumdur. Sansürsüz model daha doğrudan veya detaylı olabilir. İstediğiniz çıktıyı almak için istemlerinizi ayarlayabilirsiniz.

Sansürsüz uygulamanızı yayına almak için son adımlar

Hata işlemenizin sağlam olduğundan emin olarak başlatırsınız. Ağ sorunları oluşabilir. Üstel geri çekilme ile yeniden denemeler uygulamalısınız. Bu, uygulamanızın değişen yük koşulları altında dayanıklı kalmasını sağlar. Kullanıcılarınızın geçici aksaklıklar nedeniyle kesinti yaşamamasını istemezsiniz.

Token kullanımınızı yakından izlemelisiniz. Yüksek tüketim için uyarı kurabilirsiniz. Bu, beklenmedik ücretlerden kaçınmanıza yardımcı olur. Maliyetleri kontrol etmek için bir max_tokens limiti de ayarlayabilirsiniz. Bu, kredinizi çok hızlı harcamamanızı sağlar.

Google veya e-posta kullanarak kayıt olabilirsiniz. 7 gün için $0.50 deneme kredisi alırsınız. Bu, ücretli bir plana geçmeden önce API'yi test etmenizi sağlar. Hazır olduğunuzda kripto ile yükleyebilirsiniz.

Uygulamanızı geliştirmeye hazirsiniz. API kraliçesi güvenilir, sansürsüz bir LLM API'si sağlar. Modelle doğrudan, aracı olmadan erişiminiz olur. Bu, uygulamanızın davranışı üzerinde tam kontrol sağlar. API'nin tuhaf davranışlarıyla uğraşmak yerine, harika özellikler geliştirmeye odaklanabilirsiniz.