अपने ऐप में एक अनकेंसरड LLM API को एकीकृत करें

डेवलपर अनसेंसर्ड LLM APIs में क्यों बदल रहे हैं

डेवलपर इसलिए स्विच करते हैं क्योंकि मानक मॉडक्स अक्सर मनमाने सुरक्षा फ़िल्टर के आधार पर वैध सामग्री को अस्वीकार कर देते हैं। आप चाहते हैं कि आपका एप्लिकेशन मॉडल द्वारा उत्पन्न सटीक उत्तर लौटाए बिना काल्पनिक या वयस्क थीम्स के लिए अनपेक्षित अस्वीकृतियों के बिना। API queen एक एकल, अनपटबंधित मॉडल प्रदान करती है जो सीधे जवाब देती है। यह अस्वीकृतियों को बायपास करने के लिए जटिल प्रॉक्सी हैक्स या रीट्राई लॉजिक की आवश्यकता को समाप्त कर देती है।

आपका कोड सरल रहता है। आप एक प्रॉम्पट भेजते हैं। आप एक रिस्पॉन्स प्राप्त करते हैं। सुरक्षा परतों को संभालने के लिए कोई अतिरिक्त मध्यवर्ती सॉफ्टवेयर की आवश्यकता नहीं है। यह विश्वसनीयता तब महत्वपूर्ण होती है जब आप कैरेक्टर बॉट या सामग्री जनरेटर बना रहे होते हैं जिन्हें स्थिर व्यवहार की आवश्यकता होती है। आप उस निराशा से बचते हैं जब एक मॉडल अचानक एक ऐसे प्रॉम्प्ट को अस्वीकार कर देता है जो कल काम कर रहा था।

लागत एक अन्य कारक है। कई प्रदाता अनकैप्ड वेरिएंट के लिए उच्च प्रीमियम लेते हैं या उनके संदर्भ विंडो को सीमित करते हैं। हम आधार मूल्य के लिए एक उदार 100,000 टोकन संदर्भ विंडो प्रदान करते हैं। यह आपको लंबे दस्तावेजों को प्रसंस्करण करने या व्यापक बातचीत के इतिहास को बनाए रखने की अनुमति देता है बिना विस्तारित संदर्भ के लिए अतिरिक्त शुल्क के बिना।

गोपनीयता भी महत्वपूर्ण है। आपके प्रॉम्प्ट्स आपके डेटा की ट्रेनिंग के लिए उपयोग नहीं किए जाते हैं। इससे आपकी स्वामित्व वाली सामग्री या उपयोगकर्ता डेटा आपका ही रहता है। आप मॉडल प्रोवाइडर के मॉडरेशन टीम के बाहरी हस्तक्षेप के बिना अपने अनुप्रयोग के व्यवहार पर पूर्ण नियंत्रण बनाए रखते हैं।

uncensored AI मॉडल आर्किटेक्चर को समझना

मॉडल एक ओपन-वेइट बड़ा भाषा मॉडल है जिसे विशेष रूप से कंटेंट अस्वीकृति के बिना उत्तर देने के लिए ट्यून किया गया है। यह GPT, क्लॉड, जेमिनी या किसी अन्य वेंडर का मॉडल नहीं है। आपको एक स्थिर अनुभव मिलता है क्योंकि केवल एक ही मॉडल है, न कि अलग-अलग बेस मॉडल के बीच स्विच कर सकता है एक रूटिंग सिस्टम।

यह पाठ जनरेशन को कुशलता से संभालता है। मॉडल सर्वर-सेंट इवेंट्स (Server-Sent Events) के माध्यम से स्ट्रीमिंग का समर्थन करता है। इससे आप उपयोगकर्ताओं को रियल-टाइम में टोकन दिखा सकते हैं, जिससे आपके एप्लिकेशन की अनुभव की गई लेटेंसी में सुधार होता है। आप संरचित आउटपुट के लिए फ़ंक्शन कॉलिंग और JSON मोड भी उपयोग कर सकते हैं।

मॉडल एम्बेडिंग्स, इमेज जनरेशन या ऑडियो प्रोसेसिंग नहीं करता है। यह कड़ाई से एक टेक्स्ट-इन, टेक्स्ट-आउट सेवा है। इस फोकस का मतलब है कि इंफ्रास्ट्रक्चर हाई-थ्रूपुट टेक्स्ट जनरेशन के लिए अनुकूलित है। आपको कम लेटेंसी और अपनी टेक्स्ट-आधारित एप्लिकेशन्स के लिए अधिक भविष्यसूचक प्रदर्शन मिलता है।

आप तापमान, top_p, और सीड जैसे पैरामीटर के साथ आउटपुट को नियंत्रित कर सकते हैं। इससे आपको प्रतिक्रियाओं की रचनात्मकता या निर्धारिता को सूक्ष्म रूप से समायोजित करने की अनुमति मिलती है। मॉडल इन सेटिंग्स का विश्वसनीय रूप से सम्मान करता है, आपको उत्पादन एप्लिकेशन के लिए आवश्यक नियंत्रण प्रदान करता है।

OpenAI compatible SDKs के साथ अपने वातावरण सेटअप

अपने वातावरण को सेटअप करने के लिए अपनी पसंदीदा SDK, जैसे आधिकारिक OpenAI Python या Node.js क्लाइंट, इंस्टॉल करें। आपको एक विशेष क्लाइंट की आवश्यकता नहीं है। API मानक OpenAI प्रोटोकॉल का उपयोग करती है। इसका मतलब है कि आपका मौजूदा कोड संभवतः न्यूनतम परिवर्तनों के साथ काम करेगा।

बेस URL को HTTPS://api.apiqueen.cc/v1 की ओर इशारा करने के लिए कॉन्फ़िगर करें। आप अपने API कुंजी को पर्यावरण चर या क्लाइंट कॉन्फ़िगरेशन में भी सेट करते हैं। यह कुंजी जब आप साइन अप करते हैं तो जनरेट की जाती है। आप Google या ईमेल से साइन अप कर सकते हैं। फोन नंबर की आवश्यकता नहीं है।

Python में क्लाइंट को इनिशियलाइज़ करने का तरीका:

• पैकेज इंस्टॉल करें: pip install openai
• बेस URL को API क्वीन एंडपॉइंट पर सेट करें
• अपना API कुंजी क्लाइंट को पास करें

यह सेटअप किसी भी OpenAI-कम्पैटिबल क्लाइंट के साथ काम करता है। आप लाइब्रेरीज जैसे LangChain या LlamaIndex को बिना मॉडिफिकेशन के उपयोग कर सकते हैं। मॉडल नाम, मेसेजेस और टेम्परेचर जैसे स्टैंडर्ड पैरामीटर्स सपोर्टेड हैं। आप तुरंत अपनी पहली रिक्वेस्ट भेजने के लिए तैयार हैं।

API queen के लिए बेस URL और API कुंजियाँ कॉन्फ़िगर करना

अपने एप्लिकेशन सेटिंग्स में बेस URL को HTTPS://apiqueen.cc/v1 पर कॉन्फ़िगर करें। यह URL आपके अनुरोधों को सही सर्वर की ओर निर्देशित करता है। आपको अपने API कुंजी को Authorization हेडर में भी शामिल करना होगा। फॉर्मेट Bearer YOUR_API_KEY है।

आपको प्रति खाता एक सक्रिय key मिलती है। यदि आपको नई key चाहिए, तो एक नई key जनरेट करने से पुरानी key को बदल दिया जाता है। यह उपयोगी है यदि आपको लगता है कि key लीक हो गई है। आप अपने डैशबोर्ड से एक नई key जनरेट कर सकते हैं। पुरानी key तुरंत काम करना बंद कर देती है।

आप द्वारा भेजा गया मॉडल आईडी "uncensored" है। यह सर्वर को बताता है कि कौन सा मॉडल उपयोग करना है। अन्य मॉडलों में कोई रूटिंग नहीं है। आपको हमेशा uncensored मॉडल मिलता है। यह स्थिरता आपके एप्लिकेशन में विशिष्ट टोन या व्यवस्था बनाए रखने के लिए महत्वपूर्ण है।

आप एक सरल अनुरोध भेजकर अपनी कनेक्शन का परीक्षण कर सकते हैं। मॉडल ID के लिए प्रतिक्रिया की जांच करें। इसमें "uncensored" लौटना चाहिए। यह पुष्टि करता है कि आपकी कॉन्फ़िगरेशन सही है। आप अब API को अपने एप्लिकेशन लॉजिक में इंटीग्रेट करने के लिए तैयार हैं।

रियल-टाइम जनरेशन के लिए स्ट्रीमिंग रिस्पॉन्सेस हैंडल करना

आप अपने अनुरोध में stream पैरामीटर को true सेट करके स्ट्रीमिंग हैंडल करते हैं। सर्वर Server-Sent Events की एक श्रृंखला भेजता है। प्रत्येक इवेंट में टेक्स्ट का एक चंक होता है। आप इन चंक्स को जोड़कर पूर्ण प्रतिक्रिया बनाते हैं।

स्ट्रीमिंग उपयोगकर्ता अनुभव को काफी बेहतर बनाती है। उपयोगकर्ता टोकन को जनरेट होते हुए देखते हैं। इससे अनुपस्थित प्रतीक्षा समय कम होता है। अंतिम चंक में टोकन उपयोग आंकड़े होते हैं। आप इन टोकन को जोड़कर अपनी लागत को सटीक रूप से ट्रैक कर सकते हैं।

Node.js में स्ट्रीमिंग को संभालने के तरीके का एक उदाहरण:

त्रुटियों को सहजता से संभालें। नेटवर्क समस्याएं या रेट लिमिट्स स्ट्रीम में बाधा डाल सकती हैं। आपको री-ट्राई लॉजिक लागू करना चाहिए या उपयोगकर्ता को एक त्रुटि संदेश प्रदर्शित करना चाहिए। API आपको इन समस्याओं को डिबग करने में मदद करने के लिए स्पष्ट त्रुटि कोड प्रदान करता है।

आप max_tokens जैसे पैरामीटर के साथ स्ट्रीमिंग व्यवहार को भी नियंत्रित कर सकते हैं। यह स्ट्रीम की गई प्रतिक्रिया की लंबाई को सीमित करता है। यह उन अत्यधिक लंबे आउटपुट को रोकने के लिए उपयोगी है जो आपके क्रेडिट को तेजी से खर्च कर सकते हैं। आप रियल-टाइम जनरेशन के लाभों का आनंद लेते हुए आउटपुट लंबाई पर नियंत्रण बनाए रखते हैं।

टोकन सीमाओं और पैरामीटर के साथ लागत अनुकूलन

आप अपने अनुरोधों में max_tokens सीमा सेट करके लागत को अनुकूलित करते हैं। यदि आप कोई निर्दिष्ट नहीं करते हैं, तो डिफ़ॉल्ट 2,048 टोकन है। आप इसे प्रति अनुरोध 16,000 टोकन तक बढ़ा सकते हैं। इससे आपको कई API कॉल के बिना लंबी प्रतिक्रियाएं जनरेट करने की अनुमति मिलती है।

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। त्रुटियां और अस्वीकृतियां मुफ्त हैं। इसका मतलब है कि आप केवल सफल प्रतिक्रियाओं के लिए भुगतान करते हैं। आप उन टोकन के लिए भुगतान नहीं करते हैं जो उत्पन्न किए जाते हैं लेकिन त्रुटि के कारण फेंक दिए जाते हैं। यह अन्य प्रदाताओं की तुलना में एक महत्वपूर्ण लाभ है।

आप मॉडल को अनावश्यक टेक्स्ट जनरेट करने से रोकने के लिए stop पैरामीटर भी उपयोग कर सकते हैं। इससे प्रत्येक अनुरोध में उपयोग किए जाने वाले टोकन की संख्या कम हो सकती है। आप एक सीक्वेंस परिभाषित करते हैं जो वांछित आउटपुट के अंत का संकेत देता है। मॉडल इस सीक्वेंस को देखते ही टोकन जनरेट करना बंद कर देगा।

आप डैशबोर्ड के माध्यम से अपनी उपयोग की निगरानी कर सकते हैं। आप अपने टोकन उपभोग और शेष क्रेडिट को देख सकते हैं। यह आपको अपनी API उपयोग का बजट बनाने में मदद करता है। आप यदि चाहें तो अलर्ट सेट कर सकते हैं ताकि जब आपका बैलेंस कम हो जाए तो आपको सूचित किया जा सके। यह अप्रत्याशित चार्ज या सेवा विघटन को रोकता है।

नमूना प्रॉम्प्ट्स के साथ अपनी इंटीग्रेशन का परीक्षण

आप /v1/chat/completions एंडपॉइंट पर एक नमूना प्रॉम्प्ट भेजकर अपनी इंटीग्रेशन का परीक्षण करते हैं। कनेक्टिविटी की जांच के लिए "Hello, how are you?" जैसे सरल प्रॉम्प्ट का उपयोग करें। प्रतिक्रिया में अपेक्षित अभिवादन की जांच करें। यह पुष्टि करता है कि आपकी API कुंजी और बेस URL सही हैं।

आप stream पैरामीटर को सक्षम करके स्ट्रीमिंग का परीक्षण भी कर सकते हैं। आते हुए टेक्स्ट के चंक को देखें। यह सत्यापित करता है कि आपका क्लाइंट Server-Sent Events को सही ढंग से संभालता है। आपको टेक्स्ट टोकन-दर-टोकन प्रकट होते हुए दिखना चाहिए।

तापमान और top_p जैसे विभिन्न पैरामीटर्स का परीक्षण करें। इन मानों को समायोजित करें ताकि यह देखा जा सके कि वे मॉडल के आउटपुट को कैसे प्रभावित करते हैं। उच्च तापमान अधिक रचनात्मक प्रतिक्रियाएं उत्पन्न करते हैं। निम्न तापमान अधिक निर्धारक आउटपुट उत्पन्न करते हैं। यह आपके ऐप्लिकेशन के लिए सही संतुलन खोजने में मदद करता है।

आप टूल परिभाषा प्रदान करके फंक्शन कॉलिंग का परीक्षण भी कर सकते हैं। एक टूल कॉल के साथ अनुरोध भेजें और सत्यापित करें कि मॉडल सही टूल उपयोग के साथ प्रतिक्रिया देता है। यह सुनिश्चित करता है कि आपका एप्लिकेशन बाहरी API या डेटाबेस के साथ एकीकृत हो सकता है। API queen इस सुविधा का पूर्ण रूप से समर्थन करता है।

अन्य प्रदाताओं से सहज रूप से माइग्रेट करना

आप अपनी कॉन्फ़िगरेशन में बेस URL और API कुंजी बदलकर माइग्रेट करते हैं। एंडपॉइंट संरचना OpenAI के समान है। आपको अपने अनुरोध तर्क को फिर से लिखने की आवश्यकता नहीं है। आप मौजूदा कोड रख सकते हैं और बस कनेक्शन सेटिंग्स अपडेट कर सकते हैं।

आपको अपने मॉडल नाम को "uncensored" पर समायोजित करने की आवश्यकता हो सकती है। यह एकमात्र उपलब्ध मॉडल है। आपको मॉडल रूटिंग या संस्करण प्रबंधन की आवश्यकता नहीं है। यह आपके डिप्लॉयमेंट पाइपलाइन को सरल बनाता है। आप आत्मविश्वास के साथ उत्पादन में डिप्लॉय कर सकते हैं।

आप अपने मौजूदा प्रॉम्प्ट और सिस्टम संदेशों को आयात कर सकते हैं। मॉडल मानक प्रॉम्प्ट प्रारूपों को समझता है। आपको अपने डेटा को पुर्नप्रशिक्षित या फाइन-ट्यून करने की आवश्यकता नहीं है। आप अपने मौजूदा प्रॉम्प्ट लाइब्रेरी के साथ तुरंत API queen का उपयोग शुरू कर सकते हैं।

आप मौजूदा टेस्ट सूट चलाकर माइग्रेशन का परीक्षण कर सकते हैं। पुराने प्रदाता के आउटपुट की तुलना नए से करें। आप टोन या शैली में अंतर देख सकते हैं। यह अपेक्षित है। uncensored मॉडल अधिक प्रत्यक्ष या विस्तृत हो सकता है। आप वांछित आउटपुट प्राप्त करने के लिए अपने प्रॉम्प्ट को समायोजित कर सकते हैं।

अपने अनसेंसर्ड एप्लिकेशन को लॉन्च करने के लिए अंतिम चरण

आप त्रुटि हैंडलिंग को मजबूत बनाकर लॉन्च करते हैं। नेटवर्क समस्याएँ हो सकती हैं। आपको एक्सपोनेंशियल बैकऑफ़ के साथ रीट्राइ लागू करने चाहिए। यह सुनिश्चित करता है कि आपका एप्लिकेशन विभिन्न लोड स्थितियों के तहत प्रतिरोधी बना रहे। आप नहीं चाहते कि आपके उपयोगकर्ता अस्थायी खराबियों के कारण डाउनटाइम का अनुभव करें।

अपने टोकन उपयोग की क्लोजली निगरानी करें। आप उच्च खपत के लिए अलर्ट सेटअप कर सकते हैं। यह आपको अप्रत्याशित शुल्क से बचने में मदद करता है। आप लागत को नियंत्रित करने के लिए max_tokens लिमिट भी सेट कर सकते हैं। यह सुनिश्चित करता है कि आप अपना क्रेडिट बहुत जल्दी खर्च न करें।

आप Google या ईमेल के साथ साइन अप कर सकते हैं। आपको 7 दिनों के लिए $0.50 का ट्रायल क्रेडिट मिलता है। यह आपको भुगतानयुक्त योजना में प्रतिबद्ध होने से पहले API का परीक्षण करने की अनुमति देता है। जब आप तैयार हों तो आप क्रिप्टो के साथ टॉप अप कर सकते हैं।

अब आप अपनी एप्लिकेशन बनाने के लिए तैयार हैं। API queen एक विश्वसनीय, uncensored LLM API प्रदान करती है। आपको मॉडल तक बिना किसी मध्यस्थ के सीधा पहुंच मिलती है। इससे आपको अपनी एप्लिकेशन के व्यवहार पर पूर्ण नियंत्रण मिलता है। आप API की अजीबोगरीज बातों को प्रबंधित करने के बजाय शानदार फीचर्स बनाने पर ध्यान केंद्रित कर सकते हैं।