वास्तुकला कैसी है
एक स्वयं का बिना सेंसर चैटबॉट तीन भागों से मिलकर होता है: उपयोगकर्ता स्क्रीन, आपका सर्वर और भाषा API। सर्वर केंद्र है। यह API कुंजी को सुरक्षित रखता है, प्रत्येक वार्तालाप का इतिहास बनाए रखता है और तय करता है कि मॉडल को क्या भेजना है। स्क्रीन कभी सीधे API से बात नहीं करती, क्योंकि इससे कुंजी खुल जाएगी।
यह API OpenAI के साथ संगत है: मानक SDK को Base URL को https://api.llmsemcensura.com/v1 पर बदलकर और uncensored मॉडल का उपयोग करके काम किया जा सकता है। यदि आपके पास अभी कुंजी नहीं है, तो यहाँ बनाएं; पंजीकरण आपको US$ 0,50 का परीक्षण क्रेडिट प्रदान करता है, एक क्लिक के साथ।
सर्वर बनाने से पहले, Python में एक न्यूनतम परीक्षण के साथ कनेक्शन को सत्यापित करें, केवल यह सुनिश्चित करने के लिए कि कुंजी और URL सही हैं:
from openai import OpenAI
client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)Node में सर्वर, स्ट्रीमिंग के साथ
उदाहरण संदेश प्राप्त करने और SSE (server-sent events) के माध्यम से उत्तर वापस करने के लिए Express का उपयोग करता है, ताकि टेक्स्ट स्क्रीन पर धीरे-धीरे दिखाई दे। npm install express openai के साथ निर्भरताएँ स्थापित करें और कुंजी को API_KEY में रखें।
import express from "express";
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmsemcensura.com/v1",
apiKey: process.env.API_KEY,
});
const SISTEMA =
"Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
"Responda em português do Brasil. Os usuários são adultos.";
const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());
app.post("/chat", async (req, res) => {
const { id, mensagem } = req.body;
const historico = sessoes.get(id) ?? [];
historico.push({ role: "user", content: mensagem });
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
stream: true,
max_tokens: 500,
});
let texto = "";
for await (const chunk of stream) {
const parte = chunk.choices[0]?.delta?.content ?? "";
if (parte) {
texto += parte;
res.write("data: " + JSON.stringify(parte) + "\n\n");
}
}
historico.push({ role: "assistant", content: texto });
sessoes.set(id, historico);
res.write("data: [FIM]\n\n");
} catch (e) {
res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
}
res.end();
});
app.listen(3000);अनुरोध बॉडी में एक id सत्र और mensagem होता है। एक आम त्रुटि कॉल पर Content-Type: application/json हेडर भूल जाना है, जिससे सर्वर पर बॉडी खाली रह जाती है। ब्राउज़र या अनुरोध टूल से परीक्षण करते समय, आपको टुकड़े एक-एक करके आते हुए और अंत में [FIM] मार्कर दिखना चाहिए।
इतिहास: क्या रखें और क्या भेजें
API में बातचीत की मेमोरी नहीं है। हर कॉल को मॉडल को देखने के लिए संदेश चाहिए। ऊपर दिए गए कोड में, पूरा इतिहास Map में रहता है और केवल आखिरी 12 संदेश API को भेजे जाते हैं (historico.slice(-12))।
कट क्यों करें
बिना ट्रंकेशन के, इनपुट हर राउंड में बढ़ता है और लागत भी बढ़ती है। 100.000 टोकन की विंडो के साथ, एक बहुत लंबी बातचीत पूरी तरह फिट भी हो सकती है, लेकिन यह महंगी और धीमी होगी बिना समान लाभ के।
सिस्टम प्रॉम्प्ट
यह निर्धारित करता है कि बॉट कौन है और कैसे बोलता है। छोटे और विशिष्ट प्रॉम्प्ट, प्रतिबंधों और आवश्यकताओं की लंबी सूची से बेहतर काम करते हैं। भाषा, टोन, औसत उत्तर का आकार और दर्शकों का उल्लेख करें। सिस्टम प्रॉम्प्ट का प्रत्येक टोकन हर अनुरोध में फिर से भेजा जाता है, इसलिए 250 टोकन का खर्च 2,000 टोकन के खर्च की तुलना में बहुत कम होता है। परिवर्तनों को एक-एक करके परीक्षण करें और उन संस्करणों को सहेजें जो काम आए।
दीर्घकालिक मेमोरी
यदि बातचीत को पुराने तथ्यों को याद रखना है, तो मॉडल से कभी-कभी एक छोटा सारांश मांगें और उसे सिस्टम प्रॉम्प्ट के ठीक बाद रखें। उत्पादन में, Map को एक डेटाबेस से बदल दें, क्योंकि यह सर्वर रीस्टार्ट होने पर रीसेट हो जाता है और कई इंस्टेंसों के बीच स्थिति साझा नहीं करता है।
प्रत्येक संदेश की लागत
मूल्य इनपुट टोकन के प्रति 1M के लिए US$ 0,15 और आउटपुट के लिए 1M के लिए US$ 0,50 है। उदाहरण की मान्यताएं: 250 टोकन का सिस्टम प्रॉम्प्ट, 80 का उपयोगकर्ता संदेश, 300 का उत्तर और 12 इतिहास संदेश (प्रत्येक पक्ष से 6)।
- इतिहास: 6 x 80 + 6 x 300 = 2,280 टोकन
- इनपुट: 250 + 2,280 + 80 = 2,610 टोकन, या US$ 0,0003915
- आउटपुट: 300 टोकन, या US$ 0,00015
- कुल: प्रति संदेश US$ 0,0005415
हज़ार संदेशों की लागत लगभग US$ 0,54 है। US$ 0,50 का मुफ़्त ट्रायल क्रेडिट लगभग 923 संदेशों के लिए पर्याप्त है, और US$ 20 की टॉप-अप लगभग 36,900 संदेशों को कवर करती है। टॉप-अप श्रेणियों और बोनस देखने के लिए मूल्य खोलें। विफल या अस्वीकृत अनुरोधों की वसूली नहीं की जाती।
सीमाएं, 429 और कतारें
पूर्ण कुंजी एक साथ 8 अनुरोध और प्रति मिनट 300 स्वीकार करती है; परीक्षण कुंजी 2 और 60। जब एक लोकप्रिय चैट इस सीमा से आगे बढ़ता है, तो API HTTP 429 प्रतिक्रिया rate_limited या concurrency कोड के साथ देता है। अस्थायी ओवरलोड पर, 429 Retry-After: 5 के साथ आता है। याद रखें कि स्ट्रीमिंग प्रतिक्रिया धारा के अंत तक जगह घेरती है, इसलिए लंबी प्रतिक्रियाएँ अधिक देर तक सह-कार्यक्षमता को रोकती हैं।
एक सरल रीट्राई फ़ंक्शन इस अंतराल का सम्मान करता है:
async function comRetry(fn, tentativas = 3) {
for (let i = 0; i < tentativas; i++) {
try {
return await fn();
} catch (e) {
if (e.status === 429 && i < tentativas - 1) {
await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
continue;
}
throw e;
}
}
}एक साथ कई उपयोगकर्ताओं के लिए, सर्वर पर एक कतार रखें और सीमित करें कि एक साथ कितनी बातचीत उत्पन्न होती है।
वयस्कों के लिए उपयोग नियम
मॉडल ओपन-वेट है, एक स्वतंत्र प्रदाता द्वारा होस्ट किया गया है और कानूनी वयस्कों के उपयोग के लिए बिना सामग्री अस्वीकृति उत्तर देता है। इस प्रकार का चैटबॉट प्रकाशक उपयोग की जिम्मेदारी लेता है। कुछ बुनियादी प्रथाएँ:
- आयु सत्यापन। पहले बातचीत से पहले उपयोगकर्ता के वयस्क होने की पुष्टि की आवश्यकता करें और इसे अपनी सेवा की शर्तों में रखें।
- नाबालिगों पर प्रतिबंध। नाबालिगों से जुड़ी यौन सामग्री प्रतिबंधित है, कोई अपवाद नहीं। अपनी परत पर किसी भी व्यक्तित्व या इस दिशा में अनुरोध को ब्लॉक करें।
- प्रति उपयोगकर्ता सीमा। दुरुपयोग और अप्रत्याशित खर्च से बचने के लिए दैनिक संदेशों की एक छत तय करें।
- गोपनीयता। न्यूनतम आवश्यक जानकारी रखें और बताएं कि क्या स्टोर किया जाता है। इस API में, प्रॉम्प्ट्स को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।
- केवल टेक्स्ट। API छवि, ऑडियो या वीडियो उत्पन्न नहीं करती है।
अगले कदम
बेस तैयार होने के बाद, सबसे उपयोगी सुधार ये हैं: डेटाबेस में चैट सहेजें, हेडर X-Balance-USD के माध्यम से अपना शेष राशि दिखाएं, अपने डेटा तक पहुंचने के लिए tools का उपयोग करें और जब संरचित आउटपुट की आवश्यकता हो तो JSON मोड का उपयोग करें। दस्तावेज़ीकरण प्रत्येक सुविधा को कवर करता है। यह समझने के लिए कि मॉडल से फ़िल्टर हटाने से क्या बदलाव आते हैं और यह आपके उत्पाद से कैसे संबंधित है, बिना फ़िल्टर AI पढ़ें।
टॉप-अप US$ 20 से US$ 500 तक होते हैं, TRC20 नेटवर्क पर USDT या Base नेटवर्क पर USDC में।

