TR ▾

Yetişkinler için filtresiz OpenAI uyumlu API

https://api.llmsemcensura.com/v1uncensored

Filtresiz sohbet botu API: Node, geçmiş ve akış

Filtresiz AI: 2024'te Hangi API'yi Seçmeli?
Akışlı bir sohbet botunu temsil eden, ışık akışı üzerinden birden fazla ekrana konuşma balonları gönderen bir sunucu

Kontrol ettiğiniz filtresiz bir sohbet botuna sahip olmak için, geçmişi saklayan ve konuşmayı OpenAI uyumlu bir API'ye ileten küçük bir sunucuya ihtiyacınız vardır. Aşağıda, akış, mesaj başına maliyet ve yetişkinler için kullanım kuralları içeren Node kodu yer almaktadır.

güncellendi

Mimari nasıl

Kendi filtresiz sohbet botunuz üç parçadan oluşur: kullanıcı ekranı, kendi sunucunuz ve dil API'si. Sunucu merkezdir. API anahtarını saklar, her konuşmanın geçmişini tutar ve modele ne gönderileceğine karar verir. Ekran API ile doğrudan konuşmaz, çünkü bu anahtarın açığa çıkmasına neden olur.

Bu API OpenAI ile uyumludur: resmi SDK, Base URL'yi https://api.llmsemcensura.com/v1 olarak değiştirip uncensored modelini kullanarak çalışır. Henüz anahtarınız yoksa buradan oluşturun; kayıt işlemi US$ 0,50 deneme kredisi hakkı verir.

Sunucuyu kurmadan önce, anahtarın ve URL'nin doğru olduğundan emin olmak için Python ile minimum bir testle bağlantıyı doğrulayın:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)

Akışlı Node sunucusu

Örnek, Express ile mesajı alır ve SSE (server-sent events) ile yanıtı döndürür; böylece metin ekranda parça parça görünür. npm install express openai ile bağımlılıkları kurun ve anahtarı API_KEY değişkenine yerleştirin.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmsemcensura.com/v1",
  apiKey: process.env.API_KEY,
});

const SISTEMA =
  "Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
  "Responda em português do Brasil. Os usuários são adultos.";

const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());

app.post("/chat", async (req, res) => {
  const { id, mensagem } = req.body;
  const historico = sessoes.get(id) ?? [];
  historico.push({ role: "user", content: mensagem });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
      stream: true,
      max_tokens: 500,
    });
    let texto = "";
    for await (const chunk of stream) {
      const parte = chunk.choices[0]?.delta?.content ?? "";
      if (parte) {
        texto += parte;
        res.write("data: " + JSON.stringify(parte) + "\n\n");
      }
    }
    historico.push({ role: "assistant", content: texto });
    sessoes.set(id, historico);
    res.write("data: [FIM]\n\n");
  } catch (e) {
    res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
  }
  res.end();
});

app.listen(3000);

İstek gövdesi bir id oturum kimliği ve mensagem içerir. Yaygın bir hata, çağrıda Content-Type: application/json başlığını unutmaktır; bu da sunucuda boş bir gövdeye yol açar. Tarayıcı veya bir istek aracıyla test ederken, parçaların tek tek geldiğini ve sonunda [FIM] işaretçisini görmelisiniz.

Geçmiş: ne saklanmalı ve ne gönderilmeli

API konuşma hafızasına sahip değildir. Her çağrı, modelin görmesi gereken mesajları alır. Yukarıdaki kodda tam geçmiş Map içinde kalır ve yalnızca son 12 mesaj API'ye gönderilir (historico.slice(-12)).

Neden kesme yapılıyor

Kesme olmadan, giriş her turda büyür ve maliyet artar. 100.000 token penceresi ile çok uzun bir konuşma sığabilirdi, ancak orantılı bir kazanç olmadan pahalı ve yavaş olurdu.

Sistem istemi

Botun kimliğini ve konuşma tarzını belirler. Kısa ve spesifik istemler, uzun yasak ve gereksinim listelerinden daha iyi çalışır. Dil, ton, ortalama yanıt uzunluğu ve hedef kitleyi belirtin. Sistem istemindeki her token her istekte yeniden gönderildiğinden, 250 token 2.000 tokenden çok daha az maliyetlidir. Değişiklikleri tek tek test edin ve işe yarayanları kaydedin.

Uzun süreli bellek

Konuşmanın eski gerçekleri hatırlaması gerekiyorsa, modelten zaman zaman kısa bir özet isteyin ve bunu sistem isteminin hemen altına yerleştirin. Üretimde, sunucu yeniden başlatıldığında sıfırlanan ve birden fazla örnekte durumu paylaşmayan Map yerine bir veritabanı kullanın.

Her mesajın maliyeti ne kadar

Fiyat giriş tokenleri için 1M başına 0,15 $ ve çıkış için 1M başına 0,50 $'dır. Örnek varsayımları: 250 tokenlik sistem istemi, 80 tokenlik kullanıcı mesajı, 300 tokenlik yanıt ve 12 mesajlık geçmiş (her iki taraftan 6).

  • Geçmiş: 6 x 80 + 6 x 300 = 2.280 token
  • Giriş: 250 + 2.280 + 80 = 2.610 token veya 0,0003915 $
  • Çıkış: 300 token veya 0,00015 $
  • Toplam: mesaj başına 0,0005415 $

Bin mesaj yaklaşık 0,54 $ tutarındadır. 0,50 $'lık deneme kredisi yaklaşık 923 mesaj için yeterlidir ve 20 $'lık bakiye yükleme yaklaşık 36.900 mesajı karşılar. Bakiye yükleme aralıklarını ve bonusları görmek için fiyatlandırma sayfasını açın. Başarısız veya reddedilen çağrılar ücretlendirilmez.

Limitler, 429 ve kuyruklar

Tam anahtar aynı anda 8 istek ve dakikada 300 istek kabul eder; deneme anahtarı ise 2 ve 60'tır. Popüler bir sohbet bu limitleri aşarsa API, HTTP 429 yanıtı ile rate_limited veya concurrency kodunu döndürür. Geçici aşırı yüklenmelerde 429 yanıtı Retry-After: 5 ile gelir. Akış yanıtı, akış bitene kadar yer kapladığından, uzun yanıtlar eşzamanlılığı daha uzun süre sınırlar.

Basit bir yeniden deneme fonksiyonu bu aralığı dikkate alır:

async function comRetry(fn, tentativas = 3) {
  for (let i = 0; i < tentativas; i++) {
    try {
      return await fn();
    } catch (e) {
      if (e.status === 429 && i < tentativas - 1) {
        await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
        continue;
      }
      throw e;
    }
  }
}

Aynı anda birçok kullanıcı için sunucuda bir kuyruk yerleştirin ve eşzamanlı üretilen konuşma sayısını sınırlayın.

Kullanım kuralları yetişkinler için

Model açıktır, bağımsız bir sağlayıcı tarafından barındırılır ve yasal yetişkin kullanımına yönelik içerik reddi olmadan yanıt verir. Böyle bir sohbet botu yayınlayan, kullanım sorumluluğunu üstlenir. Temel bazı uygulamalar şunlardır:

  • Yaş doğrulaması. İlk konuşmadan önce kullanıcının reşit olduğunu onaylamasını isteyin ve bunu hizmet şartlarınızda belirtin.
  • Reşit olmayanlar yasağı. Reşit olmayanları içeren cinsel içerik, istisna olmaksızın yasaktır. Herhangi bir kişiliği veya bu yöndeki isteği katmanınızda engelleyin.
  • Kullanıcı başına limit. İstismarı ve beklenmedik harcamaları önlemek için günlük mesaj üst sınırını belirleyin.
  • Gizlilik. Gereken minimum veriyi saklayın ve neyin depolandığını bildirin. Bu API'de istemler eğitim için kullanılmaz.
  • Yalnızca metin. API görsel, ses veya video oluşturmaz.

Sonraki adımlar

Temel hazır olduğunda, en faydalı iyileştirmeler şunlardır: konuşmaları veritabanında kaydetmek, bakiyenizi X-Balance-USD başlığı aracılığıyla göstermek, botun kendi verilerinize erişmesi için tools kullanmak ve yapılandırılmış çıktı gerektiğinde JSON modunu kullanmak. Belgelendirme her özelliği kapsar. Bir modelden filtrelerin kaldırılmasının ne gibi değişikliklere yol açtığını ve bunun ürününüzle nasıl ilişkili olduğunu anlamak için Filtresiz AI başlıklı makaleyi okuyun.

Yüklemeler US$ 20 ile US$ 500 arasında değişir; TRC20 ağı üzerinden USDT veya Base ağı üzerinden USDC ile yapılır.

Daha fazla kılavuz

Sıkça sorulan sorular

Sohbet botu için sunucuya ihtiyacım var mı?

Kişisel kullanım için yerel bir komut dosyası yeterlidir. Başkalarının kullanması gerekiyorsa, API anahtarınızı ve geçmişinizi saklamak için kendi sunucunuzu kurun.

Sohbet botu konuşmayı kendi başına hatırlıyor mu?

Hayır. API geçmiş kaydetmez. Programınız, her çağrıda son mesajları yeniden gönderir.

Akış daha fazla maliyet yaratır mı?

Hayır. Maliyet, girdi ve çıktı tokenleri için aynıdır. Tek fark, yanıtın kademeli olarak görünmesidir.

OpenAI SDK'sını kullanabilir miyim?

Evet, Python veya Node ile. Base URL'yi ve anahtarı değiştirin ve uncensored modelini kullanın.

Anahtarınız bir form kadar uzaktadır

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Tüm yapılandırma bu kadar basittir.

API anahtarını alınhttps://api.llmsemcensura.com/v1