KO ▾

성인용 무검열 OpenAI 호환 API

https://api.llmsemcensura.com/v1uncensored

API 기반 무검열 챗봇: Node, 세션 기록, 스트리밍

무검열 AI: 2024년 어떤 API를 선택해야 할까요?
빛의 흐름을 통해 여러 화면에 대화 풍선을 보내는 서버를 보여줌으로써 스트리밍 챗봇을 설명하는 일러스트

당신이 통제하는 무검열 채팅봇을 만들려면 기록을 저장하고 OpenAI 호환 API로 대화를 전달하는 작은 서버가 필요합니다. 아래는 스트리밍, 메시지별 비용, 성인 사용 규칙이 포함된 Node 코드입니다.

업데이트됨

아키텍처는 어떻게 되나요

전용 무검열 챗봇에는 세 가지 구성 요소가 있습니다: 사용자 화면, 전용 서버 및 언어 API. 서버가 핵심입니다. API 키를 저장하고 각 대화의 기록을 유지하며 모델에 보낼 내용을 결정합니다. 화면은 키 노출을 피하기 위해 API와 직접 통신하지 않습니다.

이 API는 OpenAI와 호환됩니다: 공식 SDK는 Base URL을 https://api.llmsemcensura.com/v1로 변경하고 uncensored 모델을 사용하도록 설정하면 작동합니다. 아직 키가 없다면 여기서 생성하세요; 등록 시 클릭 하나로 테스트 크레딧 US$ 0,50를 제공합니다.

서버를 구성하기 전에 Python으로 최소한의 테스트를 실행하여 키와 URL이 정확한지 확인하세요:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)

스트리밍을 사용하는 Node 서버

예시는 Express를 사용하여 메시지를 받고 SSE(서버 전송 이벤트)로 응답을 반환하여 텍스트가 화면에 점진적으로 표시되도록 합니다. npm install express openai로 종속성을 설치하고 API_KEY에 키를 넣으세요.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmsemcensura.com/v1",
  apiKey: process.env.API_KEY,
});

const SISTEMA =
  "Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
  "Responda em português do Brasil. Os usuários são adultos.";

const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());

app.post("/chat", async (req, res) => {
  const { id, mensagem } = req.body;
  const historico = sessoes.get(id) ?? [];
  historico.push({ role: "user", content: mensagem });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
      stream: true,
      max_tokens: 500,
    });
    let texto = "";
    for await (const chunk of stream) {
      const parte = chunk.choices[0]?.delta?.content ?? "";
      if (parte) {
        texto += parte;
        res.write("data: " + JSON.stringify(parte) + "\n\n");
      }
    }
    historico.push({ role: "assistant", content: texto });
    sessoes.set(id, historico);
    res.write("data: [FIM]\n\n");
  } catch (e) {
    res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
  }
  res.end();
});

app.listen(3000);

요청 본문에는 세션 id과 mensagem이 포함됩니다. 흔한 실수는 호출 시 Content-Type: application/json 헤더를 누락하여 서버에서 본문이 비어 있게 만드는 것입니다. 브라우저나 요청 도구로 테스트하면 조각이 하나씩 도착하고 마지막에 [FIM] 마커가 표시됩니다.

기록: 저장 및 전송할 내용

API는 대화 기억이 없습니다. 각 호출은 모델이 확인해야 할 메시지를 포함합니다. 위 코드에서 전체 대화 내역은 Map에 저장되며, API로 전송되는 것은 마지막 12개의 메시지만입니다 (historico.slice(-12)).

절단 이유

절단 없이 입력이 매 라운드마다 증가하면 비용도 함께 상승합니다. 100,000개의 토큰 컨텍스트 창이 있더라도 매우 긴 대화는 모두 포함될 수 있지만, 비례하는 이득 없이 비용이 많이 들고 속도가 느려집니다.

시스템 프롬프트

시스템 프롬프트는 봇의 성격과 어조를 정의합니다. 긴 금지 및 요구 사항 목록보다 짧고 구체적인 프롬프트가 더 잘 작동합니다. 언어, 어조, 평균 응답 길이 및 대상을 지정하세요. 시스템 프롬프트의 각 토큰은 모든 호출에서 다시 전송되므로 250 토큰은 2.000 토큰보다 훨씬 저렴합니다. 변경 사항을 하나씩 테스트하고 작동한 버전을 저장하세요.

장기 기억

대화가 과거 사실을 기억해야 한다면, 모델에게 가끔 짧은 요약을 요청하고 그 결과를 시스템 프롬프트 뒤에 추가하세요. 프로덕션 환경에서는 Map 대신 데이터베이스를 사용해야 합니다. 서버가 재시작하면 Map이 초기화되며 여러 인스턴스 간 상태를 공유하지 않기 때문입니다.

메시지당 비용

가격은 입력 토큰 1M당 US$ 0,15, 출력 토큰 1M당 US$ 0,50입니다. 예시 가정: 250 토큰의 시스템 프롬프트, 80 토큰의 사용자 메시지, 300 토큰의 응답 및 12개의 기록 메시지(양쪽 각 6개).

  • 기록: 6 x 80 + 6 x 300 = 2.280 토큰
  • 입력: 250 + 2.280 + 80 = 2.610 토큰, 또는 US$ 0,0003915
  • 출력: 300 토큰, 또는 US$ 0,00015
  • 합계: 메시지당 US$ 0,0005415

메시지 1,000개당 약 US$ 0,54가 듭니다. US$ 0,50 무료 체험 크레딧으로 약 923개 메시지를 처리할 수 있고, US$ 20 충전으로 약 36,900개를 커버합니다. 충전 구간과 보너스를 보려면 가격을 여세요. 실패하거나 거부된 호출은 요금이 부과되지 않습니다.

한도, 429 및 대기열

전용 키는 동시 요청 8개와 분당 300개를 허용하며, 테스트 키는 동시 요청 2개와 분당 60개를 허용합니다. 인기 있는 채팅이 이를 초과하면 API는 HTTP 429를 rate_limited 또는 concurrency 코드로 반환합니다. 일시적인 과부하 시 429는 Retry-After: 5과 함께 제공됩니다. 스트리밍 응답은 스트림이 끝날 때까지 자리를 차지하므로 긴 응답은 동시성을 더 오래 유지합니다.

간단한 retry 함수는 이 간격을 준수합니다:

async function comRetry(fn, tentativas = 3) {
  for (let i = 0; i < tentativas; i++) {
    try {
      return await fn();
    } catch (e) {
      if (e.status === 429 && i < tentativas - 1) {
        await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
        continue;
      }
      throw e;
    }
  }
}

많은 동시 사용자의 경우 서버에 대기열을 배치하고 동시에 생성되는 대화 수를 제한하세요.

성인 사용 규칙

모델은 오픈 웨이트 모델이며 독립적인 제공자가 호스팅하며 법적 성인 용도에 대해 콘텐츠 필터링 없이 응답합니다. 이러한 채팅봇을 게시하는 사용자는 사용에 대한 책임을 집니다. 몇 가지 기본 관행:

  • 연령 확인. 첫 대화 전에 사용자가 성인임을 확인하도록 요구하고 서비스 약관에 명시하세요.
  • 미성년자 금지. 미성년자가 관련된 성적 콘텐츠는 예외 없이 금지됩니다. 귀하의 레이어에서 해당 페르소나나 요청을 차단하세요.
  • 사용자당 제한. 남용과 예상치 못한 지출을 방지하기 위해 일일 메시지 상한을 설정하세요.
  • 개인정보 보호. 필요한 최소한의 데이터만 저장하고 저장된 내용을 알리세요. 이 API에서는 프롬프트가 학습에 사용되지 않습니다.
  • 텍스트 전용. API는 이미지, 오디오 또는 비디오를 생성하지 않습니다.

다음 단계

기반이 마련되면 가장 유용한 개선 사항은 대화 내용을 데이터베이스에 저장하고, 헤더 X-Balance-USD을 통해 잔액을 표시하며, 봇이 귀하의 데이터를 조회하도록 tools을 사용하고 구조화된 출력이 필요할 때 JSON 모드를 사용하는 것입니다. 문서에는 각 기능에 대한 설명이 나와 있습니다. 모델의 필터를 제거할 때의 변화와 귀하의 제품에 미치는 영향을 이해하려면 필터 없는 AI를 읽어보세요.

충전은 USDT(TRC20 네트워크) 또는 USDC(Base 네트워크)로 US$ 20부터 US$ 500까지 가능합니다.

더 많은 가이드

자주 묻는 질문

챗봇을 만들려면 서버가 필요합니까?

개인용으로 사용하려면 로컬 스크립트면 충분합니다. 다른 사람이 사용할 예정이라면 API 키와 기록을 저장할 서버를 만드세요.

챗봇은 대화 내용을 자동으로 기억합니까?

아닙니다. API는 기록을 저장하지 않습니다. 귀하의 프로그램은 각 호출 시 최근 메시지를 다시 전송합니다.

스트리밍이 더 비쌉니까?

아닙니다. 비용은 입력 토큰과 출력 토큰 모두 동일합니다. 다른 점은 응답이 점진적으로 표시된다는 것입니다.

OpenAI SDK를 사용할 수 있습니까?

네, Python 또는 Node에서 가능합니다. Base URL과 키를 변경하고 uncensored 모델을 사용하세요.

API 키는 폼 하나만 작성하면 됩니다

계정을 생성하고 키를 복사한 후 Base URL을 변경하세요. 이것이 전체 설정입니다.

API 키 받기https://api.llmsemcensura.com/v1