RU ▾

API, совместимая с OpenAI, без фильтров для использования взрослыми

https://api.llmsemcensura.com/v1uncensored

Чат-бот без цензуры через API: Node, история и потоковая передача

ИИ без фильтров: какой API выбрать в 2024 году?
Сервер отправляет диалоговые пузыри на несколько экранов через световой поток, иллюстрируя чат-бота с потоковой передачей

Чтобы создать управляемый вами чат-бот без цензуры, достаточно небольшого сервера, который хранит историю и передаёт разговор API, совместимому с OpenAI. Ниже представлен код на Node с потоковой передачей, расчётом стоимости сообщения и правилами использования для взрослых.

Обновлено

Как устроена архитектура

Собственный чат-бот без фильтров состоит из трёх частей: пользовательский интерфейс, ваш сервер и языковой API. Сервер — это центр. Он хранит API-ключ, ведёт историю каждого диалога и решает, что отправлять модели. Интерфейс никогда не обращается к API напрямую, чтобы не раскрыть ключ.

Этот API совместим с OpenAI: официальный SDK работает путем замены базового URL на https://api.llmsemcensura.com/v1 и использования модели uncensored. Если у вас еще нет ключа, создайте его здесь; регистрация дает право на тестовый баланс в размере US$ 0,50, всего одним кликом.

Перед настройкой сервера проверьте подключение минимальным тестом на Python, чтобы убедиться в правильности ключа и URL:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)

Сервер на Node с потоковой передачей

Пример использует Express для приёма сообщения и возврата ответа через SSE (server-sent events), чтобы текст появлялся на экране постепенно. Установите зависимости с помощью npm install express openai и поместите ключ в API_KEY.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmsemcensura.com/v1",
  apiKey: process.env.API_KEY,
});

const SISTEMA =
  "Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
  "Responda em português do Brasil. Os usuários são adultos.";

const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());

app.post("/chat", async (req, res) => {
  const { id, mensagem } = req.body;
  const historico = sessoes.get(id) ?? [];
  historico.push({ role: "user", content: mensagem });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
      stream: true,
      max_tokens: 500,
    });
    let texto = "";
    for await (const chunk of stream) {
      const parte = chunk.choices[0]?.delta?.content ?? "";
      if (parte) {
        texto += parte;
        res.write("data: " + JSON.stringify(parte) + "\n\n");
      }
    }
    historico.push({ role: "assistant", content: texto });
    sessoes.set(id, historico);
    res.write("data: [FIM]\n\n");
  } catch (e) {
    res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
  }
  res.end();
});

app.listen(3000);

Тело запроса содержит id сессии и mensagem. Частая ошибка — забыть заголовок Content-Type: application/json при вызове, из-за чего на сервере тело запроса оказывается пустым. При тестировании через браузер или инструмент запросов вы должны видеть, как фрагменты приходят по одному, и в конце — маркер [FIM].

История: что хранить и что отправлять

API не запоминает историю чата. Каждый вызов передает модели сообщения, которые ей нужно увидеть. В приведенном выше коде полная история находится в Map, и только последние 12 сообщений отправляются в API (historico.slice(-12)).

Почему обрезать

Без обрезки объём ввода растёт с каждым раундом, и стоимость увеличивается. При контекстном окне в 100 000 токенов очень длинный разговор поместился бы полностью, но был бы дорогим и медленным без пропорционального выигрыша.

Системный промпт

Он определяет, кто такой бот и как он говорит. Короткие и конкретные промпты работают лучше, чем длинные списки запретов и требований. Укажите язык, тон, средний размер ответов и аудиторию. Каждый токен системного промпта отправляется при каждом вызове, поэтому 250 токенов стоят значительно дешевле 2 000. Тестируйте изменения по одной и сохраняйте удачные версии.

Долговременная память

Если диалог должен помнить старые факты, время от времени просите модель сделать краткое резюме и добавляйте его сразу после системного промпта. В продакшене замените Map на базу данных, так как он очищается при перезапуске сервера и не разделяет состояние между несколькими инстансами.

Сколько стоит каждое сообщение

Цена составляет US$ 0,15 за 1M входных токенов и US$ 0,50 за 1M выходных токенов. Предположения в примере: системный промпт 250 токенов, сообщение пользователя 80 токенов, ответ 300 токенов и 12 сообщений истории (по 6 с каждой стороны).

  • История: 6 x 80 + 6 x 300 = 2 280 токенов
  • Вход: 250 + 2 280 + 80 = 2 610 токенов, или US$ 0,0003915
  • Выход: 300 токенов, или US$ 0,00015
  • Итого: US$ 0,0005415 за сообщение

Тысяча сообщений стоит около US$ 0,54. Тестовый баланс в US$ 0,50 хватит примерно на 923 сообщения, а пополнение на US$ 20 покроет около 36 900. Чтобы увидеть диапазоны пополнения и бонусы, откройте цены. Неудачные или отклоненные вызовы не оплачиваются.

Лимиты, 429 и очереди

Полный ключ принимает 8 запросов одновременно и 300 в минуту; тестовый — 2 и 60. Когда популярный чат превышает эти лимиты, API возвращает HTTP 429 с кодом rate_limited или concurrency. При временной перегрузке 429 приходит с заголовком Retry-After: 5. Помните, что ответ в потоковой передаче занимает место до конца потока, поэтому длинные ответы удерживают параллелизм дольше.

Простая функция повторного запроса учитывает этот интервал:

async function comRetry(fn, tentativas = 3) {
  for (let i = 0; i < tentativas; i++) {
    try {
      return await fn();
    } catch (e) {
      if (e.status === 429 && i < tentativas - 1) {
        await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
        continue;
      }
      throw e;
    }
  }
}

Для большого числа одновременных пользователей добавьте очередь на сервере и ограничьте количество одновременных разговоров.

Правила использования для взрослых

Модель открытая, размещена независимым провайдером и отвечает без отказов в контенте для законного использования взрослыми. Размещающий такой чат-бот берет на себя ответственность за использование. Несколько базовых практик:

  • Проверка возраста. Требуйте подтверждения совершеннолетия пользователя перед первым диалогом и укажите это в условиях вашего сервиса.
  • Запрет для несовершеннолетних. Сексуальный контент с участием несовершеннолетних запрещён без исключений. Блокируйте на вашем уровне любую персону или запросы в этом направлении.
  • Лимит на пользователя. Установите дневной лимит сообщений, чтобы избежать злоупотреблений и неожиданных расходов.
  • Конфиденциальность. Храните только необходимый минимум и сообщайте, что именно сохраняется. В этом API промпты не используются для обучения.
  • Только текст. API не генерирует изображения, аудио или видео.

Следующие шаги

Когда база готова, наиболее полезные улучшения включают: сохранение диалогов в базу данных, отображение вашего баланса через заголовок X-Balance-USD, использование tools для бота, чтобы запрашивать ваши данные, и JSON-режим, когда нужен структурированный вывод. Документация охватывает каждую функцию. Чтобы понять, что меняется при снятии фильтров с модели и как это связано с вашим продуктом, прочитайте ИИ без фильтров.

Пополнение от US$ 20 до US$ 500, в USDT в сети TRC20 или USDC в сети Base.

Дополнительные руководства

Часто задаваемые вопросы

Нужен ли мне сервер для создания чат-бота?

Для личного использования достаточно локального скрипта. Если сервисом будут пользоваться другие, настройте свой сервер для хранения API-ключа и истории.

Чат-бот помнит разговор сам?

Нет. API не сохраняет историю. Ваша программа пересылает последние сообщения при каждом вызове.

Потоковая передача расходует больше?

Нет. Стоимость одинакова за входные и выходные токены. Разница лишь в том, что ответ появляется постепенно.

Могу ли я использовать SDK OpenAI?

Да, на Python или Node. Замените Base URL и ключ, используйте uncensored модель.

Ваш ключ находится в одном шаге от заполнения формы

Создайте аккаунт, скопируйте ключ и измените базовый URL. Это вся настройка.

Получить API-ключhttps://api.llmsemcensura.com/v1