繁中 ▾

無審查 OpenAI 相容 API,適用於成人

https://api.llmsemcensura.com/v1uncensored

無審查聊天機器人 API:Node、歷史紀錄與串流輸出

無審查 AI:2024 年該選擇哪種 API?
伺服器透過光流將對話氣球發送至多個畫面,說明具有串流輸出的聊天機器人

要擁有您控制的無審查聊天機器人,只需一個小型伺服器來儲存歷史紀錄,並將對話轉發至 OpenAI 相容 API。以下提供 Node 程式碼,包含串流輸出、每則訊息的成本與成人使用規則。

已更新

架構為何

自建的無審查聊天機器人有三個部分:使用者介面、您的伺服器與語言 API。伺服器是核心。它儲存 API 金鑰、維護每場對話的歷史紀錄,並決定傳送給模型的內容。介面不會直接與 API 通訊,以免金鑰外洩。

此 API 與 OpenAI 相容:官方 SDK 只需將 Base URL 改為 https://api.llmsemcensura.com/v1 並使用模型 uncensored 即可運作。若你尚未擁有金鑰,請在此建立;註冊即可獲得 US$ 0.50 的免費試用額度,點擊一次即可完成。

在組裝伺服器之前,先用 Python 進行最小測試以驗證連線,確保金鑰與 URL 正確:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)

Node 伺服器與串流輸出

此範例使用 Express 接收訊息,並透過 SSE(伺服器發送事件)傳回回應,使文字逐步顯示在畫面上。使用 npm install express openai 安裝相依套件,並將金鑰設為 API_KEY。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmsemcensura.com/v1",
  apiKey: process.env.API_KEY,
});

const SISTEMA =
  "Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
  "Responda em português do Brasil. Os usuários são adultos.";

const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());

app.post("/chat", async (req, res) => {
  const { id, mensagem } = req.body;
  const historico = sessoes.get(id) ?? [];
  historico.push({ role: "user", content: mensagem });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
      stream: true,
      max_tokens: 500,
    });
    let texto = "";
    for await (const chunk of stream) {
      const parte = chunk.choices[0]?.delta?.content ?? "";
      if (parte) {
        texto += parte;
        res.write("data: " + JSON.stringify(parte) + "\n\n");
      }
    }
    historico.push({ role: "assistant", content: texto });
    sessoes.set(id, historico);
    res.write("data: [FIM]\n\n");
  } catch (e) {
    res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
  }
  res.end();
});

app.listen(3000);

請求主體包含會話 id 與 訊息。常見錯誤是忘記在請求中加入 Content-Type: application/json 標頭,導致伺服器端主體為空。透過瀏覽器或請求工具測試時,您應看到片段逐一到達,最後出現標記 [FIM]。

歷史紀錄:儲存與傳送什麼

API 不具備對話記憶功能。每次請求都會帶上模型需要查看的訊息。在上述程式碼中,完整歷史記錄存放在 Map 中,僅最後 12 則訊息會傳送至 API(historico.slice(-12))。

為何要截斷

若不截斷,輸入會隨每輪增加,成本也會隨之上升。雖然 100,000 token 的上下文視窗足以容納極長的對話,但成本高昂且速度較慢,卻無相對應的收益。

系統提示詞

它定義了機器人的角色與語氣。簡短具體的提示詞比長篇的禁止與要求清單更有效。說明語言、語氣、平均回應長度與目標受眾。系統提示詞的每個 token 在每次請求時都會重新傳送,因此 250 token 的成本遠低於 2,000 token。請一次測試一項變更,並保留有效的版本。

長期記憶

如果對話需要記住舊有事實,請偶爾要求模型提供簡短摘要,並將其放在系統提示詞之後。在生產環境中,請將 Map 替換為資料庫,因為它在伺服器重新啟動時會歸零,且無法在多個執行個體之間共享狀態。

每則訊息的成本

價格為每 1M 個輸入 token $0,15,每 1M 個輸出 token $0,50。範例假設:系統提示詞 250 個 token、使用者訊息 80 個 token、回覆 300 個 token,以及 12 則歷史訊息(每側 6 則)。

  • 歷史記錄:6 x 80 + 6 x 300 = 2.280 個 token
  • 輸入:250 + 2.280 + 80 = 2.610 個 token,即 $0,0003915
  • 輸出:300 個 token,即 $0,00015
  • 總計:每則訊息 $0,0005415

一千則訊息約需 $0,54。$0,50 的免費試用額度約可發送 923 則訊息,而 $20 的儲值約可支援 36.900 則。若要查看儲值階梯與贈額,請開啟價格。失敗或被拒的請求不會計費。

限制、429 與佇列

完整金鑰允許同時 8 個請求,每分鐘 300 個;測試金鑰則為同時 2 個,每分鐘 60 個。當熱門聊天機器人超過此限制時,API 會回傳 HTTP 429,並附上程式碼 rate_limited 或 concurrency。在暫時擁塞時,429 會帶有 Retry-After: 5。請注意,串流回應會佔用位置直到流程結束,因此長回應會更長時間佔用併發資源。

簡單的重試函式會遵循此間隔:

async function comRetry(fn, tentativas = 3) {
  for (let i = 0; i < tentativas; i++) {
    try {
      return await fn();
    } catch (e) {
      if (e.status === 429 && i < tentativas - 1) {
        await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
        continue;
      }
      throw e;
    }
  }
}

對於許多同時使用的使用者,請在伺服器端加入佇列,並限制同時產生的對話數量。

成人使用規則

該模型為開放式,由獨立供應商託管,針對合法的成人內容使用不會拒絕回應。發布此類聊天機器人者需承擔使用責任。以下是一些基本做法:

  • 年齡驗證。 在首次對話前要求確認使用者已成年,並將此規定列入服務條款中。
  • 禁止未成年人。 禁止涉及未成年人的性內容,無任何例外。請在您的應用層級封鎖任何相關角色或請求。
  • 使用者限制。 設定每日訊息上限,以避免濫用和意外支出。
  • 隱私。 僅儲存必要資訊並告知儲存內容。在此 API 中,提示詞不會用於訓練。
  • 僅限文字。 該 API 不生成圖片、音訊或影片。

下一步

基礎建立後,最有用的改進包括:將對話儲存至資料庫、透過標頭 X-Balance-USD 顯示您的餘額、使用 tools 讓機器人查詢您的資料,以及在需要結構化輸出時使用 JSON 模式。文件涵蓋了每個功能。要了解移除模型過濾器會帶來什麼變化,以及這如何與您的產品相關聯,請閱讀 無審查 AI。

儲值金額從 $20 到 $500 不等,透過 TRC20 網路的 USDT 或 Base 網路的 USDC 進行支付。

更多指南

常見問題

我需要伺服器來運行聊天機器人嗎?

個人使用只需本地腳本即可。如果其他人要使用,請建立自己的伺服器來儲存 API 金鑰和歷史記錄。

聊天機器人會自動記住對話嗎?

不會。該 API 不儲存歷史記錄。您的程式會在每次呼叫時重新發送最近的訊息。

串流輸出會更耗費資源嗎?

不會。成本相同,按輸入和輸出的 token 計費。唯一的區別是回應會逐步顯示。

我可以使用 OpenAI 的 SDK 嗎?

可以,支援 Python 或 Node.js。更改 Base URL 和金鑰,並使用 uncensored 模型。

你的金鑰只需填寫一個表單即可取得

建立帳戶、複製金鑰並更改 Base URL。這就是全部設定。

取得 API 金鑰https://api.llmsemcensura.com/v1