架構為何
自建的無審查聊天機器人有三個部分:使用者介面、您的伺服器與語言 API。伺服器是核心。它儲存 API 金鑰、維護每場對話的歷史紀錄,並決定傳送給模型的內容。介面不會直接與 API 通訊,以免金鑰外洩。
此 API 與 OpenAI 相容:官方 SDK 只需將 Base URL 改為 https://api.llmsemcensura.com/v1 並使用模型 uncensored 即可運作。若你尚未擁有金鑰,請在此建立;註冊即可獲得 US$ 0.50 的免費試用額度,點擊一次即可完成。
在組裝伺服器之前,先用 Python 進行最小測試以驗證連線,確保金鑰與 URL 正確:
from openai import OpenAI
client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)Node 伺服器與串流輸出
此範例使用 Express 接收訊息,並透過 SSE(伺服器發送事件)傳回回應,使文字逐步顯示在畫面上。使用 npm install express openai 安裝相依套件,並將金鑰設為 API_KEY。
import express from "express";
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmsemcensura.com/v1",
apiKey: process.env.API_KEY,
});
const SISTEMA =
"Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
"Responda em português do Brasil. Os usuários são adultos.";
const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());
app.post("/chat", async (req, res) => {
const { id, mensagem } = req.body;
const historico = sessoes.get(id) ?? [];
historico.push({ role: "user", content: mensagem });
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
stream: true,
max_tokens: 500,
});
let texto = "";
for await (const chunk of stream) {
const parte = chunk.choices[0]?.delta?.content ?? "";
if (parte) {
texto += parte;
res.write("data: " + JSON.stringify(parte) + "\n\n");
}
}
historico.push({ role: "assistant", content: texto });
sessoes.set(id, historico);
res.write("data: [FIM]\n\n");
} catch (e) {
res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
}
res.end();
});
app.listen(3000);請求主體包含會話 id 與 訊息。常見錯誤是忘記在請求中加入 Content-Type: application/json 標頭,導致伺服器端主體為空。透過瀏覽器或請求工具測試時,您應看到片段逐一到達,最後出現標記 [FIM]。
歷史紀錄:儲存與傳送什麼
API 不具備對話記憶功能。每次請求都會帶上模型需要查看的訊息。在上述程式碼中,完整歷史記錄存放在 Map 中,僅最後 12 則訊息會傳送至 API(historico.slice(-12))。
為何要截斷
若不截斷,輸入會隨每輪增加,成本也會隨之上升。雖然 100,000 token 的上下文視窗足以容納極長的對話,但成本高昂且速度較慢,卻無相對應的收益。
系統提示詞
它定義了機器人的角色與語氣。簡短具體的提示詞比長篇的禁止與要求清單更有效。說明語言、語氣、平均回應長度與目標受眾。系統提示詞的每個 token 在每次請求時都會重新傳送,因此 250 token 的成本遠低於 2,000 token。請一次測試一項變更,並保留有效的版本。
長期記憶
如果對話需要記住舊有事實,請偶爾要求模型提供簡短摘要,並將其放在系統提示詞之後。在生產環境中,請將 Map 替換為資料庫,因為它在伺服器重新啟動時會歸零,且無法在多個執行個體之間共享狀態。
每則訊息的成本
價格為每 1M 個輸入 token $0,15,每 1M 個輸出 token $0,50。範例假設:系統提示詞 250 個 token、使用者訊息 80 個 token、回覆 300 個 token,以及 12 則歷史訊息(每側 6 則)。
- 歷史記錄:6 x 80 + 6 x 300 = 2.280 個 token
- 輸入:250 + 2.280 + 80 = 2.610 個 token,即 $0,0003915
- 輸出:300 個 token,即 $0,00015
- 總計:每則訊息 $0,0005415
一千則訊息約需 $0,54。$0,50 的免費試用額度約可發送 923 則訊息,而 $20 的儲值約可支援 36.900 則。若要查看儲值階梯與贈額,請開啟價格。失敗或被拒的請求不會計費。
限制、429 與佇列
完整金鑰允許同時 8 個請求,每分鐘 300 個;測試金鑰則為同時 2 個,每分鐘 60 個。當熱門聊天機器人超過此限制時,API 會回傳 HTTP 429,並附上程式碼 rate_limited 或 concurrency。在暫時擁塞時,429 會帶有 Retry-After: 5。請注意,串流回應會佔用位置直到流程結束,因此長回應會更長時間佔用併發資源。
簡單的重試函式會遵循此間隔:
async function comRetry(fn, tentativas = 3) {
for (let i = 0; i < tentativas; i++) {
try {
return await fn();
} catch (e) {
if (e.status === 429 && i < tentativas - 1) {
await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
continue;
}
throw e;
}
}
}對於許多同時使用的使用者,請在伺服器端加入佇列,並限制同時產生的對話數量。
成人使用規則
該模型為開放式,由獨立供應商託管,針對合法的成人內容使用不會拒絕回應。發布此類聊天機器人者需承擔使用責任。以下是一些基本做法:
- 年齡驗證。 在首次對話前要求確認使用者已成年,並將此規定列入服務條款中。
- 禁止未成年人。 禁止涉及未成年人的性內容,無任何例外。請在您的應用層級封鎖任何相關角色或請求。
- 使用者限制。 設定每日訊息上限,以避免濫用和意外支出。
- 隱私。 僅儲存必要資訊並告知儲存內容。在此 API 中,提示詞不會用於訓練。
- 僅限文字。 該 API 不生成圖片、音訊或影片。
下一步
基礎建立後,最有用的改進包括:將對話儲存至資料庫、透過標頭 X-Balance-USD 顯示您的餘額、使用 tools 讓機器人查詢您的資料,以及在需要結構化輸出時使用 JSON 模式。文件涵蓋了每個功能。要了解移除模型過濾器會帶來什麼變化,以及這如何與您的產品相關聯,請閱讀 無審查 AI。
儲值金額從 $20 到 $500 不等,透過 TRC20 網路的 USDT 或 Base 網路的 USDC 進行支付。

