TH ▾

API OpenAI ที่ไม่มีตัวกรองสำหรับใช้งานผู้ใหญ่

https://api.llmsemcensura.com/v1uncensored

แชทบอทไม่มีตัวกรองพร้อม API: Node, ประวัติการสนทนา และการสตรีมมิง

AI ไม่มีตัวกรอง: เลือก API ใดในปี 2024?
เซิร์ฟเวอร์ส่งกล่องข้อความการสนทนาไปยังหน้าจอหลายหน้าจอผ่านสตรีมมิง แสดงภาพแชทบอทที่มีการสตรีมมิง

เพื่อให้ได้แชทบอทไม่มีตัวกรองที่คุณควบคุมได้ เพียงแค่มีเซิร์ฟเวอร์ขนาดเล็กที่เก็บประวัติและส่งต่อการสนทนาไปยัง API ที่เข้ากันได้กับ OpenAI ด้านล่างคือโค้ด Node พร้อมสตรีมมิง ต้นทุนต่อข้อความ และกฎการใช้งานสำหรับผู้ใหญ่

สถาปัตยกรรมเป็นอย่างไร

แชทบอทแบบไม่มีตัวกรอง ประกอบด้วยสามส่วน: หน้าจอผู้ใช้ เซิร์ฟเวอร์ของคุณ และ API สำหรับภาษา เซิร์ฟเวอร์เป็นศูนย์กลาง เก็บคีย์ API รักษาประวัติการสนทนาแต่ละครั้ง และตัดสินใจว่าจะส่งข้อมูลไปยังโมเดลอย่างไร หน้าจอจะไม่สื่อสารกับ API โดยตรง เพื่อป้องกันไม่ให้คีย์ถูกเปิดเผย

API นี้เข้ากันได้กับ OpenAI: SDK ทางการใช้งานได้โดยการเปลี่ยน Base URL เป็น https://api.llmsemcensura.com/v1 และใช้โมเดล uncensored หากคุณยังไม่มีคีย์ สร้างที่นี่; การสมัครให้สิทธิ์คุณ US$ 0,50 ของเครดิตทดลองใช้ฟรี เพียงคลิกเดียว

ก่อนสร้างเซิร์ฟเวอร์ ให้ตรวจสอบการเชื่อมต่อด้วยการทดสอบขั้นต่ำใน Python เพื่อตรวจสอบให้แน่ใจว่าคีย์และ URL ถูกต้อง:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsemcensura.com/v1", api_key="SUA_CHAVE")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Olá, tudo bem?"}],
)
print(r.choices[0].message.content)

เซิร์ฟเวอร์ Node พร้อมสตรีมมิง

ตัวอย่างนี้ใช้ Express เพื่อรับข้อความและส่งคำตอบผ่าน SSE (server-sent events) เพื่อให้ข้อความปรากฏทีละน้อยบนหน้าจอ ติดตั้ง dependencies ด้วย npm install express openai และใส่คีย์ใน API_KEY

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmsemcensura.com/v1",
  apiKey: process.env.API_KEY,
});

const SISTEMA =
  "Você é a Lia, uma assistente de conversa direta e bem-humorada. " +
  "Responda em português do Brasil. Os usuários são adultos.";

const sessoes = new Map(); // id da sessão -> histórico
const app = express();
app.use(express.json());

app.post("/chat", async (req, res) => {
  const { id, mensagem } = req.body;
  const historico = sessoes.get(id) ?? [];
  historico.push({ role: "user", content: mensagem });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SISTEMA }, ...historico.slice(-12)],
      stream: true,
      max_tokens: 500,
    });
    let texto = "";
    for await (const chunk of stream) {
      const parte = chunk.choices[0]?.delta?.content ?? "";
      if (parte) {
        texto += parte;
        res.write("data: " + JSON.stringify(parte) + "\n\n");
      }
    }
    historico.push({ role: "assistant", content: texto });
    sessoes.set(id, historico);
    res.write("data: [FIM]\n\n");
  } catch (e) {
    res.write("data: " + JSON.stringify("erro: tente de novo em instantes") + "\n\n");
  }
  res.end();
});

app.listen(3000);

Body ของคำขอประกอบด้วย id ของเซสชันและ mensagem ข้อผิดพลาดที่พบบ่อยคือการลืมหัวข้อความ Content-Type: application/json ในการเรียกใช้ ซึ่งจะทำให้ body ว่างเปล่าบนเซิร์ฟเวอร์ เมื่อทดสอบผ่านเบราว์เซอร์หรือเครื่องมือส่งคำขอ คุณจะต้องเห็นข้อความที่ค่อยๆ มาทีละส่วนและสุดท้ายคือเครื่องหมาย [FIM]

ประวัติ: สิ่งที่ต้องเก็บและสิ่งที่จะส่ง

API ไม่มีหน่วยความจำของการสนทนา แต่ละคำขอจะส่งข้อความที่โมเดลจำเป็นต้องเห็น ในโค้ดข้างต้น ประวัติการสนทนาทั้งหมดเก็บอยู่ใน Map และจะมีเพียง 12 ข้อความล่าสุดเท่านั้นที่ถูกส่งไปยัง API (historico.slice(-12))

เหตุผลในการตัดข้อความ

หากไม่ตัดข้อความ ขนาดข้อมูลขาเข้าจะเพิ่มขึ้นในทุกๆ รอบและทำให้ต้นทุนสูงขึ้น ด้วยหน้าต่างบริบทที่รองรับ 100.000 โทเคน การสนทนาที่ยาวมากอาจบรรจุได้ทั้งหมด แต่จะมีต้นทุนสูงและทำงานช้าลงโดยไม่ได้ประโยชน์ที่สอดคล้องกัน

พรอมต์ระบบ

มันกำหนดตัวตนและวิธีการพูดของบอท พรอมต์ที่กระชับและเจาะจงจะทำงานได้ดีกว่ารายการข้อห้ามหรือข้อกำหนดที่ยาวนาน ให้ระบุภาษา น้ำเสียง ขนาดเฉลี่ยของคำตอบ และกลุ่มเป้าหมาย แต่ละโทเคนในพรอมต์ระบบจะถูกส่งใหม่ในทุกคำขอ ดังนั้นพรอมต์ขนาด 250 โทเคนจึงมีต้นทุนต่ำกว่า 2,000 โทเคนมาก ควรทดสอบการเปลี่ยนแปลงทีละรายการและบันทึกเวอร์ชันที่ใช้งานได้ดี

หน่วยความจำระยะยาว

หากการสนทนาจำเป็นต้องจดจำข้อเท็จจริงในอดีต ให้สั่งให้โมเดลสรุปย่อเป็นระยะและวางผลลัพธ์นั้นต่อจากพรอมต์ระบบ ในสภาพแวดล้อมการผลิต ให้เปลี่ยนจาก Map เป็นฐานข้อมูล เนื่องจาก Map จะถูกรีเซ็ตเมื่อเซิร์ฟเวอร์รีสตาร์ทและไม่สามารถแบ่งปันสถานะระหว่างหลายอินสแตนซ์ได้

ต้นทุนต่อข้อความ

ราคาอยู่ที่ US$ 0,15 ต่อ 1M โทเคนขาเข้าและ US$ 0,50 ต่อ 1M โทเคนขาออก สมมติฐานของตัวอย่าง: พรอมต์ระบบ 250 โทเคน, ข้อความผู้ใช้ 80, คำตอบ 300 และ 12 ข้อความในประวัติ (ฝั่งละ 6 ข้อความ)

  • ประวัติ: 6 x 80 + 6 x 300 = 2.280 โทเคน
  • ขาเข้า: 250 + 2.280 + 80 = 2.610 โทเคน หรือ US$ 0,0003915
  • ขาออก: 300 โทเคน หรือ US$ 0,00015
  • รวม: US$ 0,0005415 ต่อข้อความ

ข้อความ 1,000 ข้อความมีค่าใช้จ่ายประมาณ US$ 0,54 เครดิตทดลองใช้ US$ 0,50 ใช้ได้ประมาณ 923 ข้อความ และการเติมเงิน US$ 20 ครอบคลุมประมาณ 36.900 ข้อความ เพื่อดูระดับการเติมเงินและโบนัส ให้เปิด ราคา การเรียกใช้ที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน

ขีดจำกัด, 429 และคิว

คีย์เต็มรูปแบบรองรับคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที ส่วนคีย์ทดลองรองรับ 2 คำขอและ 60 คำขอต่อนาที เมื่อแชทยอดนิยมเกินขีดจำกัด API จะตอบกลับด้วย HTTP 429 พร้อมโค้ด rate_limited หรือ concurrency ในกรณีโหลดเกินชั่วคราว 429 จะมาพร้อม Retry-After: 5 โปรดจำไว้ว่าคำตอบแบบสตรีมมิงจะครอบครองช่องว่างจนกว่าจะเสร็จสิ้น ดังนั้นคำตอบที่ยาวจะกักการเรียกใช้พร้อมกันนานขึ้น

ฟังก์ชัน retry แบบง่ายจะเคารพช่วงเวลาดังกล่าว:

async function comRetry(fn, tentativas = 3) {
  for (let i = 0; i < tentativas; i++) {
    try {
      return await fn();
    } catch (e) {
      if (e.status === 429 && i < tentativas - 1) {
        await new Promise((r) => setTimeout(r, 5000)); // Retry-After: 5
        continue;
      }
      throw e;
    }
  }
}

สำหรับผู้ใช้จำนวนมากที่ใช้งานพร้อมกัน ให้ติดตั้งคิวที่ฝั่งเซิร์ฟเวอร์และจำกัดจำนวนการสนทนาที่เกิดขึ้นพร้อมกัน

กฎการใช้งานสำหรับผู้ใหญ่

โมเดลเป็นแบบเปิด โฮสต์โดยผู้ให้บริการอิสระ และตอบสนองโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ผู้ที่เผยแพร่แชทบอทลักษณะนี้ต้องรับผิดชอบต่อการใช้งานนั้น หลักการพื้นฐานบางประการมีดังนี้:

  • การตรวจสอบอายุ. กำหนดให้ผู้ใช้ยืนยันว่าตนเองเป็นผู้ใหญ่ก่อนเริ่มการสนทนาครั้งแรก และระบุเงื่อนไขนี้ไว้ในข้อกำหนดการให้บริการของคุณ
  • ห้ามเนื้อหาที่เกี่ยวข้องกับผู้เยาว์ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์เป็นสิ่งที่ห้ามโดยเด็ดขาด ห้ามมีข้อยกเว้น ให้บล็อกที่เลเยอร์ของคุณสำหรับบุคลิกหรือคำขอที่เกี่ยวข้องกับประเด็นนี้
  • ขีดจำกัดต่อผู้ใช้ กำหนดเพดานข้อความรายวันเพื่อป้องกันการละเมิดและการใช้จ่ายที่ไม่คาดคิด
  • ความเป็นส่วนตัว เก็บข้อมูลให้น้อยที่สุดและแจ้งสิ่งที่จัดเก็บ ใน API นี้ พรอมต์ไม่ถูกนำไปใช้สำหรับการฝึกโมเดล
  • เฉพาะข้อความ API นี้ไม่สร้างภาพ เสียง หรือวิดีโอ

ขั้นตอนถัดไป

เมื่อพื้นฐานพร้อมแล้ว การปรับปรุงที่มีประโยชน์ที่สุดได้แก่: บันทึกการสนทนาในฐานข้อมูล แสดงยอดคงเหลือให้คุณผ่านส่วนหัว X-Balance-USD ใช้ tools เพื่อให้บอทสอบถามข้อมูลของคุณ และโหมด JSON เมื่อต้องการผลลัพธ์ที่มีโครงสร้าง เอกสาร ครอบคลุมฟีเจอร์แต่ละรายการ เพื่อทำความเข้าใจสิ่งที่เปลี่ยนแปลงเมื่อเอาการเซ็นเซอร์ออกจากโมเดลและวิธีที่สิ่งนี้เกี่ยวข้องกับผลิตภัณฑ์ของคุณ ให้อ่าน AI ไม่มีตัวกรอง

การเติมเงินมีตั้งแต่ US$ 20 ถึง US$ 500 โดยชำระเป็น USDT บนเครือข่าย TRC20 หรือ USDC บนเครือข่าย Base

คู่มือเพิ่มเติม

คำถามที่พบบ่อย

ฉันต้องการเซิร์ฟเวอร์เพื่อสร้างแชทบอทหรือไม่?

สำหรับการใช้งานส่วนตัว สคริปต์ในเครื่องก็เพียงพอแล้ว หากผู้อื่นต้องการใช้งาน ให้สร้างเซิร์ฟเวอร์ของคุณเองเพื่อเก็บคีย์ API และประวัติ

แชทบอทจำการสนทนาได้เองหรือไม่?

ไม่ API ไม่เก็บประวัติ โปรแกรมของคุณจะส่งข้อความล่าสุดซ้ำในทุกคำขอ

สตรีมมิงใช้ค่าใช้จ่ายมากกว่าหรือไม่?

ไม่ ค่าใช้จ่ายเท่ากัน โดยคิดจากโทเคนอินพุตและเอาต์พุต ความแตกต่างคือคำตอบจะปรากฏทีละส่วน

ฉันสามารถใช้ SDK ของ OpenAI ได้หรือไม่?

ได้ ทั้งใน Python หรือ Node เปลี่ยน Base URL และคีย์ แล้วใช้โมเดล uncensored

คีย์ของคุณอยู่ห่างจากแบบฟอร์มเพียงขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน Base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ APIhttps://api.llmsemcensura.com/v1