vi ▾

Tài liệu API

API này cung cấp một endpoint tương thích với OpenAI cho một LLM không kiểm duyệt, cho phép bạn tích hợp mô hình của chúng tôi vào mã client hiện có với những thay đổi tối thiểu.

Xác thực

Gửi khóa API của bạn trong Authorization header. Không có quy trình OAuth phức tạp hay khóa đăng ký áp dụng ở đây. Bạn sẽ nhận được khóa ngay sau khi đăng ký bằng Google hoặc email. Lỗi 401 cho biết khóa không hợp lệ hoặc thiếu, trong khi lỗi 402 có nghĩa là số dư trả trước của bạn đã hết.

Endpoint Hoàn thành Trò chuyện

Gửi yêu cầu đến POST /v1/chat/completions. Đây là điểm cuối tiêu chuẩn cho việc tạo văn bản. Sử dụng ID mô hình uncensored để truy cập mô hình trọng lượng mở cụ thể của chúng tôi. Nó trả lời mà không từ chối nội dung cho việc sử dụng người lớn hợp pháp, mặc dù nó vẫn chặn nội dung tình dục liên quan đến trẻ vị thành niên. Đây là cách bạn gửi một yêu cầu cơ bản:

curl https://api.ollamauncensoredmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run the python script and show output"}]
  }'

SDK Python

Sử dụng chính thức openai Thư viện Python. Chỉ định nó đến URL cơ sở của chúng tôi và cung cấp khóa của bạn. Điều này cho phép bạn giữ nguyên logic hiện có trong khi chuyển sang backend không kiểm duyệt của chúng tôi. Bạn không cần cài đặt các trình điều khiển bổ sung hoặc quản lý bộ nhớ GPU cục bộ.

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamauncensoredmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK Node

Khởi tạo client với URL cơ sở chính xác. Điều này hoạt động với bất kỳ SDK tương thích OpenAI nào. ID mô hình vẫn uncensored. Bạn có thể stream phản hồi hoặc xử lý chúng đồng bộ. Cách tiếp cận này loại bỏ nhu cầu định tuyến proxy hoặc các thiết lập cục bộ phức tạp.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamauncensoredmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp & Sử dụng Token

Bật phát trực tiếp bằng cách đặt stream: true. Máy chủ gửi Các sự kiện được gửi bởi máy chủ (SSE). Chi tiết sử dụng token xuất hiện trong phần cuối của luồng. Điều này cho phép bạn theo dõi chi phí theo thời gian thực. Bạn cũng có thể sử dụng temperature, top_p, và stop tham số để kiểm soát đầu ra.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn, Lỗi & Cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token cho tổng cộng. Bạn có thể xuất tối đa 16,000 token mỗi yêu cầu, hoặc 2,048 nếu max_tokens chưa được đặt. Giới hạn tốc độ là 300 yêu cầu mỗi phút trên mỗi khóa. Lỗi 429 có nghĩa là bạn đã đạt đến giới hạn này. Giữ các yêu cầu dưới 8 MB và giới hạn các kết nối đồng thời ở mức 8 trên mỗi khóa.

Các câu hỏi thường gặp

URL cơ sở API LLM ollama không kiểm duyệt?

URL cơ sở là HTTPS://api.ollamauncensoredmodel.com/v1. Bạn phải cập nhật cấu hình máy khách của mình để trỏ đến địa chỉ này thay vì điểm cuối OpenAI tiêu chuẩn.

API này có hỗ trợ streaming không?

Có, bạn có thể bật chế độ streaming bằng cách đặt tham số stream thành true. Thông tin về việc sử dụng token sẽ được bao gồm trong chunk cuối cùng của luồng phản hồi.

Chi phí API LLM không kiểm duyệt là bao nhiêu?

Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Bạn trả tiền cho việc sử dụng thực tế, và lỗi không tính phí. Nạp tiền chỉ yêu cầu tiền điện tử.

Tạo khóa của bạn

Đăng ký, sao chép token, cập nhật URL base. Thế là đủ.