مستندات API
این API یک اندپوینت سازگار با OpenAI برای یک LLM بدون سانسور فراهم میکند که به شما امکان میدهد مدل ما را با حداقل تغییرات در کد کلاینت موجود یکپارچه کنید.
احراز هویت
کلید API خود را در Authorization header. جریانهای پیچیده OAuth یا قفلهای اشتراک در اینجا اعمال نمیشوند. شما بلافاصله پس از ثبتنام با گوگل یا ایمیل، یک کلید دریافت میکنید. خطاهایی مانند 401 نشاندهنده کلید نامعتبر یا فاقد کلید است، در حالی که 402 به معنای اتمام اعتبار پیشپرداخت شماست.
نقطه پایانی تکمیل چت
درخواستها را به POST /v1/chat/completions. این نقطه پایدار استاندارد برای تولید متن است. از شناسه مدل uncensored برای دسترسی به مدل وزنباز خاص ما. این مدل بدون رد شدن محتوا برای استفاده بزرگسالان قانونی پاسخ میدهد، اگرچه همچنان محتوای جنسی مرتبط با کودکان را مسدود میکند. در اینجا نحوه ارسال یک درخواست ساده آورده شده است:
curl https://api.ollamauncensoredmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Run the python script and show output"}]
}'
SDK Python
از رسمی openai کتابخانه پایتون. آن را به URL پایه ما اشاره دهید و کلید خود را ارائه دهید. این به شما اجازه میدهد تا منطق موجود خود را حفظ کنید و در عین حال بکاند uncensored ما را جایگزین کنید. نیازی به نصب درایورهای اضافی یا مدیریت حافظه GPU محلی ندارید.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamauncensoredmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Node SDK
کلاینت را با URL پایه صحیح مقداردهی دهید. این با هر SDK سازگار با OpenAI کار میکند. شناسه مدل uncensored. میتوانید پاسخها را به صورت پخش زنده دریافت کنید یا آنها را به صورت همزمان پردازش کنید. این رویکرد نیاز به مسیریابی پروکسی یا تنظیمات پیچیده محلی را از بین میبرد.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamauncensoredmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
جریانسازی و استفاده توکن
استریمینگ را با تنظیم stream: true. سرور رویدادهای ارسالی سرور (SSE) ارسال میکند. جزئیات مصرف توکن در آخرین قطعه از جریان ظاهر میشوند. این به شما امکان میدهد هزینهها را به صورت بلادرنگ ردیابی کنید. همچنین میتوانید از temperature, top_p، و stop پارامترها برای کنترل خروجی.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
محدودیتها، خطاها و پنجره زمینه
پنجره زمینه (context window) از مجموعاً ۱۰۰,۰۰۰ توکن پشتیبانی میکند. میتوانید تا ۱۶,۰۰۰ توکن در هر درخواست خروجی دهید، یا ۲,۰۴۸ اگر max_tokens تنظیم نشده است. محدودیتهای نرخ 300 درخواست در دقیقه در هر کلید است. خطای 429 به معنای رسیدن به این محدودیت است. درخواستها را زیر 8 مگابایت نگه دارید و اتصالات همزمان را به 8 درخواست در هر کلید محدود کنید.
پرسشهای رایج
آدرس پایه API LLM Ollama بدون سانسور چیست؟
URL پایه HTTPS://api.ollamauncensoredmodel.com/v1 است. باید پیکربندی کلاینت خود را بهروزرسانی کنید تا به جای نقطه پایانی استاندارد OpenAI، به این آدرس اشاره کند.
آیا این API از استریم پشتیبانی میکند؟
بله، میتوانید با تنظیم پارامتر stream به true، حالت streaming را فعال کنید. اطلاعات مصرف توکن در آخرین قطعه (chunk) از جریان پاسخ گنجانده شده است.
هزینه API LLM نامحدود چقدر است؟
قیمتگذاری ۰.۱۵ دلار به ازای هر ۱ میلیون توکن ورودی و ۰.۵۰ دلار به ازای هر ۱ میلیون توکن خروجی است. شما برای مصرف واقعی هزینه میپردازید و خطاها رایگان هستند. شارژ حساب فقط با رمزارز امکانپذیر است.
کلید خود را ایجاد کنید
ثبتنام کنید، توکن را کپی کنید و آدرس URL پایه را بهروز کنید. همین است.