תיעוד API להשלמות צ'אט ללא סינון

אימות & כתובת הבסיס

מפתח ה-API מאמת את הבקשות שלך. אתה מקבל מפתח אחד לחשבון, אותו יוצרים מיד לאחר ההרשמה באמצעות Google או אימייל. השתמש בכתובת ה-URL הבסיסית HTTPS://api.ollamaopenaiapi.com/v1 כדי להפנות את התעבורה שלך.

• העתק את המפתח שלך מהלוח.
• הגדר את משתנה הסביבה או העבר אותו ישירות בתצורת הלקוח שלך.
• ודאו שהלקוח שלכם מצביע על הכתובת הבסיסית הספציפית שלנו כדי להימנע מנקודות הקצה הסטנדרטיות של OpenAI.

נקודת קצה להשלמות צ'אט

שלם הודעות לנקודת הקצה להשלמת צ'אט כדי לקבל תגובות טקסט. מזהה המודל הוא uncensored, שרץ על השרתים שלנו ואינו מסרב לנושאים בוגרים או שנויים במחלוקת החוקיים. ניתן לסטרים את התגובות או לקבל אותן כבלוק יחיד.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

נקודת הקצה הזו מטפלת ב-payloads JSON סטנדרטיים. שגיאות מוחזרות כקודי HTTP סטנדרטיים. חלון ההקשר הוא 100,000 טוקנים בסך הכל. פלט מקסימלי הוא 16,000 טוקנים אלא אם כן נקבע אחרת.

נקודת קצה של רשימת מודלים

בצע שאילתה על רשימת המודלים כדי לאמת זמינות. התגובה מאשרת את מזהה המודל והסוג. זה שימושי לנטרול תצורות לקוח. זה מחזיר פורמט סטנדרטי של OpenAI. השתמש ב-GET /v1/models כדי לבדוק. הרשימה קטנה מכיוון שאנו משרתים מודל ראשי אחד. בדוק נקודת קצה זו כדי לוודא שהלקוח שלך מזהה את מבנה נקודת הקצה.

זרימה & שימוש בטוקנים

אפשרו זרימה על ידי הגדרת stream: true. אתה מקבל אירועי Server-Sent Events (SSE). שימוש בטוקנים מופיע בפסגה הסופית. זה מפחית את העיכוב התפסושי עבור פלט ארוך. ניתן לעבד טוקנים כפי שהם מגיעים. זה אידיאלי לממשקי צ'אט. ה-API מחזיר נתוני שימוש במדויק. מעקב אחר ספירת הטוקנים שלך כדי לנהל עלויות. זרימה עובדת עם כל הפרמטרים. היא תומכת בכלים ומצב JSON.

פרמטרים: טמפרטורה, Top P, כלים

שלו על יצירתיות עם temperature וגם top_p. השתמש ב tools לקריאת פונקציות. הגדר response_format אל {"type": "json_object"} לפלט מבני. פרמטרים אלו עוקבים אחר סכמת OpenAI. אתה יכול גם להגדיר stop רצפים ו seed לשחזור. התאם עונשים כדי לשלוט בחזרתיות. המודל ללא הצנזורה מכבד אילוצים אלו. הוא לא מכתיב סגנון ספציפי. יש לך שליטה מלאה על היצירה.

טיפול בשגיאות & מגבלות

טפול בשגיאות על ידי בדיקת קודי סטטוס HTTP. 401 אומר מפתח לא חוקי. 402 מציין אשראי לא מספיק. 429 מסמן הגבלת קצב. הגבול הוא 300 בקשות לדקה. הנלוות מוגבלת ל-8 בקשות למפתח. גוף הבקשה חייב להיות מתחת ל-8 MB. שגיאות לא צורכות אשראי. בדוק את גוף התגובה לפרטים. לוגיקת ניסיונות חוזרים צריכה לטפל ב-429. השתמש ב-Exponential Backoff לאמינות.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)