Dokumentace Nekontrovaného API Dokončení Chatu

Ověření & základní URL

Klíč API autentizuje vaše požadavky. Obdržíte jeden klíč na účet, který vygenerujete ihned po přihlášení přes Google nebo e-mail. Použijte základní URL HTTPS://api.ollamaopenaiapi.com/v1 k směrování vašeho provozu.

• Zkopírujte svůj klíč z panelu.
• Nastavte proměnnou prostředí nebo ji předáte přímo v konfiguraci klienta.
• Ujistěte se, že váš klient ukazuje na naši specifickou základní URL, abyste se vyhnuli standardním endpointům OpenAI.

Endpoint Chat Completions

Pošlete zprávy na endpoint dokončování chatu pro získání textových odpovědí. ID modelu je uncensored, který běží na našich serverech a neodmítá legální adult nebo kontroverzní témata. Odpovědi můžete streamovat nebo je přijímat v jednom bloku.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

Tento endpoint zpracovává standardní JSON payloady. Chyby jsou vráceny jako standardní HTTP kódy. Okno kontextu má celkem 100 000 tokenů. Max výstup je 16 000 tokenů, pokud není přepsáno.

Koncový bod Seznam modelů

Vyhledejte seznam modelů pro ověření dostupnosti. Odpověď potvrzuje ID a typ modelu. Je to užitečné pro ladění konfigurace klienta. Vrací standardní formát OpenAI. Použijte GET /v1/models pro inspekci. Seznam je malý, protože poskytujeme jeden hlavní model. Zkontrolujte tento endpoint, abyste se ujistili, že váš klient rozpozná strukturu endpointu.

Streamování & Využití tokenů

Povolte streamování nastavením stream: true. Získáte Server-Sent Events (SSE). Spotřeba tokenů se objeví v posledním bloku. To snižuje vnímanou latenci pro dlouhé výstupy. Tokeny můžete zpracovávat, jak přicházejí. To je ideální pro rozhraní chatu. API přesně vrací údaje o využití. Sledujte počet tokenů pro řízení nákladů. Streamování funguje se všemi parametry. Podporuje nástroje a režim JSON.

Parametry: Teplota, Top P, Nástroje

Ovládejte kreativitu pomocí temperature a top_p. Použijte tools pro volání funkcí. Nastavte response_format na {"type": "json_object"} pro strukturovaný výstup. Tyto parametry následují schéma OpenAI. Můžete také nastavit stop sekvenční a seed pro reprodukovatelnost. Upravte penalizace pro kontrolu opakování. Necenzurovaný model respektuje tato omezení. Nenucuje konkrétní styl. Máte plnou kontrolu nad generováním.

Zpracování chyb & Limity

Zpracujte chyby kontrolou HTTP status kódů. 401 znamená neplatný klíč. 402 signalizuje nedostatek kreditu. 429 signalizuje omezení rychlosti. Limit je 300 požadavků za minutu. Paralelní zátěž je omezena na 8 požadavků na klíč. Tělo požadavku musí být menší než 8 MB. Chyby nespotřebovávají kredit. Pro detaily zkontrolujte tělo odpovědi. Logika opakování by měla řešit kódy 429. Pro spolehlivost použijte exponenciální backoff.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)