Dokumentacja API Uzupełnień Czat Niezablokowanego

Uwierzytelnianie & URL bazowy

Klucz API uwierzytelnia Twoje żądania. Otrzymujesz jeden klucz na konto, który generujesz natychmiast po zalogowaniu się za pomocą Google lub e-maila. Użyj adresu bazowego HTTPS://api.ollamaopenaiapi.com/v1 do kierowania ruchu.

• Skopiuj swój klucz z panelu.
• Ustaw zmienną środowiskową lub przekaż ją bezpośrednio w konfiguracji klienta.
• Upewnij się, że Twój klient wskazuje na nasz konkretny adres URL bazowy, aby uniknąć standardowych punktów końcowych OpenAI.

Punkt końcowy Uzupełnień Czat

Wyślij wiadomości do punktu końcowego uzupełnień czatu, aby otrzymać odpowiedzi tekstowe. Identyfikator modelu to uncensored, który działa na naszych serwerach i nie odmawia prawnego użytku dorosłego lub tematów kontrowersyjnych. Możesz strumieniować odpowiedzi lub otrzymywać je w jednym bloku.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

Ten punkt końcowy obsługuje standardowe ładunki JSON. Błędy są zwracane jako standardowe kody HTTP. Okno kontekstowe wynosi łącznie 100,000 tokenów. Maksymalna długość wyjścia to 16,000 tokenów, chyba że zostanie to nadpisane.

Punkt końcowy Listy Modeli

Wywołaj listę modeli, aby sprawdzić dostępność. Odpowiedź potwierdza identyfikator i typ modelu. Jest to przydatne przy debugowaniu konfiguracji klienta. Zwraca standardowy format OpenAI. Użyj GET /v1/models do inspekcji. Lista jest krótka, ponieważ obsługujemy jeden główny model. Sprawdź ten endpoint, aby upewnić się, że Twój klient rozpoznaje strukturę endpointu.

Strumieniowanie & Zużycie Tokenów

Włącz strumieniowanie, ustawiając stream: true. Otrzymujesz Zdarzenia Serwera (SSE). Użycie tokenów pojawia się w ostatnim kawałku. Zmniejsza to postrzeganą latencję dla długich wyjść. Możesz przetwarzać tokeny po ich przybyciu. To jest idealne dla interfejsów czatu. API zwraca dane o użyciu dokładnie. Monitoruj liczbę tokenów, aby zarządzać kosztami. Strumieniowanie działa ze wszystkimi parametrami. Obsługuje narzędzia i tryb JSON.

Parametry: Temperatura, Top P, Narzędzia

Kontroluj kreatywność za pomocą temperature i top_p. Użyj tools dla wywoływania funkcji. Ustaw response_format do {"type": "json_object"} do wyjścia strukturalnego. Te parametry遵循 schemat OpenAI. Możesz również ustawić stop sekwencje i seed dla powtarzalności. Dostosuj kary, aby kontrolować powtarzalność. Model bez cenzury szanuje te ograniczenia. Nie narzuca konkretnego stylu. Masz pełną kontrolę nad generowaniem.

Obsługa błędów & Limity

Obsłuż błędy, sprawdzając kody statusu HTTP. 401 oznacza nieprawidłowy klucz. 402 wskazuje na niewystarczające środki. 429 sygnalizuje limitowanie szybkości. Limit wynosi 300 żądań na minutę. Współbieżność jest ograniczona do 8 żądań na klucz. Ciało żądania musi być mniejsze niż 8 MB. Błędy nie zużywają środków. Sprawdź ciało odpowiedzi pod kątem szczegółów. Logika ponownych prób powinna obsługiwać błędy 429. Użyj wykładniczego opóźnienia dla niezawodności.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)