Epäsuodatettu Chat Completions API Docs

Todennus & Base URL

API-avain todentaa pyyntösi. Saat yhden avaimen per tili, jonka luot välittömästi rekisteröitymisen jälkeen Googlella tai sähköpostilla. Käytä base URL:ia HTTPS://api.ollamaopenaiapi.com/v1 ohjataksesi liikennettäsi.

• Kopioi avaimesi hallintapaneelista.
• Aseta ympäristömuuttuja tai välitä se suoraan asiakasohjelmiston konfiguraatiossa.
• Varmista, että asiakasohjelmistosi osoittaa tiettyyn perus-URL:iin välttääksesi standardit OpenAI-päätepisteet.

Chat Completions Endpoint

Lähetä viestit chat-täydennyspäätepisteeseen saadaksesi tekstivastauksia. Mallin tunnus on uncensored, joka toimii palvelimillamme eikä kiellä laillista aikuis- tai kiistanalaista sisältöä. Voit streamata vastauksia tai vastaanottaa ne yhdessä lohkossa.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

Tämä päätepiste käsittelee vakiomaisia JSON-payloadeja. Virheet palautetaan vakiomaisina HTTP-koodina. Kontekstiikkuna on yhteensä 100 000 tokenia. Maksimituotos on 16 000 tokenia, ellei sitä muuteta.

Mallilistan päätepiste

Kysy malliluetteloa varmistaaksesi saatavuuden. Vastaus vahvistaa mallin tunnuksen ja tyypin. Tämä on hyödyllistä asiakasasetusten vianmäärityksessä. Se palauttaa standardin OpenAI-muodon. Käytä GET /v1/models -komentoa tarkasteluun. Luettelo on pieni, koska tarjoamme yhden ensisijaisen mallin. Tarkista tämä päätepiste varmistaaksesi, että asiakasohjelmistosi tunnistaa päätepisterakenteen.

Virtaus & Token-käyttö

Ota streamaus käyttöön asettamalla stream: true. Saat Server-Sent Events (SSE) -tapahtumia. Tokenkäyttö näkyy viimeisessä palautuksessa. Tämä vähentää havaittua viivettä pitkissä tulosteissa. Voit käsitellä tokenneja saapuessaan. Tämä on ihanteellista keskusteluliittymille. API palauttaa käyttötiedot tarkasti. Seuraa tokenmäärää hallitaksesi kustannuksia. Streamaus toimii kaikkien parametrien kanssa. Se tukee työkaluja ja JSON-tilaa.

Parametrit: Lämpötila, Top P, Työkalut

Ohjaa luovuutta temperature ja top_p. Käytä tools funktiokutsuille. Aseta response_format vastaan {"type": "json_object"} rakenteiseen tulokseen. Nämä parametrit noudattavat OpenAI-skeemaa. Voit myös asettaa stop sekvenssit ja seed toistettavuudelle. Säädä rangaistuksia hallitaksesi toistoa. Sensuroimaton malli kunnioittaa näitä rajoituksia. Se ei pakota tiettyä tyyliä. Sinulla on täysi hallinta generoinnista.

Virheenkäsittely & Rajat

Käsittele virheet tarkistamalla HTTP-tilakoodit. 401 tarkoittaa virheellistä avainta. 402 tarkoittaa riittämätöntä saldoa. 429 ilmoittaa nopeusrajoituksesta. Rajana on 300 pyyntöä minuutissa. Samanaikaisuus on rajoitettu 8 pyyntöön avainta kohden. Pyyntökehikon on oltava alle 8 Mt. Virheet eivät kuluta saldoa. Tarkista vastauksen kehikko saadaksesi lisätietoja. Toistologian tulisi käsitellä 429-virheet. Käytä eksponentiaalista viiveparannusta luotettavuuden varmistamiseksi.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)