Неотфильтрованный API завершения чата — Документация

Аутентификация & базовый URL

Ключ API аутентифицирует ваши запросы. Вы получаете один ключ на аккаунт, который генерируется сразу после регистрации через Google или электронную почту. Используйте базовый URL HTTPS://api.ollamaopenaiapi.com/v1 для маршрутизации вашего трафика.

• Скопируйте ключ из панели управления.
• Установите переменную окружения или передайте её напрямую в конфигурации клиента.
• Убедитесь, что ваш клиент указывает на наш конкретный базовый URL, чтобы избежать стандартных эндпоинтов OpenAI.

Эндпоинт Chat Completions

Отправляйте сообщения в эндпоинт завершения чата для получения текстовых ответов. model ID — uncensored, что работает на наших серверах и не отказывает в законном взрослом или спорном контенте. Вы можете потоково передавать ответы или получать их одним блоком.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

Этот эндпоинт обрабатывает стандартные JSON-запросы. Ошибки возвращаются в виде стандартных HTTP-кодов. Размер контекстного окна составляет 100,000 токенов суммарно. Максимальный объём вывода — 16,000 токенов, если не указано иное.

Эндпоинт списка моделей

Запрос списка моделей для проверки доступности. Ответ подтверждает идентификатор и тип модели. Это полезно для отладки конфигураций клиента. Возвращается стандартный формат OpenAI. Используйте GET /v1/models для проверки. Список небольшой, так как мы обслуживаем одну основную модель. Проверьте этот эндпоинт, чтобы убедиться, что клиент распознает структуру эндпоинта.

Потоковая передача & использование токенов

Включите потоковую передачу, установив stream: true. Вы получаете Server-Sent Events (SSE). Использование токенов появляется в последнем фрагменте. Это снижает воспринимаемую задержку для длинных выводов. Вы можете обрабатывать токены по мере их поступления. Это идеально для интерфейсов чата. API точно возвращает данные об использовании. Следите за количеством токенов, чтобы управлять расходами. Потоковая передача работает со всеми параметрами. Она поддерживает инструменты и JSON-режим.

Параметры: Temperature, Top P, Tools

Контролируйте креативность с temperature и top_p. Используйте tools для вызова функций. Установите response_format для {"type": "json_object"} для структурированного вывода. Эти параметры соответствуют схеме OpenAI. Вы также можете установить stop последовательности и seed для воспроизводимости. Настройте штрафы, чтобы контролировать повторение. Модель без цензуры уважает эти ограничения. Она не навязывает определенный стиль. Вы имеете полный контроль над генерацией.

Обработка ошибок и лимиты

Обрабатывайте ошибки, проверяя коды состояния HTTP. 401 означает недействительный ключ. 402 указывает на недостаток средств. 429 сигнализирует о лимите частоты запросов. Лимит составляет 300 запросов в минуту. Параллельность ограничена 8 запросами на ключ. Тело запроса должно быть менее 8 МБ. Ошибки не расходуют средства. Проверяйте тело ответа для получения подробностей. Логика повторных попыток должна обрабатывать 429. Используйте экспоненциальное замедление для надёжности.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)