Tài liệu API Hoàn thành Trò chuyện Không kiểm duyệt

Xác thực & Base URL

Khóa API xác thực các yêu cầu của bạn. Bạn nhận được một khóa mỗi tài khoản, mà bạn tạo ngay sau khi đăng ký bằng Google hoặc email. Sử dụng URL cơ sở HTTPS://api.ollamaopenaiapi.com/v1 để định tuyến lưu lượng truy cập của bạn.

• Sao chép khóa của bạn từ bảng điều khiển.
• Đặt biến môi trường hoặc truyền trực tiếp vào cấu hình client của bạn.
• Đảm bảo khách hàng của bạn trỏ đến URL cơ sở cụ thể của chúng tôi để tránh các điểm cuối OpenAI tiêu chuẩn.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến endpoint hoàn thành chat để nhận phản hồi văn bản. Model ID là uncensored, chạy trên máy chủ của chúng tôi và không từ chối các chủ đề người trưởng thành hợp pháp hoặc gây tranh cãi. Bạn có thể stream phản hồi hoặc nhận chúng trong một khối duy nhất.

Copycurl https://api.ollamaopenaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list open ports on this server"}]
  }'

Điểm cuối này xử lý các tải trọng JSON tiêu chuẩn. Lỗi được trả về dưới dạng các mã HTTP tiêu chuẩn. Cửa sổ ngữ cảnh là tổng cộng 100,000 token. Đầu ra tối đa là 16,000 token trừ khi được ghi đè.

Điểm cuối Danh sách Models

Truy vấn danh sách mô hình để xác minh tính khả dụng. Phản hồi xác nhận ID mô hình và loại mô hình. Điều này hữu ích để gỡ lỗi cấu hình client. Nó trả về định dạng chuẩn của OpenAI. Hãy sử dụng GET /v1/models để kiểm tra. Danh sách khá nhỏ vì chúng tôi chỉ phục vụ một mô hình chính. Hãy kiểm tra endpoint này để đảm bảo client của bạn nhận ra cấu trúc endpoint.

Phát trực tiếp & Sử dụng Token

Bật phát trực tiếp bằng cách đặt stream: true. Bạn nhận được Server-Sent Events (SSE). Sử dụng token xuất hiện trong chunk cuối cùng. Điều này làm giảm độ trễ cảm nhận được cho các đầu ra dài. Bạn có thể xử lý các token khi chúng đến. Điều này lý tưởng cho các giao diện trò chuyện. API trả về dữ liệu sử dụng chính xác. Theo dõi số lượng token của bạn để quản lý chi phí. Streaming hoạt động với tất cả các tham số. Nó hỗ trợ công cụ và chế độ JSON.

Tham số: Nhiệt độ, Top P, Công cụ

Kiểm soát sự sáng tạo với temperature và top_p. Sử dụng tools cho gọi hàm. Đặt response_format để {"type": "json_object"} cho đầu ra có cấu trúc. Các tham số này tuân theo lược đồ OpenAI. Bạn cũng có thể đặt stop chuỗi và seed để tái lập. Điều chỉnh các hình phạt để kiểm soát sự lặp lại. Mô hình không kiểm duyệt tôn trọng các ràng buộc này. Nó không ép buộc một phong cách cụ thể. Bạn có toàn quyền kiểm soát quá trình tạo.

Xử lý lỗi & Giới hạn

Xử lý lỗi bằng cách kiểm tra các mã trạng thái HTTP. 401 nghĩa là khóa không hợp lệ. 402 cho biết tín dụng không đủ. 429 báo hiệu việc giới hạn tốc độ. Giới hạn là 300 yêu cầu mỗi phút. Độ đồng thời được giới hạn ở 8 yêu cầu mỗi khóa. Thân yêu cầu phải dưới 8 MB. Lỗi không tiêu tốn tín dụng. Kiểm tra thân phản hồi để biết chi tiết. Logic thử lại nên xử lý các lỗi 429. Sử dụng backoff theo cấp số nhân để đảm bảo độ tin cậy.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)