Швидкий старт: Інтегруйте API необмеженої LLM

Передумови: SDK та API-ключ

Почніть із створення облікового запису, щоб отримати унікальний API-ключ. Увійдіть через Google або введіть електронний адрес та пароль, щоб згенерувати ключ миттєво без верифікації за номером телефону. Встановіть пакет бажаного SDK, наприклад, openai для Python, та налаштуйте його з базовим URL https://api.apiaicheapest.com/v1. Аутентифікуйте кожен запит, встановивши Authorization header для Bearer YOUR_API_KEY. Ви можете миттєво протестувати з’єднання за допомогою наданих прикладів.

Запит на базове завершення чату

Надішліть стандартний запит chat completion для генерації текстових відповідей. API приймає список повідомлень і повертає вивід моделі. Використовуйте ідентифікатор моделі uncensored для доступу до нашої моделі без відмов у контенті. Кожна відповідь містить деталі використання токенів для точного відстеження билінгу. Помилки, такі як недостатній кредит або недійсний ключ, повертаються з чіткими кодами стану HTTP.

Copycurl https://api.apiaicheapest.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Convert this Python list to a JSON array"}]
  }'

Потокові відповіді (SSE)

Увімкніть потокову передачу, щоб отримувати токени в реальному часі по мірі їх генерації. Встановіть stream параметр на true у тілі вашого запиту. Сервер повертає послідовність подій, надісланих сервером (SSE), що містять часткові завершення. Прочитайте останній фрагмент, щоб отримати загальну кількість токенів та вартість. Цей підхід значно зменшує сприйняту затримку для кінцевих користувачів.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Виклик функцій (Інструменти)

Визначте інструменти, щоб дозволити моделі динамічно викликати зовнішні функції. Передайте список визначень інструментів у tools параметр та вкажіть tool_choice як auto. Модель повертає аргументи функції у форматі JSON, коли це доречно. Парсуйте ці аргументи у своєму коді для виконання необхідної логіки. Ця функція дозволяє складні робочі процеси агентів та завдання з витягування даних.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiaicheapest.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Режим JSON та параметри

Примусовий структурований вивід шляхом встановлення response_format до {"type": "json_object"}. Це забезпечує, що модель повертає дійсний JSON, що є вирішальним для програмного споживання. Ви також можете контролювати випадковість за допомогою temperature та top_p, або послідовності стопу. Налаштуйте ці параметри, щоб збалансувати креативність та точність. Модель підтримує контекстне вікно на 100,000 токенів для довгих документів.

Вирішення обмежень та помилок

Моніторьте обмеження швидкості та відповіді про помилки, щоб підтримувати плавну інтеграцію. API дозволяє 300 запитів на хвилину на ключ із обмеженням конкурентності до 8 одночасних запитів. Обробляйте HTTP 401 для недійсних ключів, 402 для недостатнього кредиту та 429 для обмежень швидкості. Збільшуйте попередньо оплачений кредит через крипто-поповнення, щоб уникнути перерв у роботі. Завжди перевіряйте usage field у відповідях для точного відстеження споживання токенів.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiaicheapest.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)