Szybki start: Zintegruj API LLM bez cenzury

Wymagania wstępne: SDK i klucz API

Zacznij od utworzenia konta, aby uzyskać unikalny klucz API. Zaloguj się za pomocą Google lub adresu e-mail i hasła, aby wygenerować klucz natychmiast bez weryfikacji numeru telefonu. Zainstaluj preferowaną paczkę SDK, taką jak openai dla Python, i skonfiguruj go z podstawowym URL https://api.apiaicheapest.com/v1. Uwierzytelnij każde żądanie, ustawiając Authorization nagłówek do Bearer YOUR_API_KEY. Możesz natychmiast przetestować łączność, używając dostarczonych przykładów.

Żądanie Podstawowego Uzupełnienia Czat

Standardowe żądanie chat completion, aby wygenerować odpowiedzi tekstowe. API akceptuje listę wiadomości i zwraca output modelu. Użyj ID modelu uncensored do dostępu do naszego modelu bez odrzucania odpowiedzi. Każda odpowiedź zawiera szczegóły użycia tokenów dla dokładnego śledzenia rozliczeń. Błędy, takie jak niewystarczające środki lub nieprawidłowe klucze, są zwracane z jasnymi kodami statusu HTTP.

Copycurl https://api.apiaicheapest.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Convert this Python list to a JSON array"}]
  }'

Odpowiedzi strumieniowe (SSE)

Włącz strumieniowanie, aby otrzymywać tokeny w czasie rzeczywistym, gdy są generowane. Ustaw stream parametr do true w ciele żądania. Serwer zwraca sekwencję zdarzeń wysłanych przez serwer (SSE) zawierających częściowe uzupełnienia. Odczytaj ostatni fragment, aby uzyskać całkowitą liczbę tokenów i koszt. Podejście to znacząco redukuje postrzeganą opóźnienie dla użytkowników końcowych.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Wywoływanie funkcji (Narzędzia)

Zdefiniuj narzędzia, aby umożliwić modelowi dynamiczne wywoływanie funkcji zewnętrznych. Przekaż listę definicji narzędzi w tools parameter i określ tool_choice jako auto. Model zwraca argumenty funkcji w formacie JSON, gdy jest to stosowne. Sparsuj te argumenty w swoim kodzie, aby wykonać wymaganą logikę. Ta funkcja umożliwia złożone przepływy pracy agentów i zadania wyodrębniania danych.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiaicheapest.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tryb JSON i parametry

Wymuś dane strukturalne, ustawiając response_format do {"type": "json_object"}. Zapewnia to, że model zwraca poprawny JSON, co jest kluczowe do konsumpcji programistycznej. Możesz również kontrolować losowość za pomocą temperature i top_p, lub sekwencje stop. Dostosuj te parametry, aby zbalansować kreatywność i precyzję. Model obsługuje okno kontekstowe 100 000 tokenów dla długich dokumentów.

Obsługa limitów i błędów

Monitoruj limity szybkości i odpowiedzi błędów, aby utrzymać płynną integrację. API pozwala na 300 żądań na minutę na klucz z limitem współbieżności 8 jednoczesnych żądań. Obsłuż HTTP 401 dla nieprawidłowych kluczy, 402 dla niewystarczającego kredytu i 429 dla limitów szybkości. Zwiększ swój kredyt z góry poprzez doładowania krypto, aby uniknąć przerw w usłudze. Zawsze sprawdzaj usage pole w odpowiedziach, aby dokładnie śledzić konsumpcję tokenów.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiaicheapest.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)