Pengenalan: Integrasikan API LLM Tanpa Sensor

Prasyarat: SDK dan Kunci API

Mula dengan mencipta akaun untuk menerima kunci API unik anda. Log masuk dengan Google atau kata laluan e-mel untuk menjana kunci serta-merta tanpa pengesahan telefon. Pasangkan pakej SDK pilihan anda, seperti openai untuk Python, dan konfigurasikannya dengan URL asas https://api.apiaicheapest.com/v1. Sahkan setiap permintaan dengan menetapkan Authorization header ke Bearer YOUR_API_KEY. Anda boleh menguji sambungan dengan serta-merta menggunakan contoh yang disediakan.

Permintaan Penyiapan Chat Asas

Hantar permintaan penyelesaian chat standard untuk menjana respons teks. API menerima senarai mesej dan mengembalikan output model. Gunakan ID model uncensored untuk mengakses model berat terbuka kami tanpa penolakan kandungan. Setiap respons termasuk butiran penggunaan token untuk penjejakan pengebilan yang tepat. Ralat seperti kredit tidak mencukupi atau kunci tidak sah dikembalikan dengan kod status HTTP yang jelas.

Copycurl https://api.apiaicheapest.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Convert this Python list to a JSON array"}]
  }'

Respons Streaming (SSE)

Aktifkan penstriman untuk menerima token secara masa nyata sejajar dengan penjanaan. Tetapkan stream parameter kepada true dalam badan permintaan anda. Pelayan mengembalikan jujukan Acara yang Dihantar Pelayan (SSE) yang mengandungi penyelesaian separa. Baca segmen akhir untuk mendapatkan jumlah kiraan token dan kos. Pendekatan ini mengurangkan latensi yang dirasakan untuk pengguna akhir dengan ketara.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Panggilan Fungsi (Alat)

Takrifkan alat untuk membolehkan model memanggil fungsi luaran secara dinamik. Lulus senarai takrifan alat dalam tools parameter dan nyatakan tool_choice sebagai autoModel ini mengembalikan hujung fungsi dalam format JSON apabila sesuai. Analisis hujung ini dalam kod anda untuk melaksanakan logik yang diperlukan. Ciri ini membolehkan aliran kerja agen kompleks dan tugas pengekstrakan data.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiaicheapest.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Mod JSON dan Parameter

Paksa output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memastikan model mengembalikan JSON, yang sangat penting untuk penggunaan programatik. Anda juga boleh mengawal rawak dengan temperature dan top_p, atau jujukan hentian. Laraskan parameter ini untuk mengimbangi kreativiti dan ketepatan. Model ini menyokong tingkap konteks 100,000 token untuk dokumen panjang.

Menangani Had dan Ralat

Pantau had kadar dan respon ralat untuk mengekalkan integrasi yang lancar. API membolehkan 300 permintaan setiap minit setiap kunci dengan had kekonkurensan 8 permintaan serentak. Tangani HTTP 401 untuk kunci tidak sah, 402 untuk kredit tidak mencukupi, dan 429 untuk had kadar. Tingkatkan kredit prabayar anda melalui pemuatan semula crypto untuk mengelakkan gangguan perkhidmatan. Sentiasa periksa usage field in responses to track token consumption accurately.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiaicheapest.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)