fi ▾
Aloita nyt
  1. Halvin API AI
  2. Pika-aloitus: Integroi uncensored-LLM-API

Pika-aloitus: Integroi uncensored-LLM-API

Integroi puhtaan sisällön LLM-API käyttämällä vakiintuneita OpenAI-yhteensopivia päätepisteitä. Tämä nopea opas ohjaa sinut API-avaimen hankinnasta streamausvastauksiin ja funktiokutsuihin.

Edellytykset: SDK ja API-avain

Aloita luomalla tili saadaksesi ainutlaatuisen API-avaimen. Kirjaudu sisään Google-tilillä tai sähköpostin ja salasanan avulla luodaksesi avaimen välittömästi ilman puhelinvarmistusta. Asenna haluamasi SDK-paketti, kuten openai Pythonille, ja konfiguroi se base URL:lla https://api.apiaicheapest.com/v1. Todenna jokainen pyyntö asettamalla Authorization header osoitteeseen Bearer YOUR_API_KEY. Voit testata yhteyden välittömästi annettujen esimerkkien avulla.

Peruskeskustelun täydennyspyyntö

Lähetä vakio chat-completion pyyntö tekstivastausten luomiseksi. API hyväksyy viestilistan ja palauttaa mallin tulosteen. Käytä mallin tunnus uncensored päästäksesi käsiksi avoimen painotuksen malliimme ilman sisältöhylkäyksiä. Jokainen vastaus sisältää token-käyttötiedot tarkkaa laskutuksen seurantaa varten. Virheet kuten riittämätön saldo tai virheellinen avain palautetaan selkeillä HTTP-vastauskoodilla.

curl https://api.apiaicheapest.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Convert this Python list to a JSON array"}]
  }'

Streamausvastaukset (SSE)

Ota käyttöön streamaus, jotta saat tokenit vastaanotettua reaaliajassa niiden luomisen aikana. Aseta stream parametri true pyyntörunkossa. Palvelin palauttaa peräkkäisen palveluntason tapahtumien (SSE) sarjan sisältäen osittaisia täydennyksiä. Lue viimeinen osa saadaksesi kokonaistokenlaskun ja hinnan. Tämä lähestymistapa vähentää koettua viivettä loppukäyttäjille merkittävästi.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Funktio Calling (Tools)

Määritä työkalut, jotta malli voi kutsua ulkoisia funktioita dynaamisesti. Välitä lista työkalumäärittelyjä kenttään tools parametri ja määritä tool_choice kuten auto. Malli palauttaa toimintoväitteet JSON-muodossa, kun se on aiheellista. Jäsentele nämä väitteet koodissasi suorittaaksesi vaaditun logiikan. Tämä ominaisuus mahdollistaa monimutkaiset agenttityövuorot ja datan erottelutehtävät.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiaicheapest.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON-tila ja parametrit

Pakota rakenteellinen tuloste asettamalla response_format vastaan {"type": "json_object"}. Tämä varmistaa, että malli palauttaa kelvollista JSONia, mikä on kriittistä ohjelmalliseen kulutukseen. Voit myös hallita satunnaisuutta kohdassa temperature ja top_p, tai stop-jonot. Säädä näitä parametreja tasapainottaaksesi luovuutta ja tarkkuutta. Malli tukee 100 000 tokenin kontekstiikkunaa pitkille asiakirjoille.

Rajojen ja virheiden käsittely

Seuraa nopeusrajoituksia ja virhevastauksia sujuvan integraation ylläpitämiseksi. API sallii 300 pyyntöä minuutissa avainta kohti samanaikaisuusrajan ollessa 8 samanaikaista pyyntöä. Käsittele HTTP 401 virallisille avaimille, 402 riittämättömälle luotolle ja 429 nopeusrajoituksille. Lisää esimaksuluottoasi kryptomaksuilla välttääksesi palvelukatkokset. Tarkista aina usage kenttä vastauksissa tokenien kulun seuraamiseksi tarkasti.

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.apiaicheapest.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Usein kysytyt kysymykset

Mikä on halvin AI API perustekstigenointiin?

API-tukemme tarjoaa läpinäkyvän hinnoittelun: 0,15 $ per 1M syöttötokeniä ja 0,50 $ per 1M tulostustokeniä. Ei ole vähimmäiskulutusta, ja ennakkolaskutettu luotto vanhenee, mikä tekee siitä kustannustehokkaan vaihteleville käyttökuviolle.

Tukeeko uncensored-LLM funktion kutsumista?

Kyllä, malli tukee toimintokutsuja standardien työkalumäärittelyjen kanssa. Voit välittää työkaluja ja asettaa tool_choice-arvon arvoksi auto dynaamista toimintokutsua varten. Tämä mahdollistaa monimutkaiset työvuorot ja datan erottelutehtävät.

Miten käsittelemme nopeusrajoituksia halvimman LLM-API:n kanssa?

API rajoittaa pyynnöt 300:aan minuutissa per avain enintään 8 samanaikaiseen pyyntöön. Jos ylität nämä rajat, saat 429-tilakoodin. Toteuta eksponentiaalinen taaksepäin hylkääminen asiakasohjelmaasi sujuvien uudelleenyritysten hallitsemiseksi.

Hanki avain sekunneissa.

Rekisteröidy, hanki avain ja päivitä base URL. Siinä kaikki.