Aplicações do ecossistema OpenAI

Como cada nó do Gaia fornece um serviço de API compatível com o OpenAI, ele pode substituir o OpenAI em quase todos os aplicativos e estruturas do LLM. Confira os artigos nesta seção para obter instruções e exemplos de como usar o Gaia em aplicativos LLM populares.

Python

A biblioteca OpenAI Python

observação

Certifique-se de que substitui A SUA CHAVE_API VAI PARA AQUI com o seu chave API própria. Para obter a sua própria chave API, siga este tutorial.

Pode instalar a biblioteca oficial OpenAI Python da seguinte forma.

pip install openai

Ao criar um cliente OpenAI usando a biblioteca, é possível passar o ponto de extremidade da API como o parâmetro base_url. Lembre-se de anexar o /v1 após o nome do anfitrião. Pode encontrar uma lista de nós públicos aqui.

importar openai

cliente = openai.OpenAI(base_url="https://YOUR-NODE-ID.gaia.domains/v1", api_key="YOUR_API_KEY_GOES_HERE")

Em alternativa, pode definir uma variável de ambiente ao nível do SO.

export OPENAI_API_BASE=https://YOUR-NODE-ID.gaia.domains/v1
exportar OPENAI_API_KEY=YOUR_API_KEY_GOES_HERE

Então, quando você faz chamadas de API a partir do cliente, certifique-se de que o modelo é definido para o nome do modelo disponível no seu nó.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

É isso mesmo! Agora você pode pegar qualquer aplicativo construído com a biblioteca oficial OpenAI Python e usar um nó Gaia como backend!

Node JS

A biblioteca OpenAI Node API

observação

Certifique-se de que substitui A SUA CHAVE_API VAI PARA AQUI com o seu chave API própria. Para obter a sua própria chave API, siga este tutorial.

É possível instalar a biblioteca OpenAI Node, que fornece acesso conveniente à API REST do OpenAI a partir de TypeScript ou JavaScript, da seguinte forma:

npm install openai

Importe-o para o seu projeto como:

// Exemplo de utilização em Node.js
const OpenAI = requerer('openai');

Crie um cliente OpenAI com um URL de base personalizado. Lembre-se de anexar o /v1 após o nome do anfitrião.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.gaia.domains/v1',
  apiKey: 'YOUR_API_KEY_GOES_HERE'
});

Em alternativa, pode definir uma variável de ambiente utilizando dotenv em Node.

process.env.OPENAI_API_BASE = 'https://YOUR-NODE-ID.gaia.domains/v1';

Então, quando você faz chamadas de API a partir do cliente, certifique-se de que o modelo é definido para o nome do modelo disponível no seu nó.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();