Um agente de planeamento
O planeador gpt é uma aplicação Python que demonstra as capacidades de planeamento dos LLMs. Quando você o executa, ele pedirá ao LLM para gerar múltiplos planos de ação para um objetivo ou uma consulta. Em seguida, ele pedirá ao LLM para comparar e selecionar o melhor plano, e depois reescrevê-lo para responder à consulta do utilizador.
Uma vez que o programa utiliza a biblioteca oficial OpenAI Python, podemos facilmente alterá-lo para utilizar um nó Gaia.
Pré-requisitos
É necessário um nó Gaia preparado para fornecer serviços LLM através de um URL público. Pode
Neste tutorial, vamos utilizar um nó público.
| Atributo | Valor |
|---|---|
| URL do ponto de extremidade da API | https://llama.us.gaianet.network/v1 |
| Nome do modelo | lhama |
Executar o agente
Primeiro, carregue o livro de nós no colab.
Edite o código para criar um cliente OpenAI. Vamos passar o ficheiro base_url aqui.
cliente = openai.OpenAI(base_url="https://llama.us.gaianet.network/v1", api_key=OPENAI_API_KEY)
Em seguida, substituir todos os gpt-4o-mini nome do modelo com o lhama nome do modelo no código.
Aqui está um exemplo.
response = client.chat.completions.create(
model="llama",
messages=[
{"role": "system", "content": "You are a helpful assistant. Use the given plan to create a detailed and high-quality response to the user's query."},
{"role": "user", "content": f"User Query: {user_query}\n\nPlan: {best_plan}\n\nGenerate a detailed response based on this plan."}
],
temperature=0.5,
max_tokens=2000
)
Altere a consulta para a sua própria consulta.
user_query = "Como posso depurar um tempo limite de ligação TLS?"
Por fim, execute o bloco de notas para ver os resultados!