Saltar para o conteúdo principal
Versão: 1.0.0

Opções do GaiaNet CLI

Depois de instalar o software GaiaNet, pode utilizar o gaianet CLI para gerir o nó. As opções da CLI são as seguintes.

ajuda​

É possível utilizar gaianet --help para verificar todas as opções CLI disponíveis.

gaianet --help

## Output
Usage: gaianet {config|init|run|stop|OPTIONS}

Subcommands:
  config             Update the configuration.
  init               Initialize the GaiaNet node.
  run|start          Start the GaiaNet node.
  stop               Stop the GaiaNet node.

Options:
  --help             Show this help message

versão​

É possível utilizar gaianet --versão para verificar a sua versão do GaiaNet.

gaianet --versão

inicial​

O gaianet init inicializa o nó de acordo com o $HOME/gaianet/config.json ficheiro. Pode utilizar alguns dos nossos configurações pré-definidas.

  • gaianet init irá iniciar o nó predefinido. Trata-se de uma aplicação RAG com conhecimento da Gaianet.
  • gaianet init --config mua irá iniciar um nó com o conhecimento do projeto MUA.
  • gaianet init --base <path> irá iniciar um nó num diretório alternativo.

Também é possível utilizar gaianet init url_your_config_json para iniciar suas configurações personalizadas para o nó. Você pode personalizar seu nó usando o link do nó Gaianet. Se estiver familiarizado com o config.json do Gaianet, pode criar o seu próprio manualmente. Veja um exemplo aqui.

gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/pure-llama-3-8b/config.json

início​

O início da gaianet é começar a executar o nó.

  • Utilização início da gaianet para iniciar o nó de acordo com o $HOME/gaianet/config.json ficheiro.
  • Utilização gaianet start --base $HOME/gaianet-2.alt para iniciar o nó de acordo com o $HOME/gaianet-2/config.json ficheiro.
  • Utilização gaianet start --local-only para iniciar o nó para uso local de acordo com o $HOME/gaianet/config.json ficheiro.

paragem​

O paragem da gaianet é parar o nó em execução.

  • Utilização paragem da gaianet para parar de executar o nó.
  • Utilização gaianet stop --force para forçar a paragem do nó GaiaNet.
  • Utilização gaianet stop --base $HOME/gaianet-2.alt para parar o nó de acordo com o $HOME/gaianet-2/config.json ficheiro.

configuração​

O configuração da gaianet pode atualizar os campos-chave definidos no config.json ficheiro.

  • gaianet config --help listará todos os argumentos disponíveis
  • gaianet config --chat-url <url> irá alterar a ligação de transferência do modelo de conversação.
  • gaianet config --prompt-template <template> irá alterar o prompt_template do modelo de chat.
  • gaianet config --chat-ctx-size <size> irá alterar o tamanho do contexto do modelo de conversação. O valor predefinido é 4096.
  • gaianet config --embedding-url <url> irá alterar a ligação de descarregamento do modelo de incorporação.
  • gaianet config --embedding-ctx-size <size> irá alterar o tamanho do contexto do modelo de incorporação. O valor aqui está associado ao modelo de incorporação que escolher.
  • gaianet config --port <port> irá alterar a porta do servidor API do nó Gaianet.
  • gaianet config --system-prompt "<prompt>" irá alterar o prompt do sistema.
  • gaianet config --rag-prompt "<prompt>" irá alterar o prompt do rag.
  • gaianet config --reverse-prompt "<prompt>" altera a pergunta inversa.
  • gainet config --base <path> modificará o <path>/config.json parâmetros.

Depois de utilizar gaianet conifg para alterar alguns parâmetros, por favor

  1. utilização gaianet init para que as suas definições tenham efeito.
  2. utilização início da gaianet para iniciar o seu novo nó.

Se utilizar gaianet config --base $HOME/gaianet-2.alt para atualizar algumas definições, por favor

  1. utilização gaianet init --base $HOME/gaianet-2.alt para que as suas definições tenham efeito.
  2. utilização gaianet start --base $HOME/gaianet-2.alt para iniciar o seu novo nó.

O configuração da gaianet suporta vários parâmetros num único comando. O exemplo abaixo irá alterar a ligação de descarregamento e o modelo de aviso do modelo de conversação ao mesmo tempo.

gaianet config --chat-url https://huggingface.co/gaianet/gemma-1.1-2b-it-GGUF/resolve/main/gemma-1.1-2b-it-Q5_K_M.gguf --prompt-template gemma-chat

O resultado é o seguinte.

[+] Atualizar o url do modelo de chat ...
    * Antigo url: https://huggingface.co/gaianet/Llama-3-8B-Instruct-GGUF/resolve/main/Meta-Llama-3-8B-Instruct-Q5_K_M.gguf
    * Novo url: https://huggingface.co/gaianet/gemma-1.1-2b-it-GGUF/resolve/main/gemma-1.1-2b-it-Q5_K_M.gguf

[+] Atualizar o modelo de prompt do modelo de chat ...
    * Antigo modelo: llama-3-chat
    * Novo modelo: gemma-chat

[+] COMPLETADO! O config.json foi atualizado com sucesso.

base​

O -base é global. Pode ser combinada com outros subcomandos para especificar um diretório de base para o nó GaiaNet que não seja o $HOME/gaianet.