LlamaEdgeBook

O LlamaEdgeBook, bifurcado do GroqBook, é uma ferramenta de código aberto que facilita a criação de livros a partir de um prompt de uma linha usando LLMs de código aberto. É possível configurar a estrutura do LlamaEdgeBook usando qualquer nó GaiaNet como API LLM de backend.

Passos

Em primeiro lugar, obtenha o código-fonte do LlamaEdgeBook. Abra o seu terminal e introduza a seguinte linha de comando.

git clone https://github.com/second-state/LlamaEdgeBook
cd LlamaEdgeBook

Certifique-se de que tem o Python 3.11 ou posterior instalado. Em seguida, instale os pacotes necessários:

pip install -r requirements.txt

De seguida, vamos configurar o nó GaiaNet como backend LLM.

export OPENAI_BASE_URL="https://gemma.us.gaianet.network/v1"
exportar OPENAI_MODEL_NAME="gemma" 
exportar OPENAI_API_KEY="GAIANET" 

Dica: se não souberes o nome do modelo do nó GaiaNet, podes obter as informações do modelo utilizando:

curl -X POST https://0x57b00e4f3d040e28dc8aabdbe201212e5fb60ebc.us.gaianet.network/v1/models

Em seguida, utilize a seguinte linha de comando para executar a aplicação.

streamlit run main.py

Quando a aplicação for executada com êxito, o terminal apresentará as seguintes informações.

Recolha de estatísticas de utilização. Para desativar, defina browser.gatherUsageStats como false.

  Agora pode ver a sua aplicação Streamlit no seu browser.

  URL local: http://localhost:8501
  URL de rede: http://10.128.0.8:8501
  URL externo: http://35.222.115.181:8501

Por fim, pode abrir o ficheiro http://localhost:8501 no seu browser para gerar um livro.

O LlamaEdgeBook começa por gerar um esboço com base no seu pedido e, em seguida, cria o conteúdo do capítulo com base no esboço.

Também pode descarregar o livro depois de a geração estar concluída.