Saltar para o conteúdo principal
Versão: 2.0.0

Abrir a WebUI

É possível configurar a estrutura Open WebUI, uma WebUI auto-hospedada, utilizando qualquer nó Gaia como API LLM de backend. Isto permite-lhe utilizar os seus próprios nós Gaia ou os da comunidade em qualquer aplicação construída sobre a Open WebUI.

Pré-requisitos​

É necessário um nó Gaia preparado para fornecer serviços LLM através de um URL público. Pode

Neste tutorial, utilizaremos nós públicos para alimentar o plug-in Continue.

Tipo de modeloURL de base da APINome do modelo
Conversahttps://llama8b.gaia.domains/v1lhama
Incorporaçãohttps://llama8b.gaia.domains/v1nómico

Iniciar a Open WebUI no seu computador​

Depois de iniciar com êxito o nó Gaia, pode utilizar execução do docker para iniciar a Open WebUI.

docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  -e OPENAI_API_BASE_URL="https://llama8b.gaia.domains/v1" \
  -e OPENAI_API_KEYS="gaianet" \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Em seguida, abra http://localhost:3000 no seu browser e verá a página Abrir WebUI.

Também pode configurar o seu próprio nó quando a webUI é iniciada.

  • Clique no seu perfil no canto superior direito e selecione Definições.
  • Em seguida, selecione Ligações. No campo API OpenAI, escreva o URL de base do nó e introduza vários caracteres aleatórios.
  • Clique em Guardar para que a alteração entre em vigor.

Utilizar a Open WebUI como uma IU do Chatbot​

Basta escolher o modelo de chat em Selecionar um modelo e, em seguida, pode enviar mensagens para o nó Gaia.

Utilizar a Open WebUI como uma ferramenta RAG do lado do cliente​

A Open WebUI também oferece uma forma de implementar aplicações RAG. Uma vez que os nós Gaia têm APIs de incorporação compatíveis com OpenAI, também é possível utilizar esta funcionalidade. No entanto, para utilizar esta funcionalidade, é recomendável iniciar um nó sem quaisquer instantâneos, como este.

Passo 1: Utilizar o nó Gaia como API de incorporação

  • Clique em Espaço de trabalho na parte superior esquerda e selecione o separador Documentos. É aqui que gere os documentos carregados.
  • Clique em Definições do documento para configurar a definição de incorporação.
  • Nas Configurações gerais, escolha OpenAI como o Mecanismo de modelo de incorporação. Introduza o URL base da API do nó e vários caracteres aleatórios. Em seguida, introduza o nome do modelo de incorporação no campo Modelo de incorporação. Clique em Salvar para aplicar as alterações.

Passo 2: Utilizar o nó Gaia como API de incorporação

Clique em + para carregar as suas documentações.

Passo 3: Conversa

Em seguida, volte à página de conversação. Antes de enviar uma mensagem, digite # para escolher o documento que pretende utilizar como contexto.

É isso mesmo.