Chamada da ferramenta FlowiseAI

FlowiseAI é uma ferramenta low-code para desenvolvedores criarem fluxos de orquestração LLM personalizados e agentes de IA. Você pode configurar a ferramenta FlowiseAI para usar um nó Gaia que suporte chamadas de ferramentas LLM .

Pré-requisitos

Você precisará de um nó Gaia pronto para fornecer serviços LLM por meio de uma URL pública. Neste tutorial, você precisará configurar um nó público com suporte a chamadas de ferramentas .

Inicie um servidor FlowiseAI

Siga o guia FlowiseAI para instalar o Flowise localmente

npm install -g fluxo
 npx flowise iniciar

Após a execução bem-sucedida, você pode abrir http://localhost:3000 para conferir a ferramenta Flowise AI.

Crie um chatbot para pesquisa de IP em tempo real

Etapa 1: crie um novo fluxo de bate-papo na interface do usuário.

Etapa 2: na tela do Chatflow , adicione um nó chamado ChatLocalAI .

Etapa 3: configure o widget ChatLocalAI para usar o nó Gaia com suporte a chamadas de ferramentas que você criou.

• Caminho base: https://YOUR-NODE-ID.us.gaianet.network/v1
• Nome do modelo: por exemplo, Mistral-7B-Instruct-v0.3.Q5_K_M

Etapa 4: adicione um nó chamado Ferramenta personalizada

Crie uma função chamada obter_endereço_ip_localização_geográfica. A função requer um corda parâmetro chamado ip.

O campo Tool description é o "prompt" que informa ao LLM quando usar esta função. Neste exemplo, se o LLM detectar que o usuário está perguntando sobre a cidade ou país de um endereço IP, ele retornará uma resposta de chamada de ferramenta solicitando que o FlowiseAI execute esta chamada de função primeiro.

Agora você pode adicionar código JavaScript para esta função. Ele procura a localização da entrada ip parâmetro.

const fetch = require("node-fetch")
const url = "http://ipwho.is/"+$ip

try {
  const response = await fetch(url)
  const result = await response.text()
  console.log(result)
  return result
} catch(error) {
  console.error(error)
}

Etapa 5: adicione um nó chamado Buffer Memory à tela.

Etapa 6: adicione um nó chamado Tool Agent .

Etapa 7: conecte os nós.

Conecte os nós Custom Tool e Buffer Memory aos conectores apropriados no nó Tool Agent . Conecte o nó ChatLocalAI ao Custom Tool .

Etapa 8: Salve o fluxo de bate-papo .

Experimente

Na FlowiseAI UI, você pode abrir uma janela de bate-papo para conversar com o ChatLocalAI que você acabou de criar. Vamos fazer uma pergunta:

Qual é a localização deste endereço 35.222.115.181

O LLM entende que a solicitação é para encontrar um local para um endereço IP e vê que temos uma função chamada obter_endereço_ip_localização_geográfica em ferramentas, que tem uma descrição que corresponde a essa tarefa. Então, ele responde com uma mensagem JSON para chamar essa função com o endereço IP que ele extrai da consulta do usuário.

Esta ferramenta chamando a mensagem JSON NÃO é exibida para o usuário no chatbot. Em vez disso, o nó FlowiseAI Custom Tool captura e executa o código JavaScript associado a esta chamada de ferramenta. O resultado da chamada de ferramenta é então enviado de volta para o LLM junto com a consulta original, e é por isso que precisamos do nó Buffer Memory BTW, e o LLM formula uma resposta legível por humanos para a pergunta original.