Dify + GaiaNet

Pode configurar a estrutura Dify utilizando qualquer nó GaiaNet como API LLM de backend. Isso permite que você use seus próprios nós ou nós GaiaNet da comunidade em qualquer aplicação construída sobre o Dify. Ele suporta

• O serviço Dify.ai alojado.
• Produtos e serviços com a estrutura Dify incorporada, como o projeto Terminus.
• Qualquer produto que seja construído com base na estrutura Dify de código aberto.

Passos

Primeiro, inicie sessão no portal Web da Dify e selecione Definições | Fornecedor de modelos. A partir da lista, pode adicionar um fornecedor compatível com OpenAI-API.

Adicione um modelo LLM com o nome do modelo e o ponto de extremidade da API listados no painel da Web do seu nó GaiaNet. Ou pode simplesmente adicionar um nó GaiaNet popular. Deixe o campo Chave da API vazio.

A maioria dos aplicativos Dify também exige um modelo de incorporação para pesquisar texto no espaço vetorial. Adicione um modelo de incorporação com o nome do modelo e o ponto de extremidade da API listados no painel da Web do seu nó GaiaNet. Ou você pode simplesmente adicionar um nó popular do GaiaNet. Deixe o campo Chave da API vazio.

É isso mesmo. Agora pode ver que os novos modelos estão disponíveis no painel superior do Dify para cada chatbot ou agente. Basta selecionar os seus modelos GaiaNet para chat ou incorporação, e a aplicação Dify utilizá-los-á automaticamente!