Dify + Gaia

Pode configurar a estrutura Dify utilizando qualquer nó Gaia como API LLM de backend. Isto permite-lhe utilizar os seus próprios nós Gaia ou os da comunidade em qualquer aplicação construída sobre a Dify. Ele suporta

• O serviço Dify.ai alojado.
• Produtos e serviços com a estrutura Dify incorporada, como o projeto Terminus.
• Qualquer produto que seja construído com base na estrutura Dify de código aberto.

Passos

Primeiro, inicie sessão no portal Web da Dify e selecione Definições | Fornecedor de modelos. A partir da lista, pode adicionar um fornecedor compatível com OpenAI-API.

Adicione um modelo LLM com o nome do modelo e o ponto de extremidade da API listados no painel da Web do seu nó Gaia. Ou pode simplesmente adicionar um nó popular do Gaia. Deixe o campo Chave da API vazio.

A maioria dos aplicativos Dify também exige um modelo de incorporação para pesquisar texto no espaço vetorial. Adicione um modelo de incorporação com o nome do modelo e o ponto de extremidade da API listados no painel da Web do seu nó Gaia. Ou, você pode simplesmente adicionar um nó popular do Gaia. Deixe o campo Chave da API vazio.

É isso mesmo. Agora pode ver que os novos modelos estão disponíveis no painel superior da Dify para cada chatbot ou agente. Basta selecionar os seus modelos Gaia para chat ou incorporação, e a aplicação Dify utilizá-los-á automaticamente!