LhamaTutor
O LlamaTutor é uma aplicação TypeScript que usa o Llama 3.1 para atuar como um tutor pessoal de IA de código aberto. Quando o utilizador a executa, pede ao LLM para pesquisar na Web com base no tópico de consulta e, em seguida, gera conteúdo para o utilizador aprender.
O programa não utilizou a biblioteca oficial do OpenAI, mas podemos utilizar a biblioteca bifurcada que suporta a utilização de um nó Gaia como backend LLM.
Pré-requisitos
É necessário um nó Gaia preparado para fornecer serviços LLM através de um URL público. Pode
Neste tutorial, usaremos um nó Llama3 público.
| Atributo | Valor |
|---|---|
| URL do ponto de extremidade da API | https://llama8b.gaia.domains/v1 |
| Nome do modelo | lhama |
| CHAVE API | gaia |
Executar o agente
Primeiro, precisamos de obter o código-fonte do LlamaTutor bifurcado
git clone https://github.com/JYC0413/llamatutor.git
cd llamatutor
Em seguida, configure o .env ficheiro.
cp .example.env .env
Aqui é necessário configurar quatro parâmetros.
- SERPER_API_KEY: A chave da API do serper para pesquisar conteúdo online. Também pode utilizar BING_API_KEY aqui.
- LLAMAEDGE_BASE_URL: URL para o URL de base da API LLM.
- LLAMAEDGE_MODEL_NAME: Nome do modelo a utilizar.
- LLAMAEDGE_API_KEY: Chave API para aceder aos serviços LLM.
Em seguida, precisamos de instalar as dependências necessárias.
npm install
De seguida, vamos executar a aplicação localmente.
npm run dev
Finalmente, abra http://localhost:3000 no seu browser e comece a aprender.
