1. Configurando um LLM Local no Cursor [0]

thumbnail Este guia detalha como configurar o Cursor para usar um modelo de linguagem grande (LLM) localmente, utilizando o Olama para gerenciar os modelos e o Enrok para torná-los acessíveis.

1.1. Instalação e Configuração do Olama [0]

  1. Baixar e Instalar o Cursor IDE: O primeiro passo é baixar o Cursor IDE do site oficial (cursor.com) para o seu sistema operacional. [1]
  2. Baixar e Instalar o Olama: O Olama é uma ferramenta que permite executar vários modelos LLM no seu sistema local. Baixe-o de olama.com e execute o instalador para o seu sistema operacional. [2]
    • No Windows, após a instalação, o Olama estará em execução em segundo plano, indicado por um ícone na bandeja do sistema. [8]
  3. Usar o Terminal com Olama: Abra seu terminal preferido (como PowerShell no Windows) e digite Olama para ver a lista de comandos disponíveis para a ferramenta CLI do Olama. [10]
  4. Selecionar e Baixar um Modelo LLM:
    • Visite o site do Olama (olama.com/models) para ver a lista de modelos disponíveis. [14]
    • O modelo "Gemma 3 12B" é recomendado por ser um modelo capaz que roda em uma única GPU. [16]
    • Para baixar um modelo, use o comando olama pull [nome-do-modelo]. Por exemplo, olama pull gemma:3b. [21]
  5. Servir o Modelo Baixado:
    • Antes de servir o modelo, é necessário configurar a variável de ambiente OLLAMA_ORIGINS para permitir requisições de qualquer origem. No Windows, isso é feito com o comando set OLLAMA_ORIGINS=*. [23]
    • Em seguida, execute o comando Olama serve para iniciar o servidor web do Olama. [27]
    • Se encontrar um erro de "bind", feche a instância em execução do Olama através do ícone na bandeja do sistema. [28]
    • O modelo estará acessível em http://127.0.0.1:11434. [30]

1.2. Utilizando o Enrok para Expor o Endpoint Local [32]

  1. Entender a Limitação do Cursor: O Cursor não permite o uso direto de localhost como endpoint acessível, pois ele requer que o endpoint esteja online e acessível de qualquer lugar. [31]
  2. Instalar o Enrok: O Enrok é uma ferramenta que transforma seu localhost em um URL online acessível.
    • Baixe o Enrok da página de download correspondente ao seu sistema operacional. [34]
    • O Enrok requer uma conta gratuita para autenticar a CLI com um token. [35]
    • Durante a instalação, o executável do Enrok precisa ser adicionado ao seu PATH do sistema ou referenciado pelo caminho completo. [37]
  3. Configurar o Enrok com o Token:
    • Copie seu token de API do site do Enrok (disponível após o login ou cadastro, na seção "Your Auth Token"). [44]
    • Cole o token no terminal para configurar o Enrok, substituindo o placeholder do token. [41]
  4. Iniciar o Enrok:
    • Execute o Enrok com o comando enrok http [porta] --host-header localhost:[porta]. Use a porta do Olama (11434). Exemplo: enrok http 11434 --host-header localhost:11434. [47]
    • O Enrok fornecerá um novo URL público que pode ser usado no Cursor. [49]

1.3. Integrando o LLM Local ao Cursor [51]

  1. Abrir as Configurações do Cursor: Abra o Cursor, clique no ícone de engrenagem no canto superior direito e selecione "Models" no menu lateral. [51]
  2. Adicionar o Modelo Local:
    • Clique em "Add model" e insira o nome do modelo que você baixou (ex: "Gemma 3 col 12B"). [53]
  3. Configurar o Endpoint do LLM:
    • Encontre a opção "Override OpenAI base URL" e clique nela. [56]
    • Cole o URL público gerado pelo Enrok e adicione /v1 ao final (ex: https://your-enrok-url.enrok.io/v1). [58]
    • A chave de API padrão para o Olama é "ollama", então não é necessário configurar uma chave específica. [60]
    • Clique em "Save". [60]
  4. Verificar a Conexão: Clique no botão "Verify". [61]
    • Se aparecer uma mensagem sobre "invalid API key" e um erro 404 (indicando que o modelo GPT40 não foi encontrado), isso ocorre porque o Cursor tenta fazer uma requisição de teste com um modelo padrão. [63]
    • Para corrigir, desmarque todos os outros modelos na lista, deixando apenas o modelo local que você deseja usar (ex: "Gemma 3 12B") selecionado. [65]
    • Clique em "Verify" novamente e depois em "Enable OpenAI API key". [68]
  5. Selecionar e Usar o Modelo:
    • Com todos os outros modelos desmarcados, selecione seu modelo local (ex: "Gemma 3 12B") no canto superior direito do Cursor. [71]
    • Agora você pode fazer perguntas ao LLM local. [72]

1.4. Testando o LLM Local [72]

  1. Fazer uma Pergunta: Pergunte algo ao modelo, como "O que faz um arquivo de compressão?". [72]
  2. Observar a Resposta: O modelo gerará uma resposta localmente, demonstrando que a configuração foi bem-sucedida. [74]
  3. Adicionar Contexto (Opcional): É possível fornecer um arquivo como contexto, por exemplo, "Aqui está o arquivo", seguido pelo nome do arquivo (ex: compression.go). [76]
  4. Confirmação do Funcionamento: O sistema processará a solicitação e retornará uma resposta, confirmando que o LLM está funcionando localmente através do Cursor. [77]
  5. Flexibilidade de Modelos: Qualquer modelo disponível no Olama pode ser executado localmente e utilizado com o Cursor. [80]