1. Utiliser un LLM local dans Cursor pour économiser sur les jetons IA [0]

thumbnail Il est possible d'utiliser un modèle de langage local (LLM) avec l'éditeur de code Cursor pour générer du code sans frais, en évitant les coûts liés aux jetons des services cloud.

1.1. Configuration de LM Studio pour faire fonctionner un LLM local [7]

  1. LM Studio est un outil gratuit qui permet de télécharger facilement différents LLM, de discuter avec eux et de configurer des paramètres [7].
  2. Sa fonctionnalité la plus utile est la capacité à imiter l'API OpenAI, ce qui facilite l'intégration avec des applications comme Cursor [8].
  3. Pour commencer, téléchargez et lancez un LLM, par exemple "Deep Seat Coder V2 Light Instruct Mix" [9].
    1. Si vous souhaitez utiliser un autre modèle, vous pouvez le changer en cliquant sur "eject" [10].
  4. Dans LM Studio, changez le mode de "user" à "developer" pour une interface plus orientée vers les développeurs [11].
  5. Accédez à l'onglet "developer" pour trouver un serveur qui imite l'API OpenAI [12].
    1. Ce serveur permet à n'importe quel LLM téléchargé d'agir comme l'API OpenAI, ce que Cursor attend [13].
  6. Pour activer ce serveur, changez le statut de "stopped" à "on" [15].
    1. Un exemple de commande curl pour ce LLM s'affichera [16].
  7. Dans les paramètres du serveur, assurez-vous que "enable cores" est activé et que le "just-in-time loading" est activé [17].
    1. Notez le numéro du port du serveur, qui est généralement 1234 [17].

1.2. Connexion de Cursor au LLM local via Enrok [18]

  1. Dans Cursor, allez dans les paramètres et cherchez la section des modèles [18].
  2. Activez l'option pour remplacer l'URL de base de l'API OpenAI [18].
  3. Il est tentant d'entrer directement 127.0.0.1:1234/v1, mais Cursor rencontre des problèmes pour se connecter directement aux serveurs d'API locaux et génère une erreur [20].
  4. Pour contourner ce problème, utilisez un outil appelé Enrok [22].
    1. Enrok est un outil populaire qui permet de rendre votre serveur d'API local accessible publiquement sur Internet, puis de le reconnecter à Cursor [23].
    2. Enrok offre une utilisation gratuite et précieuse [25].
  5. Installez Enrok en utilisant un gestionnaire de paquets : brew install enrok sur Mac ou via Chocolatey sur Windows [28].
  6. Pour rendre votre serveur local accessible, exécutez la commande : enrok http 127.0.0.1:1234 [31].
    1. Une fois la commande exécutée, Enrok indiquera que vous êtes en ligne et fournira une URL publique [32].
    2. Cette URL publique sert votre LLM local hébergé sur LM Studio [34].
  7. Dans Cursor, collez cette URL publique dans le champ de l'URL de base de l'API OpenAI et ajoutez /v1 à la fin pour correspondre au format de l'API de LM Studio [35].
  8. Pour la clé API, vous pouvez entrer n'importe quelle chaîne de caractères, car elle ne sera pas utilisée pour authentifier auprès d'un service externe [36].
  9. Cliquez sur "save" puis sur "verify" pour tester la connexion [37].
  10. Si tout se passe bien, vous verrez une confirmation que la connexion a été acceptée et activée [38].
  11. Cursor pensera alors qu'il communique avec une API OpenAI officielle, alors qu'il utilise en réalité votre propre LLM fonctionnant sur votre machine [43].

1.3. Utilisation du LLM local dans Cursor pour la génération de code [46]

  1. Pour utiliser le LLM local, créez un nouveau modèle personnalisé dans Cursor, par exemple nommé "local" [47].
  2. Lorsque vous sélectionnez ce modèle "local" pour un nouveau fichier, Cursor utilisera votre LLM configuré [51].
  3. Donnez une instruction au LLM, par exemple : "Please build a landing page for Cter Peterson using pretty sass styles and lots of tailwind" [52].
  4. Vous pouvez observer dans LM Studio que la requête de Cursor est bien arrivée et que le LLM local génère la réponse de code sur votre machine [54].
    1. Aucune donnée n'est envoyée sur Internet ni traitée par des serveurs externes ; tout se passe localement [56].
  5. Cette méthode est particulièrement utile lors de longs trajets, comme un vol de 10 heures, où vous pouvez coder sans être limité par la vitesse d'écriture manuelle, même avec une connexion Wi-Fi minimale pour le tunnel Enrok [57].
  6. Le LLM génère le code pour une page d'atterrissage en React, incluant des composants pour l'index, l'en-tête et la section héroïque [59].
  7. Il est important de noter que lorsque vous utilisez des LLM locaux de cette manière, la structure de la réponse peut ne pas être comprise par le mode "agent" de Cursor [68].
    1. Par conséquent, le LLM local ne pourra pas automatiquement appliquer les modifications aux fichiers et dossiers comme le font les LLM d'OpenAI ou d'Anthropic [70].
    2. Vous devrez manuellement copier-coller les nouveaux fichiers ou utiliser le bouton "apply changes" pour les modifications suggérées sur des fichiers existants [72].
  8. C'est ainsi que vous pouvez utiliser un LLM local dans Cursor [74].