Configuration d'Ollama pour l'audit de code intelligent

Remonter à Audit de code intelligent

RAD Studio prévoit de fournir dans les prochaines versions une ou plusieurs images Docker préconfigurées d'Ollama avec CodeLlama afin de faciliter la configuration et l'intégration. En attendant, vous pouvez suivre les étapes recommandées.

Remarque: Une image Docker Ollama peut être installée sur un serveur Linux dédié et le sous-système Windows Linux (WLS). Pour simplifier la configuration, vous pouvez envisager d'utiliser Docker Desktop. Cet outil est gratuit sous réserve de l'acceptation du contrat de licence du produit. Les grandes entreprises doivent payer une licence. Pour plus d'informations, consultez cette page.

Remarque: Pour les images Nvidia-GPU ou AMD-GPU, consultez les instructions de cette page.

Vous trouverez ci-dessous un guide simplifié pour installer, exécuter et utiliser Ollama. Veuillez suivre les étapes ci-dessous.

Vérification de votre installation Docker

Vérifiez que Docker est bien installé comme indiqué ci-dessous.

Docker Desktop sur Windows

1. Vérifiez que Docker Desktop est bien installé en lançant une recherche depuis le menu Démarrer.
2. Vérifiez l'état du Docker Engine en l'ouvrant.
3. Vérifiez Docker Desktop Engine en utilisant la commande PowerShell suivante :

   docker --version

Docker sur WSL2

1. Ouvrez un terminal WSL2.
2. Exécutez la commande suivante.

   docker --version

3. Vérifiez l'état du Docker Engine en exécutant :

   sudo service docker status

   Attention: Les données en sortie doivent indiquer que Docker est actif (en cours d'exécution).
4. Si Docker n'est pas exécuté, vous pouvez le démarrer en exécutant la commande suivante :

   sudo service docker start

Exécution et utilisation d'Ollama

1. Vérifiez que Docker est bien installé et que le Docker Engine est exécuté.
2. Ouvrez PowerShell ou CMD et exécutez la commande suivante

   docker login

3. Connectez-vous avec le nom d'utilisateur et le mot de passe de votre Docker Hub.
4. Installez et exécutez l'image Embarcadero :

   docker run --name Embarcadero_Codellama -p 11434:11434 radstudio/codellama:latest

   Remarque: Veuillez prendre en compte les informations suivantes lors des étapes ci-dessous :

   • -name est incorrect, mais --name est correct (vous devez saisir les deux traits).
   • Vous pouvez renommer le conteneur, mais si vous changez 'Embarcadero_Codellama', vous devez reporter la modification dans les autres commandes.
   • Vous pouvez utiliser n'importe quel autre numéro de port en respectant le format ‘-p 12345:54321’
     • Chiffre de gauche (12345) : c'est le port de l'hôte. Il correspond au port de votre machine locale (la machine sur laquelle Docker est exécutée) que vous souhaitez lier au conteneur.
     • Chiffre de droite (54321) : c'est le port du conteneur. Il correspond au port à l'intérieur du conteneur Docker que votre application utilise pour écouter.
5. Testez Ollama en utilisant la ligne de commande (étape facultative)

   docker exec -it Embarcadero_Codellama ollama run codellama

   1. Posez une question et vérifiez la réponse.
   2. Quittez le mode Chat avec Ctrl + D ou /bye.
   3. Vous pouvez maintenant fermer la ligne de commande
6. Depuis la page Options de l'EDI, utilisez les informations de connexion suivantes :
   • URL: http://localhost:11434/api/generate
   • Model : codellama