Smart CodeInsight向けのOllamaの設定

提供: Support
移動先: 案内検索

RAD Studio では、今後のリリースで、CodeLlama を搭載した Ollama の事前構成済み Docker イメージを提供する予定です。​それまでの間は、Ollama公式で公開されている手順に従ってセットアップできます。

Note: Ollama の Docker イメージは、専用の Linux サーバーや Windows の WSL(Windows Subsystem for Linux)にインストールできます。設定を簡単にするために、Docker Desktop の使用を検討してください。ただし、このツールは特定の EULA(エンドユーザーライセンス契約)に基づいており、大規模な組織ではライセンス料が必要です。詳細は Docker の公式ページ をご確認ください。
Note: Nvidia GPU または AMD GPU を使用するイメージについては、こちらの手順をご覧ください。

以下は、Ollama のインストール、実行、および使用に関する簡潔なガイドです。​次の手順に従ってください。

Docker のインストール確認

以下の手順に従って、Docker のインストールと動作を確認してください。

Windows での Docker Desktop

  1. スタートメニューで「Docker Desktop」を検索し、インストールされていることを確認する
  2. Docker Desktop を開いて、Docker エンジンが起動していることを確認する
  3. PowerShell を開き、以下のコマンドを実行して Docker のバージョンを確認する
    docker --version
    

WSL2 上の Docker

  1. WSL2 ターミナルを開く
  2. 以下のコマンドを実行して Docker のバージョンを確認する
    docker --version
    
  3. 以下のコマンドを実行して、Docker エンジンのステータスを確認する
    sudo service docker status
    
    Note: 出力結果に「active (running)」と表示されていることを確認してください。
  4. Docker が起動していない場合は、以下のコマンドで起動する
    sudo service docker start
    

Ollama の実行と使用

  1. 上記の[Docker のインストール確認]の手順で Docker のインストールとエンジンの起動を確認する
  2. PowerShell または CMD を開き、以下のコマンドを実行して Docker Hub にログインする
    docker login
    
  3. Docker Hub のユーザー名とパスワードを入力してログインする
  4. 以下のコマンドを実行して、Embarcadero のイメージをインストールして実行する
    docker run --name Embarcadero_Codellama -p 11434:11434 radstudio/codellama:latest
    
    Note: 上記の手順を実行する際は、以下の情報を考慮してください。
    • --name で必ず指定してください(-name は誤りです)
    • コンテナの名前は変更できますが、変更した場合は以降のコマンドでも同じ名前(ここでは、Embarcadero_Codellama)を使用してください。
    • ポート番号は任意で変更できます。形式は”-p 12345:54321” です。
      • 左側の番号(例: 12345): ホストマシンのポート番号で、コンテナにバインドするローカルマシン(Dockerを実行しているマシン)のポートを表します。
      • 右側の番号(例: 54321): コンテナポート番号で、アプリケーションがリッスンしているDockerコンテナ内のポートを表します。
  5. (オプション)以下のコマンドを実行して、コマンドラインで Ollama をテストする(以下の実行手順は任意)
    docker exec -it Embarcadero_Codellama ollama run codellama
    
    1. 任意の質問を入力し、応答を確認する
    2. チャットモードを終了するには、Ctrl + D または /bye を入力する
    3. これでコマンドラインを閉じることができます。
  6. OllamaのSmart CodeInsightのオプションでは、以下の情報を設定してください。
    URL: http://localhost:11434
    Model: codellama

関連情報